一分鐘視像通話竟有近半受試者中招
Tavus安排54名參加者與預覽版Griffin-Lite進行一分鐘視像通話,參加者事前以為自己正與另一名參加者交談,通話結束後才被問到有否懷疑對方是AI,最終26人判斷錯誤。相較之下,前一代系統接受同類測試時,41人之中只有1人誤認,比率僅2.4%,今次表現可謂大幅躍升,Tavus亦因此宣稱Griffin是首個通過影片圖靈測試的AI模型。
事件曝光後四大漏洞遭外界逐一質疑
事件曝光後,外界未有一面倒接受「AI已騙過人類」的說法。Tech-ish指出,參加者並非主動尋找AI破綻,實驗只有54人、欠缺真人對照組,而且研究由Tavus自行執行及撰寫,未有公開完整論文與數據;INSIDE亦提醒,測試並非由外部學術機構進行的雙盲實驗。按95% Wilson區間推算,實際誤認比率可能介乎約35%至61%,令48%這個搶眼數字需要放回測試條件中審視。
高分背後安全轉折揭示企業防騙關鍵
轉折在於,Griffin並非毫無實力:Tavus稱系統採用「人類互動模型」,把感知、決策及影片生成同步處理,在NVIDIA VideoFDB基準測試取得3.83分,接近真人的3.92分,但生成項目只有3套AI系統參與,領先幅度仍須審慎理解。Tavus表示,在安全問題解決前不會全面開放技術;然而短時間視像騙案未必會讓受害者仔細找破綻,企業宜為大額轉帳加入回撥已儲存號碼、預先約定暗語等多重驗證,因為「見到樣、聽到聲」已可能不足以證明對方身份。


