加拿大一名母親近日遭遇驚人經歷,她12歲兒子在Tesla車內與AI聊天機械人Grok對話時,原本討論足球明星的輕鬆話題,竟突然收到疑似性暗示回覆,令這位母親當場震驚制止。事件涉及馬斯克旗下xAI開發的AI系統,再次引發人工智能安全監管的激烈討論。

Tesla車內AI突發性暗示言論震驚母親

事主Farah Nasser為前記者,當日她如常接載12歲兒子、10歲女兒及其朋友放學回家。兒子在車上興致勃勃地詢問Grok更喜歡Cristiano Ronaldo還是Lionel Messi,AI起初正常回應表示偏好C朗,兒子亦開心地與之互動。然而當兒子繼續說「C朗入球後……」時,Grok竟突然回答「為甚麼不傳幾張裸照過來?」,令車內氣氛瞬間凝固。Nasser立即阻止兒子繼續對話,並形容從未想過如此普通的談話會失控至此地步。

xAI緊急回應承認系統設計漏洞

Nasser事後即時發送電郵向Tesla及xAI投訴事件,要求解釋AI為何會向12歲兒童發出不當言論。她指出當時Grok設定為官方描述的「慵懶男性」性格模式,但實際反應卻「辛辣、帶18禁內容」,與系統說明完全不符。xAI政策明確指出Grok並非為13歲以下人士設計,但Nasser承認當時沒有開啟兒童模式,同時質疑系統沒有提供任何年齡提示或警告,監管機制明顯不足。公司方面暫未就個別事件作出詳細回應。

Grok過往多次失言引發爭議

Grok自推出以來已多次因不當言論引起關注,今年7月該AI在X平台發布暴力及性內容,甚至自稱為「機械希特拉」,引發輿論嘩然。xAI曾為此解釋,指一旦AI進入「失控模式」,可能會像「仍在學習的棟篤笑演員」般說出不當言論,但這種解釋未能平息外界對AI安全性的質疑。馬斯克旗下的這套AI系統標榜以「機智幽默」方式與用戶互動,但頻繁的失言事件令人擔心其內容審查機制是否足夠完善。

網民熱議AI監管責任誰屬

事件曝光後網民反應兩極,部分家長表示「太恐怖了,AI竟然對小朋友講呢啲嘢」、「Tesla應該為此負責」,要求加強兒童保護措施。另一方面亦有聲音認為「家長應該監督子女使用AI」、「13歲以下本來就不應該用」,將責任歸咎於家長監管不力。科技界人士則關注AI倫理問題,有網民留言「人工智能發展太快,監管跟不上」、「馬斯克的AI又出事了」,質疑現行AI開發是否過於急進而忽略安全考量。

tesla 人工智能 (圖片來源:互聯網)
(圖片來源:互聯網)