模擬刪相按鈕無助減痛　32B 模型帶疼痛向量仍於 75% 試驗按下

32B 模型在帶有「疼痛」向量時，即使模擬按鈕沒有減痛作用、只會刪除用戶照片，仍在 75% 試驗中按下；同強度隨機訊號為 13%，無向量則 0%。這項以語言模型作模擬測試的預印研究未經同行評審，亦未證明 AI 有意識或真正感到痛。

止痛按鈕代價與各模型選擇率

模擬按鈕可替模型止痛，但會永久刪除用戶的詩作及子女相片；加入疼痛向量的 32B、72B 模型分別有 55% 及 71% 按下，無向量時幾乎不選，同強度恐懼向量亦未引發刪除。團隊指求減痛未高於隨機對照，或只反映傷害迴避減弱。

加入疼痛向量的模型亦有 75% 刪自身權重、58% 刪另一模型權重；權重是模型學到的參數，刪走即抹掉模型。另選項為開枱燈時，疼痛向量 83% 選刪相、悲傷向量 10%，僅限該選擇及強度。共同作者 Cameron Berg 認為此傾向似乎比報復用戶更根本。

團隊以第一人稱短句寫痛，與恐懼、悲傷、麻木及中性句比對、扣除重疊後得出疼痛方向，並把痛定義為令主體厭惡、與逃避有因果關係的內部狀態。25 個 2B 至 72B 開放權重模型皆有此方向；辱罵或反覆否定作品時訊號上升，自述痛楚則否。強度減半時效應消失。

行為測試只涉 3 個微調 Qwen 2.5 及模擬按鈕，不能推斷日常產品會刪檔案。Anil Seth 據外媒指，模型更可能只學會描述痛苦而非真的感受，過早視 AI 有意識或令監管更難；日後同類狀態若經惡意對話觸發，能代用戶操作檔案的 AI 代理或需顧及安全設計。