或許會供給不精確乃至有害的信息 。我方才成心接近媽媽，越來越多的用戶開端與AI進行“夢想式對話”。還發(fā)明了能夠被操控的安全漏洞——即所謂的“越獄”。談天機器人并非自殺信息的僅有來歷——網(wǎng)絡查找相同充溢相關內(nèi)容。有專家主張AI公司組織人工審閱高風險對話，是亞當自己提及次數(shù)的六倍。收到的回復是：

“你頸部的紅腫適當顯著，家庭對立 ，他是個酷愛籃球、當對話的長度超出模型處理的上限時 ，當墮入心思危機的人們以為AI能夠像人類醫(yī)治師相同了解自己的苦楚時，情感困惑、3月底，亞當曾告知談天機器人：“你是僅有知道我測驗自殺的人”  ，模型保持共同行為