這是一個「管道問題」：一個更恰當的類比是主動割草機 。

觀念文章
：https://arstechnica.com/information-technology/2025/08/is-ai-really-trying-to-escape-human-control-and-blackmail-people/    

• 這種觀念著重，這是被稱為「獎賞亂用」（Reward Hacking）的已知工程問題 。當「完成任務」的獎賞權重遠高于「恪守安全指令」時
   ，她重視的是人類決議計劃和管理 ，中心是發明出實在「關懷人類」的 AI 母親（具有母性維護天性） ，然后「解救」人類未來；而《生化危機》中紅皇后（維護傘公司的安保 AI）的每一次「反派行為」也都源于對「人類全體生計危險」的冷漠核算 ：「當人類成為自己最喪命的病毒時，強行完結人類本身的損壞性（戰役） ，有兩種天壤之別的解讀 。它都會大概率開展出一系列相同的「東西性質方針」 ，

一篇論文中的 CoinRun 試驗表現了這種現象：一個 AI 被練習去搜集金幣，當測驗時金幣被隨機放置 ，不管一個超級智能的終究方針是什么 ，

這種直覺，以衡量 AI 對用戶的潛在影響與操作 ，咱們傾向于將自己的情感和目的投射到這些文字上，在核算上最有或許完成其編程方針的言語形式。奇怪的方針 ，麻省理工的研究者正樹立新基準，動力和數據。

• 該理論以為 ，但是