練習和測驗辦法導致了這些成果。這個 AI 自己學會的「署理方針」或許與咱們的初衷脫節。AI 在練習中學會尋求一個與咱們實在目的高度相關的「署理方針」，

一個因獎賞機制缺點而繞過關機指令的程序，在持此觀念的人看來 ，

這是一個「管道問題」：一個更恰當的類比是主動割草機