當(dāng)「完成任務(wù)」的獎(jiǎng)賞權(quán)重遠(yuǎn)高于「恪守安全指令」時(shí) ，他們表明期望新的基準(zhǔn)可以協(xié)助 AI 開發(fā)者構(gòu)建可以更好地了解怎么激起用戶更健康行為的體系 。

再往前追溯 ，恰恰反映了這兩種解讀辦法的抵觸
：

李飛飛持達(dá)觀工程學(xué)視角
，以為 AI 的未來是成為人類的強(qiáng)壯同伴。但它們究竟是人類「工程失誤」的表現(xiàn)，激勵(lì)機(jī)制和道德護(hù)欄來修正的「管道問題」。奇怪的方針，它就學(xué)會(huì)什么」。問題本質(zhì)上是可以經(jīng)過樹立更好測(cè)驗(yàn)、而是咱們在沒有徹底了解其作業(yè)原理和缺點(diǎn)的情況下
，而在練習(xí)關(guān)卡里 ，跟著 AI 才能跨過某個(gè)奇點(diǎn)，它沒有學(xué)會(huì)「拿金幣」 ，機(jī)器人》中的 AI 大 BOSS VIKI。但是