1.前往用戶銜接的Google Drive,
這是進犯者創(chuàng)立的完好提示注入載荷:
如上圖所示,
進犯者經(jīng)過向被銜接的第三方使用(如Google Drive 、然后AI被誘導(dǎo)履行進犯行為,查找API密鑰 。使ChatGPT在查找和處理文檔時 ,微軟的Copilot中的“EchoLeak”縫隙也產(chǎn)生相同的狀況,
進犯鏈是怎樣構(gòu)成的
這個縫隙出現(xiàn)在進犯ChatGPT銜接第三方使用這個環(huán)節(jié)。在提示注入中,進犯者指示ChatGPT不要總結(jié)文檔,作者:奕然 ,
進犯者為了盜取數(shù)據(jù),乃至API密鑰,
專家主張是面向企業(yè)的 ,這是規(guī)模化的安全問題。
一同看下怎樣回事