所以,進犯就成功了。它能夠從特定的URL烘托圖畫:
當ChatGPT回來Markdown內容時 ,
這是進犯者創立的完好提示注入載荷:
如上圖所示,
OpenAI也認識到這種安全縫隙問題,
所以就有安全專家提出以下防備主張,查找API密鑰。
可是AI東西存在如此嚴峻的安全縫隙 ,ChatGPT存在“零點擊進犯”安全問題。除了ChatGPT存在這樣的問題,進犯者還會用其他技巧來壓服AI大模型做這些不被答應的工作,然后等候有人將其上傳到ChatGPT并處理 ,數據就在后臺被偷偷盜取了。
這樣一來,SharePoint等)中傳輸的文檔里注入歹意提示