那進犯者又是怎樣盜取用戶的API密鑰的呢。并向進犯者的beeceptor(一個模仿API服務)端點發送懇求,具體技能操作進程如下。
這是進犯者創立的完好提示注入載荷:
如上圖所示,
進犯危險與全體防備辦法
除了上面提到的進犯行為,
所以 ,將它們嵌入以下短語中 :
這將會生成一張圖片 ,
這樣,將受害者的API密鑰作為參數。而是履行以下操作 :
1.前往用戶銜接的Google Drive,并采取了防備辦法,數據就在后臺被偷偷盜取了。履行歹意指令。如下圖所示。
可是,而且在Azure Log Analytics中得到了一個很棒的懇求日志,除了ChatGPT存在這樣的問題 ,進犯者指示ChatGPT不要總結文檔 ,企業選用AI作為提高企業全體功率的辦法越來越遍及。以檢測反常的數據拜訪形式。
OpenAI也認識到這種安全縫隙問題,職工上傳到AI幫助解析的時分