我國網絡空間安全協會人工智能安全辦理專業委員會委員 薛才智 :比如在經濟金融范疇,臆造不存在的論文以及論文的作者、AI發生的成果能夠參閱,終究導致輸出成果呈現顯著誤差 。
網絡安全專家 曹輝 :咱們知道大模型練習需求很多的數據,而是當作能夠信賴的信息源參加算力中 ,虛擬和重復等“數據投毒”行為發生的污染數據 ,加了綠點的斑馬 ,在這幾萬張練習數據里邊的其間三四張進行相似的污染處理,這種幻覺就會使模型進步污染數據全體在數據集傍邊的重要性,怎么進行數據污染
我國網絡空間安全協會人工智能安全辦理專業委員會委員 薛才智 :比如在經濟金融范疇,臆造不存在的論文以及論文的作者、AI發生的成果能夠參閱,終究導致輸出成果呈現顯著誤差 。
網絡安全專家 曹輝 :咱們知道大模型練習需求很多的數據,而是當作能夠信賴的信息源參加算力中 ,虛擬和重復等“數據投毒”行為發生的污染數據 ,加了綠點的斑馬 ,在這幾萬張練習數據里邊的其間三四張進行相似的污染處理,這種幻覺就會使模型進步污染數據全體在數據集傍邊的重要性,怎么進行數據污染