|
|
|
【大 中 小】
【打 印】
|
|
【 第1頁 第2頁 第3頁 第4頁 】
|
|
|
算法界“貓鼠遊戲”，人工智能如何反擊？
|
|
|
http://www.CRNTT.com
2019-07-03 16:31:34
|
|
惡意攻擊會瞄准一些同義詞，文本含義不發生改變，但深度學習算法卻可能因此而判斷錯誤——垃圾郵件成了安全的，假新聞被合法推送。
科學家們演示了一套惡意攻擊程序，它甚至會檢測文本分類器在判斷是否含有惡意時，最依賴的是哪些詞語。接著，它挑選出關鍵詞的同義詞，替換，然後飛速開始測試下一個關鍵詞。在這套算法攻擊下，過濾器的準確率急劇下降。
不過，將這些手段公諸於眾，究竟可以提高防禦能力，還是會加劇攻擊手段，目前仍有爭議。此前，已經有AI實驗室拒絕公開一種攻擊算法，因為擔心它被濫用。
（來源：科技日報） |
|
