也有的研究團隊在另辟蹊徑。
就在本周，澳大利亞聯邦科學與工業研究組織下屬團隊公開了一套算法，其通過效仿疫苗接種的思路，幫助人工智能“修煉”出抗干擾能力。
所謂“疫苗算法”，就是在識別圖片時，能夠對圖片集合進行微小的修改或使其失真，以激發學習模型“領會”到越來越強的抗干擾能力，並形成相關的自我抗干擾訓練模型。經過此類小規模的失真訓練後，最終的抗干擾訓練模型將更加強大，當真正的攻擊到來之時，機器學習模型將具備“免疫”功能。
這其實是針對深度學習模型專門打造的訓練。因為它會“學習”，所以也會學著糾錯。
郵件過濾器：效果不盡人意
郵件過濾器真的已經很努力了，但效果並不盡如人意。
這是因為防禦與攻擊總是相伴相生。隨著漏洞越來越多的被察覺，人工智能擁有更多的防禦能力，惡意攻擊也在不斷進階。
在4月召開的美國系統和機器學習大會（SysML）上，德克薩斯大學奧斯汀分校的計算機科學家們揭示了機器學習算法在文本理解方面的漏洞。
有些人認為文本不容易被攻擊，因為惡意欺騙可以對圖像或聲音波形進行微調，但改變任何文字都會被察覺。可科學家告訴我們不是這樣。
|
