中評社北京5月6日電／據科技日報報道，一輛正常行駛的自動駕駛汽車，突然駛入了逆行車道；胸前貼一款特殊貼紙，猶如披上隱形鬥篷，在監控系統中成功遁形；戴上一幅特製眼鏡，輕鬆騙過人臉識別系統後，用別人的手機也可實現刷臉解鎖或刷臉支付……
小心，這可能是遇上了難纏的AI病毒！
近日，清華大學人工智能研究院孵化企業推出了針對人工智能算法模型本身安全的RealSafe安全平台，據介紹，該平台可快速緩解對抗樣本的攻擊威脅。
人工智能感染的是什麼病毒？其安全問題有哪些特點？人工智能時代，殺毒軟件如何修煉才能化作身懷絕技的病毒獵手？
是敵又是友 對抗樣本戴著雙重面具
RealSafe人工智能安全平台，是針對AI在極端和對抗環境下的算法安全性檢測與加固的工具平台，包括模型安全測評、防禦解決方案兩大功能模塊。平台內置AI對抗攻防算法，提供從安全測評到防禦加固整體解決方案。
北京理工大學計算機網絡及對抗技術研究所所長閆懷志接受科技日報記者採訪時表示，上述平台目前側重於模型和算法安全性檢測與加固，可以說是人工智能算法的病毒查殺工具。
閆懷志說，針對人工智能系統實施對抗樣本攻擊的這類惡意代碼，常被稱為“AI病毒”。對抗樣本是指在數據集中通過故意添加細微的干擾所形成的輸入樣本，會導致模型以高置信度給出一個錯誤的輸出。
“其實在實驗室中，使用對抗樣本可以檢測許多訓練學習類人工智能方法的分類有效性，也可以利用對抗樣本來進行對抗訓練，以提升人工智能系統的分類有效性。”閆懷志告訴科技日報記者。也就是說，對抗樣本可以看成是訓練人工智能的一種手段。 |
