中評社北京8月25日電／繼不久前美國電動汽車廠商特斯拉首席執行官馬斯克和社交媒體網絡臉譜創始人扎克伯格就人工智能（AI）技術的危害隔空辯論之後，近期全球一百多位人工智能專家聯名致信聯合國，呼籲禁止基於該技術的自動化武器的發展。人工智能產業化前景毋庸置疑，但其雙面性使得如何在以人類安全和利益為重的前提下，對其潛在的威脅進行制衡正引發越來越多的思考。
預警“機器人殺手”
上百位科技界領袖和人工智能專家近期聯名簽署一封信，敦促聯合國盡快採取行動應對自動化武器的潛在危害，以免為時過晚。
信件在21日於澳大利亞墨爾本舉行的人工智能技術會議上被公開。據法新社報道，116名機器人與人工智能技術領域的科技領袖致信聯合國警告稱，“機器人殺手”，即能致人死傷的自動武器，可能帶來繼槍藥炮彈和核武器之後戰爭領域的第三次革命。信件稱，一旦發展了自動化武器，就可能令武裝衝突作戰規模大於以往，並且作戰規模的發展速度可能要比人們所能理解的快得多。信中稱，這些自動武器可能包括恐怖武器、專制者和恐怖分子用來對付無辜人群的武器，或以多種令人不快的方式出現的武器等等。恐怖組織還可能通過黑客技術盜用“機器人殺手”，進而傷害無辜平民。
信中稱，人們必須抓緊時間行動，一旦這一潘多拉盒子被打開，就很難再關閉起來。致信的科技界人士包括美國特斯拉公司首席執行官埃隆·馬斯克、谷歌旗下研製出人工智能“阿爾法狗”的深度思維技術公司聯合創始人穆斯塔法·蘇萊曼、著名人工智能專家托比·沃爾什、中國優必選科技有限公司創始人周劍等，他們建議聯合國像禁止生化武器一樣禁止此類武器。
參與簽署這封信件的澳大利亞新南威爾士大學人工智能專家托比·沃爾什表示，他對全球人工智能武器軍備競賽感到十分擔憂。他說：“如果我們把人工智能武器運用到戰爭中去，最終人類將陷入一個非常危險、極其不穩定的世界。”
沃爾什認為，人工智能具有雙面性，這項技術必須研發下去，但應建立在以全球人類安全為重的大前提下，建立在各方在人工智能研發中必須就制衡達成共識的基礎之上。沃爾什舉例說，人們需要自動駕駛汽車，在該領域人工技術怎樣發展都不為過，可以帶來很多益處；但是這些技術稍加改動就可能會產生很壞的結果。沃爾什表示，因此相關的立法就顯得尤為重要，全社會必須共同努力確保不在戰爭領域使用這些技術。
據聯合國官網顯示，一個聯合國人工智能專家組原定21日開會商討“機器人殺手”事宜，但會議隨後取消，預計將推遲至11月舉行。
|
