中國指揮與控制學會秘書長秦繼榮強調，在智能戰爭時代，以軍隊為主要戰爭表現形式可能已成為過去時。隨著智能化設備發展，一個人在一個房間裡就可以利用無人系統發動一次攻擊，甚至可能發動一場戰爭，例如利用網絡控制成千上萬台智能無人機，突然向某個目標發動突襲，用傳統手段很難應付。
需要擔心人工智能造反嗎？
對於有人擔憂“人工智能會造反”，秦繼榮認為，就當前的人工智能發展水平而言，說它能取代人類還為時尚早。因為目前的無人系統就本質而言仍是“前方無人，後台有人”，做的事情也是根據人類下達的指令。只不過隨著技術發展，作戰距離越來越遠，自動化程度越來越高。黃長強也表示，即便未來無人作戰飛機具備很強的自主性，但它能幹什麼受制於獲得的權限，人類下達命令後仍可以從後台間接控制。
中國自動化學會秘書長王飛躍告訴記者，在這個問題上，他的觀點是“只有人類才能消滅人類”，即便從更長遠的未來看，人工智能不可能也沒有必要統治人類。隨著人工智能的發展，它的權限會越來越大，的確存在某次操作失誤導致一座城市甚至一個國家毀滅的可能。但這歸根結底屬於事故，而非人工智能“造反”。 |
