此次提議是在美國新罕布什爾州居民接到冒充總統拜登的電話後不久提出的。當地時間1月21日，該州一些選民稱接到了“拜登總統”的自動留言電話，告訴接聽者不要在新罕布什爾州初選中投票。
白宮新聞秘書卡琳·讓－皮埃爾（Karine Jean－Pierre）22日回應稱，“那通電話確實是假的，（拜登）總統沒有錄音。我可以證實這一點。”新罕布什爾州總檢察長辦公室表示，正在對這些“欺騙性”信息展開調查。拜登的競選經理朱莉·查韋斯·羅德里格斯（Julie Chavez Rodriguez）隨即在一份聲明中表示，已與新罕布什爾州總檢察長溝通，競選團隊正在積極討論。
美國人工智能技術干預選舉的行為早有先例，不僅僅是偽造語音。2023年芝加哥市長選舉前夕，“芝加哥湖畔新聞”（Chicago Lakefront News）發布視頻抨擊溫和派民主黨人保羅·瓦拉斯（Paul Vallas）對槍擊事件視而不見。雖然瓦拉斯競選團隊譴責該視頻由AI生成，但視頻已經在互聯網上廣泛流傳。瓦拉斯最終競選失敗可能也與該視頻給他帶來的負面影響有關。
“假拜登”電話背後語音克隆公司已確定
語音克隆初創公司ElevenLabs證實，偽造的拜登語音是由該公司提供的工具生成。目前，ElevenLabs已暫停利用深度造假技術發布信息的賬戶。
根據ElevenLabs官網介紹，這家語音人工智能研究公司能夠以29種語言生成語音。該公司的安全政策規定，在克隆某人的聲音之前最好獲得其許可，但未經許可的克隆可以用於非商業目的，包括“有助於公共辯論的政治言論”。此外，該公司警告，不得將克隆聲音用於欺詐、歧視、發表仇恨言論或任何觸犯法律的在線濫用。
據《連線》雜誌1月26日報導，ElevenLabs在新一輪融資中籌集了8000萬美元，目前估值已超過11億美元，是名副其實的“獨角獸”公司。公司投資者包括知名投資人安德森·霍洛維茨（Andreessen Horowitz），GitHub前首席執行官納特·弗裡德曼（Nat Friedman）和AI實驗室DeepMind的聯合創始人穆斯塔法·蘇萊曼（Mustafa Suleyman）等知名人士。
|
