2024總統副總統選舉開票之夜,民進黨總統當選人賴清德致詞。廖瑞祥攝
微軟威脅情報團隊5日發布警告指,中國將試圖利用人工智慧(AI)生成內容干擾美國、南韓與印度大選。微軟指出,在此之前,中國已在今年初的台灣總統大選前實際試用相關伎倆。
《
衛報》報導,微軟指出,中國支持的駭客團隊將針對2024年全球重大選舉進行干擾,北韓駭客也將參與。中國「至少」將透過社群媒體散播有利於中方立場的AI生成內容。雖然過去這類內容產生的影響不大,但中國不斷擴大實驗各種AI生成的迷因、影片與音檔,未來很可能發揮效果。
微軟在
報告中說,中國已在台灣總統大選前試圖利用AI生成假訊息,是微軟第一次看到有國家支持的實體使用AI生成內容來影響外國選舉。
中國以AI技術誣指賴挪用公款、捏造郭台銘支持他人報告指,名為「垃圾訊息偽裝」(Spamouflage,又名Storm 1376,Dragonbridge等)的中國組織在台灣大選期間非常活躍,試圖介選的手段包括在YouTube上發布已退選候選人郭台銘支持另一位候選人的不實音檔。微軟表示這段音檔「應該是由AI生成」,不過YouTube當時已迅速刪除這段影片內容,未觸及太多用戶。
報告指出,「垃圾訊息偽裝」還推出了一系列AI生成的迷因,毫無根據地指控賴清德挪用公款。
報告還說,駭客團體還使用AI生成的電視新聞主播影片,讓「主播」播報有關賴清德私生活的不實消息,包括有私生子等謠言。微軟指出,這個「主播」是以 抖音所屬中國字節跳動公司開發的CapCut工具創造出來的。
微軟:中國透過社群網站挑撥美國社會微軟還指出,中國實體在美國持續發動認知戰,包括利用社群媒體分化美國社會;這些實體也試圖了解引發美國選民意見分歧的議題。微軟指出,這可能是為了在美國總統大選之前收集關鍵投票人口統計數據的情報和精確度。
根據報告,X平台上有貼文詢問美國民眾對美國援助烏克蘭與以色列相關法案的看法;還有貼文提及去年美軍在南卡羅來納州損失一架F-35戰鬥機,稱「只有在拜登政府領導下」才會發生此事,並詢問「你對此有何看法」?
在此之前,美國智庫「戰略對話研究所」(Institute for Strategic Dialogue)研究員也
發現「垃圾訊息偽裝」成員偽裝成前總統川普的狂熱支持者,在社群網站攻擊現任總統拜登,試圖影響11月舉行的美國總統大選。
美國國家情報總監辦公室二月發表報告稱,中國正在擴大認知戰,以「散佈對美國領導力的懷疑、破壞民主體制並擴大北京的影響力」。 這份報告也指出,北京可能使用日益精巧的手段試圖影響美國大選,「以排除那些批評中國的人」。