網路遇上小粉紅還真可能是機器人　美國破獲俄國用AI創建、操控社群網站帳號

在社群網站上活動，有時會遇上大批小粉紅的集體謾罵，而且好像機器人一樣，罵的內容一再重複。而根據美國最近破獲的俄國認知作戰活動，這些如同機器人一樣散播假消息、進行謾罵的帳號，還真可能全是一群「機器人」，並且正靠生成式AI「進化」，會更像真人。

美國司法部週二（9日）宣布，他們破壞了一個利用人工智慧（AI）增強社群媒體攻勢的俄國網路行動。根據美國司法部和聯邦調查局（FBI）官員的說法，這是美國首次公開指控外國政府，在假消息認知作戰中使用生成式AI。美國官員警告說，對手可能會利用AI系統不斷增強的能力，來擴大散布假消息。

這一消息的發佈時間，距離美國總統大選投票日只有四個月。安全專家普遍認為，此次選舉將成為外國駭客攻擊和操弄社群網站影響美國民意的目標。美國高級官員公開表示，他們正在監控旨在破壞選舉的計畫。

美方官員週二也表示，他們目前的調查結果認為，俄國克里姆林宮希望能讓川普當選。

使用電腦程式創建X、臉書上的假帳號，自動進行「按讚」或者創造負面輿論，早就是社群網站操弄行動的標準配備。但是這些使用程式自動生成的行為，以前較為粗糙，較容易被辨識為是「機器人農場」。現在，利用生成式AI超強的擬人能力，攻擊者可以創建看起來更像真人的帳號，進行更像真人的發言與行為。

在此次行動中，美國司法部獲得法院批准，查封了兩個網路域名，並搜索了近1000個據稱與此行動相關的社群網站帳戶。美國司法部長賈蘭德聲明說：「通過這些行動，司法部破壞了一個由俄羅斯政府支持、利用AI進行的宣傳活動，該活動利用機器人農場，在美國和國外散佈虛假消息。」

美方檢察官指控，這一機器人農場行動是，通過一家位於俄羅斯的私人情報機構進行。該組織的成員，除了有俄國情報官員，也有俄國官媒今日俄羅斯（RT）的一名高級員工。美司法部稱，這一行動於2023年初獲得克里姆林宮的批准和資助。

根據法庭文件，這家私人組織設計了一個特別訂製、AI驅動的平台，用於創建、控制和管理數百個社群網站假帳戶，使這些機器人農場帳號看起來像是真正的美國人。

這些位於社群平台X上的帳號現在已被封禁。這些帳號通常發表親克里姆林宮的觀點，包括俄國總統普丁的影片，並批評烏克蘭政府。

美國與荷蘭當局合作進行了這項調查。調查人員稱，該活動從荷蘭的一台服務器運行。