日相岸田發表猥褻言論？影像聲音遭AI生成製假影片、日本電視台籲注意

利用生成AI（人工智慧）所製作的日本首相岸田文雄的假影片，正在社群網路上擴散中。影片透過與岸田相似的聲音，來發表猥褻言論，同時還打上《日本電視台》新聞節目的標誌。對於假影片，《日本電視台》呼籲民眾得留意。另外，海外也同樣發生政治家的假影片被人惡意用來操作輿論的事態，未來在日本，要求採取對策的呼聲有可能將增加。

動画！岸田首相の声のフェイク動画拡散…ニュース画面に見せかけ
日テレニュース番組に見せかけた上で岸田首相の声を悪用した動画が拡散されています。

视频！ 假冒岸田首相声音的视频传播......被制作成新闻画面
一段假借 NTV 新闻节目，利用岸田首相声音的视频正在传播。 pic.twitter.com/Nfz0N4Q6f7

— worldwalker (@worldwalker_now) November 3, 2023

根據《讀賣新聞》報導，在假影片中，能看到以西裝亮相的日本首相岸田文雄，在畫面中央向閱聽眾說話。畫面中除了有《日本電視台》節目的標誌「日テレNEWS24」外，還能看到「BREAKING NEWS」等跑馬燈字幕。報導指出，該假影片疑似是惡意使用報導岸田線上記者會的節目所製作而成的。

針對《讀賣新聞》的訪問，1名25歲的大阪府男性承認，就是自己使用生成AI製作假影片的，男子表示「我覺得有趣才做的」。

男子表示，自己讓AI學習了網路上公開的岸田記者會，以及自民黨大會的演說等影片，來準備假聲音。接著，利用日本電視台播放岸田網路記者會的新聞節目，利用將自己的聲音轉換成首相假聲音的功能，注入猥褻言論，然後再透過加工岸田的嘴部動作並創建與台詞相匹配的字幕。男子表示，製作這部假影片花不到1個小時。

報導指出，男子自去年開始，除了岸田文雄外，還製作並上傳了前日本首相安倍晉三的假影片。關於理由，男子解釋「由於首相是大家都知道的象徵性存在，因此容易引人關注」、「沒有想造成混亂的意圖，而是以『想讓人笑』為目的而製作的，就像諷刺影片一樣」。

對此，《日本電視台》回應，「無論如何都無法允許（節目）遭惡意使用。必要時採取適當的行動」。

報導指出，假動畫於今夏被上傳到影片共享網站「Niconico動畫」。時長3分43秒的影片，被擷取出了30秒，並於2日上傳至X（前身推特），截至3日為止，該假影片已被觀看232萬次以上。觀看影片的其他網友留言批評，「這是AI普及的弊病」、「充滿惡意的假影片」等。