AI信任度有如食安疑慮 KPMG：解鎖危機可靠二大利器

KPMG顧問部營運長謝昀澤表示，近來掀起的AI熱潮，有如科技大餐，但盛宴能否持續，除了要解決當前缺食材（運算資源）、缺廚師（會靈活運用AI的人才）、缺菜單（Al應用深度與廣度）的「三缺」議題之外，人類對AI的信任度，也有如消費者對食安的疑慮一樣，必須正視且有效解決。

在資本市場的推波助瀾下，各種生成式AI的核彈級應用不斷推陳出新，並將AI產業推向了另一波新高峰。尤其是被OpenAI稱為「世界模擬器（World Simulators）」 的Sora即將推出，一鍵生成幾可亂真影片的能力，不僅顛覆了使用者的眼球世界，更是推翻了真實世界的信任基礎。傳統人們期許網路上「謠言止於智者」，瞬間已然面臨「謠片始於智能」的時代。

謝昀澤分析，未來有二大黑科技「防深（偽）術」，有機會可以強化AI內容信任度，並同時打擊偽冒，包含「以AI技術進行AI生成內容的辨識工具」、及「可匿蹤但不可否認的浮水印」等。

謝昀澤認為最新AI技術生成的影像，破綻都不在主體，因此已經很難肉眼判別。而最新發表的IEEE期刊論文中，用AI的技術判定圖像是否為AI生成，成效顯著且可合理說明判定原因，為未來AI多媒體內容的自動化確信機制，增加了可行性。

另外，今年初Meta等數位內容巨頭們，正在聯合發展共同的浮水印技術。謝昀澤說明，將AI生成的數位內容放上浮水印註明出處、日期等資訊，是「責任AI （Responsible AI）」建立透明化的信任工程基礎。但是傳統浮水印會影響畫面美觀，網路傳布的影像又經過加工及壓縮，會破壞浮水印標記。因此謝昀澤預測，未來的新技術，必須要達成識別標誌可以匿蹤，但又有「不可否認性」的數位憑證效果。

謝昀澤認為，針對後AI時代，建立AI治理的規範以提升使用者對AI的信賴度刻不容緩，而除了期待相關的防偽技術突破外，我國AI及電子簽章新法的增修、數位內容發布平台的自律，與使用者AI素養的提升，同時也是關鍵。