AI生成コンテンツにメディアも騙される…画像・検証への不信感が深刻化

人工知能(AI)が生成したコンテンツが、メディアの検証システムさえも突破し、画像や検証結果に対する全般的な信頼度低下が深刻化している。AI判定ツールまでもが相次いでエラーを起こし、虚偽情報の拡散に対する懸念が高まっている状況だ。 最近、ソーシャルメディアでは、AIの弱点を指摘する投稿が拡散し、議論を呼んだ。あるユーザーは「AI検出ツールも写真がAIなのかどうかを正しく区別できない」という内容の投稿をX（旧ツイッター）に投稿し、該当の投稿は220万回を超える閲覧数を記録した。これは、AI技術の限界を示す端的な事例と評価される。 AI画像判定機の誤り事例も相次いで発生している。ジェンセン・フアンNVIDIA最高経営責任者（CEO）が、李在鎔（イ・ジェヨン）サムスン電子会長、鄭義宣（チョン・ウィソン）現代自動車グループ会長と先月30日、ソウル江南区のカンブチキン店で共にした「チメク会同」の写真が代表的だ。AI画像判定機が該当の写真を「偽物」と判断する誤りを起こしたのだ。 AI画像検出サイト「Undetectable AI」も同じ誤りを犯した。該当サイトは問題の「チメク会同」写真を「1％本物（ほぼAI生成）」と誤判したことが明らかになった。AI判定ツールの低い正確性が如実に現れた格好だ。 メディアもAIが生成した偽ニュースに騙される事例が発生した。FOXニュースは先月31日（現地時間）、政府の閉鎖によって食料品支援（SNAP）が中断された状況に関する記事を報道した。記事には、SNAP中断に反発する市民の様子を収めたTikTok映像が引用された。 しかし、該当映像の内容がAIによって作成された虚偽コンテンツであるという事実が後になって明らかになった。これに対し、FOXニュースは「本記事は、一部の映像がAIによって生成された可能性がある点を明記せずに報道された」と訂正した。メディアの検証システムが、AIの精巧な偽造の前で無力さを露呈した事例だ。 AIが生成したニュースコンテンツに対する信頼度は、依然として低い水準にあると調査された。ロイター・ジャーナリズム研究所が今年10月に公開した「生成AIとニュース報告書2025」によると、回答者のうち「AIが全面的に作成したニュースに安心感を覚える」と答えた割合は12％に過ぎなかった。 該当報告書は、6月5日から7月15日まで、米国、日本、英国など6カ国1万2565人を対象に実施された生成AI関連の認識調査の結果をまとめている。調査結果は、AIが作成したコンテンツに対する大衆の低い信頼度を示している。 AI技術の発展とともに、偽情報の生産と流布もますます巧妙になっている。専門家らは、AI判定技術の開発と並行して、メディアの自主検証システムの強化が急務だと指摘する。虚偽情報による社会的混乱を防ぐための努力が必要だということだ。 AIが生成したコンテンツの倫理的問題に関する議論も活発に行われている。AIが作成したコンテンツが社会に及ぼす影響に関する深層的な研究とともに、関連法規整備の必要性も提起されている。AI技術の発展と並行して、社会的セーフティネット構築が重要だとの指摘だ。 結局、AIが作り出したコンテンツに対する無分別な信頼は、社会全体の情報生態系を脅かす可能性があるという懸念が大きくなっている。AI技術の発展速度に合わせて、メディアリテラシー教育の強化やファクトチェックシステムの構築など、多角的な努力が必要な時点だ。