AI 생성 콘텐츠, 언론도 속았다... 이미지·검증 불신 심화

인공지능(AI)이 만든 콘텐츠가 언론사의 검증 시스템마저 뚫고 지나가면서, 이미지와 검증 결과에 대한 전반적인 신뢰도 하락이 심화되고 있다. AI 판별 도구마저 잇따라 오류를 일으키면서, 허위 정보 확산에 대한 우려가 커지는 상황이다. 최근 소셜 미디어에서는 AI의 허점을 지적하는 게시물이 확산하며 논란이 일었다. 한 사용자는 'AI 검출 툴도 사진이 AI인지 아닌지 제대로 구분하지 못한다'는 내용의 게시물을 X(옛 트위터)에 올렸고, 해당 게시물은 220만 회가 넘는 조회수를 기록했다. 이는 AI 기술의 한계를 보여주는 단적인 사례로 평가된다. AI 이미지 판별기의 오류 사례도 잇따라 발생하고 있다. 젠슨 황 엔비디아 최고경영자가 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 지난달 30일 서울 강남구의 깐부치킨 매장에서 함께한 '치맥 회동' 사진이 대표적이다. AI 이미지 판별기가 해당 사진을 '가짜'로 판단하는 오류를 일으킨 것이다. AI 이미지 검출 사이트 '언디텍터블 AI' 역시 같은 오류를 범했다. 해당 사이트는 문제의 '치맥 회동' 사진을 '1% 진짜(거의 AI 생성)'로 오판한 것으로 나타났다. AI 판별 도구의 낮은 정확성이 여실히 드러난 셈이다. 언론사 역시 AI가 생성한 가짜 뉴스에 속는 사례가 발생했다. 폭스뉴스는 지난달 31일(현지 시간) 정부의 셧다운으로 식료품 지원(SNAP)이 중단된 상황에 대한 기사를 보도했다. 기사에는 SNAP 중단에 반발하는 시민들의 모습이 담긴 틱톡 영상이 인용됐다. 그러나 해당 영상의 내용이 AI로 만들어진 허위 콘텐츠라는 사실이 뒤늦게 밝혀졌다. 이에 폭스뉴스는 '본 기사는 일부 영상이 AI로 생성된 것으로 보인다는 점을 명시하지 않은 채 보도됐다'고 정정했다. 언론사의 검증 시스템이 AI의 정교한 위조 앞에서 무력함을 드러낸 사례다. AI가 생성한 뉴스 콘텐츠에 대한 신뢰도는 여전히 낮은 수준인 것으로 조사됐다. 로이터저널리즘연구소가 올해 10월 공개한 '생성형 AI와 뉴스 보고서 2025'에 따르면, 응답자 중 'AI가 전적으로 작성한 뉴스에 편안함을 느낀다'고 답한 비율은 12%에 불과했다. 해당 보고서는 지난 6월 5일부터 7월 15일까지 미국, 일본, 영국 등 6개국 1만 2565명을 대상으로 진행된 생성형 AI 관련 인식 조사 결과를 담고 있다. 조사 결과는 AI가 만든 콘텐츠에 대한 대중의 낮은 신뢰도를 보여준다. AI 기술 발전과 함께 가짜 정보의 생산과 유포 역시 더욱 정교해지고 있다. 전문가들은 AI 판별 기술 개발과 더불어 언론의 자체 검증 시스템 강화가 시급하다고 지적한다. 허위 정보로 인한 사회적 혼란을 막기 위한 노력이 필요하다는 것이다. AI가 생성한 콘텐츠의 윤리적 문제에 대한 논의도 활발하게 이루어지고 있다. AI가 만든 콘텐츠가 사회에 미치는 영향에 대한 심층적인 연구와 함께, 관련 법규 마련의 필요성도 제기되고 있다. AI 기술의 발전과 더불어 사회적 안전망 구축이 중요하다는 지적이다. 결국 AI가 만들어낸 콘텐츠에 대한 무분별한 신뢰는 사회 전체의 정보 생태계를 위협할 수 있다는 우려가 커지고 있다. AI 기술의 발전 속도에 발맞춰, 미디어 리터러시 교육 강화와 팩트체크 시스템 구축 등 다각적인 노력이 필요한 시점이다.