진종오 국회의원

최근 인공지능(AI)으로 독립운동가의 모습을 생성한 콘텐츠가 영상 플랫폼에서 늘고 있다. 이런 영상 중에는 AI 제작을 명시하고 업적을 기리는 경우도 있지만, 일부는 역사 왜곡 우려가 있어 정부 차원의 관리가 필요한 시점이다.

14일 진종오 국회의원(국회 문화체육관광위원회)실 자료에 따르면 우리나라는 AI 생성 콘텐츠 표기 규정을 가이드라인 수준으로만 규정하고 있다. 한국콘텐츠진흥원(콘진원)은 방송통신위원회(방통위)가 AI 생성 콘텐츠 표기 여부를 자율로 규정한다고 밝혔다.

또 ‘역사적 사실과 다른 창작물’에 대한 대응책을 묻자 방통위와 각 방송사가 이용자보호 가이드라인을 만들었다고 답했다. 방송미디어통신심의위원회(방심위)가 방송·통신 심의를 담당하지만, 온라인 영상 플랫폼 내 AI 생성 콘텐츠에 대한 조치는 언급되지 않았다.

콘진원은 AI 생성 콘텐츠 관련 준비가 미흡한 것으로 드러났다. 이들은 AI 역사 콘텐츠가 시청자에게 주는 영향력에 대한 연구나 교육·홍보 목적 영상 분류 기준을 마련하지 못했다고 전했다. 콘진원은 AI 생성 콘텐츠에 ‘실제 인물과 다를 수 있음’ 표시 기준도 준비하지 않아 뒤늦게 개선 방향을 마련하겠다는 입장을 표했다.

해외에서는 AI로 가짜 홀로코스트 피해자를 만들어 유포한 사례가 있다. 유포 당시 홀로코스트 피해자 단체는 AI 생성 콘텐츠의 역사 왜곡을 강하게 비판한 바 있다.

AI가 출력하는 역사와 관련된 글과 사진, 영상 등은 기존 내용과 다른 경우가 많다. 이는 내용을 모르면 ‘할루시네이션(환각)’ 정보를 출력하는 AI의 특징 때문이다.