플랫폼 책임 쏙 빠진 ‘AI 기본법’…실효성 도마 위

[앵커]
인공지능(AI)으로 만든 생성물에 워터마크 표시를 의무화하는 ‘AI 기본법’이 지난해 12월 국회 문턱을 넘었죠. 다만 법이 시행되는 건 내년 1월부터라 대선을 앞두고 예비후보들에 대한 딥페이크 콘텐츠가 무분별하게 확산되고 있는데요. 그런데 내년부터 법 시행이 본격화돼도 이같은 콘텐츠 확산을 막기 어려울 거란 지적이 나옵니다. 이수빈 기자가 짚어봤습니다.

[기자]
내년 1월 시행을 앞둔 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법’, 일명 ‘AI 기본법’이 시행도 되기 전에 실효성 논란에 빠졌습니다.
AI로 콘텐츠를 만들 때 워터마크를 의무화하는 등 규제를 받지만, 네이버·다음과 같은 플랫폼으로 유통될 때 워터마크를 제거해도 막을 길이 없다는 겁니다.

지난해 12월 국회 문턱을 넘은 AI 기본법은 AI 생성물에 대한 투명성 확보 의무를 부여하고 워터마크 표시 의무를 규정하고 있습니다.

다만 법이 내년 1월부터 시행되는 터라, 대선 기간에 접어든 현재 SNS에는 예비후보들에 대한 딥페이크 콘텐츠가 무분별하게 확산되고 있습니다.

특히 내년부터 법 시행이 본격화돼도 이 같은 콘텐츠 확산을 막을 수 있을지도 미지수입니다.
AI 기본법은 콘텐츠 생성 단계에서의 제재만 강화했을 뿐 포털 등 플랫폼 기업 등 유통 단계의 제재는 제외됐기 때문입니다.

법안 논의 초기에는 플랫폼 기업들이 워터마크 없는 AI 생성물 삭제를 의무화하는 방안도 거론됐지만 최종 제정안에는 포함되지 않았습니다.
이미 정보통신망법에 따라 불법 소지가 있는 AI 생성물은 플랫폼이 삭제하도록 규제할 수 있도록 돼있다는 이유에섭니다.

다만 현 규정은 삭제를 의무화하고 있지 않아 원칙적으로 플랫폼 운영자는 불법 AI 생성물 유통에 대한 법적 책임을 지지 않는 상황입니다.
또 불법성이 명백하다는 판정이 날 때까지 플랫폼에서 유통 가능해 사실상 실효성 없는 규제라는 지적이 나옵니다.

콘텐츠에 표시된 워터마크 제거는 간단한 프로그램으로도 구현할 수 있어 일반인에게도 손쉬운 일.
결국 포털 등 유통 단계에서의 제제가 부실하다면 불법 딥페이크물 확산을 막기 어려울 것으로 업계는 관측하고 있습니다.
서울경제TV 이수빈입니다. /q00006@sedaily.com

[영상편집 김양희]