"이게 나야, AI야?"...AI 저작권 침해 급증에 '사이버 보안' 뜬다

현실을 모방한 AI 콘텐츠에 저작권 논란 가속화
AI 영상과 음성 위조 증가…보안업계, 대응 기술 강화
기준은 아직 미비…디지털 창작 생태계 보호 시급

[서울경제TV=김민영 인턴기자] AI 기술의 발전이 현실을 정교하게 모방하는 수준에 이르면서, 목소리나 외모 같은 개인 고유의 특징을 본떠 만든 콘텐츠들이 빠르게 확산되고 있다.

기술의 진보가 새로운 창작의 도구로 활용되기도 하지만, 동시에 사람의 정체성을 침해하거나 허위 정보를 유포하는 수단으로 악용될 가능성도 커지고 있다. 한국언론진흥재단 조사에 따르면, 응답자의 87.5%가 “AI로 생성된 콘텐츠에 ‘AI 생성물’임을 표시해야 한다”고 답한 것으로 나타났다

특정인의 외모나 목소리가 AI를 통해 도용당하는 일이 빈번히 일어나면서 이를 예방하기 위한 기술을 보유한 IT 보안업체들이 주목 받고 있다. 

◇ ‘티니핑’ 성우 이정은 씨, AI 음성 복제 소송 제기
12일 IT업계에 따르면 애니메이션 ‘티니핑’과 ‘헬로카봇’ 주제가로 잘 알려진 성우 겸 가수 이정은 씨는 지난 4월, 본인의 목소리를 무단으로 복제해 상업적으로 사용한 AI 음성 기술 업체를 상대로 법적 대응에 나섰다. 해당 업체는 이정은 씨가 제공한 50여 곡의 음원을 기반으로 AI 보컬을 학습해, 음색과 창법까지 흡사한 목소리를 만들어냈고, 실제로 일반 청취자들이 구분하기 어려울 정도로 유사하다는 평가를 받았다. 

이정은 씨는 “AI가 만든 결과물이 생계를 위협할 정도”라며, 서울중앙지법에 사용 중지 가처분 신청을 냈고, 해당 업체는 “사전 동의를 받았다”는 입장을 고수하며 소송이 진행 중이다.

또 최근에는 SNS를 중심으로 서울 시내에 화산이 분출하는 모습을 담은 영상이 확산되며 논란이 일었다. 이 영상은 AI 기술로 생성된 가짜 콘텐츠로, 실제 뉴스 보도처럼 구성돼 많은 이들이 진짜 상황으로 오인할 정도로 정교하게 제작됐다.

영상을 만든 유튜버는 “AI 기술의 무분별한 사용이 허위 정보의 확산으로 이어질 수 있다”며, AI 활용 사실을 콘텐츠에 명확히 고지할 필요가 있다고 강조했다.

◇ '막무가내' AI 콘텐츠 등장에...보안업체들, 기술 확장 나서 
이런 흐름 속에서 주목받는 건 기존 사이버보안 기업들이 AI 저작권 보호 시장으로 빠르게 확장하고 있다는 점이다.

대표적인 기업이 마크애니다. 이 회사는 본래 문서 보안, 워터마크 기술로 유명했지만 최근엔 AI 이미지·영상의 위조 여부를 판별하고, 원저작자의 권리를 추적하는 디지털 저작권 보호 솔루션을 강화하고 있다.

마크애니는 AI로 생성된 영상이나 음성에 보이지 않는 추적용 정보를 삽입하는 ‘디지털 워터마킹’ 기술을 통해 콘텐츠 출처 확인과 위조 감별을 자동화하고 있다. 이를 활용해 저작권 분쟁 발생 시 법적 증거로도 사용될 수 있도록 설계하고 있다.

또 다른 보안업체인 이글루코퍼레이션 역시 AI 콘텐츠 위조 탐지 기술 개발을 본격화하고 있다. 이들은 AI 생성 콘텐츠에 대한 실시간 감시 시스템을 연구 중이다.

이글루코퍼레이션은 사이버 위협 탐지 기술을 기반으로 비인가 복제·유통 경로를 추적할 수 있도록 솔루션을 확장하고 있다. 이처럼 AI 콘텐츠 보호 기술은 보안업체들이 가진 기존의 위협 탐지·정보 추적 역량을 기반으로 한다.

사이버보안에서 '해킹'이나 '디지털 위조'를 추적하던 기술이 이제 AI 위조 콘텐츠에 적용되고 있다.

◇ 기술만으론 부족…AI 저작권, 제도 인식이 따라가야
AI 시대에 보안업체들은 창작물의 진위 검증과 저작권 보호를 위한 기반 기술을 제공하는 역할로 자리잡아가고 있다. 시장조사기관 MRFR에 따르면, AI 콘텐츠 탐지 도구 시장 규모는 2023년 약 12억 8천만 달러였으며, 2032년에는 50억 달러로 성장할 것으로 전망됐다.

하지만 보안 기술만으로 무분별하게 생성되는 AI콘텐츠의 피해를 모두 예방할 수 없는 상황에서 AI 콘텐츠에 대한 법적 틀과 사용 환경은 여전히 열악하다는 게 관련 업계의 목소리다.

AI 콘텐츠의 무분별한 생성과 유통을 막기 위해서는 명확한 기준 마련이 시급하다는 지적이 나오는 이유다. 따라서 전문가들은 불법적인 AI 콘텐츠를 막기 위해서는 AI 기반의 콘텐츠 생성이 어디까지 가능한지 지침이 필요하다고 입을 모은다. 

정일옥 이글루코퍼레이션 전문위원은 "AI 기반 보안 제품을 만들고 적용하는 현장 실무자 입장에서 가장 어려운 것은 '기준이 없다'는 점"이라며 "보안 제품에는 통상 명확한 규격이 있지만, AI 제품은 어느 수준까지 개발하고 어떻게 적용해야 할지조차 발주기관과 공급기업 모두가 불확실하다"고 전했다. /melissa6888@sedaily.com

[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]

관련뉴스

오픈AI, 윈드서프 인수 무산…구글, 핵심 인재 확보

• 오픈AI, 윈드서프 인수 무산…구글, 핵심 인재 확보
• 트럼프, 구리에 50% 관세 예고…산업계 긴장
• 정부, 우크라이나 복구 회의 참석…재건 참여 의지 표명
• 국제회의서 재확인된 한미일 협력…北엔 대화 메시지
• 기름값 4주 만에 하락…"다음 주도 하락 전망"
• 유클리드소프트, 일경험 사업 통해 청년 언론인 지원
• 김해공항 국제선 활기…"中 노선 회복·LCC 수요 증가 영향"
• [부동산 캘린더] 내주 5322가구 분양…"전국서 다양한 물량 공급"
• “재미와 의미 모두 잡는다”…엠제코 공략 나선 유통업계
• 공유문화 확산·신차 가격부담…2030 "새 차 안사요"