알엔딥, N번방 아동성착취 공유 방지책으로 '레드 AI' 대안 제시

[서울경제TV=배요한기자] N번방 성착취 영상 유포사건에 대한 대응기술로 RED AI 기술을 발표한 알엔딥이 성폭력, 포르노 및 음란물, 유해사이트를 막기 위한 인공지능 성인물 검출 기술과 유해 동영상 및 이미지의 특정 노출부위에 모자이크를 자동으로 생성해 주는 기술을 24일 공개했다. 검출 기술을 뚫고 유출될 수 있을 불법 콘텐츠까지 원천봉쇄할 수 있도록 기술개발의 확장을 실현하고 있다는 평가다.

알엔딥 레드 AI 모자이크 기술은 입력된 사진 및 영상의 모든 프레임을 검사하고, 주요 노출부위에 대해 모자이크를 자동으로 정확하게 생성해주는 기술이다. 성인물의 노출 수위, 모자이크의 크기, 모양, 투명도 등 모든 변수를 임의 설정가능하고, 그 설정 값에 따라 컨텐츠를 검사하여 모자이크를 생성한다.

해당 화면 내에 문제가 될만한 부분이 포함되어 있다면, 해당 화면 전체를 모두 가리기 위하여 블랙화면으로 처리할 수도 있고, 특정 부위만 흐릿하게 보이게 하는 블러링(Bluring) 처리를 할 수도 있다.

알엔딥 관계자는 “본 기술과 더불어 검사 속도를 최적화 할 수 있는 기술을 보유하고 있다”며 “단순 검사 방식은 영상의 길이가 길 경우 모자이크 생성에 상대적으로 많은 시간이 소요될 수 있는 반면 알엔딥 레드 AI기술은 매우 빠른 속도로 모자이크를 생성하고, 끊김이 없이 생성시키는 최적화 기술”이라고 소개했다.

알엔딥 레드 AI 기술은 모든 영상의 모자이크를 원하는 형태로 생성시킬 수 있고, 영상에 특정 노출 부위(가슴, 엉덩이, 성기)가 어느 정도 범위에 포함되어 있는지 까지 세분화하여 알아낼 수 있다. 즉 기존 19세 이상 관람가 등급에 그치지 않고, 가슴노출 27초, 엉덩이 노출 35초 등 세분화하여 컨텐츠를 분류할 수 있다.

이 기술은 나아가 사회적인 문제가 되는 아동포르노를 검출하는데도 활용될 수 있다. 향후 국내외 기관과 긴밀히 협조하여 데이터 셋을 확보하고 이를 통해 아동포르노등을 검출하는 기술을 개발하여 공유할 예정이라고 회사 측은 밝혔다.

또한, 알엔딥은 RED AI 딥페이크 검출 기술을 바탕으로 불법적으로 활용되는 페이크영상(거짓영상)까지 검출하는 기술을 함께 발표하면서 “텔레그램 내 성착취 영상을 ‘N번방’, ‘박사방’ 외에도 유명인 얼굴을 불법 영상, 이미지와 합성한 ‘딥페이크’ 영상이 유포되는 것까지 아울러 경찰의 엄중 수사가 펼쳐지고 있는 이 시점에 온라인 커뮤니케이션에서 행해지는 일련의 불법적 상황들에 원천적으로 대응할 수 있도록 기술개발을 확장하고 있다”고 강조했다.

어플리케이션 등을 통해 누구나 쉽게 합성할 수 있는 ‘딥페이크물’은 합성대상자가 유명인을 비롯한 일반인들까지 확대되면서, 개인적 명예훼손부터 나아가 자살로 이어질 수 있는 문제까지 심각한 사회적 문제로 대두되고 있다. 또한, 제작된 ’딥페이크물’에 대한 온라인 유포 상황을 감안할 시 ‘완전 삭제’의 불가능한 현실까지 실로 암담함 그 자체일 것이다.

한류의 열풍이 이어지고 있는 가운데, 한류스타들에 대한 페이크영상도 날이 갈수록 많아지고 있으며, 그 기술 역시 점점 정교해지고 있어 ‘딥페이크물’의 피해는 K-pop, K-드라마, K-뮤비 스타들의 정신적 피해를 비롯한 기획사의 경제적 피해까지 그 규모 역시 날로 커지고 있는 실정이다.

알엔딥이 개발하고 있는 딥페이크 검출 기술은 AI 딥러닝으로 구현된 기술로, 사진 및 영상 속 얼굴을 자동으로 찾아내고, 페이크 인지 아닌지를 1초내에 찾아낸다. 페이크 합성 기술이 날로 정교해 지고 있는 가운데, 알엡딥 역시 다양한 데이터 셋을 확보하고 AI기반의 학습을 시킴으로 정교한 합성을 모두 감별해 낼 수 있는 정확도 높은 기술을 구현해 내고 있다.

이러한 기술을 활용하면, 쉽게 페이크 인지 아닌지를 찾아 낼 수 있고, 페이크로 판별된 컨텐츠는 업로드/다운로드 및 SNS를 통해 전달 되지 않도록 하는 기술로 활용될 수 있다.

딥페이크 기능과 함께 연내 개발 완료를 목표로 하고 있는 욕설 검출 및 방지 기술은 문장 내 포함된 욕설 뿐만 아니라, 문맥상 공격성이 강한 표현 등을 AI 학습기반으로 찾아내고 수치화 하여 구분해 내는 기술이다. 이 기술을 통해, 인터넷 댓글의 긍정과 부정을 나누어 통계자료를 만들 수도 있고, 나아가 댓글의 공격성을 수치화할 수도 있다. 긍정과 부정의 정도를 수치화 하고, 특정한 수치 조건에 맞는 문장들만 선별하여 뽑아내거나 제거할 수 있다.

/byh@sedaily.com