알엔딥, 텔레그램 N번방 등 불법 성인물 차단 AI 기술 개발 완료
빅데이터와 크롤링 기술 접목한 AI 기술
딥페이크 검출 기술도 완성 단계..이달 중 공개
[서울경제TV=배요한기자] N번방 성착취 영상 유포사건이 사회적 이슈가 되고 있는 가운데 성폭력, 포르노 및 음란물, 유해사이트를 막을 수 있는 기술이 공개됐다.
9일 관련 업계에 따르면 알엔딥이 개발하고 있는 성인물 검출 기술은 AI 딥러닝 기술중 하나인 GAN(생성적 적대 인공 신경망)을 기반으로 구현된 기술이다.
기술 개발을 위해 알엔딥은 약 30만장의 성인 노출 사진을 인공지능에 학습시켰고, 이를 통해 훈련된 AI는 순식간에 컨텐츠가 성인물인지 아닌지를 찾아낸다.
알엔딥의 관계자는 "레드 AI 기술을 이용하면 사진, 영상 뿐만 아니라 단순화 되어 표현된 만화, 그림 속에 포함된 Nudity(노출 상태)까지 정확하게 찾아낸다"며 "검사하는데 걸리는 시간은 1초 미만"이라고 설명했다.
알엔딥에서 보유한 빅데이터와 크롤링 기술을 접목할 경우 특정 사이트의 주소내에 성인물이 포함되어 있는지를 사전 검사할수 있고, 성인물이 포함되어 있는 경우 사이트 전체를 차단하도록 하는 서비스에도 활용될 수 있다.
알엔딥 레드 AI 기술은 컨텐츠에 대한 직접적인 검사 뿐만 아니라 URL 등을 검사하는 데도 사용될 수 있다. 메신저상에서 URL을 보낼 경우, URL에 연결된 컨텐츠가 성인 사진이나 영상일 경우 URL 전달을 차단하게도 할 수 있다.
국가에서 운영하는 유해사이트 정보의 경우 인위적으로 등록된 URL을 차단하는 시스템으로, 신규로 만들어진 사이트에 대해서는 차단이 불가능하다. 유해사이트로 등록되는 속도보다 신규로 만들어지는 사이트가 더 많기 때문에 100% 차단하기에는 역부족인 것이다.
알엔딥 레드 AI는 특정 유저가 사이트를 열기전, 사이트내 연결된 컨텐츠를 모두 검사하고 유해성을 확인한다. 즉 사이트를 열기전 AI가 먼저 성인물 포함 여부를 검사하기 때문에 유해사이트인지 아닌지를 훨씬 높은 정확도로 검사해 낼 수 있다.
이렇게 확인된 유해사이트 URL 등은 국가유해사이트 정보원으로 자동으로 신고를 하게 되어 추가 접속의 경우 AI검사 없이 차단이 가능하다. 알앤딥 관계자는 "성인물 모자이크 생성기술 딥페이크 검출 기술도 완성 단계에 있으며 4월 내에 대중에게 공개할 예정"이라고 밝혔다. /byh@sedaily.com
[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]
관련뉴스
주요뉴스
주간 TOP뉴스
- 1BMW 코리아, 'BMW 레이디스 챔피언십'서 한정판 모델 전시
- 2쌍용건설, 아프리카 적도기니 '바타 국제공항' 준공
- 3SK에코플랜트, 조직개편 시행…"반도체 사업 신설"
- 4MBK·영풍 "고려아연, 명분·실리 챙겨"…고려아연은 '시세조정 의혹' 조사 요구
- 5코스알엑스, 신제품 ‘더 알파-알부틴2 디스컬러레이션 케어 세럼’ 출시
- 6원주시, 어린이를 위한 축제 ‘제2회 학성꿈동산 FESTIVAL’ 개최
- 7인구 유입 정책 ‘come on wonju’ 프로젝트, 원주에서 살아보기’ 시범 추진
- 8수출입銀, 수소산업 밸류체인 全분야 금융지원 강화
- 9“비글즈 앱서 삼색이와 리리 만나요”…비글즈, 비마이펫과 IP 제휴 협약
- 10정무위 국감, 이복현 금감원장 가계부채 혼선 ·월권 논란 집중
공지사항
더보기 +오늘의 날씨
마포구 상암동℃
강수확률 %
댓글
(0) 로그아웃