카카오, ‘AI 안전 이니셔티브’ 구축…"AI 리스크 최소화"
경제·산업
입력 2024-10-23 09:39:07
수정 2024-10-23 09:39:07
김혜영 기자
0개
[서울경제TV=김혜영기자] 카카오는 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고, 이를 관리하는 프로세스를 정의한 리스크 관리 체계인 ‘Kakao AI Safety Initiative(이하 Kakao ASI)’를 구축했다고 23일 밝혔다.
Kakao ASI는 AI 기술 개발 및 운영 상의 위험 발생을 최소화하고, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다. 특히, 기술의 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이라고 회사측은 설명했다. AI와 인간이 초래할 수 있는 다양한 종류의 리스크를 폭넓게 관리하며, 인간의 부주의나 실수로 발생할 수 있는 영역까지 관리 범위를 포괄적으로 지정했다.
Kakao ASI는 ▲Kakao AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다. ‘Kakao AI 윤리 원칙’은 지난2023년 3월 발표한 ‘카카오 그룹의 책임 있는 AI를 위한 가이드라인’을 기반으로 하며, 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함한다. 개발자와 사용자를 대상으로 윤리적인 가이드라인을 제공한다.
‘리스크 관리 사이클’은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성된다. AI 기술의 비윤리, 불완전 등을 최소화하고, 안전성과 신뢰성을 확보할 수 있는 핵심적인 역할을 한다. 사이클은 AI 시스템의 전체 수명주기에 걸쳐 반복적으로 적용된다.
‘AI 리스크 거버넌스’는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다. 조직 내 정책, 절차, 책임 구조 및 외부 규제와의 조화를 포함하며, 거버넌스 체계 내에서 관련 리스크들을 다각도로 검토하게 된다. Kakao ASI 거버넌스는 AI Safety, 전사 리스크 관리 전담 조직인ERM 위원회, 최고 의사결정 기구의 3단계로 구성되어 있다.
카카오는 Kakao ASI 구축 이후에도 AI 기술 개발과 운영 과정에서 발견되는 리스크를 신속하게 식별 및 대응하고, 지속적으로 체계 고도화를 이어갈 계획이다. /hyk@seadaily.com
[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]
관련뉴스
- 베스트텍, 국립부산과학관 ‘달에서 화성까지 탐험’ 콘텐츠 개발 공급 계약
- 현대차·기아 'R&D 협력사 테크 데이' 개최…최우수 기술에 유라코퍼레이션 선정
- "뉴스페이스 시대 주도"…KAI, 국제우주항공기술대전 참가
- 현대차·기아, 美 카즈닷컴 ‘2024 전기차 톱 픽’ 최다 부문 선정
- KT-국립과천과학관, 청소년 AI 인재 양성 협력…AI 교육 과정 개설
- "미래를 향한 도전"…대학생 자율주행 경진대회 개최
- BMW 모토라드, '경찰청장배 오토바이 경진대회’에 바이크 정비 지원
- 한국타이어, ‘2024 하반기 생명나눔 헌혈캠페인’ 진행
- 넷마블 '일곱 개의 대죄 키우기', 신규 캐릭터 ‘에스타롯사’ 업데이트
- "인공위성으로 3차원 통신망 구축"…LG U+, 6G 미래상 제시
주요뉴스
오늘의 날씨
마포구 상암동℃
강수확률 %
주간 TOP뉴스
- 1김위상 의원 “전기차 의무운행 못 채워 보조금 반환, 5년 새 10배로”
- 2조지연 의원, 경산 지역 교육환경 개선 위한교육부 특별교부금 16억원 확보
- 3경북테크노파크, 2024 한-우즈베키스탄 산학협력 이노베이션위크로 우즈베키스탄과 협력 강화
- 4대경경자청, ‘다국적 로봇 기업사절단’ 청 투자유치 설명회 개최
- 5iM뱅크(아이엠뱅크), 인터넷뱅킹 ‘전자점자서비스’ 출시
- 6경북도, 시군 협력 기반 거점형 공모 전략 통했다
- 7주한일본대사, 홍준표 대구광역시장을 예방
- 8영덕업사이클링아트페스타, 오는 26일 9일 간의 대장정 개막
- 9김광열 영덕군수, 재가장기요양기관 대표들과 ‘현장 소통’
- 10대구가톨릭대 성한기 총장, 대구경북 대학교육협의회장 선임
댓글
(0) 로그아웃