서울대 연구팀, ChatGPT ‘환각증세’ 완화 기술 개발
경제·산업
입력 2024-11-11 08:55:43
수정 2024-11-11 08:55:43
정창신 기자
0개
美 국제학술대회 ‘EMNLP 2024’서 발표 예정

[서울경제TV=정창신기자] ChatGPT와 같은 거대언어모델(LLM)이 기업 내부 지식을 활용해 답변을 생성할 때, 신뢰도를 높일 수 있는 기술이 국내 연구진에 의해 개발됐다.
서울대 컴퓨터공학부 지능형데이터시스템 연구팀(지도교수 이상구)은 오는 12일 미국 플로리다에서 개최되는 이 분야 최고권위의 국제학술대회인 EMNLP 2024에 관련 논문 2편을 발표할 예정이라고 11일 밝혔다.
일반적으로 ChatGPT 등 거대언어모델은 뛰어난 언어 이해력을 바탕으로 문서 요약, 보고서 작성, 대화형 정보 제공 등 놀라운 능력으로 기대를 모았지만, 엉뚱한 사실을 그럴 듯하게 주장하는 환각증세(hallucination)로 인해 여전히 기업용 서비스에 적용하는데 어려움을 겪고 있다.
이를 해결하는 방법으로 검색증강생성(RAG·Retrieval Augmented Generation) 기술이 주목받고 있는데, RAG는 사용자의 질문에 관련된 회사 내의 주요 정보를 검색(retrieval)해 LLM에 입력으로 제공해 이를 이용해서 질문의 답을 생성하게 하는 기술이다.
RAG는 환각증세를 완화해주는 동시에 최신 정보나 기업의 고유정보를 기반으로 AI 서비스를 가능하게 해 최근 가장 각광받는 기술로, RAG 솔루션의 신뢰성은 검색된 지식정보들을 얼마나 적절히 활용할 수 있는지에 따라 결정된다.
연구팀이 발표한 이번 논문은 이러한 상황판단을 정교하게 할 수 있는 방안을 제시한 것으로, 구체적으로는 LLM이 답변을 생성하는 과정에서 제공된 지식을 사용할 지, 또는 무시하고 LLM에 사전에 학습된 정보로 답을 할 지, 아니면 둘 다 불확실하여 답변을 거부할 지 판단하는 능력을 LLM 내부의 엔트로피(entropy·어떤 시스템의 불안정성 정도를 나타내는 지표)를 측정해 향상시킬 수 있도록 한 것이다.
이 연구 성과를 통해 기존 방법론 대비 상황에 따른 대처 능력을 10~30%까지 향상시켜, AI 서비스를 사용하는 고객이 체감하는 신뢰도는 그보다 더 큰 폭으로 개선될 것으로 예상된다는 게 연구팀의 설명이다.
연구를 주도한 서울대 지능형데이터시스템연구실 김연아 연구원과 김형준 연구원은 “LLM과 같이 커다란 딥러닝 모델의 행동패턴을 심층적으로 이해하는 것은 매우 힘든 일인데, 그 한 단면을 파악해 실질적인 효과를 가져 올 수 있는 연구결과를 만들게 돼 매우 기쁘다”고 밝혔다.
이상구 서울대 컴퓨터공학부 교수는 “LLM의 잠재적인 능력을 안전하게 잘 활용할 수 있는 제어 기술은 LLM의 상용화를 위한 핵심 기술이 될 것”이라고 강조했다. /csjung@sedaily.com
[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]

관련뉴스
- [위클리 비즈] 무더위에 갈라진 입맛…'강렬'하거나 '건강'하거나
- K방산, 역대급 실적에…“배당이냐 R&D 투자냐”
- 배민 ‘비트로지’·쿠팡 ‘쇼핑’…퀵커머스 경쟁 본격화
- 노란봉투법 통과 전인데…하청노조 타깃 된 대기업
- “SDV·AI가 핵심”…정의선 한 마디에 ‘현대오토에버’ 주목
- ‘삼성 VS 대우’ 5년만 리턴매치…개포우성7차 D-1
- 이재용, 빌 게이츠 회동…글로벌 사회공헌 협력 방안 논의
- 한국수력원자력, IBK기업은행과 ʻK-원전 희망드림론ʼ 업무협약
- 경총, 새정부 경제성장전략에..."투자 확대·일자리 창출 노력할 것"
- SK 최태원, 빌 게이츠 만나…소형모듈원전·백신 사업 협력 강화키로
주요뉴스
오늘의 날씨
마포구 상암동℃
강수확률 %
기획/취재
주간 TOP뉴스
- 1병이라는 사랑의 은유
- 2남원 모노레일 사태, 시민단체 전·현직 시장·시의회 책임 촉구
- 3서부지방산림청, 산림 계곡 내 불법점용시설 특별단속 실시
- 4남원시, 동편제국악거리축제…송가인·안숙선과 전통과 현대 국악 향연
- 5남원 바이오기업, 베트남 해외시장 개척 박차
- 6남원시장애인종합복지관, 가상현실 스포츠실 설치
- 7구리시, ‘AI 디지털 마케팅 전문가 양성 과정’ 수료식 개최
- 8장수군-덕유산국립공원, 산악 관광 혁신 나선다
- 9강천산·장류체험관 찾은 일본 선수단, 순창 매력에 흠뻑
- 10국내 최초 치즈의 고향, 임실치즈마을 '2025 농촌여행 스타마을' 선정
댓글
(0)