SKT “요금제·공시지원금 쉽게 알려드려요”…韓 ‘텔코LLM’ 6월 출시
SKT, 요금제·멤버십·지원금 등 학습한 텔코 LLM 6월 공개
SKT ‘A.X’, 오픈AI ‘GPT-4 등 한국어 통신 관련 데이터 학습
서비스 유형에 맞춰 골라 쓸 수 있는 ‘멀티LLM’ 유용
30일 에릭 데이비스 SKT AI Tech Collaboration담당이 ‘텔코LLM’에 관해 설명하고 있다. [사진=SK텔레콤]
[서울경제TV=윤혜림기자] SK텔레콤(SKT)이 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 AI 윤리가치와 같은 통신사의 내부 지침을 학습한 ‘텔코LLM’을 개발하고 있다고 30일 밝혔다. 오는 6월 중 개발을 완료할 예정이다.
‘텔코LLM’은 GPT, 클로드와 같은 범용 LLM이 아니라 통신업에 특화된 LLM을 뜻한다.
기존 LLM 사용 시 같은 질문에 대해서 일관되지 않은 답변을 생상하거나 답변 품질이 천차만별이라는 문제가 있었다. 또 최신 모델은 상대적으로 추론 비용이 높다는 점도 애플리케이션 개발에 어려움을 줬다는 설명이다.
SKT는 오픈AI, 앤트로픽 등과 협력을 통해 통신사의 서비스나 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집, 정형·비정형 데이터를 선별해 이를 에이닷엑스, ‘GPT’, ‘클로드’에 학습시킴으로써 통신에 특화된 LLM을 만들고 있다.
특히 한국어로 된 통신 관련 데이터를 학습시킨 것이 장점이다.
[사진=SK텔레콤]
텔코LLM은 SKT의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 범용모델을 기반으로 튜닝했다. 통신사들이 AI컨택센터(AICC), 유통망, 네트워크 운용, 사내 업무 등 활용처와 특정 업무마다 최적화된 LLM을 가져다 쓸 수 있게 하는 ‘멀티(다중) LLM’ 전략이다.
에릭 데이비스 SKT AI Tech Collaboration담당은 “1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것”이라며, “통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가(벤치마킹)를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략”이라고 설명했다.
범용 LLM은 통신사의 번호이동 방법이나 절차 등 전문지식을 제대로 학습하지 않아 요금제 추천 같은 고객 요구에 제대로 대응하기 어렵다. 통신 관련 데이터를 추가로 학습해 이 문제를 해결하는 과정이 텔코LLM의 파인튜닝이다.
이렇게 파인튜닝이 된 텔코LLM은 휴먼 피드백 기반의 강화학습(RLHF; Reinforcement Learning from Human Feedback) 과정을 거친다.
SKT는 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시켜 줄 수 있을 것으로 기대한다고 밝혔다.
[사진=SK텔레콤]
한편, SKT는 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축, 개발할 수 있는 일종의 기업용 AI 패키지인 ‘인텔리전스 플랫폼’도 공개했다.
SKT는 멀티LLM을 쉽고 효율적으로 사용할 수 있는 인텔리전스 플랫폼을 현재A.(에이닷) 등의 서비스 등에 적용 중이며, 적용 사례를 지속 확대할 예정이라고 밝혔다.
SKT는 “우리나라를 비롯해 글로벌 통신사들은 물론 상담업무 등 유사한 업무특성을 가진 기업들이 텔코 LLM 인텔리전스 플랫폼을 통해 거대 플랫폼 개발에 드는 비용과 시간을 절감할 수 있을 것으로 기대한다”고 밝혔다. /grace_rim@sedaily.com
[ⓒ 서울경제TV(www.sentv.co.kr), 무단 전재 및 재배포 금지]
주요뉴스
주간 TOP뉴스
- 1HLB, 간암신약 허가결정 D-1…침체된 바이오 투자심리 반전 기대
- 2"해상 운임 뛴다"…해운주, 실적·주가 눈높이↑
- 3‘여주역자이 헤리티지’ 오늘 1순위 청약
- 4[이슈플러스]판 커지는 AI시장…"전선株, 호황기 지속"
- 5청주테크노폴리스 3차 사업 용지 분양에 수요자 ‘눈길’…“5월 중 공급 예정”
- 6앱코, 1분기 영업익 26억원…"흑자전환 성공"
- 7유일로보틱스, 7축 주행다관절 로봇 ‘YMXR’ 시리즈 출시
- 8반도체 훈풍 ‘동탄2신도시’…매수세 강화에 수요자 발길
- 9[빨라진 새만금 시계] '새만금 개발' 잰걸음…"SOC, 명품·수변도시로"
- 10“주거 고정수요 확보에 MZ세대 품었다”…래미안 라그란데 단지내 상가 선착순 분양 중
공지사항
더보기
핫클립
-
- 지수상승하면 우량주, 혼조세면 개별주, 하락하면 관망 평택촌놈의 정석투자 2019-03-26 (화) 방송
- 메타버스와 교육이 합쳐진다? 웅진씽크빅 지금이 매수 타이밍!│ 매매전력(웅진씽크빅,교육주,윤석열관련주) 마감임박! 60분의 승부 2021-11-12 (금) 방송
- [내일의 BOOM] 탄소감축 = 원전? 달리는 말 '세보엠이씨' 탑승 전략은? │ 매매전략 (세보엠이씨,원전주,종가베팅) 오늘장 내일장 2021-11-12 (금) 방송
- 2월 25일이 반등 고점은 확실, 이제는 하락 속도의 문제 평택촌놈의 정석투자 2019-03-26 (화) 방송
이 시각 이후 방송
-
10:50마켓시그널 ON&OFF
생방송 김보민 PD 문다현 MC
-
11:50정오의 텐베거
생방송 김윤선 PD 조민재 MC
-
12:5013시 투자스쿨
생방송 김보민 PD 문다현 MC
-
13:50오늘장 내일장 1부
생방송 유혜진 PD 백선혜 MC
-
14:50오늘장 내일장 2부
생방송 유혜진 PD 백선혜 MC
오늘의 날씨
2024-05-18(토) 03:00마포구 상암동12.0℃
강수확률 0%