챗GPT로 사내 지식 검색…LG CNS, ‘AI를 활용한 KM 혁신’ 개시

[서울경제TV=윤혜림기자] LG CNS가 생성형 AI로 기업 내부의 유용한 지식과 데이터를 찾는 ‘AI를 활용한 KM 혁신(Assetization with AI)’ 서비스를 개시했다고 24일 밝혔다.

‘AI를 활용한 KM 혁신’은 사내 임직원들이 업무에 필요한 지식을 찾기 위해 채팅 창에 자연어로 질의하면, 생성형 AI가 사내 데이터를 분석해 최적의 답변을 제공하는 서비스다. 사람이 정해 놓은 시나리오 기준으로 답변하는 기존 AI 챗봇과는 다르게, 방대한 데이터를 통해 AI가 직접 답변을 생성할 수 있도록 고도화됐다.

LG CNS는 마이크로소프트와 협력을 통해 ‘AI를 활용한 KM 혁신’ 서비스에 ‘애저 오픈AI(Azure OpenAI)’의 GPT-4를 적용했다. 챗GPT는 포털 등 외부에 공개된 데이터만 학습한 LLM(Large Language Model)이다. ‘AI를 활용한 KM 혁신’에 적용된 챗GPT는 기업 내부 데이터 기반의 답변을 생성한다는 것이 차별점이다.  

예를 들어 임직원들은 “우리회사 프로젝트 중에서 생성형 AI를 활용한 성공 사례 3개만 찾아줘”, “스마트팩토리 분야의 신기술 연구개발 현황 보고서 10줄로 요약해줘” 등의 질문에 AI로부터 답변 받을 수 있다. 답변과 함께 출처와 답변 내용이 포함된 문서 전체를 받는 것도 가능하다. 만약 사내 데이터에 답변할 내용이 존재하지 않을 경우, 챗GPT는 외부 지식을 활용한 답변도 제공한다.   

LG CNS는 기업 내부 데이터 분석을 위해 자체 기술 ‘오케스트레이터(Orchestrator)’를 사용한다. ‘오케스트레이터’는 임직원 질의에 대한 답변과 유사도가 높은 톱5 자료, 페이지 등을 찾아내 챗GPT에 제공한다. 이후 챗GPT가 자료를 분석해 답변을 제공하는 방식이다. ‘오케스트레이터’는 내부 데이터 중에 보안사항은 비식별화 하는 등 보안 정보의 외부 유출을 방지하는 기능을 탑재했다.  

LG CNS 임직원들은 사내 오픈된 ‘AI를 활용한 KM 혁신’ 서비스를 통해 AI, 데이터, 클라우드, 스마트 시티, 스마트 물류, 스마트 팩토리, 보안 등 DX 신기술 분야 각종 지식과, 사업 방법론, 연구개발(R&D) 산출물, 기술 노하우 등이 포함된 약 52만 페이지 분량의 데이터에서 필요한 지식을 찾아 활용하고 있다. 

AI를 활용한 KM 혁신 서비스 개념도. [사진=LG CNS]

LG CNS는 ‘AI를 활용한 KM 혁신’ 서비스 구현에 앞서 곳곳에 흩어진 사내의 다양한 지식 데이터를 한 곳에 모았다. 이는 각종 산출물이 한 번 업로드 된 후 방치되거나, 조직 내 전문가들의 역량 대부분이 조직 자산으로 이어지지 못한 채 소멸되는 등의 페인 포인트(Pain Point)를 해결하기 위함이다.   

생성형 AI가 정확도 높은 답변을 내놓기 위해서는 사내에 지식 데이터를 풍성하게 축적하는 것도 중요하다. LG CNS는 신규 지식 데이터 축적과 조직 내 전문가들의 지식과 경험을 임직원 모두가 활용할 수 있도록 웹3.0 기반의 지식마켓 ‘브레인즈(BRAINS)’도 구축했다.   

‘브레인즈’는 임직원이 다양한 분야의 지식을 올리면 전용 코인을 사용해 지식을 구매할 수 있는 지식마켓이다. 임직원들이 지식의 유용성을 기준으로 비밀 투표를 진행하고, 선택된 지식을 올린 임직원에게 보상까지 제공하는 지식펀딩 서비스를 제공한다.   

LG CNS는 사내에서 ‘AI를 활용한 KM 혁신’과 ‘브레인즈’를 선 적용해 신기술 테스트베드로 운영하고 있다. 기술을 검증한 후, 기업고객 대상의 서비스를 시작할 계획이다.  

김선정 LG CNS CTO(전무)는 “생성형 AI, 웹3.0 등 LG CNS의 DX 신기술 역량을 통해 기업 내부에 보유한 자산을 기반으로 필요한 지식을 빠르게 활용할 수 있는 체계를 확장해 나갈 것”이라고 강조했다. /grace_rim@sedaily.com