금융위, AI 신용평가 안정성 높인다

[서울경제TV=민세원기자] 금융위원회가 인공지능(AI) 활용의 신뢰성을 높이기 위한 구체적인 방안을 내놨다. 

금융위는 ‘AI 기반 신용평가모형 검증체계’와 ‘금융분야 AI 보안 가이드라인’을 마련했다고 17일 밝혔다.

우선 금융위는 AI 신용평가모형을 활용하고 있는 개인신용평가사 검증에 나설 것을 예고했다.

신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형의 알고리즘과 변수가 합리적으로 선정됐는지, 그리고 사후 신용평가 결과에 대해 금융소비자에게 충분히 설명할 수 있는지 등이 검증 내용이다.

이는 AI 신용평가모형이 전통 모형에 비해 더 풍부한 데이터를 활용한다는 장점에도 특유의 복잡한 알고리즘을 사용해 평가결과에 대한 해석이 어렵기 때문에 마련된 조치다.

즉 새로운 신용평가모형이 소비자들이 충분히 납득할 수 있는 객관적인 검증체계를 갖춰야 한다는 것이다.

이와 더불어 금융위가 제시한 금융분야 AI 보안 가이드라인에는 AI 모델 개발 시 고려해야 할 보안사항이 단계별로 담겨있다.

고려사항은 학습데이터 수집→학습데이터 전처리→AI 모델 설계·학습→AI 모델 검증·평가의 4단계다. 

여기에 AI의 발전과 떼어놓을 수 없는 개인정보 유출 등의 보안 위협과 관련해 보안성 체크리스트도 함께 제시했다.

대표적으로 보안 가이드라인 마지막 단계인 'AI 모델 검증 평가'에서 학습이 완료된 AI 모델의 보안성 검증을 위해 선제적인 적대적 공격을 수행해 AI 모델의 공격 대응 능력을 필수로 확인해야 한다.

금융위 관계자는 “오늘 발표된 AI 기반 신용평가모형 검증체계를 활용해 올해 개인사업자CB를 검증하고 향후 개인CB 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획”이라고 말했다. /yejoo0502@sedaily.com