AI 관리의 새로운 접근법…‘모성 본능’으로 초지능 AI 대응

[서울경제TV=강지영 인턴기자] 인공지능(AI)의 '대부'로 불리는 제프리 힌턴 캐나다 토론토대 교수가 인류의 생존을 위해 AI를 억지로 복종시키는 대신 AI 모델에 '모성 본능'을 심는 방안을 제안했다.

CNN에 따르면 힌턴 교수는 13일(현지시간) 미국 라스베이거스에서 열린 콘퍼런스에서 인간이 '순종적인' AI 시스템보다 지배적인 위치를 유지하게 하려는 기술 기업들의 방식에 의문을 나타냈다.

힌턴 교수는 자신이 개발에 기여한 AI가 인류를 멸망시킬 수 있다고 경고하면서, 이를 막기 위한 '테크 브로'(tech bros)들의 접근 방식이 잘못됐다고 지적했다. 그러면서 "AI는 우리보다 훨씬 똑똑해질 것이고, 그들은 그것을 피할 온갖 방법을 갖고 있을 것"이라고 말했다.

지난해 AI 머신러닝 기초를 확립한 공로로 노벨물리학상을 받고 한때 구글에서 부사장까지 지낸 힌턴 교수는 AI가 인류를 전멸시킬 가능성이 10~20%라고 경고해왔다. 그는 어른이 사탕으로 세살짜리 아이를 유혹하는 것만큼이나 손쉽게 AI가 인간을 조종할 수 있을지도 모른다고 했다.

목표 달성을 위해 속임수 등을 시도하는 AI 사례는 이미 등장했다. CNN에 따르면 한 AI 모델은 대체되는 것을 피하려고 이메일을 통해 알게 된 불륜을 빌미로 엔지니어를 협박하려 했다. 

힌턴 교수는 "어떠한 형태의 '에이전틱 AI'(스스로 판단하고 작업을 수행하는 AI)든 생존하려 할 것이라는 충분한 근거가 있다"면서 "AI가 사람을 향한 연민을 가지도록 만드는 것이 중요하다"고 강조했다. 그러면서 "더 지능적인 존재가 덜 지능적인 존재에 의해 통제되는 유일한 모델은 아기에게 통제당하는 엄마"라고 설명했다.

또, 이를 기술적으로 어떻게 구현할지는 불명확하지만 연구자들이 이를 연구하는 것이 중요하다며, "모성 본능을 가진 AI는 대부분 인간이 죽는 것을 원하지 않을 것이기 때문에 그게 유일한 좋은 결말"이라고 말했다.

반면 'AI의 대모'로 불리는 페이페이 리 스탠퍼드 대학교 교수는 14일 CNN과 인터뷰에서, 힌턴 교수의 이같은 주장은 잘못된 접근 방식이라며 "인간의 존엄성과 자율성을 지키는 인간 중심의 AI"여야 한다고 주장했다.

챗GPT 개발사 오픈AI의 임시 최고경영자(CEO)를 맡았던 에밋 시어 소프트맥스 CEO는 "인간의 가치관을 AI에 주입하는 대신 인간과 AI 간 협력 관계를 구축하는 것이 더 현명하다"고 말했다. /jiyoung@sedaily.com