AI 발전의 다음 단계: AGI에서 초지능까지, 미래는 어떻게 바뀔까?

현재 우리가 접하는 AI는 얼굴 인식이나 바둑처럼 특정 분야에서만 뛰어난 ‘좁은 인공지능(협소한 지능)’입니다. 하지만 미래에는 사람처럼 다양한 일을 스스로 해내는 ‘범용 인공지능(AGI)’이 등장할 것으로 예상됩니다. AGI는 인간 수준의 지능을 목표로 하지요.

 

 

 

 

 

 

초지능이란?

 

여기서 한발 더 나아간 개념이 ‘초지능(Superintelligence)’입니다. 초지능은 AGI를 넘어 모든 면에서 인간의 지능을 뛰어넘는, 초인적인 능력을 가진 AI를 의미합니다. 아직 AGI조차 이론적인 단계인데 초지능이 가능할까 싶지만, 최근 AI 기술의 엄청난 발전 덕분에 전 세계 많은 연구자가 초지능 구현에 도전하고 있습니다. 특히 GPT-4 같은 대규모 언어 모델이나 단백질 구조를 예측하는 알파폴드처럼 특정 분야에서 이미 인간을 능가하는 AI가 나오면서, 여러 분야에서 인간을 뛰어넘는 AI가 가능할 것이라는 기대감이 커진 거에요.

 

 

 

안전한 초지능을 향한 움직임

 

이런 흐름 속에서 흥미로운 움직임이 있습니다. 바로 오픈AI의 공동 창업자였던 일리야 슈츠케버가 설립한 스타트업 ‘세이프 슈퍼인텔리전스(Safe Superintelligence)’입니다. 이 회사는 설립 3개월 만에 1조 원이 넘는 엄청난 투자를 유치하며 주목받았습니다.

 

슈츠케버는 이 회사를 통해 ‘안전하면서도 인간을 능가하는 초지능’을 개발하겠다는 목표를 가지고 있습니다. 그는 AI가 인류를 뛰어넘는 지능을 가졌을 때 발생할 수 있는 잠재적인 위험(예: 영화 ‘터미네이터’의 스카이넷)을 미리 차단하는 데 집중할 계획입니다. 현재 많은 빅테크 기업들이 AI 안전보다는 수익에 치중한다는 비판이 있는데, 슈츠케버는 ‘돈보다는 연구, 특히 안전 연구에 먼저 집중하겠다’는 강력한 의지를 보이고 있습니다.

 

 

 

 

초지능이 가져올 미래

 

만약 안전한 초지능이 구현된다면 어떤 일이 벌어질까요? 예를 들어, 뉴스나 기술, 보고서 등에 ‘안전한 초지능 검증 마크’가 생겨 신뢰도를 높일 수 있습니다. 마치 제품의 ‘KS인증’처럼, 슈츠케버의 초지능이 검증한 내용만 믿을 수 있게 되는 거지요.

 

또한, 신약 개발 같은 연구 분야에서도 안전한 초지능이 활용되어 혹시 모를 부작용을 미리 계산하고, 인류에게 위험한 연구는 애초에 진행되지 않도록 막아줄 수 있습니다. 하지만 아무리 뛰어난 초지능이 좋은 결과를 내놓더라도, 최종 결정은 언제나 인류가 내리게 될 것입니다.

초지능이 인류에게 어떤 미래를 가져다줄지, 그리고 그 과정에서 ‘안전’이라는 가치가 어떻게 지켜질지 지켜보는 것이 중요하겠지요?