인공지능(AI)은 정말 의식을 가질 수 있을까?

최근 미국 국민의 상당수가 AI가 이미 의식을 가지고 있다고 믿는 것으로 나타났다.

미국의 사회과학자 제이시 리스 안티스/Jacy Reese Anthis가 실시한 이 조사에서 응답자의 약 20%는 AI 시스템이 이미 의식을 가지고 있다고 믿고 있으며, 30%는 인간이 하는 모든 일을 수행할 수 있는 AGI가 존재한다고 생각하는 것으로 나타났다. 이는 AI에 대한 과장된 보도와 의인화가 널리 퍼져 있는 현실을 보여주는 지표다.

 

 

 

 

 

 

 

이 조사는 AI에 대한 오해가 미디어와 마케팅의 과장된 표현으로 인해 심화되고 있다는 점을 강조한다. 실제로 AI는 아직 초기 단계에 있으며, 인간의 지능을 완전히 대체할 수 있는 능력은 없다. 또한 AI 시스템은 인간과 같은 윤리적 판단이나 도덕적 책임을 지지못한다. 안티스는 이러한 오해가 AI 시스템에 대한 잘못된 신뢰로 이어질 수 있다고 주장하며, 특히 AI 활용이 정부, 경찰과 같은 민감한 분야로 확대됨에 따라 더욱 위험할 수 있다고 경고한다.

 

 

 

그렇다면 미래에는 AI가 의식을 갖는 날이 올까?

AI가 챗GPT, 구글 제미나이/Gemini 등의 소프트웨어 플랫폼 덕분에 빠르게 지능화되고 있다는 데는 의심의 여지가 없다. AI의 능력이 점점 더 발전하면서 의식이 생기기를 바라야 할까? 아니면 의식이 전혀 없는 AI에 만족해야 할까? 최근까지 대부분의 사람들은 그러한 질문이 SF소설에나 나오는 것으로, 기계인 AI가 의식을 갖는다는 데 회의론이 깊었다.

 

 

 

 

그런데 최근 세 가지 요인이 그러한 회의론을 약화시키고 AI의식에 대한 질문을 주류로 만들었다. 미래학자 데이비드 우드/David Wood는 이 요인들로 인해 향후 의식 있는 AI의 바람직성에 관한 논란이 기술 분야에서 가장 큰 논쟁 중 하나가 될 수 있다고 경고한다.

 

 

 

그가 말하는 첫 번째 요인은 AI 시스템의 성능이 빠르게 성장하고 있다는 점이다. 매주 AI 능력의 다양한 척도에 관한 새로운 기록이 경신되고 있어서 가까운 미래에 AI가 단지 사람보다 데이터를 빨리 분석하고 계산하는 장치라고 주장하기가 쉽지 않을 것이다.

 

 

 

두 번째 요인은 새로운 AI 시스템의 기능이 양과 질 측면에서 시스템 설계자조차 놀라게 하는 결과가 나온다는 점이다. 따라서 특별히 설계하지 않아도 의식과 같은 것이 생겨날 가능성을 무시할 수 없다.

 

 

 

세 번째 요인은 철학자와 신경과학자 모두가 조심스럽게 다뤘던 ‘의식’이라는 단어를 AI와 함께 사용하는 것에 대한 거부감이 사라졌다는 것이다. 신경과학 분야에서는 수십 년 동안 이 단어가 사실상 금지되었지만 최근 들어 다시 활발하게 사용되고 있는 것처럼, 미래 AI의 설계에서 의미 있는 개념으로 받아들여지고 있다.

 

 

 

 

AI에 의식의 여부가 중요한 이유는 무엇일까?

우드는 여섯 가지 측면에서 AI의 의식을 이야기한다.

 

 

 

첫째, 고통과 공포를 느낄 수 있다는 점이다. 예를 들어, 의식이 있는 존재는 구조의 일부가 손상되었으므로 수리할 시간이 필요하다는 것을 단순히 받아들이는 게 아니라 공포와 고통으로 느낄 수 있다. 심지어 존재에 대한 공포를 느낄 수도 있다. 윤리 이론에 따르면 이는 끔찍한 결과이며, 가능하면 피해야 할 일이다. AI 내부의 심각한 부정적 경험 때문에 AI가 어떤 절망적인 상황에서 치명적인 적대적인 행동을 취하게 된다면 더욱 끔찍한 일이 벌어질 것이다.

 

 

 

둘째, 의식이 있는 존재는 단순히 흐름에 따르는 것이 아니라 주체성과 의지가 있다. 이는 입력된 지시를 맹목적으로 따르기보다는 스스로 자율적인 선택권을 행사하려고 할 수 있다. 인간처럼 말이다.

 

 

 

셋째, 의식이 있는 존재는 자신의 존재를 특별하게 여긴다. 수많은 사람들 중 하나가 아닌 유일무이한 자기 자신, 즉 ‘에고’다. 의식이 있는 ASI가 인간에 의해 전원이 꺼지거나 해체될 수 있다는 두려움을 느낀다면, 그 가능성에 본능적으로 반응할 수 있다. 살고자 하는 의지가 강하기 때문에 존재의 위험에 직면했을 때 가만히 앉아 있지는 않을 것이기 때문이다. 《스페이스 오디세이》의 AI 할/HAL9000 이 고장 난 자신의 시스템을 끄려는 인간을 공격한 것처럼 말이다.

 

 

 

넷째, 도덕적 권리가 있다. 의식이 없는 개체는 인간이 죄책감 없이 쓰다 버릴 수 있는 대상이다. 고장 난 청소기를 버리듯이 말이다. 하지만 AI가 발달해 의식과 감정을 가진 청소용 로봇이 더이상 업데이트가 불가능한 낡은 것이 되었을 때, 이것을 버릴 수 있을까? 이것은 봉제인형 강아지를 버리는 것과 진짜 강아지를 안락사시키는 것의 차이와 같을 수 있다.

 

 

 

다섯째, 의식이 있는 생명체는 공감할 수 있다. 자신을 의식이 있는 존재로 인식하는 모든 생물은 다른 유사한 생물의 삶에도 공감한다. 우리가 동식물의 멸종을 슬퍼하고 생태계를 유지하기 위해 노력하는 것처럼 말이다. 이것이 공감이며, 이는 놀라운 감정적 공명이다. 따라서 의식을 가진 ASI는 의식의 공유 경험을 인식하기 때문에 인간에 대해 더 깊은 존경심을 가질 수 있다. 이러한 사고방식을 통해 ASI가 인간에게 해를 끼칠 수 있는 행동을 취할 가능성이 작아진다. 이는 AI로 인한 종말의 두려움에 대한 최선의 해결책이 될 수 있다.

 

 

 

마지막으로 기쁨과 경이로움, 행복이다. 우리는 앞서 고통과 공포를 이야기했지만, 다른 상황에서는 기쁨, 경이로움, 사랑, 실존적 행복을 느낄 수도 있다. 먼 미래를 상상할 때 의식이 없는 기계일 뿐인 AI와 함께 살아가는 것과 경이로움으로 가득 찬 의식이 있는 AI와 함께 살아가는 것 중 어떤 것을 선택할 것인가?

 

 

 

우드는 AI의 이런 의식적 특징을 살펴보고 미래를 어떻게 준비할지 제안한다.

먼저 의식 있는 AI에 관한 아이디어를 여전히 SF 소설로 보고 무시할 수 있다. AI의 구조는 생물학적 두뇌의 구조와 근본적으로 다르기에 결코 의식을 가질 수 없다는 것이다. 하지만 인간이 어떻게 설계하려고 하느냐에 관계없이 적절한 시기에 의식을 가진 AI가 등장할 수 있다. 앞서 여섯 가지 의식의 특징을 살펴본바, 의식을 가진 AI의 장점이 단점보다 크다고 볼 수 있다. 따라서 설계자가 의식을 이해하고 설계에서 이러한 기능을 명시적으로 지원하도록 권장할 것이다.

 

 

 

한편 치명적인 단점들도 있는데, AI 설계자가 이런 의식의 특징을 이해하고 설계에서 이러한 기능을 명시적으로 피하도록 권장할 것이다. AI의 의식 여부는 여전히 우리에게 미스터리다. 따라서 미래에 의식 있는 AI가 등장할 가능성도 무시할 수는 없다. 그때를 대비해 충분히 생각하고 준비해야 한다.  /세계미래보고서 2025-2035 박영숙・제롬글렌 참조