유럽연합(EU), 세계 최초로 AI법을 만들다.

EU, 세계 최초의 AI법 제정

 

최근 유럽 의회가 AI법을 최종 승인했다. 위험성이 높은 AI 기술을 규제하는 법안인데, 세계 최초로 AI를 규제하는 법을 만든 것이다. 이에 법안 제정을 환영하는 반응과 혁신 저해를 우려하는 반응이 일고 있다.

 

 

지난 3월 13일(현지 시각), 인공지능(AI) 규제 법안인 AI법이 유럽의회 본회의를 통과됐다. 유럽연합(EU)이 만든 이 법은 구속력을 가진 최초의 AI 규제법이다. 전 세계 주요 선거를 앞두고 AI를 활용한 딥페이크가 확산하고, AI가 대량살상무기로 악용될 가능성이 제기되는 등 우려가 커지는 가운데, 다른 나라의 AI 관련 입법에 영향을 미칠 수 있어 주목받고 있다.

 

 

 

 

AI법, 주요 내용은 무엇일까?

 

EU의 AI법은 AI 개발과 활용을 폭넓게 규제한다. 법 위반 시 최대 3,500만 유로(약 505억 원) 또는 전 세계 매출의 최대 7%에 달하는 벌금이 부과된다. 회원국별 의회 승인을 거쳐 공식 제정이 되면 올 연말부터 회원국 별로 단계적으로 시행돼 2026년 이후 전면 도입된다.

 

 

법안의 핵심은 위험성에 따라 AI 활용 분야를 4개 단계로 나누고 차등 규제하는 것이다. 건강, 안전, 기본권, 환경, 민주주의 및 법치주의 관련 분야가 고위험 분야이다. 구체적으로 살펴보면 △물·전기 등 핵심 인프라 △의료·고용·금융 등 핵심 서비스 △교육 및 직업 훈련 △선거 및 특정 사법 체계 △이주 및 국가의 주요 시스템 등이다. 이 분야에서 사용되는 AI는 인간의 감시, 감독과 위험관리시스템 구축이 필수이다.

 

 

아예 원칙적으로 금지하는 분야도 있다. AI를 활용해 인간의 생체 정보를 실시간으로 수집하거나 식별하는 건 원칙적으로 금지한다. 성범죄나 테러 같은 강력 범죄자를 추적하는 경우에만 제한적으로 활용할 수 있다. 이때에도 법원의 사전 허가가 필요하다. 인종, 종교, 정치적 성향, 성적 지향과 같은 개인의 특성이나 행동을 기준으로 점수 및 등급을 매기는 AI ‘소셜 스코어링’도 금지된다.

 

 

 

최근 논란을 불러일으키는 딥페이크 관련 규제도 포함됐다. 딥페이크 제작물에는 AI로 만들었다는 사실을 명시해야 한다. 유명 연예인, 정치인 가릴 것 없이 딥페이크 피해를 겪는 와중에 선거에 영향을 주는 사례까지 등장하면서 이를 원천 차단하려는 조치다.

 

 

사실 이 AI법은 지난 2021년 4월에 초안을 발의했었다. 그 배경엔 인간이 AI 개발과 활용의 중심이 돼야 한다는 인식이 있었는데, 하지만 규제로 인해 EU내 기업들이 자칫 중국이나 미국 기업과의 경쟁에서 밀릴 수 있다는 비판에 법안 통과가 지연됐었다. 자국 내 AI 경쟁력을 키우려는 프랑스, 독일 등 일부 회원국이 반대 의사를 표시했었다.

 

 

그러나 AI의 발전과 활용 속도가 빨라지면서, 유해한 AI 시스템도 급속도로 확산한다는 위기감이 커졌다. 이에 작년 12월 유럽의회는 37시간의 장시간 회의 끝에 AI법 합의에 도달했다. 특히 챗GPT 같은 생성형 AI 모델이 등장하면서 초기 버전에는 없던 내용이 추가되기도 했다.

 

 

서둘러 마련한 최종안에는 범용 AI(AGI) 개발 기업에 투명성 의무를 부여하는 내용이 새로 담겼다. 고도의 AI를 개발하는 기업은 EU의 저작권법을 반드시 지켜야 하고, 학습 및 훈련 과정에서 사용한 콘텐츠나 데이터를 공개해야 한다는 것이다. 사이버 공격이나 유해한 선입견 전파 같은 사고 발생을 막는 조치도 마련해야 한다. 다만, AI를 학습시키는 방법과 학습 데이터 등 기업의 기밀이 노출될 우려가 있어 유럽 시장에 진출하려는 빅테크의 고민이 커질 것으로 보인다.

 

❓ 범용인공지능(AGI·Artificial General Intelligence)

인간 또는 인간 이상의 지능을 갖춘 AI를 의미한다. 인간과 같은 인지능력을 바탕으로 스스로 학습할 수 있다는 특징이 있다. 사전에 입력된 정보나 변수 내에서만 작동하는 것을 넘어 자율적인 학습 능력을 통해 제작 당시에는 학습받지 못했던 작업도 수행할 수 있다.

 

 

 

EU의 AI법, 어떻게 바라봐야 할까?

 

법안 통과 이후 EU 내부 시장 집행위원은 유럽이 “AI 글로벌 표준을 제시하는 신뢰할 수 있는 국가"라는 내용의 성명을 발표했다. AI 규제의 필요성을 외치는 다른 나라에서도 EU의 AI법을 기반으로 AI 규제를 마련할 수 있기 때문이다. 전문가들은 AI법이 국제적인 이정표 역할을 할 것이라 내다보았다. 쉽게 말해서 AI 관련 규제 법안의 세계적인 표준화를 EU가 선점하겠다는 예기다.

 

 

현재 우리나라에서도 관련 법안이 논의 중이다. 아직 우리나라엔 특정 AI 기능을 금지하거나 벌금을 부과하는 내용의 조항이 없다. 고위험 AI를 규정하고 이에 대한 사전 고지가 이뤄지도록 하는 조항만 있을 뿐이다.

 

 

반면, 이와같은 AI법인 AI 기술 개발과 산업의 혁신이 가로막는다는 비판도 존재한다. 가파른 기술 발전 속도를 따라가지 못하고 실효성이 부족할 거라는 비판도 있다. 이럴 경우 AI를 둘러싼 논란은 더욱 복잡해질 수 있다. 일부에선 유럽이 AI 산업에서 뒤처지면서 규제에 집중하는 것이란 지적도 제기된다.