세계 최초 AI 규제법 발효한 EU, 주요국 AI 장벽 수립 ‘신호탄’

EU 'AI 법' 본격 발효, 전면 시행은 2년 뒤부터
각 주요국, AI 규제 제정에 속속 힘 실어
여론 선동 경계하는 中, 美는 中 AI 기술 접근 견제

유럽연합(EU)이 세계 최초로 제정한 포괄적 인공지능(AI) 규제법이 본격 발효됐다. 전 세계 주요국들이 AI 관련 규제 제정에 속도를 내기 시작한 가운데, 시장에서는 EU가 본격적인 ‘AI 장벽’ 수립의 신호탄을 쏘아 올렸다는 평이 흘러나온다.

EU, 포괄적 인공지능 규제법 발효

1일(현지시간) EU의 행정부 격인 집행위원회는 “AI 법(AI Act)은 인간의 기본권을 보호하기 위한 안전장치를 포함해 EU에서 개발·사용되는 AI의 신뢰성을 보장하기 위해 설계됐다”며 법안 도입 취지를 설명했다. AI 법에 따르면 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 네 단계로 나눠 차등 규제가 이뤄진다. 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제가 적용된다.

의료, 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술은 고위험 등급으로 분류돼 사람이 AI 사용을 반드시 감독해야 하고 위험관리 시스템을 갖춰야 하고, 인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. AI 및 개인의 특성·행동과 관련된 데이터를 활용해 개별 점수를 매기는 관행인 사회적 점수 평가(social scoring·소셜 스코어링), 인터넷이나 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 금지 대상에 해당한다.

법 집행기관에서 실시간 원격 생체인식 시스템을 사용하는 것도 극히 예외적인 경우를 제외하고는 제한된다. 챗GPT를 비롯한 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에는 AI 학습 과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무도 부여된다.

이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용 AI에 대한 의무 규정은 12개월 뒤부터 적용된다. 전면 시행은 2년 뒤인 2026년 8월부터다. 집행위에 따르면 AI 기술과 관련해 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5% 규모, 의무 규정 위반 시 3% 규모의 과징금이 각각 부과된다. 금지된 AI 애플리케이션 사용으로 법을 위반하는 경우에는 과징금이 최대 7%까지 올라갈 수 있다.

中, AI 특유 위험성 주시

시장에서는 EU가 세계 각국 ‘AI 장벽’ 수립의 출발선에 섰다는 평가가 나온다. 실제 일부 주요국들은 EU의 뒤를 이어 AI에 대한 규제를 속속들이 강화하고 있다. 일례로 중국은 지난해 7월 13일 ‘생성형 인공지능 서비스 관리에 관한 임시조치'(生成式人工智能服务管理暂行办法)을 발표하고, 한 달 후인 8월 15일 바로 이행에 들어갔다. 한 IT업계 관계자는 “법률 제정 속도가 비교적 느린 중국이지만, 최근 디지털 분야에서만큼은 신속하게 법률 제정에 나서고 있다”며 “특히 지난해 임시조치가 이행된 AI의 경우, 특유의 여론 선동 위험성 등이 중국 정부의 눈에 띄었을 가능성이 크다”고 짚었다.

중국의 AI 관련 임시조치는 생성형 AI가 만들어 내는 콘텐츠가 중국의 사회주의 핵심 가치를 견지하도록 규정하고 있다. 또한 국가 권력, 사회주의 체제의 전복, 국가 안보와 이익을 위태롭게 하는 내용을 포함하지 못하도록 하고 있다. 이와 더불어 임시조치 제4조는 생성형 AI 서비스 제공 시 편향성 방지 조치, 지식재산권 보호, 기업 윤리 존중, 타인의 합법적 권리와 이익 존중 등의 규정을 지킬 것을 요구하고 있다. 이에 따라 여론 형성의 속성을 가지거나 사회 선동력을 가진 생성형 AI 서비스 제공 시에는 관련 규정(제17조)에 따라 ‘안전성 평가’와 ‘알고리즘 등록'(互联网信息服务算法推荐管理规定 제24조)을 실시해야 한다.

해당 임시조치 규정의 적용 범위는 중국 국내로 한정돼 있다. 규정 자체가 외국 서비스 제공자보다는 국내 서비스 제공자의 규제에 초점을 맞추고 있다는 의미다. 하지만 외국에서 중국에 제공된 서비스가 본 규정에 저촉될 경우, 중국 정부는 제20조에 따라 해당 규정에 의거해 관련 기관에 필요한 조치를 요구할 수 있다.

대중국 AI 규제 강화하는 美

미국의 경우 작년 10월 AI 개발 및 사용에서 지켜야 할 규정들을 담은 행정명령을 공개했다. 당국은 당시 행정명령 발표문에서 “미국은 적극적으로 AI 규제 의제를 제시하는 국가”라며 “앞으로 AI의 개발 및 사용을 관리하기 위한 국제적 프레임워크를 만들고 해외 동맹국 및 파트너와 협력할 것”이라고 밝혔다. 미국 AI 행정명령은 안보나 경제, 공중보건과 같은 안전에 위협을 가할 수 있는 AI의 경우 안전 검사 결과를 정부에 제출하도록 하는 등의 내용을 담고 있으며, EU와 같이 포괄적인 규제는 아니다. 다만 일부 전문가들은 미국이 최근에는 행정명령에 그치지 않고 입법적인 움직임도 보이고 있다는 분석을 내놓고 있다.

최근에는 미국 정부가 대중국 ‘AI 장벽’을 세우고 있다는 소식이 전해지기도 했다. 지난 5월 로이터가 관련 사안에 정통한 소식통을 인용해 보도한 바에 따르면 미국 상무부는 미국의 AI 기술에 대한 중국의 접근을 막기 위해 AI 모델의 소프트웨어·훈련된 데이터를 비공개 소스화하거나 대중 수출을 제한하는 등의 새로운 규제를 추진 중이다. 소식통은 해당 조치가 중국의 군사 목적을 위한 첨단 기술 개발을 지연시키기 위한 노력의 일환이라고 밝혔다.

미국 정부는 미국의 적성국들이 방대한 양의 텍스트와 이미지를 마이닝하는 AI 모델을 사용해 파괴적인 사이버 공격을 수행하거나 강력한 생물학적 무기를 만들 가능성이 있다고 보고 있다. 미국 국토안보부는 최근 국토 위협 평가에서 사이버 공격자들이 “AI를 사용해 더 크고, 더 빠르고, 효율적인 사이버 공격을 가능하게 하는 도구를 개발할 가능성이 높다”고 지적했다. 미국 국가정보국(ODNI)의 브라이언 홈스도 중국의 발전을 특별한 관심사로 거론하며 “(AI의) 사용과 착취의 폭발적 가능성을 따라잡기 어렵다”고 경계심을 드러냈다.