국제사회 “AI 잠재적 위험 함께 대비”, 블레츨리 선언 이면에서는 치열한 ‘기 싸움’

제1회 AI안전정상회의 ‘블레츨리 선언’ 발표
인간 중심적 발전·신뢰할 수 있는 AI 필요성에 공감대 형성
자국에 유리한 규제로 기술 패권 잡으려는 미국과 유럽

인공지능(AI)이 빠르게 진화하면서 그에 따른 패권 경쟁이 치열해지는 가운데 미국과 유럽연합(EU) 등 주요국이 AI의 잠재적 위험을 경고하고 각국의 협력을 촉구하는 데 뜻을 모았다. AI의 발전과 확산이 인류에게 위협이 돼선 안 된다는 국제사회의 공감대가 확산한 것으로 풀이되는 가운데 향후 AI 관련 규제에 변화를 불러올 수 있을지 이목이 쏠린다.

고도의 기초 모델 ‘프런티어 AI’에 대한 대응책 중점

1일(현지 시각) 영국 버킹엄셔주 블레츨리 파크에서 개막한 제1회 AI안전정상회의(AI Safety summit)에서 AI 기술 안전 및 규제에 관한 내용이 담긴 ‘블레츨리 선언’이 발표됐다. 한국과 미국, 중국 등 총 28개 참가국과 EU는 “AI는 인류의 복지, 평화, 번영을 향상시킬 잠재력이 있지만, 잠재적으로는 파국적 피해를 초래할 수 있어 문제 해결의 필요성과 시급성을 확인한다”고 밝혔다. 국제사회가 AI 발전으로 인한 피해를 우려하며 공식 협력에 나선 것은 블레츨리 선언이 처음이다.

이날 참가국들은 “AI로 인해 발생하는 위험은 본질적으로 국제적 성격을 띠는 경우가 대부분이므로 국제적 협력을 통해 해결할 수 있다”고 말하며 “인간 중심적이고 신뢰할 수 있으며 책임감 있는 AI를 보장하기 위해 포괄적인 방식으로 협력하는 데 뜻을 모았다”고 밝혔다. 회의에서는 비정상적으로 강하거나 인류에게 해로울 수 있는 AI를 개발하는 기업 및 연구소가 안전 테스트를 비롯한 적절한 조처를 통해 AI 안전을 보장해야 한다는 공감대가 형성된 것으로 전해졌다.

회의 직후 발표된 선언문에는 위험한 능력을 발휘하는 고도의 기초 모델을 의미하는 ‘프런티어 AI’의 실존적 위험에 대한 대응책으로 △AI 평가 지표 △안전 테스트용 도구 개발 △고성능 AI 위험 식별 및 이해도 제고 등과 관련한 국제협력 방침이 담겼다. 이번 회의를 주최한 영국의 리시 수낵 총리는 “이번 회의는 전 세계 기술 강국들이 AI 위험을 이해하는 것이 시급하다는 데 동의하며 후손들의 미래를 보장하기 위해 손을 맞잡은 결과”라며“새로운 AI 모델이 출시되기 전에 안전성을 보장하기 위해 함께 노력할 것”이라고 말했다.

이번 회의에 직접 참석하지 못한 윤석열 대통령은 2일 회의에서 화상으로 연설에 나섰다. 윤 대통령은 “챗GPT를 비롯한 생성형 AI의 등장이 우리 삶의 편익을 증진하고 산업 생산성을 높여준 건 사실이지만, 디지털 격차가 경제의 격차로 이어지는 등 사회 시스템을 위협할 수 있다”고 짚으며 “AI를 비롯한 기술의 발전은 오직 인간의 자유와 후생 확대에 그 의미가 있다”고 강조했다. 한국은 내년 5월 영국과 공동으로 AI 미니 정상회의 개최에 나설 예정이다.

“연구소 짓겠다”는 영국, “더 좋은 연구소 짓겠다”는 미국

이번 선언문은 국제사회 차원에서 AI 발전의 위험성을 경고했다는 점에서 큰 의미를 가지지만, 보이지 않는 기 싸움이 이어지며 그 의미를 퇴색시키고 있다는 지적이 나온다. 먼저 회의를 개최한 영국은 회의 장소를 버킹엄셔주 밀턴케인스에 있는 블레츨리 파크로 정해 눈길을 끌었다. 제2차 세계대전 당시 독일군의 암호를 해독한 곳인 블레츨리 파크는 현대 컴퓨터 기술의 발상지로 꼽히는 동시에 영국이 연합군의 승리에서 결정적인 역할을 했다는 상징적인 의미를 가지고 있다. 이와 함께 영국은 이번 회의에 공식적으로 중국을 초청하며 미국을 견제했다.

미국은 조 바이든 대통령이 이번 AI 정상회의 직전 AI 행정명령에 서명하며 맞불을 놨다. 이르면 내년 1월부터 시행되는 해당 행정명령은 AI와 양자컴퓨터 등 분야에서 미국 기업의 중국 투자를 금지하는 내용을 담고 있다. 미 정부의 이같은 움직임은 전 세계 AI를 중심으로 한 새로운 디지털 질서에서 주도권을 놓치지 않겠다는 강한 의지로 풀이된다.

미국과 영국은 AI 감시 및 규제 기관인 ‘AI 안전 연구소’ 설립을 두고도 신경전을 벌였다. 리시 수낵 영국 총리가 1일 정상회의의 시작과 함께 AI 안전 연구소 설립 포부를 밝히자, 지나 러몬도 미 상무장관도 동일한 연구소를 설립할 계획을 밝히며 자국의 우수성을 강조했다. 러몬도 장관은 “안전, 보안, 테스트 등 AI를 위한 국제표준을 개발해 이미 알려진 위험은 물론 향후 다가올 위험을 최전선에서 감지할 것”이라고 말했다.

후속 행사 초대 못 받은 중국이 ‘쿨’한 이유

주요국들의 팽팽한 신경전이 이어지는 가운데 중국은 첫날 회의 참석 후 곧바로 블레츨리 파크를 떠났다. 선언문 낭독 등 대표 행사를 제외한 후속 행사에는 초대받지 못했기 때문인데, 중국은 이와 관련해 크게 개의치 않는다는 입장을 보였다. 이를 두고 다수의 매체는 중국이 전 세계에서 최초로 AI 법안을 마련해 시행에 들어간 만큼 관련 사안에서는 주요국들보다 한발 앞서 있다는 여유를 드러낸 사례라고 평가했다. 실제로 중국은 2017년 ‘차세대 인공지능 개발 계획’을 밝힌 후 꾸준히 관련 데이터를 축적했고, 지난 8월 15일에는 신규 법안을 공표해 AI 기술에 대한 국민들의 신뢰를 높이기 위해 주력 중이다.

중국의 AI 법안은 서비스를 제공하는 기업들이 AI 모델 제작에 활용하는 데이터에 대한 규제를 비롯해 기술을 통해 생성된 결과물에 대한 규제까지 모두 포함하고 있다. 다만 오랜 데이터 축적과 엄격한 규제를 명시하고 있음에도 중국 내부에서는 당국이 기업 친화적인 행보를 보인다는 비판이 나오기도 했다. 당초 제시됐던 초안과 비교해 최종 법안에서는 기업 규제 관련 상당 부분이 삭제되거나 완화됐기 때문이다. 이와 함께 관련 규제를 공공 서비스에 적용되는 생성형 AI에만 적용한다는 점도 문제점으로 지적됐다.

하지만 규정 완화의 관점보다는 기술 발전에 적합한 법안으로의 선회라고 봐야 한다는 반론도 이어졌다. 일부 규정이 당초 제시했던 수준보다 약해지긴 했지만, 예비 법안은 어디까지나 조정 가능성을 염두에 둔 ‘초안’이라는 것이다. 나아가 종합적인 AI 법안으로 규제 영역이 확장된 만큼 불필요한 조항은 삭제하고, 지원이 필요한 부문에 대한 장려책을 함께 담아 산업 정책의 취지를 극대화했다는 점도 높이 평가받았다.

전 세계 각국이 자국에 유리한 방향으로 AI 규제를 유도해 국제사회에서의 입지와 미래 산업 패권을 굳히려는 움직임이 빨라지는 가운데 이성엽 고려대 기술경영전문대학원 교수는 “일반적으로 기업들은 스스로 규제에 대한 요구를 내놓기 힘든데, 최근에는 기술 수준이 높은 기업들까지 직접 나서 관련 규제 구축에 목소리를 내고 있다”며 “이는 일부 국가의 경우처럼 기업이 규제를 통해 다른 시장 참여자의 진입장벽을 높이려는 움직임으로 풀이할 수 있다”고 말했다.