입법 속도내는 AI 기본법, 메타도 포기하게 만든 EU식 포괄 규제

"규제 일변도 AI 법안에 업계 우려 확산
우버·에어비앤비 사태 재현될 수도
업계 "모든 규제 담기보다 유연하게 설계해야"

지난달 국회 ‘AI 기본법 공청회’에서 최민희 국회 과학기술정보방송통신위원회 위원장이 AI 기본법을 신속히 제정하겠다고 밝힌 뒤 법안 논의가 구체화되고 있다. 금지된 AI 기술의 규정 여부와 고위험 AI에 대한 규제 범위 등이 쟁점으로 거론되는 가운데, 업계에서는 규제 위주의 기본법이 제정될까 우려하는 모습이다.

규제 일색 ‘AI 기본법’

8일 국회 의안정보시스템에 따르면 22대 국회에서 발의된 AI 관련 법안은 총 11건(국민의힘 3건·더불어민주당 8건)이다. 그런데 이들 법안은 모두 안전성 확보 및 보안 규제 조항을 담고 있다. 대표적으로 권칠승 더불어민주당 의원이 대표 발의한 ‘AI 개발 및 이용 등에 관한 법률안’의 경우 AI 사업자에 대한 처벌 규정 법제화를 못 박고 있다. 법안은 고위험 AI 개발·금지 관련 의무 위반 시 ‘5년 이하의 징역 또는 5,000만원 이하의 벌금에 처한다’로 처벌 수위를 규정했다.

같은 당 김우영·이훈기 의원이 각각 대표 발의한 법안은 AI 사업자에 대한 ‘사전 검열’ 조항을 담고 있다. AI 사업자가 고위험 영역에 해당하는지를 스스로 검토하고, 제품·서비스 제공 전 국가기관의 허가를 받도록 하는 내용이 골자다. AI 산업 발전·진흥과 관련된 조항은 ‘컨트롤타워 설치’, ‘인재 양성’ 등에 집중됐다. 반면 법인세 감면 등 실제 산업 육성에 도움이 될 파격적 세제 혜택이나 보조금 지원과 같은 내용을 담은 법안은 전무한 것으로 나타났다.

부작용 잡으려다 산업 발전 저해할 수도

이에 총선에서 압승을 거둔 야권이 시민단체에 전리품 차원의 보상 입법을 서두르고 있다는 비판이 나온다. 앞서 참여연대 등은 지난 총선 직전 AI에 대한 ‘우선 허용·사후 규제’를 비판하며 규제 강화를 촉구한 바 있다. 국회가 한국적 상황을 고려하지 않은 채 마구잡이식으로 EU(유럽연합)의 세계 첫 AI 법을 베끼고 있다는 지적도 적지 않다.

EU의 AI 법안은 △인간의 잠재의식이나 특정 집단의 취약점을 악용해 피해를 유발할 수 있는 시스템 △사회적 행동이나 개인 특성에 기반해 생성·수집된 정보를 통해 개인 또는 집단의 ‘사회적 점수(Social score)’를 산출해 불리한 대우를 유발할 수 있는 시스템 △프로파일링이나 성격·특성만으로 개인의 범죄 가능성을 예측·평가하는 시스템 △직장이나 교육기관에서 개인의 감정을 추론하기 위해 사용하는 시스템 △공공장소에서의 실시간 원격 생체 인식 시스템(단 납치나 인신매매, 성 착취 피해자 및 실종자 수색 등 특정 목적을 위해서는 예외적으로 허용) 등을 금지한다. 금지된 AI에 대한 규정을 어기면 전년도 세계 매출액의 7%에 해당하는 과징금을 부과한다.

22대 국회가 AI 산업에 대한 규제 일변도의 법안을 쏟아내고 있는 것에 대해 전문가들 사이에서도 “부작용이라는 빈대를 잡으려다가 AI 발전이 가로막혀 초가삼간을 태울 수 있다”는 우려의 목소리가 제기된다. 미국·중국 등 주요국이 정부 주도 아래 대대적인 지원책을 펼치는 등 AI 산업을 둘러싼 패권 경쟁이 심화하는 상황에서 자칫 우리 스스로 발목을 잡는 규제를 남발해 ‘제2의 에어비앤비·우버 사태’를 답습할 수 있다는 지적이다.

실제 공유숙박업 분야의 경우 규제가 산업 발전과 소비자 편익을 가로막는 대표적 사례로 꼽히는데, 현행 관광진흥법에 따르면 국내 공유숙박은 외국인만을 대상으로 영업을 허용해 현실과 동떨어져 있다는 비판이 팽배하다. 타다를 막으려고 개정한 여객자동차운수사업법도 국내에서 승차공유 서비스를 가로막았다. 아프리카에서도 달리는 우버를 한국에서는 볼 수 없는 이유다.

메타, EU에 항의 표시로 ‘자발적 AI 서약’ 거부

더욱이 EU의 AI법은 글로벌 테크업계에서도 성급하게 제정됐다는 비판에 직면한 상태다. 메타가 EU에서 추진 중인 AI 기업들의 자발적인 서약을 거부한 사례가 대표적이다. 메타는 2027년 EU의 AI 규제법 전면 시행 이전에 임시방편으로 계획된 자발적인 AI 안전 서약, 이른바 ‘AI 팩트 이니셔티브’에 참여하지 않는다고 선언했다. EU의 데이터 보호법으로 인해 AI 모델 학습에 사용자 데이터를 활용하지 못하게 된 것에 대한 항의 표시다.

메타는 “EU가 AI에 적용하는 규정이 디지털 시장법(DMA)과 디지털 서비스법(DSA), 데이터 보호법, 개인정보 보호법, 여기에 AI 법까지 추가됐다”며 “이들이 통일성이 없고 제각각이라 규정 준수가 어렵다”고 비난했다. 메타는 또 스포티파이 등 20개 기업과 EU를 비판하는 공식 성명에도 참여했다. 이와 함께 EU에서 메타 AI 출시를 연기하고 앞으로 등장할 ‘라마4’나 멀티모달 모델도 내놓지 않겠다고 선언한 상태다.

이에 업계는 실증된 위험을 중심으로만 규제해야 한다고 입을 모은다. 한 IT 업계 관계자는 “예컨대 AI를 채용에 활용하더라도 특정 인종이나 성별에 편향된 점수를 부여하지 않도록 규제해야 할 뿐 AI 인사 시스템 자체를 금지 대상으로 삼아서는 안 된다”며 “영화 터미네이터처럼 인간을 통제하는 상황에 대해 과도하게 우려할 필요는 없다. 글로벌 규범 논의와 발맞춰 현실적이고 유연한 규제 방안을 마련해야 한다”고 지적했다.