[해외 DS] ‘고삐 풀린’ AI 기술, 심각한 위험 초래할 수 있어 ‘안전장치’ 마련해야

미국 국토안보수사국·공군·이민국 등 AI 적극 활용하고 있어
안전장치 없는 AI 기술, 어떤 부작용 몰고 올지 예측할 수 없어
최근 AI 기술 '안전장치' 마련하는 법안 발의

AI가 빠르게 성장하면서 기업뿐만 아니라 정부에서도 AI 기술을 적극 활용하고 있다. 정부는 국민에게 더 나은 공공 서비스를 제공하기 위해 AI 기술을 적극 도입했다. 그러나 국가 차원에서 제공하는 기술인만큼 AI 기술에 대한 제대로 된 기술 평가가 이루어져야 한다는 의견이 나온다. 현재 발의된 AI 법안은 ‘기술 조달’에만 초점을 맞추고 있으며 AI 기술에 대한 안전장치가 부족하다는 평가다.

AI 기술 ‘안전장치’ 필요성 대두되어

최근 미국에서 정부기관이 AI 기술을 구매하고 배포할 때 ‘안전장치’를 마련하는 법안이 발의됐다. 이 법안은 AI 기술 조달 전에 위험 평가를 의무화하며 정부에서 AI 기술 사용 지침을 반드시 설정한다는 내용이다. 또한 정부기관이 AI 기술 배포 전에 기술을 ‘직접’ 시험해 보며 파일럿 프로그램(정식으로 발표되기 전에 제작된 프로그램)을 만들도록 권장한다.

이 법안을 발의한 게리 피터스 상원의원과 톰 틸리스 상원의원은 AI 기술에 안전장치를 마련해 정부기관이 기술을 보다 안전하고 신뢰할 수 있게 사용해야 한다는 점을 강조했다.

더불어 상원 국토안보 및 정부 업무 위원회 위원장인 피터스는 “AI는 국민에게 더 나은 서비스를 제공할 힘을 가지고 있지만, 기술 배포 전에 적절한 위험 평가가 이루어지지 않으면 심각한 위험을 초래할 수 있다”며 AI 기술에 안전장치를 마련해야 한다고 주장했다. 또한 안전장치는 정부에서 책임감 있는 AI 기술 사용을 장려하며 국민은 안전한 AI 공공 서비스를 보장받을 수 있다.

AI 적극 활용하는 정부기관, 검증 안된 AI 기술 어떤 부작용 발생할지 몰라

이미 여러 정부기관에서 업무 개선을 위해 생성형 AI 기술을 채택하거나 시험 중인 것으로 알려졌다. 미국 정부는 의료, 교통, 환경 등 다양한 분야에서 국민에게 더 나은 공공 서비스를 제공하기 위해 AI를 활용하고 있다고 밝혔다. 미국 국토안보수사국은 펜타닐 관련 범죄 수사를 지원하기 위해 AI를 활용하고 있다. 미국 공군은 직원들이 생성형 AI를 적극 사용 권장하기 위해 ChatGPT와 유사한 챗봇을 자체적으로 구축했다. 이 밖에도 미국 이민국은 직원 교육을 강화하기 위해 생성형 AI를 활용하고 있으며 미국 연방재난관리청은 AI를 이용해 지방 정부의 위험을 완화하고자 노력하고 있다.

전문가들은 다양한 분야에서 AI가 널리 활용되고 있는 만큼 AI 기술에 예상치 못한 위험이 발생하면 엄청난 손실을 초래할 수 있다고 경고했다. AI 규율 안을 마련하기 위해 유럽연합(EU)과 미국을 중심으로 관련 법과 규정이 쏟아져 나오고 있다.

지난 4월 백악관은 정부기관이 AI 기술을 사용할 때 준수해야 할 권리와 안전 보호 등의 기준을 발표했다. 그러나 이 법안은 AI ‘기술 조달’에만 초점을 맞추고 있다는 평가가 지배적이다. 기관이 사용하려는 새로운 AI 기술의 잠재적 위험 수준을 평가하여 공공의 권리와 안전을 우선시하도록 요구한다. 그러나 이 법안은 EU의 AI 법과 크게 다르지 않다는 평가다.

AI 기술 도입 전에 적절한 ‘기술 평가’ 도입되어야

그러나 새롭게 발의된 법안에서는 AI 기술 도입에 대한 정부 계약에서 데이터 소유권, 사생활 등에 대한 안전 및 보안 조항을 요구하는 내용이 포함되어 있다. 정부기관은 AI 기술을 지속적으로 평가하기 위해 최고 AI 책임자를 임명하여 기술 조달 전·중·후에 발생할 수 있는 위험을 감시해야 하는 내용도 포함되어 있다. 또한 정부기관에서 사용 중인 기술을 공개함으로써 AI 사용에 대한 투명성을 확보해야 할 의무를 지게 했다.

이 법안을 발의한 틸리스는 공공 및 민간 부문에서 AI의 역할이 커짐에 따라 정부기관이 안전하고 효과적으로 AI 기술을 조달하고 구현하기 위해 ‘체계’를 갖추는 것이 중요하다고 언급했다. 또한 이 법안은 연방 기관에 명확한 가이드라인을 제공하여 AI의 발전을 성공적으로 이끌 수 있는 도구가 될 것이라고 주장했다.

이 법안은 전기전자공학자협회, AI 조달 연구소 등 여러 단체에서 지지를 받고 있다. AI 조달 연구소의 공동 설립자인 지젤 워터스와 캐리 밀러는 “혁신이 국민의 희생으로 이어지지 않도록 조심해야 한다”며 AI 기술에 대한 맹목적인 믿음에 주의를 줬다. 기술 조달이 추구하는 ‘가격, 경쟁, 혁신’이라는 가치는 AI 위험을 관리하는 데 필요한 ‘투명성, 전문성, 감독’을 다루지 못하는 점을 덧붙였다. 또한 이 법안은 정부의 골칫거리인 ‘AI 기술 감독’을 해결하는 데 도움이 될 것이라고 주장했다. 이미 캘리포니아에서 유사한 규정을 시행하고 있으며 정부기관은 새로운 AI 시스템을 도입하기 전에 제대로 된 감사 및 위험 평가를 수행해야 한다.

AI 붐으로 기술 개발에만 몰두했다면 이제는 AI가 몰고 올 부작용에 대해서도 신경써야 할 때다. 정부기관은 기술 도입 전에 꼼꼼한 검사를 통해 국민에게 ‘안전한’ AI 기술을 도입해야 한다.