VC 뭉칫돈 쓸어모으는 딥페이크 기술, 선거철 ‘가짜 뉴스’ 주의보

인공지능(AI)을 활용해 인물 사진이나 영상, 오디오를 합성하는 ‘딥페이크’ 기술이 빠르게 발전하는 가운데, 최근 글로벌 벤처캐피탈(VC)들이 관련 기업에 대규모 투자를 단행하고 있는 것으로 나타났다. 글로벌 리서치 회사 피치북에 따르면, 글로벌 VC가 딥페이크 관련 기업에 투자한 자금은 2017년 100만 달러(약 13억원)에서 지난해 1억8,770만 달러(약 2,500억원)로 약 187배 급증했다. 올해까지 투자된 자금만 5,000만 달러(약 666억원)에 달한다.

한편 관련 기술이 발전함에 따라 시장의 우려도 점차 커지는 추세다. 음란물 등에 주로 활용되던 딥페이크 기술이 가짜 뉴스 생성, 여론 조작 등에 활용될 경우 사회에 혼란을 야기할 수 있다는 것이다. 이 같은 우려에도 불구, 콘텐츠 제작 비용을 절감할 수 있다는 압도적인 장점에 주목한 기업들은 기술적인 ‘도전’을 멈추지 않고 있다.

대규모 투자 유치한 글로벌 딥페이크 기업

지난 5년간 글로벌 VC로부터 가장 많은 투자를 받은 딥페이크 관련 기업은 미국 AI 비디오 생성 스타트업 ‘런웨이'(Runway)였다. 런웨이는 최근 최소 1억 달러(약 1,330억원) 규모의 투자를 유치하는 데 성공했으며, 15억 달러(약 1조9,960억원)에 달하는 기업가치를 인정받은 것으로 알려졌다. 런웨이는 AI를 활용해 이미지 및 동영상을 제작하는 기술을 개발하는 스타트업으로, 지난 3월 문장 입력만으로 관련 동영상을 생성하는 자체 기술 ‘gen-2’를 선보인 바 있다.

녹화된 비디오 및 오디오를 활용한 가상 아바타 생성 기술을 개발하는 영국의 신세시아(Synthesia)는 5,000만 달러 규모의 투자를 유치하는 데 성공했다. 딥페이크 영상의 어색한 입 움직임을 조정하는 기술을 보유한 딥더브(Deepdub), 미국 유명 애니메이션 ‘사우스 파크’ 제작자인 트레이 파커와 매트 스톤이 설립한 딥페이크 비디오 스타트업 딥 부두(Deep Voodooo)도 각각 2,000만 달러의 자금을 조달했다.

한편 딥페이크 기술이 고도화하고 관련 투자가 활발해지자, 딥페이크 기술의 부작용에 대한 우려의 목소리도 덩달아 커지고 있다. 딥페이크 기술이 가짜 콘텐츠 및 허위 정보를 생산하는 데 활용될 경우 사회적인 혼란이 발생할 수 있다는 것이다. 실제 최근 각국 학계에서는 딥페이크를 통해 생산되는 소위 ‘가짜 뉴스’가 정치적으로 활용될 위험이 있다는 경고가 이어지고 있다.

기술 발전이 불러온 위협

현재 딥페이크 기술은 현실과 구별하기 어려운 수준까지 발전했다. 영국 랭카스터대와 미국 버클리캘리포니아대(UC버클리) 연구진의 연구에 따르면, 대다수의 사람이 딥페이크 소프트웨어로 합성한 얼굴과 실제 얼굴을 명확하게 구별하지 못하는 것으로 나타났다. 연구진은 합성 얼굴과 실제 얼굴 사진 400장으로 실험용 데이터 세트를 만들고, 315명의 실험 참가자에게 데이터 세트에서 고른 128장의 사진을 한 장씩 보여주면서 ‘진짜인지 가짜인지’를 물었다. 그 결과 참가자들의 적중률은 48.2%에 그쳤다.

연구진이 다른 참가자 219명을 대상으로 컴퓨터 합성 얼굴을 구별하는 법을 가르쳐주고 연습을 시킨 뒤 제1 실험 그룹과 똑같은 문제를 내자, 해당 그룹의 적중률은 59%로 다소 높게 나타났다. 하지만 연습을 많이 한다고 해서 적중률이 더 높아지지는 않았다. 연구진은 해당 실험 결과에 대해 “이제 합성 엔진이 불쾌한 골짜기(Uncanny valley)를 지나쳐 실제 얼굴보다 더 그럴듯한 얼굴을 만들 수 있음을 가리킨다”고 분석했다.

이처럼 ‘현실과 가까운’ 가짜를 만들 수 있는 기술은 사회적 문제를 야기할 가능성이 크다. ‘무엇이 가짜이고 무엇이 진짜인지’ 판별할 수 없게 될 경우 대중의 불신과 혼란이 가중될 수밖에 없기 때문이다. 실제 ‘딥페이크와 대재앙(Deep Fakes and the Infocalypse)’ 저자 니나 시크(Nina Schick)에 따르면 일부 전문가는 AI가 합성 제작한 영상이 5~7년 내 온라인 영상 콘텐츠의 90%를 차지할 것이라 전망했다.

선거철 ‘정치적 수단’으로 전락할 위험 커

업계에서는 올해 미국 대선, 1년도 채 남지 않은 우리나라의 총선 등에서 인공지능을 이용한 ‘가짜 뉴스’가 큰 혼란을 빚을 것이라는 우려가 제기된다. 특히 지금까지 주로 연예인을 이용한 음란물 제작에 활용되던 딥페이크 기술이 본격적인 사회·정치적 문제로 부각될 가능성이 크다는 전망이다.

실제 지난 4월 미국 공화당은 “조 바이든 미국 대통령이 재선할 경우 미국이 실업과 전쟁, 국제 갈등으로 우울한 사회가 된다”는 내용을 담은 딥페이크 영상을 공개하기도 했다. 공화당은 해당 연설 영상이 ‘바이든 대통령이 재선될 때 일어날 미래를 AI가 만든 것’이라고 설명했지만, 공당이 가짜 뉴스 양산에 앞장섰다는 비판을 피할 수는 없었다. 정보 확산이 빠른 디지털 사회에서 가짜 정보가 확산할 경우 의도와는 무관하게 ‘수습할 수 없는 결과’가 따라온다는 지적이다.

전문가들은 딥페이크 기술이 정치 선전 도구로 사용될 수 있다고 직접적으로 경고하고 있다. 딥페이크 기술 발전으로 가짜 콘텐츠를 손쉽게 생성할 수 있게 된 반면, 콘텐츠의 진위를 가리는 기술은 아직 초기 단계기 때문이다. 국민이 객관적인 사실과 가짜 정보를 분별할 수 없게 된다면 민주주의 체제 자체가 흔들릴 수 있다는 비관적인 전망도 제기된다.

이에 미국이나 영국 등은 국가 안보 차원에서 선제적인 딥페이크 악용 방지 입법과 검증 시스템 개발에 나서고 있다. 글로벌 리서치 회사 HSRC에 따르면 딥페이크 탐지를 위한 글로벌 시장은 2022년 38억6,000만 달러로 2026년까지 연평균 42%의 복합 성장률을 기록할 것으로 전망된다. 하지만 우리나라의 경우 대응은커녕 딥페이크 기술의 부작용을 관리할 전담 부서조차 불분명한 것이 현실이다.

그럼에도 몰리는 뭉칫돈, 위험보다는 ‘돈’

이 같은 우려에도 불구, 글로벌 VC의 자금은 탐지 기술이 아닌 ‘딥페이크 기술’ 자체에 쏠리고 있다. 업계에서는 결국 딥페이크 열풍의 근본적인 원인이 ‘비용 절감’에 있다고 분석했다. 실제로 최근 넷플릭스 오리지널 드라마 ‘더 글로리’의 주인공으로 출연한 배우 송혜교는 회당 2억원의 출연료를 받았다고 알려져 있다. 문화일보 기자 겸 유튜버 안진용은 배우 이정재가 드라마 ‘오징어 게임’ 후속작에 출연하면서 받을 회당 출연료가 10억원에 이를 것이라는 전망을 내놓기도 했다.

만약 발전한 딥페이크 기술을 활용해 가상 인플루언서를 생성하고, 실제 인물에게 지불해야 하는 인건비를 절약할 수 있다면 어떨까. 콘텐츠 제작사는 실제 배우 캐스팅 시 발생하는 비용 문제, 이미지 소모 문제 등에서 자유로워지게 된다. ‘억’ 소리 나는 출연료를 절감해 수익성을 확보할 수 있으며, 아낀 자금을 다른 분야에 투자해 다양한 콘텐츠 제작에 도전해 볼 수도 있다. 결국 시장 원리에 따라 미래의 돈을 위해 지금의 돈이 움직이고 있는 셈이다.

딥페이크 기술이 꾸준히 발전함에 따라 관련 콘텐츠 제작에 필요한 인력과 시간이 단축되고, 가상 인간의 제작 단가는 꾸준히 낮아지고 있다. 누구나 딥페이크에 접근할 수 있고, 기술을 활용할 수 있는 세상에 열린 것이다. 딥페이크 기술은 창작 분야에서 긍정적으로 활용될 수도 있고, 사회에 극심한 혼란을 야기할 수도 있는 ‘양날의 검’이다. 이미 각종 부작용이 예견된 만큼, 우리 정부와 산업계가 선제적으로 대응 방법을 탐색하고 혼란을 막기 위해 움직여야 할 것으로 보인다.