[해외 DS] 청소년들 사이에서 점차 증가하는 딥페이크 범죄

인공지능이 발전함에 따라 딥페이크 범죄도 증가하고 있어
학교와 가정에서 자녀에게 딥페이크 범죄의 ‘심각성’ 교육해야
딥페이크 범죄를 두고 어린 시절의 ‘장난’으로 치부할 수 있는 수준 아니야

[해외DS]는 해외 유수의 데이터 사이언스 전문지들에서 전하는 업계 전문가들의 의견을 담았습니다. 글로벌AI협회(GIAI)에서 번역본에 대해 콘텐츠 제휴가 진행 중입니다.


딥페이크 유포
사진=Scientific American

올해 2월 캘리포니아의 한 중학교에서 학생들이 딥페이크 나체 사진을 공유하여 16명의 동급생에게 피해를 입힌 사건이 발생했다. 또한 뉴저지의 한 고등학교에서는 여러 남학생이 30명 이상의 여학생을 딥페이크 표적으로 삼은 사건이 있었다.

발전하는 인공지능, 증가하는 딥페이크 범죄

캘리포니아와 뉴저지에서 발생한 딥페이크 범죄는 청소년과 인공지능이 결합하여 발생한 사건이다. 전문가들은 딥페이크 범죄가 증가하는 이유로 2가지를 꼽았다. 청소년들이 딥페이크 범죄에 대한 심각성을 인지하지 못하는 점과 인공지능의 발전으로 딥페이크 사진을 쉽게 만들 수 있게 된 점이다.

부모와 학교 관계자는 청소년이 어린이의 나체 사진을 찍거나 공유하는 것이 위법이라는 사실을 알고 있지만, 어린이가 실제로 옷을 입은 사진을 가짜 포르노 이미지로 만들어 공유하는 것이 범죄라는 사실을 모르는 경우가 많다. 그러나 연방법에 따라 실제 나체 사진뿐만 아니라 조작된 나체 사진을 유포하는 경우에도 처벌을 받는다. 미국 연방수사국(FBI)는 최근 생성형 인공지능으로 만든 나체 사진도 처벌을 받을 수 있다고 경고했다.

인공지능을 이용한 ‘옷 벗기기’ 앱이 등장해 청소년들은 소셜 미디어에서 가져온 사진으로 손쉽게 나체 사진을 만들 수 있게 되었다. 옷 벗기기 앱이 출시되기 전에는 포토샵을 이용해 포르노 배우의 신체에 어린이 얼굴을 붙여 넣는 방식으로 범죄가 이루어졌다. 따라서 이 범죄는 포토샵에 대한 어느 정도 숙련도가 필요했다. 그러나 옷 벗기기 앱이 등장한 이후로 간단하면서도 빠르게 딥페이크 사진을 만들 수 있게 되어 범죄의 난이도가 내려간 것이다.

청소년이 딥페이크 범죄에 연루되지 않기 위해서는 사전 ‘예방’ 중요해

최근 딥페이크 범죄가 증가하면서 어떻게 딥페이크 범죄에 대응할 것인지 논의가 이루어지고 있다. 그러나 딥페이크 범죄는 대응보다 ‘예방’이 더 중요하다. 지난해 마이애미에서는 13살과 14살 소년이 딥페이크 범죄로 체포되었다. 이 사건은 딥페이크로 인해 청소년이 체포된 최초의 사례이자 마지막이 되었으면 하는 사건이다.

아동을 대상으로 한 형사 기소는 매우 비생산적이다. 도덕적 추론 능력이 발달하지 않아 자신이 한 행동이 왜 잘못되었는지 이해하지 못하는 청소년에게 범죄를 정당화하기 어렵다. 또한 딥페이크 범죄에 대한 파급력을 전혀 예상하지 못하는 경우가 많다. 이들이 장난이라고 생각했던 행동이 상당한 파급력을 일으킨다.

학교와 가정에서 제대로 된 성교육 이루어져야

학교에서는 딥페이크 범죄에 대한 심각성을 학생들에게 교육해야 하며 부모는 자식과 진솔한 대화를 통해 딥페이크 범죄의 무게를 인지시켜야 한다. 청소년기에 성에 호기심을 갖거나 또래에게 호감을 갖는 것은 잘못된 일이 아니다. 그러나 부모와 자녀는 성에 대해 이야기하는 것을 불편해하고 학교에서는 성을 주제로 한 교육에 힘을 쏟지 않는다. 부모는 자녀에게 자신의 몸은 자신이 통제할 권리를 가진다는 사실을 알려주어야 한다. 따라서 타인도 자신의 신체에 대한 권리를 가지고 있으며 그 권리를 존중해야 한다는 점을 강조해야 한다.

자녀가 딥페이크 표적이 되었다면, 이 사실을 부모님이나 학교에 자신 있게 말할 수 있는 자신감이 필요하다. 또한 부모는 자녀가 겪은 피해를 학교에 당당히 제기하여 자녀 자신의 잘못이 아니며 부끄러워할 필요가 없다는 사실을 알려주어야 한다. 만에 하나 온라인에 자녀의 나체 사진이 유포된 경우, 테이크잇다운(Take it Down)이라는 서비스를 통해 해당 나체 사진을 삭제할 수 있다. 이 프로그램을 이용해 자녀를 위기에서 구해낼 수 있다.

피해자에게 평생 트라우마를 갖게 할 딥페이크 범죄

가해자는 청소년기에 딥페이크 범죄를 어린 시절의 ‘장난’이었다고 주장하기도 한다. 하지만 피해자의 눈으로 본 딥페이크 범죄는 절대 장난이 아니며 평생 남 눈치를 보게 될 ‘트라우마’가 된다.

학교와 가정에서 딥페이크에 대한 심각성을 교육한다면, 청소년 딥페이크 범죄를 예방하는 데 도움이 될 것이다. 그러나 성 문제는 오래된 문제이며 이에 대한 새로운 범죄는 계속 등장할 것이다. 딥페이크를 용이하게 하는 앱을 모두 없애는 것은 비현실적이지만, 일부 악의적 행위자를 차단하는 것은 가능하다. 범죄를 예방하기 가장 효과적인 방법은 청소년이 아니라 자신이 개발한 소프트웨어가 딥페이크 범죄에 사용된다는 사실을 알고 있는 ‘악의적인 개발자’를 표적으로 삼는 것이다.

청소년은 검색 엔진, 소셜 미디어의 광고를 통해 옷 벗기기 앱을 접한다. 애플, 인스타그램, X와 같은 대기업의 잘못된 홍보로 청소년은 범죄를 접하게 될 수도 있다. 테크기업은 기술 개발에만 급급하지말고 자신의 기술이 악용될 여지가 없는지 고려한 후 기술을 출시해야 한다. 청소년 범죄가 일어나지 않도록 기업에서도 적극 참여하고 나서야 한다.

*편집진: 영어 원문의 출처는 사이언티픽 아메리칸(Scientific American)으로 본지의 편집 방향과 일치하지 않을 수도 있습니다.