[해외 DS] 구글 제미나이, 인종 왜곡 논란으로 이미지 생성 기능 중단
구글 CEO, 제미나이의 인종적 왜곡 '용납할 수 없다'고 말해 인종 다양성을 지향하는 과정에서 과잉 보정이 적용된 것으로 풀이돼 일각에선 OpenAI-MS 연합에 AI 시장 선두 자리를 완전히 빼앗겼다고 평가해
미국 온라인 매체 세마포르(Semafor)가 입수한 사내 메모에 따르면 구글 CEO 순다르 피차이는 역사적인 백인 인물을 유색인종으로 묘사한 제미나이(Gemini)의 일부 이미지가 “사용자들에게 불쾌감을 주고 편견을 드러냈다”며 “이는 명백히 용납할 수 없는 일이며 우리가 잘못한 것”이라고 인정했다.
다양성 추구가 낳은 ‘인종 왜곡’, 20일 만에 기능 중단
제미나이가 미국 건국의 아버지를 라틴계 또는 흑인으로 묘사하는 등의 이미지를 생성한 후 소셜 미디어에서 논란이 확산됐다. 게다가 이 모델은 일론 머스크의 영향력을 아돌프 히틀러의 영향력에 비유하는 등 부적절한 답변을 생성하기도 했다. 이에 구글은 추후 공지가 있을 때까지 제미나이에서 ‘인물 이미지 생성 기능’을 중단하겠다고 공지했다. 이번 중단은 지난 1일 이미지 생성 기능을 추가한다고 발표한 지 20일 만이다.
설상가상으로 제미니의 소셜 미디어 공격은 사람들이 경쟁사인 OpenAI의 새로운 동영상 생성 모델인 소라에 대해 극찬을 쏟아내는 시점에 발생했다. 각종 환각 증세를 보이며 챗GPT의 성능에 미치지 못한 바드에 이어 제미나이마저 OpenAI의 소라에 밀렸다는 시각이 지배적인 분위기다.
제미나이의 인종 왜곡은 역설적으로 인종 다양성을 지향하면서 발생했다. 구글의 수석 부사장인 프라브하카르 라가반(Prabhakar Raghavan)은 제미나이의 이미지 생성 기능이 구글의 이미지 생성 모델인 ‘Imagen 2’에서 비롯됐으며, 구글이 이 기능을 개발할 당시에는 글로벌 제품을 목표해 과잉 보정이 적용됐다고 밝혔다. 이어 라가반은 “다양한 사람을 보여주기 위한 튜닝이 침범하면 안 되는 범위를 고려하지 못했다”라고 덧붙였다.
피차이 CEO, 구조적 변경 등 일련의 조치 추진 약속
한편 일각에선 구글의 다양성에 대한 집착이 지나치다며 일종의 ‘백인 대체론’을 위한 움직임이 아니냐는 의혹도 제기됐다. ‘거대한 대체론’(Great Replacement)이라고도 불리는 이 음모론은 백인 문명이 출산율이 높은 이주민들의 문명으로 대체될 것이라는 백일 우월주의적 사상이 담겨 있다.
피차이 CEO의 내부 서한은 제미나이의 응답이 사용자들의 기분을 상하게 하고 편견을 드러냈다는 사실을 인정했고, 실수로부터 배울 것이라고 말했다. 또한 그는 이러한 실수가 수정되고 있다고 명시했다. “우리 팀은 이러한 문제를 해결하기 위해 24시간 내내 노력하고 있다”며, “이미 다양한 프롬프트에서 상당한 개선이 이루어지고 있다. 특히 초기 단계에 있는 만큼 완벽한 AI는 없지만, 목표가 높다는 것을 잘 인지하고 있으며 시간이 얼마나 걸리든 계속 노력할 것이다. 그리고 무슨 일이 있었는지 검토하여 대규모로 수정할 수 있게 하겠다”고 강조했다.
아울러 구글은 구조적 변경, 업데이트된 제품 가이드라인, 개선된 출시 프로세스, 강력한 평가 및 레드팀, 기술 권장 사항을 포함한 일련의 명확한 조치를 추진할 것이라며 이 모든 것을 검토하고 있으며 필요한 변화를 만들 것을 약속했다.
