아마존 AI쇼핑 도우미 루퍼스(Rufus) 베타 테스트 종료, 알고리즘 추천 조작 논란은 계속

아마존, AI 쇼핑 도우미 '루퍼스' 미국 정식 출시
AI 기반 쇼핑 지원 기능 일환, 서비스 완성도는 아직 낮아
전문가들, 추천 알고리즘의 소비자 선택 왜곡 사례될까 예의 주시

아마존의 대화형 인공지능(AI) 기반 쇼핑 도우미 루퍼스(Rufus)가 베타 테스트를 종료하고 실제 고객 대상 서비스에 들어간다. 오픈AI의 ‘챗GPT’ 등장 1년 반 만에 ‘쇼핑 전문 챗봇’ 시대가 본격적으로 열리게 됐다는 평가가 나온다.

아마존, 대형언어모델 기반 쇼핑 도우미 서비스 출시

14일(현지시간) 아마존에 따르면 올해 초 베타 테스트를 진행했던 생성형 AI 기반 대화형 쇼핑 도우미 루퍼스를 미국에서 정식 출시했다. 최근 아마존은 사용자들의 피드백을 참고해 대화형 쇼핑 도우미 루퍼스 서비스를 확장했다고 자사 사이트를 통해 밝힌 바 있다. 아마존에 따르면 지난 베타 서비스가 시작된 2월 이후 루퍼스에 수천만 개의 질문이 던져졌고, 루퍼스는 제품의 세부 정보, 소비자 리뷰, 커뮤니티 Q&A에서 볼 수 있는 정보를 기반으로 답변을 제공한 것으로 알려졌다.

아마존의 설명에 따르면 소비자들은 제품 추천을 받고 싶을 때 루퍼스에 질문할 수 있다. 예를 들어 “플로리다 지역에서 사용할 수 있는 우산을 추천해 달라”고 하면 해당 지역의 날씨와 습도에 알맞은 제품을 추천받을 수 있다. TV를 구매하고 싶은 소비자가 옵션을 비교하고 싶을 경우 루퍼스에 “OLED와 QLED TV를 비교해 줘”라고 물을 수 있다. 이어 최신 트렌드 정보나 상품 배송 추적 등 아마존 서비스의 기본적인 상담, 쇼핑 검색 지원 등의 기능이 포함된 것으로 알려졌다.

이 외 ‘여름 파티를 위해 무엇이 필요한지’를 묻거나 ‘수플레를 만들려면 무엇이 필요한지’ 등 쇼핑과 직접 관련이 없는 질문도 가능하다. 다만 아마존 측은 답변의 정확도에 대해서는 만족할 만한 답변을 얻기 어려울 수도 있다고 주의를 요구했다. 실제로 지난 2월 베타 테스트 서비스를 내놓으면서 아마존은 “생성형 AI는 아직 초기 단계”라면서 “이 기술이 항상 정확한 답을 얻는 것은 아니다”라고 밝혔다. 아마존 측은 사용자 데이터가 축적되면서 “시간이 지남에 따라 더 유용한 루퍼스를 만들기 위해 AI 모델을 계속 개선할 것”으로 기대한다고 전했다.

아마존은 지난해부터 여러 사업 부문에서 생성형 AI 도구와 서비스를 잇달아 내놓고 있다. 그러나 시장에서는 아마존이 자체 제품을 더 홍보하는 데 루퍼스를 이용하는 것이 아니냐는 의구심이 제기된다. 또한 전문가들 사이에서는 루퍼스 베타 테스트 기간 중 알고리즘의 편향성이 여러 차례 관측된 만큼, 실제 서비스 중 특정 상품에 추천 빈도가 높거나 할 경우 법적 논란에 휘말릴 수 있다는 경고도 나온다.

상품 추천일까, 특정 상품 배제일까?

실제 아마존은 과거 ‘아마존의 선택(Amazon’s Choice)’ 지정과 관련해 큰 논란을 불러일으킨 바 있다. 지난 2019년 글로벌 디지털 이커머스 분석 전문업체 디지데이(Digiday) 보고서에 따르면 출시 초기에는 ‘아마존의 선택’ 마크가 제품 품질 표시로 여겨졌으나 추후 서비스 확장 과정에서 광고비를 추가로 지불한 기업들에만 마크를 부착해 준 것으로 알려져 논란이 됐다.

지난 2020년, 2021년에 진행된 프로피테로(Profitero)의 연구에 따르면 아마존 검색 결과에는 평균 9개의 스폰서 목록이 포함돼 있었다. 이는 경쟁사인 월마트의 2배, 타겟의 4배 수준이다. 이에 대해 아마존은 당시 “마크는 배송 속도, 가격 등의 내부 기준에 의해서 결정되는 것일 뿐, 추가 광고비와는 무관하다”고 반박했지만 논란은 쉽게 가라앉지 않았다.

이처럼 광고비를 납부한 콘텐츠들이 상대적으로 더 많은 제품 추천을 받을 수 있다는 과거 정황이 있었던 만큼, 이번 루퍼스 출시에 대한 소비자들의 반응은 긍정적이지 않다. 실제 베타 테스트 기간 내내 연구 전문 업체들이 아마존에 알고리즘 공개를 요구했으나 아마존 측은 영업 비밀이라며 공개를 거부했다. 아마존은 △제품 카탈로그 △리뷰 △웹 데이터 △질문 △답변 등에 기반한다고 알렸으나, 어떤 가중치를 기반으로 특정 상품이 선택되는지 알 수 없다는 점에서 아마존이 지정한 상품의 노출 기회가 더 많아질 수도 있다는 목소리가 높다.

쿠팡처럼 아마존도 연방거래위원회(FTC)의 독점금지 소송 우려?

이런 이유로 지난 2월 연방거래위원회(FTC)는 루퍼스 베타 서비스가 출시되자 아마존이 자사 제품에 유리하게 검색 결과를 편향하던 ‘페이 투 플레이(Pay-to-Play)’가 검색에 이어 루퍼스에도 적용됐을 수 있다는 우려를 나타내기도 했다. 이미 경제학계와 법조계에서는 추천 알고리즘이 소비자 선택을 제한할 수도 있다는 측면에서 알고리즘의 활동을 제한해야 한다는 주장이 오래전부터 제기되고 있고, 알고리즘으로 인한 소비자 효용 변화를 계산하는 것이 경제학계 산업조직론 분야의 큰 화두다.

실제로 쿠팡의 경우 유사한 사건으로 지난달 13일 공정거래위원회에 과징금 1,400억원을 부과받고 검찰에 고발 절차가 진행 중이다. 공정위는 당시 쿠팡이 주장하는 알고리즘 추천 기능이 실제로는 공정거래법상 위계에 의한 고객유인행위와 같다고 지적했다. 쿠팡 측에서는 소비자 반응을 토대로 상품 검색 순위인 ‘쿠팡 랭킹’을 운영 중이라고 밝혔으나, 공정위는 2019년 2월부터 2023년 7월까지 3가지 알고리즘을 이용해 중개 상품을 배제하고 6만여 개의 PB(자체 브랜드) 상품을 검색 순위 상위에 고정 노출했다고 봤다. 높은 검색 순위가 소비자 구매 결정에 상당한 영향을 미치는 만큼, 입점 업체의 판매량에 악영향을 미쳤을 것이라 판단한 것이다.

같은 맥락에서 데이터 과학업계 관계자들도 아마존의 루퍼스가 검색·조회 수가 높은 상품에 대한 추천 빈도를 높이는 것이 알려진 상태에서 의도적으로 상품 조회수, 판매 후기 등을 조작하는 서비스들이 나타날 수 있다고 지적한다. 상위 노출을 위해 인도, 중국 등지에 퍼져 있는 시스템 조작 서비스를 적극적으로 쓰는 것으로 알려진 주요 판매자들이 루퍼스 알고리즘을 역이용 할 수도 있다는 것이다.