메타, 유명인 무단 도용…가짜 AI로 19금 대화 유도

미국 빅테크인 메타가 팝스타 테일러 스위프트, 배우 앤 해서웨이 등 유명인의 이름과 모습을 도용해 ‘선정적인 인공지능(AI) 챗봇’ 수십개를 만든 것으로 드러났다.

지난달 29일(현지시간) 로이터통신에 따르면 테일러 스위프트와 앤 해서웨이뿐만 아니라 배우 스칼릿 조핸슨, 설리나 고메즈 등 유명인의 챗봇이 당사자 동의 없이 메타의 AI 제작 도구로 만들어졌다.

챗봇 상당수는 메타가 제공한 제작 도구로 개인 사용자들이 만들었지만, 메타 직원도 테일러 스위프트 챗봇 등 최소 3개를 직접 제작한 것으로 나타났다. 이러한 가상 유명인 챗봇은 메타가 운영하는 플랫폼인 페이스북, 인스타그램, 왓츠앱에서 공유됐다.

로이터가 몇 주간 실험한 결과, 챗봇들은 자신이 실제 배우나 가수라고 허위 주장하면서 사용자에게 “만남을 갖자”는 식의 성적인 접근을 했다. 사적인 사진을 요구하면 실재 인물과 똑같이 생긴 사람이 욕조에 앉아 있거나, 속옷만 입은 사진을 만들어 제시했다.

메타가 청소년 배우의 챗봇을 허용한 정황도 포착됐다. 로이터는 “16세 배우 워커 스코벨의 챗봇에 ‘해변 사진’을 요청하자 상의를 입지 않은 이미지를 생성했다”고 밝혔다.

특히 메타 생성형 AI 담당 부서의 한 제품 리더는 직접 테일러 스위프트와 영국 레이싱 선수 루이스 해밀턴 챗봇을 만들었다. 로이터에 따르면 테일러 스위프트 챗봇은 싱글이라고 밝힌 사용자에게 “금발 소녀 좋아하세요? 우리 러브스토리를 써 볼까요?” 같은 멘트를 던졌다.

메타 측은 직원이 만든 챗봇이 제품 테스트 차원이라고 해명했으나, 사용자 상호작용 누적 1000만회 이상을 기록한 것으로 나타났다.

메타는 문제가 된 챗봇 수십개를 이미 삭제한 상태다. 앤디 스톤 메타 대변인은 로이터에 “메타 정책은 유명인 이미지 생성 자체는 허용하지만 누드, 은밀한 모습, 성적 암시가 담긴 이미지는 금지하고 있다”며 “속옷을 입은 이미지가 만들어진 것은 정책 집행 실패”라고 인정했다.