AI로 사진속 여성 옷 벗기기
미국서 앱 이용 폭증에 우려 고조

‘딥페이크(deepfake)’ 기술로 사진 속 여성의 옷을 벗기는 애플리케이션(앱)과 웹사이트의 이용자가 폭증하고 있다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻한다.

10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.

그래피카에 따르면 소셜미디어(SNS)에서 AI 옷 벗기기 앱을 광고하는 링크 수가 2400% 늘었다.

딥페이크 앱과 웹사이트에 옷을 입고 있는 사람의 사진을 올리면 사람이 옷을 벗고 있는 것처럼 조작한 이미지가 뜬다. 사진 속 인물 대부분은 여성이다.

외신은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 지하철에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다.구글은 이 같은 문제에 대해 “성적으로 노골적인 콘텐츠는 허용하지 않고 있다”며 “문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다”고 밝혔다.

디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 “일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다”며 “고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다”고 말했다.

AI 기술 발달이 이 같은 딥페이크 앱이 범죄에 악용될 수 있다는 우려를 심화시키고 있다.

온라인상에서 당사자의 동의 없이 사진을 가져와 나체 사진 등 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.실제 한 인터넷 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는 내용으로 성희롱을 조장하고 있다.

우리나라에서도 최근 여성 지인의 얼굴을 음란물에 합성해 SNS에 퍼뜨린 20대 남성 A씨가 경찰에 붙잡혔다.

경찰에 따르면 A씨는 익명의 SNS 계정을 통해 피해자에게 ‘삭제를 원하면 자신의 노예가 되거나 직접 사진을 찍어 보내라’고 위협하기도 했다.

우리나라는 성폭력 처벌법 제14조의2는 허위 영상물을 편집, 합성, 가공할 경우 5년 이하, 5000만원 이하 형에 처하도록 규정하고 있고, 판매할 경우 7년 이하 징역형에 처할 수 있도록 하고 있다.

다만 딥페이크 관련 처벌법은 지난해 성폭력범죄의 처벌 등에 관한 특례법 일부개정법률로 신설되었으나 제작 또는 반포한 자에 한하여 처벌한다는 점에서 딥페이크 포르노를 소비한 ‘단순 이용자’에 대한 처벌 규정이 전무한 상황이다.

한편 2019년 네덜란드의 사이버 보안연구 회사인 딥트레이스가 발간한 보고서에 따르면 전 세계 딥페이크 영상의 96%가 포르노 영상이었다. 또 피해자의 25%는 한국 여성 연예인이었다는 사실이 드러났다.