사이버성폭력 적발 50% 증가 속
딥페이크 관련 범죄 3분의1 차지
범죄 인식 적은 10대 피의자 62%
“성범죄 처벌·윤리 교육 강화해야”

중학생 A(15)군은 텔레그램에서 단체 대화방을 개설한 뒤 ‘인공지능(AI) 자동화 프로그램’을 통해 제작한 연예인 허위·나체 사진을 공유했다. 이런 방식으로 A군은 지난해 11월부터 지난 4월까지 대화방 3개를 만들어 여성 연예인 30명의 얼굴에 나체사진을 합성한 허위 영상물(딥페이크) 590개를 제작하고 유포했다. 이 대화방에 참여한 사람만 840명이었다. A군에게 사진 및 영상을 받거나 같은 방식으로 직접 생산한 허위 영상물 3429개를 퍼뜨린 다른 피의자 23명도 경찰에 붙잡혔다.

AI가 일상에 깊숙이 파고들면서 이를 이용한 사이버성범죄도 폭증하고 있다. 특히 사이버성범죄 가운데 딥페이크 범죄 혐의로 검거된 피의자 중 60뉴 이상이 10대였다. 초등학생이라도 온라인을 통해 기초 코딩 프로그램 등을 조금만 익히면 손쉽게 불법 콘텐츠를 제작하거나 유포할 수 있는 만큼 강력한 처벌과 예방 교육이 필요하다는 지적이 나온다.

경찰청 국가수사본부는 지난해 11월부터 올해 10월까지 실시한 사이버성폭력 집중단속으로 3557명을 검거하고 이중 221명을 구속했다고 16일 밝혔다. 지난 특별단속(2023년 11월~2024년 10월)에 붙잡힌 규모(2406명)와 비교하면 검거 규모가 반절 가까이 증가했다. 특히 이번 사이버성폭력범죄 단속 유형 중 딥페이크 범죄의 비중이 35.2뉴로 가장 많았고, 딥페이크 10대 피의자가 61.8뉴(895명)에 달했다.

10대 피의자들은 딥페이크 범죄를 단순히 ‘놀이’처럼 대수롭지 않게 여겨 범행을 저지르는 경향이 크다고 한다. 이때문에 죄의식 없이 청소년들 사이에서 더 빠르고 광범위하게 퍼진다는 것이다. 경찰 관계자는 “A군이 대화방을 운영하면서 별도로 수익을 취한 것은 없다”면서 “조사해보면 10대 피의자들은 대부분 범행 동기를 ‘성적 호기심’과 ‘장난’이라고 한다”고 설명했다.

김명주 서울여대 정보보호학과 교수는 “AI 기술이 발전해 특별한 지식이나 일정 시간 작업에 대한 투자 없이도 초나 분 단위로 불법 콘텐츠를 제작할 수 있다”며 “사이버성범죄의 피해는 피해자에게 영구적인 상처가 될뿐 아니라 재생산 및 유포 우려도 크기 때문에 처벌을 명확히 하고 윤리 교육도 강화해야 한다”고 했다.