힘든 하루를 보내고 집으로 돌아온 존. 남자친구와 저녁을 먹고 소파에 앉아 TV를 켜자 OTT 스트림베리에 ‘존은 끔찍해’라는 새로운 콘텐츠가 올라왔다. 유명 배우 셀마 헤이엑이 자신과 똑같은 스타일을 하고는 존이라는 이름으로 등장해 그날 있었던 존의 하루(직원을 해고하고, 전 남자친구와 만난 것까지)를 그대로 재현했다. 영문도 모른 채 순식간에 사생활이 까발려진 존. 그는 다음날 자신의 변호사를 찾아가지만 법적으로 아무런 문제가 없다는 황당한 소리를 듣는다. 수백쪽 계약서에 적힌 온갖 정보를 스트림베리가 이용할 수 있도록 존이 모두 동의했다는 것이다. 심지어 자신의 역을 맡은 셀마 헤이엑조차 진짜 배우가 아니라 이미지만 빌린 딥페이크였다. 스트림베리는 양자컴퓨터와 컴퓨터그래픽(CG)을 활용해 소위 ‘맞춤형 콘텐츠’라는 이름으로 존의 일상을 실시간 드라마로 만들어 내보냈다.

언젠가 이런 일이 진짜 벌어질지도 모른다는 사실에 더욱 오싹해지는 이 이야기는 영국 드라마 ‘블랙 미러’ 시즌 6에 나오는 한 에피소드다. 그동안 인터넷이나 모바일 서비스를 이용하기 위해 눌러 왔던 수많은 정보 수집 ‘동의’ 항목을 생각하면 이 드라마가 던지는 메시지가 결코 가볍지 않다. 실제로 친구와 여행지에 관해 이야기를 나눈 뒤 SNS에 들어가면 마치 스마트폰이 우리 이야기를 듣고 있었나 싶게 그 여행지가 광고로 뜨는 시대에 이미 살고 있다.

최근 중국 스타트업이 만든 인공지능(AI) 모델 딥시크의 등장과 함께 개인정보 보호에 관한 문제가 화두로 떠올랐다. 딥시크의 개인정보 보호 정책을 보면 딥시크는 AI 모델 학습을 위해 사용자의 이름과 생년월일, 이메일은 물론이고 인터넷 IP 주소와 키보드 입력 패턴, 심지어 채팅 기록과 파일까지도 수집한다고 돼 있다. 그리고 이 정보는 중국에 있는 서버로 전송된다. 이렇게 수집된 정보가 얼마나 광범위하게 쓰일지 모를 일이다. 그야말로 중국판 블랙 미러가 우려되는 대목이다.

AI 모델이 더 구체적이고 더 많은 정보를 학습할수록 더욱 정교한 결과를 내놓을 수 있다는 점에서 앞으로 데이터 확보를 위한 치열한 전쟁이 펼쳐질 것이라고 AI 업계는 보고 있다. 동시에 데이터 주권을 놓고 여러 가지 쟁점이 불거질 것으로 봤다.

미국에서는 뉴욕타임스와 주요 일간지가 오픈AI와 마이크로소프트(MS)를 상대로 자사 기사를 AI 학습에 무단 사용했다며 각각 저작권 침해 소송을 낸 상태다. 국내 AI 업계에선 글로벌 빅테크 기업들이 국내 뉴스 콘텐츠도 AI 학습에 무단으로 사용했으리라 보고 있다. 최근에는 국내 지상파 방송 3사도 네이버가 생성형 AI인 하이퍼클로바와 하이퍼클로바X를 학습시키는 데 방송사 기사를 무단으로 활용했다며 지난달 소송을 제기했다. 소송 결과에 따라 데이터 사용의 범위가 크게 달라질 전망이다.

더 늦기 전에 데이터 통제와 보호가 어디까지 이뤄져야 할지 정부 차원의 ‘데이터 주권’ 정립이 필요한 시점이다.

신융아 산업부 기자