EU 이어 세계서 두 번째로 시행
핵심 쟁점은 ‘고영향 AI’ 오남용
“피해자 구제 명시해야 신뢰 확보”

내년 1월 시행을 앞두고 있는 ‘인공지능(AI)기본법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)을 둘러싼 쟁점은 ‘진흥이냐 규제냐’로 요약된다. 글로벌 AI 3대 강국으로 도약하기 위해선 전폭적인 육성에 방점을 둬야 한다는 주장과 AI의 오남용으로 인한 피해를 막는 데 중점을 둬야 한다는 목소리가 엇갈린다.

유럽연합(EU)에 이어 세계에서 두 번째로 제정된 AI기본법은 내년 1월 22일부터 시행된다. 지난해 말 AI기본법이 국회를 통과하며 정책의 뼈대가 만들어졌다면 하위 법령과 가이드라인을 통해 구체적인 내용이 정해질 전망이다. 과학기술정보통신부는 이달 중 AI기본법 시행령 초안을 마련해 업계 의견 수렴에 나선다.

중국발 ‘딥시크 쇼크’를 계기로 정부의 정책 기조는 AI 경쟁력 강화에 초점이 맞춰져 있다. 산업계는 글로벌 빅테크와의 격차를 좁힐 수 있도록 규제보다는 지원 위주로 기본법과 시행령이 추진돼야 한다고 주장한다. 국내 굴지의 정보기술(IT) 기업에서 AI 연구를 담당하는 한 관계자는 “시행령을 통해 AI 기술및 산업 진흥에 대한 전폭적인 지원이 있어야 한다”며 “특히 국내에서 양성되는 AI 인재들이 국내 AI 산업의 발전에 이바지할 수 있는 환경을 조성해야 한다”고 말했다.

핵심 쟁점은 기본법에 규정된 ‘고영향AI’다. 고영향 AI는 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다. 법안은 고영향 AI 이용사업자에게 제품 또는 서비스가 AI에 기반해 운용된다는 사실을 사전에 고지하도록 했다. 이를 어길 경우 과태료를 부과하도록 했는데 법에 담긴 유일한 처벌조항이다.

업계에서는 고영향 AI 규제가 확대되는 것을 우려하는 반면 시민사회에서는 사업자 책무를 강화해야 한다는 목소리가 나온다. 민주사회를 위한 변호사모임(민변) 디지털위원장인 김하나 변호사(법무법인 두율)는 “고영향 AI 관련 규정은 범위를 협소하게 정하고 사업자의 책무를 제한적으로 정하고 있다”며 “고영향 AI 외 나머지는 처벌이나 과태료 규정이 존재하지 않는 점도 기본법의 한계”라고 했다.

국회입법조사처는 “고영향 AI에 대해서 만큼은 법률에서 개념과 요건을 구체적으로 밝히고 AI 개발사업자와 이용사업자에게 의무를 차등 적용할 필요가 있다”고 지적했다.

EU의 AI법은 고위험 AI 제공자에게 위험관리체계 구축, 데이터 관리, 기술문서 작성, 이용지침 제공, 적합성 평가수행 의무를 부과하고 있다. 고위험 AI 배포자에겐 이용지침 준수, 기본권 영향 평가 수행 의무 등을 부과했다.

AI 시스템의 오류나 피해가 발생했을때 개발자, 운영자, 사용자 간 책임 소재를 명확히 정해야 한다는 의견도 있다. 김 변호사는 “피해자 권리의 구체적인 내용과 구제 수단을 법 개정을 통해 명시해야 안전성과 신뢰성을 확보할 수 있다”고 말했다.

■기획취재팀

팀장 이창구

장진복 김중래 명종원 이성진 기자