실제와 구분 어려운 AI 기술 발전도 한몫
매일일보 = 김승현 기자 | 딥페이크를 이용한 성 착취물을 소지하거나 시청만 해도 3년 이하 징역과 3000만원 이하 벌금에 처하는 딥페이크 방지법이 통과된 가운데 실효성에 대해서는 의문이 제기되고 있다.
국회는 26일 본회의를 열어 아동과 청소년을 대상으로 한 딥페이크 성범죄 처벌을 강화하는 ‘딥페이크 성범죄 방지법’(성폭력범죄의 처벌 등에 관한 특례법 개정안)을 처리했다.
딥페이크(Deepfake)란 딥러닝(Deep Learning)과 Fake의 합성어로 딥러닝 기술을 사용한 인간 이미지 합성 기술이다. 지난 2017년 처음 등장한 기술로 실존 인물 사진이나 음성을 사용해 AI로 생성되거나 조작된 자료다.
경찰청에 따르면 지난 2021년 156건에 그치던 딥페이크 범죄 발생 건수는 2022년 160건에서 2023년 180건으로 늘었다. 올해 1월부터 7월까지 7개월간 발생 건수는 297건으로 이미 지난해 수치를 뛰어넘었다. 같은 기간 검거 인원은 79명에서 146명으로 두 배가량 뛰었다.
실제 법무부에 따르면 딥페이크 성범죄 관련 재판은 지난 8월까지 29명으로 지난해 같은 기간(16명) 대비 80% 늘었다. 성폭력처벌법 14조의2 위반 혐의로 기소된 이들 중 25명은 정식 재판에 넘겨졌고 4명은 구속 21명은 불구속기소 된 상태다.
국회에서 의결된 법안은 형사처벌이 가능하도록 법적 근거를 마련한 게 특징이다. 불법 딥페이크 성 착취물을 소지하거나 구매 혹은 저장하거나 시청만 해도 현행 성폭력범죄 처벌 등에 관한 특례법에 따라 징역 3년 이하 또는 3000만원 이하 벌금에 처한다. 유포 목적을 입증하지 못해도 제적자를 처벌할 수 있는 내용도 담고 있다.
딥페이크 성범죄 관련 처벌 강화나 상시수사가 가능해졌다는 점에서는 긍정적이다. 문제는 관련법 14조의 2 제4항의 '딥페이크 성 착취물임을 알면서도 소지하거나 시청하면 수사나 처벌을 받는다'라는 조항에 명기된 ‘알면서’라는 문구다.
딥페이크 기술 발전으로 전문가들조차 판독이 어렵기 때문이다. 곽금주 서울대 명예교수는 “최근 연구에 따르면 시각뿐만 아니라 후각이나 촉각 조작까지도 가능해져 딥페이크 속 인물에 안정감을 더할 수 있게 됐다”며 “다양한 감각을 동원해 AI로 만들어진 인물을 접하는 대중 감정까지 자극할 수 있다는 점에서 앞으로의 피해는 상상하기조차 어렵다”고 밝혔다.
즉 본인이 시청했거나 소장한 영상이 딥페이크 성 착취물인지 알고 있음에도 추후 조사 과정에서 이를 전혀 몰랐다고 잡아떼면 범죄 입증이 더 힘들어질 수 있다는 의미다. 한 시민단체 관계자는 “잡힐 걱정 없이 허술한 법망을 피해 마음껏 즐기자고 할 이들이 늘면 오히려 범죄 규모가 지금보다 커질 수 있다”고 말했다.
이에 따라 전문가들은 기술 발전으로 범죄 입증이 앞으로 더욱 힘들어질 현실을 반영해서라도 법의 보완 내지 후속입법 등을 위한 추가논의가 필요하다고 입을 모은다.
손솔 딥페이크 성범죄 대응 TF 단장은 “현행 성폭력처벌법상 딥페이크는 유포할 목적을 증명해야만 처벌할 수 있다”며 “이러한 빈틈이 가해자들에게 잡히지 않을 것이라는 인식을 심어주는 것”이라고 우려했다.
그는 이어 “타인 인간성을 침해하는 해당 범죄는 무관용 원칙으로 입법 방향을 잡을 필요가 있다”며 “처음이라 몰랐다거나 정말 되는지 시험해봤다는 등 변명을 늘어놓는 초범일지라도 딥페이크 범죄에 가담한 제작자와 유포자 및 소지한 자 모두 지금보다 강력하게 처벌해야 한다”고 강조했다.
주진우 국민의힘 의원(법사위) 측도 “딥페이크 범죄와 이에 따른 기소가 늘었지만, 은밀히 진행돼 밝혀지지 않은 암수범죄는 그 규모를 짐작하기도 어렵다”며 “이제는 범정부적인 강력한 대책 마련이 딥페이크 범죄에 대응할 수 있는 방법”이라고 강조했다.
특히 “처벌 강화는 물론이며 법적으로 미비한 부분도 모두 정비해야 한다”며 “불법적인 딥페이크 탐지 관련 기술을 개발하고 피해자 보호를 위한 응급조치도 즉시 이뤄질 수 있도록 제도를 보완해야 할 것”이라고 당부했다.
딥페이크 성범죄 사례 중 청소년 비중이 높은 만큼 성역 없는 처벌 등 맞춤형 대책이 필요하다는 주장도 제기된다.
이승기 리엘파트너스 변호사는 “딥페이크 범죄를 저지르는 가해자가 주로 하는 말이 ‘이게 얼마나 심각한 범죄인지 몰랐고, 그냥 장난으로 한 것이다’라는 식”이라며 “마치 하나의 놀이문화나 장난처럼 사진을 합성해 유포하고 있다”고 설명했다.
그는 이어 “SNS를 가장 활발하게 사용하는 10대가 가장 많은 딥페이크 범죄(지난 2023년 기준 가해자 75.8%)를 저지르고 있기에 범죄 심각성을 청소년 때부터 충분히 알릴 필요가 있다”며 “사법부는 중형을 선고해 딥페이크를 함부로 하는 게 아니라는 메시지를 분명하게 전할 필요가 있다”고 덧붙였다.
오윤성 순천향대 교수도 “유포뿐만 아니라 제작 자체를 범죄로 보고 접근해야 할 것”이라고 강조했다. 이수정 경기대 교수는 “(딥페이크 처벌법)실효성이 떨어지는 게 가장 큰 문제”라며 “가령 딥페이크 아동이나 청소년 가해자 대부분이 보호관찰 처분만 받는데 대상자만 늘린 채 갱생교육 수강명령만 반복하는 건 효과가 없다”고 강조했다.
좌우명 : 언제나 긍정적인 '라온'