[기획] '디지털' 범죄에 악용… 새로운 디지털 규범체계 필요
인공지능(AI) 악용 범죄 ‘기승’ 새로운 디지털 규범 마련해야
2024-08-08 김혜나 기자
매일일보 = 김혜나 기자 | 디지털 산업화 요소 중 인공지능(AI) 분야의 잡음이 계속되고 있다. 사이버 범죄 등에 악용되는 사례가 증가하는 만큼 새로운 디지털 규범 체계가 필요한 시점이다.
8일 관련 업계에 따르면, 기술 악용의 대표적인 사례는 딥페이크(Deepfake)다. 딥페이크는 본래 영화 등에 사용해왔던 기술이지만, 이를 악용해 성착취물 등을 제작·배포하는 사례가 발생했다. 기술 장벽이 낮아지며 스마트폰을 통해서도 손쉽게 가짜 뉴스나 음란물을 제작할 수 있기 때문이다. 방송통신심의위원회에 따르면 ‘딥페이크 처벌법’이 시행된 2020년 6월 이후 지난해 10월 말까지 시정 요구한 허위 영상물은 7329건에 달한다. 국가적인 사건 사례도 있다. 지난 6월 5일 러시아 TV와 라디오 채널을 통해 푸틴 대통령의 계엄령 선포가 방송됐다. 푸틴 대통령은 우크라이나군이 오전 4시 나토(북대서양조약기구)의 지원을 받아 러시아를 침공했다며 일부 지역에 계엄령을 선포했다. 주민들에게 대피하라고 당부하며 조만간 ‘총동원령’을 내리겠다고도 했다. 이는 해커의 소행이었다. 크렘린궁은 즉시 러시아 국영 타스통신 등을 통해 해당 방송이 해킹 공격의 결과라고 밝혔다. 크렘린궁은 푸틴 대통령이 대국민 연설을 한 적이 전혀 없다면서 해킹 방송은 모두 삭제됐다고 밝혔다. 개인의 피해 역시 증가할 것으로 보인다. 특히 보이스피싱 범죄가 우려된다. 금융연구원이 공개한 '보이스피싱 피해 현황 및 정책적 시사점' 보고서에 따르면, 2006년 1488건이던 발생 건수는 2019년 3만7667건으로 정점을 찍고 2020년 3만1681건, 2021년 3만982건, 지난해 2만1832건으로 감소했다. 건수는 감소하는 추세지만 건당 피해 금액은 늘었다. 보이스피싱 1건당 피해 금액은 2016년 862만원에서 2021년 2500만원, 지난해 2491만원으로 증가했다. 국가정보원은 지난 5월 “딥페이크 등 새로운 기술이 범죄에 악용될 수 있는 만큼 음성, 영상 통화시에 주의를 기울여야 한다”고 전했다. 이처럼 AI를 악용하는 사례가 느는 만큼 AI활용 문제에 대한 대비책을 논의해야 할 시점이라는 지적이다. 이종호 과학기술정보통신부 장관 역시 “새로운 차원의 규범 체계를 만드는 것이 반드시 필요하다”고 강조한 바 있다. 이와 관련, 과기정통부는 내달까지 범정부 디지털 권리장전을 마련할 계획이다. 염흥열 순천향대학교 정보보호학과 교수는 “딥페이크를 통해 명예훼손 등 부정적인 영향을 줄 수 있는 영상 등을 배포하는 행위는 기업이나 개인의 입장에서 매우 치명적”이라며 “AI로 생성된 영상이라는 것을 판별할 수 있는 기술개발 및 인식 제고 활동 등이 필요할 것으로 보인다”고 제언했다. 한편, 최근 유엔 인권이사회는 한국이 주도해 제안한 ‘신기술과 인권’ 결의안을 컨센서스(표결 없이 합의)로 채택했다. 신기술과 인권 관련 측면을 종합적으로 다룬 해당 결의는 최근 국제사회의 관심이 집중되고 있는 인공지능 문제를 포함했다. 인공지능의 인권적 함의를 다룬 인권이사회 차원의 최초 결의로, 인공지능이 인권에 미치는 긍정적·부정적 영향을 제시했다. 인공지능의 개발과 활용에 있어 인권을 보호하고 증진할 필요성을 강조했다는 평가다.