소버린 AI 중요성…네카오, 딥페이크 방지 위해 적극 나서

매일일보 = 김성지 기자  |  인공지능(AI)을 활용한 딥페이크(Deepfake) 문제로 사회적 불안감이 커져가고 있는 가운데 정부와 플랫폼 업계가 피해 확산 방지를 위해 전방위적 노력을 기울이고 있다.

1일 업계에 따르면 네이버와 카카오는 딥페이크 방지 기술을 개발하는 등 적극 대응하고 있다

최근 지인이나 소셜미디어 공개 계정을 통해 쉽게 구할 수 있는 타인의 사진이 딥페이크 음란물 제작에 악용되고 있다. 제작된 생성물은 텔레그램을 통해 확산되고 있으며 허위 생성물을 유포하는 단체 대화방이 연이어 발견되고 있다. 피해 사례를 모은 제보방에 전국 각급학교 300여곳의 이름이 올랐다.

딥페이크 성적 허위 영상물로 인한 피해는 갈수록 커지고 있다. 방송통신심의위원회는 올해 총 6434건을 시정 요구로 결정했다. 7개월 만에 전년 대비 약 90%에 달하는 수준이다. 이런 상황에도 해외에 서버를 두고 있는 텔레그램의 특성과 사태에 대한 미온적인 반응으로 인해 해결책을 찾지 못하고 있다.

정부는 네이버·카카오와 연계해 대응에 나서고 있다. 네이버는 지난 28일부터 ‘딥페이크 기술을 이용한 이미지, 영상 등 신고 채널’을 운영하고 있다. ‘딥페이크 제작’이라고 검색하면 ‘딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해달라’는 문구가 뜨는 등 주의 안내문을 제공하고 있다. 딥페이크 검색 결과와 관련 AI 자동 필터링을 통해 불법 콘텐츠에 노출되지 않도록 하고 있다.

네이버는 AI 이미지 필터링 시스템 ‘클로바 그린아이’를 활용해 24시간 모니터링 체제를 구축했다. 클로바 그린아이는 네이버에 축적된 수백만장의 이미지를 학습해, 부적절한 이미지나 동영상이 네이버에 등록될 경우 AI 기술이 이를 실시간으로 감지해 검색 노출을 차단한다. 전송된 모든 이미지를 이미지 단위로 검사하고, 정상·음란·성인·선정 등 유해 콘텐츠 등급에 따라 검사 결과를 반영한다.

카카오도 딥페이크 신고채널을 운영하고 있다. 카카오는 이미 지난 1월 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하고 딥페이크 유통을 막기 위한 이용자 대상 캠페인을 진행하고 있다. 카카오톡은 안티어뷰징 시스템에 AI·머신러닝(ML) 기술을 결합한 '페이크 시그널'을 도입해 허위 생성물 주의에 기울일 수 있도록 경고 메시지를 전달하고 있다.

카카오는 "허위 영상물을 제작하거나 유포하는 행위는 법적 규제 대상에 해당하며 개인의 명예 훼손, 사생활 침해, 개인정보 보호법 위반 등과 관련된 법적 처벌을 받을 수 있다"며 "본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보가 있다면 신고해 주주길 바란다"고 당부했다.

방송통신심의위원회는 '딥페이크 성범죄 영상물 신고' 페이지와 네이버·카카오의 딥페이크 신고 채널을 연계 중이며, 텔레그램 CEO를 수사중인 프랑스 당국에 딥페이크 성범죄영상물 대응과 관련해 긴급 공조 요청을 보낸 상태다. 방심위는 플랫폼 사업자들과 협의체 구성을 추진해 딥페이크 관련 신고접수부터 대처까지 24시간 이내 조치할 수 있는 대응체계를 구축한다는 계획이다. 

이번 사태로 인해 소버린 AI의 중요성이 더욱 부각되고 있다. 딥페이크 생성물의 주요 유포수단인 텔레그램은 서버가 해외에 존재해 협조·연계에 어려움이 있다. 현재는 개인 정보와 같은 이미지가 범죄에 활용되고 있지만, 추후 산업계 중요한 데이터나 국가 안보와 관련된 정보가 활용될 가능성도 배제할 수 없다.

업계 관계자는 “소버린 AI는 AI 시대의 필수 과제로, 영국·프랑스 등 주요 선진국에서는 자체 AI 구축에 나서고 있다”며 “AI 기술의 혁신과 편의를 누리기 위해선 선택의 문제가 아니며 국가의 기술 주권과 문화적 정체성 보호를 위한 필수 요소다”고 말했다.