AI 딥페이크 탐지부터 피해자 보호까지…정부 공동 대응체계 본격 가동 [천지인뉴스]
AI 딥페이크 탐지부터 피해자 보호까지…정부 공동 대응체계 본격 가동 [천지인뉴스]
정범규 기자
정부가 AI 기반 딥페이크 성범죄 대응체계를 구축해 피해영상물 대응 전 과정을 고도화한다.
AI 탐지·분석부터 삭제·차단, 피해자 보호까지 관계기관이 공동 대응에 나선다.
생성형 AI 확산에 따른 디지털 성범죄에 신속하고 체계적으로 대응할 기반이 마련될 전망이다.
정부가 생성형 인공지능(AI) 기술을 악용한 딥페이크 성범죄에 대응하기 위해 관계기관 간 기술 협력을 강화하고 AI 기반 공동 대응체계를 본격 가동한다. 피해영상물 탐지와 분석은 물론 삭제·차단, 피해자 보호까지 하나의 체계로 연계해 디지털 성범죄 대응 역량을 높이겠다는 방침이다.
행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 ‘딥페이크 성범죄 대응 기술협력을 위한 업무협약’을 체결하고 AI 탐지기술을 중심으로 한 협력체계를 구축하기로 했다. 협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원이 참석해 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 공동 협력을 약속했다.
이번 협약은 생성형 AI 기술의 발전으로 딥페이크 성범죄가 갈수록 정교해지고 피해영상물이 온라인을 통해 빠르게 확산되는 현실에 대응하기 위해 마련됐다. 정부는 기존 기관별 대응 방식에서 벗어나 탐지부터 피해 회복까지 이어지는 통합 대응체계를 구축하는 데 의미를 두고 있다.
핵심은 행정안전부가 국립과학수사연구원과 협력해 개발한 AI 딥페이크 탐지·분석모델이다. 행정안전부는 해당 모델을 지속적으로 고도화하는 동시에 관계기관과 공유해 피해영상물 탐지와 분석, 삭제 및 차단, 피해자 보호 등 전 과정에서 활용할 계획이다. AI 기술을 활용해 의심 콘텐츠를 보다 신속하고 정확하게 판별함으로써 대응 시간을 단축하고 피해 확산을 최소화하겠다는 전략이다.
성평등가족부는 기존에 활용 중인 민간 딥페이크 탐지모델과 정부의 AI 탐지·분석모델을 함께 활용해 피해영상물과 의심 콘텐츠를 더욱 정밀하게 분석하고 삭제 지원 체계를 강화한다. 아울러 피해영상물 처리 과정에서 적용할 업무기준과 보안관리 체계를 마련해 개인정보 보호와 피해자의 2차 피해 예방에도 역량을 집중할 예정이다.
방송미디어통신위원회는 온라인 플랫폼에서 유통되는 딥페이크 성범죄 의심 콘텐츠에 대한 대응을 강화한다. 플랫폼 사업자와 협력을 확대해 불법 콘텐츠 삭제와 차단을 신속히 추진하고, 재유포되거나 변형된 콘텐츠에 대해서도 관계기관 간 정보공유를 바탕으로 대응체계를 촘촘하게 운영할 계획이다.
정부는 이번 협약을 계기로 AI 탐지기술을 피해 대응 전 과정에 연계한다. 피해영상물이나 의심 콘텐츠가 접수되면 AI 탐지·분석모델을 활용해 1차 분석을 실시하고, 그 결과를 삭제·차단 절차와 피해자 지원 시스템으로 즉시 연결해 보다 효율적인 대응이 가능하도록 할 방침이다.
이 과정에서는 피해자의 개인정보와 인권 보호를 최우선 가치로 삼는다. 피해영상물의 불필요한 복제나 공유, 장기 보관을 제한하는 등 보안관리 기준도 함께 강화해 추가적인 피해 발생 가능성을 최소화한다는 계획이다.
최근 생성형 AI 기술이 빠르게 발전하면서 실제 인물의 얼굴을 합성한 딥페이크 영상이 사회적 문제로 떠오르고 있다. 특히 성범죄 목적의 불법 합성물이 SNS와 온라인 커뮤니티를 통해 급속도로 확산되면서 피해자들이 영상 삭제와 권리 회복에 어려움을 겪는 사례가 이어지고 있다. 이러한 상황에서 AI 기술을 범죄 대응에도 적극 활용하는 정부의 이번 협력은 디지털 성범죄 대응 방식의 전환점이 될 수 있다는 평가가 나온다.
정부는 협약 이후 AI 딥페이크 탐지·분석모델의 현장 적용 범위를 확대하고 기관 간 협업 성과를 지속적으로 점검해 대응체계를 더욱 정교하게 발전시킬 계획이다. 기술 발전 속도에 맞춰 탐지 정확도를 높이고 대응 절차를 개선함으로써 디지털 성범죄로부터 국민을 보호하는 기반을 강화한다는 방침이다.
윤호중 행정안전부 장관은 딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포와 변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동 대응이 무엇보다 중요하다며 AI 딥페이크 탐지·분석모델을 공유해 탐지와 분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 지속적으로 구축해 나가겠다고 밝혔다.
AI 기술이 범죄에 악용되는 사례가 증가하는 가운데 이를 다시 범죄 예방과 피해자 보호에 활용하려는 정부의 시도가 얼마나 실질적인 성과로 이어질지 관심이 모아진다. 탐지기술의 정확성과 기관 간 협업 체계가 안정적으로 자리 잡을 경우 디지털 성범죄 대응 수준도 한 단계 높아질 것으로 기대된다.
진실과 공정한 천지인 뉴스,
정확한 팩트 정범규 기자
뉴스 제보: chonjiinnews@gmail.com
저작권자 © 천지인뉴스 무단전재 및 재배포 금지.
이 글은 자료 정리 과정에서 AI 기술이 참고 수준으로 활용됐을 수 있습니다.
