"제 사진이 성착취물 영상에 합성돼 있어요." 올해 3월 경찰에 성착취물 영상 합성 피해 신고가 잇따랐…

지구촌가족성폭력상담소 (26-08-14 16:06) 답변

"제 사진이 성착취물 영상에 합성돼 있어요."



올해 3월 경찰에 성착취물 영상 합성 피해 신고가 잇따랐다. 서로 다른 4개 시·도경찰청에 접수된 사건이었지만, 경찰청의 '딥페이크 탐지 소프트웨어'로 영상을 분석하자 동일한 특징이 확인됐다. 경찰은 한 사람이 여러 피해자의 사진을 이용해 영상을 제작·유포한 것으로 보고 추적해, 20대 남성을 붙잡아 구속 송치했다. 경찰이 인공지능(AI)을 활용한 딥페이크 범죄 대응 체계를 본격 가동한 결과다.



경찰청 국가수사본부는 올해 1~7월 허위영상물 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다. 경찰은 △딥페이크 탐지 소프트웨어를 통한 1차 판별 △과학수사 영상분석관의 정밀 판독 △AI 범행도구를 분석하는 디지털 포렌식 등 '3중 대응체계'를 구축했다.



딥페이크 탐지 소프트웨어는 얼굴 생성·교체 여부와 눈 깜빡임, 혈류 변화 등 생물학적 특징, 파일 메타데이터 구조 등을 종합 분석한다. 개발 이후 현재까지 수사에 1,636건 활용됐으며, 올해는 선거범죄 등 딥페이크 성범죄 외 사건에도 72건 쓰였다. 1차 탐지로 조작 여부가 명확하지 않으면 과학수사 영상분석관이 별도 프로그램으로 위·변조 여부를 재차 검증한다.



AI를 이용해 영상을 제작한 흔적도 추적할 수 있다. 경찰은 상용 생성형 AI 프로그램별 특성을 분석하는 'AI 포렌식 기법'을 개발해 피의자가 어떤 프로그램으로 어느 부분을 조작했는지 확인하고, 제작부터 유포까지 범행 과정을 재구성하고 있다. 실제 사회관계망서비스(SNS)에서 성착취 허위영상을 제작·판매한 20대 남성을 구속한 사건 같은 경우, 생성형 AI 프로그램과 편집 전 원본 사진을 추가 확보해 제작 의뢰자로까지 수사를 확대했다.



경찰은 앞으로 딥페이크 탐지·포렌식 기술을 허위정보 유포와 전기통신금융사기 등 AI 악용 범죄 수사 전반에 확대 적용할 방침이다. 경찰 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다"며 "관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다"고 강조했다.



이상무 기자 (allclear@hankookilbo.com)