온라인 성착취 영상 실시간 삭제! AI 자동 삭제 신고 시스템 도입

​

온라인 성착취 영상을 찾아

삭제 신고까지 지원하는

'AI 자동 삭제 신고 시스템'을

최초로 개발하고 실행합니다.

​

자세한 내용, 함께 살펴보실까요?

​

​

서울시가 온라인상 성착취 영상 ‘AI 자동 삭제 신고 시스템’을 최초로 개발해 실행에 들어간다.

​

서울시가 온라인상 성착취 영상을 찾아내 삭제 신고까지 지원하는 ‘AI 자동 삭제 신고 시스템’을 최초로 개발해 실행에 들어간다.

​

시는 디지털 성범죄 예방과 피해자 지원을 위해 2023년도 3월 서울연구원과 협력, 전국 최초로 ‘디지털 성범죄 AI 삭제 지원 기술’을 개발했다. 이를 활용해 서울 디지털성범죄 안심지원센터(서울특별시여성가족재단 운영)에서 24시간 불법 영상물 감시 및 삭제 지원을 하고 있다.

​

‘AI 자동 삭제 신고 시스템’은 AI가 24시간 피해 영상물을 상시 검출한 뒤, 찾아낸 영상물을 자동으로 채증해 보고서를 만든 후 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다. 이렇게 완성된 신고 이메일은 삭제 지원관이 최종 확인해 발송하게 된다.

​

이렇게 되면 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인 상에 무분별하게 떠도는 불법 영상물을 찾아내서 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 기존 약 2시간 반~3시간에서 불과 ‘6분’으로 획기적으로 단축된다.

​

AI 디지털성범죄 피해 영상물 검출 결과

​

‘서울 디지털성범죄 안심지원센터’는 ｢전기통신사업법｣ 제22조의5에 따라 불법촬영물등에 대한 신고·삭제 기관으로 지정고시된 기관이다. 피해 영상물이 게시된 해당 사이트에 센터가 삭제 신고할 경우 해당 사이트는 ｢전기통신사업법｣ 및 같은 법 시행령에 따라 삭제·접속차단을 해야 하며, 이행하지 않을 시 3년 이하의 징역 또는 1억 원 이하의 벌금, 매출액의 3% 이하에 해당하는 과징금, 등록 취소 또는 사업정지 등 제재 처분될 수 있다.

​

기존에는 삭제 지원관이 영상물마다 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성해야 했기 때문에 많은 시간이 소요됐으나, 이제 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 ‘AI 자동화’ 함으로써 처리 속도를 30배 개선하는 성과를 기대할 수 있게 됐다.

​

자동 채증 보고서 기능은 텍스트, 이미지, URL 등 콘텐츠에 포함된 핵심 정보를 자동 추출하고, 이를 한글(HWP) 문서로 변환해 저장함으로써 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로 즉시 활용할 수 있다.

​

특히, 최근에 피해 영상물이 해외에 서버를 둔 사이트에 올라오는 사례가 증가함에 따라 AI가 해외에 유포된 피해 영상물을 검색 후 영어, 중국어, 일본어, 러시아어 등 7개 국어로 신고 이메일을 생성하게 된다.

​

시는 기존에 미국을 중심으로 유포됐던 피해 영상물이 최근 중국, 러시아, 베트남 등으로 확산되는 점에 착안해 국가 기반을 넓혀 검색 영역을 확장했다.

​

서울 디지털 성범죄 안심지원센터 누리집

​

서울시는 ‘서울 디지털 성범죄 안심지원센터’를 통해 삭제 지원을 비롯해 수사·법률 지원, 심리치료·의료 지원 등을 원스톱 지원하고 있다. 지난 3년간(’22.3~’25.3) 3,650명의 피해자를 지원했고 총 지원 건수는 64,677건에 이른다.

​

시가 지원한 피해자의 연령대는 10~20대가 가장 높은 비율을 차지하고 있으며, 특히 센터 개관 이후 아동, 청소년을 대상으로 한 디지털 성범죄 피해지원이 크게 증가하고 있다.

​

센터에서는 아동·청소년의 경우 부모에게도 말하지 못하는 피해 상담을 제공하기 위해 익명으로 상담할 수 있는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 상담을 지원하고, 아동‧청소년 뿐 아니라 학부모를 대상으로도 심리치료를 무료로 지원하고 있다. 또한 수사, 법률, 의료, 삭제지원까지 원스톱으로 지원한다.

​

도움이 필요한 디지털 성범죄 피해자 누구나 센터 상담전용 직통번호 ‘815-0382(영상빨리)’나 서울디지털성범죄 안심지원센터 누리집으로 문의하면 된다.

​

​

​

​