이용문의

성착취영상 검출부터 삭제 신고까지 자동화기 성착취영상 검출부터 삭제 신고까지 자동화기존 3시간→6분으로 처리 속도 30배 단축서울시 제공.서울시가 온라인상에 유포된 디지털 성범죄 영상을 인공지능(AI)으로 삭제 후 신고까지 지원하는 ‘AI 자동 삭제 신고 시스템’을 전국 최초로 개발해 실행에 들어간다고 21일 밝혔다.‘AI 자동 삭제 신고 시스템’은 AI가 24시간 모니터하며 찾아낸 영상물을 채증해 보고서를 만들어 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다. 완성된 신고 이메일은 삭제 지원관이 최종 확인해 발송하게 된다.시에 따르면 시스템을 통해 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인에 떠도는 불법 영상물을 찾아 해당 사이트에 삭제 신고를 하는 데 드는 시간이 기존 2시간 반~3시간에서 ‘6분’으로 줄어든다.기존에는 삭제 지원관이 영상물마다 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성하느라 많은 시간이 소요됐다. 하지만 앞으로는 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 AI로 자동화해 처리속도를 최대 30배 개선할수 있게 됐다고 시는 설명했다. 자동 채증한 보고서는 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로도 즉시 활용할 수 있다.앞서 시는 2023년 ‘디지털 성범죄 AI 삭제지원 기술’을 전국 최초로 개발·도입해 디지털 성범죄 예방과 피해자 지원에 선제적인 대응을 하고 있다. 이를 통해 ‘서울 디지털 성범죄 안심 지원센터’의 삭제지원 건수도 AI 도입 전 2022년 2509건에서 지난해 총 1만4256건으로 468% 상승했다. 시는 센터를 통해 삭제지원을 비롯한 수사·법률지원, 심리치료·의료 지원도 원스톱으로 지원한다.특히, 아동·청소년의 경우 부모에게도 말하지 못하는 피해 상담을 제공하기 위해 익명으로 상담할 수 있는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 상담을 지원한다. 피해 아동·청소년 학부모를 상대로 심리치료도 무료로 지원한다.김선순 서울시 여성가족실장은 “디지털 성범죄 기술에 따른 피해가 심각해지고 있는 가운데 시가 AI로 자동으로 삭제 후 신고까지 하는 기술을 도입해 검출부터 신고성착취영상 검출부터 삭제 신고까지 자동화기존 3시간→6분으로 처리 속도 30배 단축서울시 제공.서울시가 온라인상에 유포된 디지털 성범죄 영상을 인공지능(AI)으로 삭제 후 신고까지 지원하는 ‘AI 자동 삭제 신고 시스템’을 전국 최초로 개발해 실행에 들어간다고 21일 밝혔다.‘AI 자동 삭제 신고 시스템’은 AI가 24시간 모니터하며 찾아낸 영상물을 채증해 보고서를 만들어 해당 사이트에 삭제 요청하는 이메일을 자동으로 생성한다. 완성된 신고 이메일은 삭제 지원관이 최종 확인해 발송하게 된다.시에 따르면 시스템을 통해 사회관계망서비스(SNS)나 온라인 커뮤니티, 불법 사이트 등 온라인에 떠도는 불법 영상물을 찾아 해당 사이트에 삭제 신고를 하는 데 드는 시간이 기존 2시간 반~3시간에서 ‘6분’으로 줄어든다.기존에는 삭제 지원관이 영상물마다 모두 수작업으로 피해 영상물을 채증하고, 보고서를 작성하느라 많은 시간이 소요됐다. 하지만 앞으로는 디지털 성범죄 영상물의 모니터링부터 검출, 삭제까지 전 과정을 AI로 자동화해 처리속도를 최대 30배 개선할수 있게 됐다고 시는 설명했다. 자동 채증한 보고서는 향후 수사기관 또는 사법 절차에 필요한 법적 증거자료로도 즉시 활용할 수 있다.앞서 시는 2023년 ‘디지털 성범죄 AI 삭제지원 기술’을 전국 최초로 개발·도입해 디지털 성범죄 예방과 피해자 지원에 선제적인 대응을 하고 있다. 이를 통해 ‘서울 디지털 성범죄 안심 지원센터’의 삭제지원 건수도 AI 도입 전 2022년 2509건에서 지난해 총 1만4256건으로 468% 상승했다. 시는 센터를 통해 삭제지원을 비롯한 수사·법률지원, 심리치료·의료 지원도 원스톱으로 지원한다.특히, 아동·청소년의 경우 부모에게도 말하지 못하는 피해 상담을 제공하기 위해 익명으로 상담할 수 있는 카카오톡 오픈채팅방 ‘디지털성범죄 SOS 상담’ 창구를 통해 상담을 지원한다. 피해 아동·청소년 학부모를 상대로 심리치료도 무료로 지원한다.김선순 서울시 여성가족실장은 “디지털 성범죄 기술에 따른 피해가 심각해지고 있는 가운데 시가 AI로 자동으로 삭제 후 신고까지 하는 기술을 도입해 성착취영상 검출부터 삭제 신고까지 자동화기