아동·청소년 성착취물 탐지에 인공지능(AI)을 도입한 결과, 종사자 1인당 하루 평균 아동·청소년 성착취물 삭제 요청 처리 건수가 9.7배 증가한 것으로 나타났다.

성평등가족부는 지난 4월 AI 성착취 탐지·신고 시스템을 도입한 결과 이같이 아동·청소년 성착취물 삭제가 늘었다고 10일 밝혔다.

성평등부와 한국여성인권진흥원은 이러한 성과를 바탕으로 AI 탐지체계를 고도화하고, 중앙디지털성범죄피해자지원센터의 기술을 지역 현장까지 확대해 디지털성범죄 피해자 지원을 강화할 방침이다.

지난 4월부터 본격 운영한 AI 시스템은 온라인상의 성착취물과 유인정보를 24시간 자동으로 탐지·분석하는 체계로, 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집해 분석한 뒤 담당자의 검토를 토대로 유포 현황 모니터링과 삭제 요청 등을 진행한다.

지난해 한 해 동안 종사자의 수작업에 기반한 모니터링·분석으로 아동·청소년 성착취물 4만 5000여 건의 삭제를 지원했으나, 시스템 도입 이후 6개월 동안 삭제를 지원한 건수가 9만 6000여 건이다.

이는 종사자 1명이 하루에 평균 202건의 아동청소년 성착취물에 대한 삭제 요청을 처리한 것으로, AI 시스템 도입 전 일평균 처리건수(20.8건)보다 9.7배 증가한 수치다.

특히 AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물 등에 직접 노출되는 빈도가 감소하는 등 종사자의 심리적 부담을 완화해 피해자 지원 업무에 더욱 집중할 수 있는 환경 조성도 가능해졌다.

성평등부는 과학기술정보통신부와 협업해 내년까지 AI 시스템 고도화를 추진해 탐지 대상 플랫폼을 대폭 확대하고, 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도를 높일 계획이다.

아울러 지난 8월 피해자 지원기관을 대상으로 AI 시스템의 구축 배경과 주요 기능을 소개하는 설명회를 개최하는 등 향후 지역디지털성범죄피해자지원센터를 중심으로 AI 기술을 공동 활용할 수 있게 준비하고 있다.

한편 불법촬영물 등 유포에 신속히 대응하기 위해 삭제지원시스템에 자동화 기술을 도입하고, 해외 주요 기관과의 API 연계로 삭제 지원 효과성을 높였다.

자동화 기술 도입으로 2만 개의 사이트에 대한 불법촬영물 등 삭제 요청과 처리 이력을 자동으로 관리하며, 건당 삭제요청 처리 시간이 1분 이내로 단축되는 등 지난 6개월 동안 5만 8309건의 URL에 대한 삭제 요청과 삭제 여부 확인이 자동으로 진행됐다.

또한 미국 국립실종학대아동방지센터(NCMEC)과 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와의 API 연계로 우회 접속 URL에 대한 대량 자동 삭제 요청이 가능해져, 삭제 지원 효과성이 제고되고 종사자의 반복적인 문서 작성 부담도 크게 감소했다.

API 연계 이후, 미 국립실종학대아동방지센터 신고시스템(Cybertipline)을 통해 미국 서버 기반의 삭제 불응 사이트(2개)에 게시된 아동·청소년 성착취물 95건, 클라우드플레어를 통해 2만 5156건의 삭제를 진행했다.

내년에는 DNA 기반 동일·유사 영상 자동 탐지 등 중앙디성센터 시스템의 핵심 기능을 탑재한 설치형 삭제 지원 소프트웨어(SW)를 보급해 중앙디성센터의 대응 역량을 지역 현장까지 확장할 계획이다.

설치형 SW를 활용하면 피해자 민감정보의 외부 전송 없이 영상물 분석과 정보 추출, 유포 모니터링, 삭제 요청 등의 업무 수행이 가능하며, 촬영물 속 얼굴 식별, 문자 판독 등의 AI 기반 기능도 포함된다.

지역디성센터의 기존 운영체제에 바로 적용이 가능한 구조로 개발되어 지역 현장에서도 피해 촬영물 분석부터 사례 관리까지 AI 기반의 신속하고 정확한 디지털성범죄 대응이 가능할 전망이다.

원민경 성평등부 장관은 "기술환경 변화에 따라 빠르게 진화하는 디지털 성범죄에 강력하고 신속하게 대응하기 위해서 정부 차원의 기술적 대응이 필수"라고 강조하면서 "앞으로도 AI 등의 최신 기술을 현장에 적극 도입해 대응 속도와 정확도를 높이고 더욱 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 최선을 다하겠다"고 밝혔다.

박광수 한국여성인권진흥원장은 "AI 시스템 도입 이후 삭제 지원 처리 건수가 10배 가까이 늘어난 것은 기술 고도화가 피해자 지원의 속도와 범위를 동시에 바꿔놓을 수 있다는 것을 보여준 사례"라고 설명하면서 "한국여성인권진흥원은 앞으로도 관계부처와 협업해 AI 기술의 판별 정확도와 탐지 범위를 고도화하고, 중앙센터의 노하우가 지역 디성센터까지 원활히 전달되도록 지원하겠다"고 밝혔다.

문의: 성평등가족부 디지털성범죄방지과(02-2100-6167), 한국여성인권진흥원 중앙디지털성범죄피해자지원센터(02-6363-9301)

이 자료는 텍스트에 한하여 공공누리 제1유형(출처표시)의 조건에 따라 이용할 수 있습니다.

단, 텍스트를 제외한 사진·이미지·일러스트·동영상 등 자료의 대부분은 정책브리핑이 저작권을 보유하고 있지 않으므로, 이용 전 해당 저작권자의 허락을 반드시 받으셔야 합니다.

저작권정책 담당자안내

정책브리핑 공공누리 담당자 안내

문의처 : 문화체육관광부 정책포털과

문화체육관광부 정책포털과 공공누리 담당자

뉴스	정책뉴스, 정책칼럼, 뉴스인사이트 등 044-203-3052 국민이 말하는 정책 044-203-3254
멀티미디어	영상, 숏폼 044-203-3049 카드/한컷 044-203-3261 사진 044-203-3261 웹툰 044-203-3049
브리핑룸	보도자료 044-203-3049 사실은 이렇습니다 044-203-3052 브리핑자료 044-203-3049 연설문 044-203-3049
정책자료	국정신문 044-203-3046
정부기관 SNS	소통채널(SNS) 044-203-3046

※ 브리핑룸 보도자료는 각 부·처·기관으로부터 연계로 자동유입되는 자료로 보도자료에 포함된 연락처로 문의
※ 전문자료와 전자책의 이용은 각 자료를 발간한 해당 부처로 문의

국가법령정보센터 저작권법 바로가기 공공누리 유형안내 바로가기

닫기

기사 이용 시에는 출처를 반드시 표기해야 하며, 위반 시

저작권법 제37조

제37조(출처의 명시)

① 이 관에 따라 저작물을 이용하는 자는 그 출처를 명시하여야 한다. 다만, 제26조, 제29조부터 제32조까지,
제34조 및 제35조의2의 경우에는 그러하지 아니하다. <개정 2011. 12. 2.>

② 출처의 명시는 저작물의 이용 상황에 따라 합리적이라고 인정되는 방법으로 하여야 하며, 저작자의 실명
또는 이명이 표시된 저작물인 경우에는 그 실명 또는 이명을 명시하여야 한다.

닫기

및

제138조

제138조(벌칙)

다음 각 호의 어느 하나에 해당하는 자는 500만원 이하의 벌금에 처한다. <개정 2011. 12. 2.>

1. 제35조제4항을 위반한 자

2. 제37조(제87조 및 제94조에 따라 준용되는 경우를 포함한다)를 위반하여 출처를 명시하지 아니한 자

3. 제58조제3항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작재산권자의 표지를 하지 아니한 자

4. 제58조의2제2항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작자에게 알리지 아니한 자

5. 제105조제1항에 따른 신고를 하지 아니하고 저작권대리중개업을 하거나, 제109조제2항에 따른 영업의 폐쇄명령을 받고 계속 그 영업을 한 자 [제목개정 2011. 12. 2.]

닫기

에 따라 처벌될 수 있습니다.

<자료출처=정책브리핑 www.korea.kr>