인공지능(AI)가 딥페이크 성범죄 영상물을 먼저 판별하고, 삭제·차단과 피해자 지원까지 이어지는 정부 공동 대응체계가 본격 가동된다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 25일 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결하고, 피해영상물 대응 전 과정을 고도화한다고 밝혔다.

이번 협약은 생성형 AI 기술 발전으로 딥페이크 성범죄가 지능화·고도화되고 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다.

행정안전부는 국립과학수사연구원과 협업해 개발한 AI 딥페이크 탐지·분석모델을 관계기관과 공유해 피해영상물 탐지와 분석, 삭제·차단, 피해자 보호 전 과정에 활용할 계획이다.

협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원이 참석해 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 기관 간 협력을 약속했다.

◆ AI 탐지모델 공유…피해영상물 신속 대응

이번 협약에 따라 세 기관은 ▲AI 딥페이크 탐지·분석모델 공유 및 활용 ▲피해영상물 탐지·삭제·차단 절차 연계 ▲2차 피해 방지를 위한 정보보호 및 보안조치 등에 협력한다.

행정안전부는 AI 기술 발전 속도에 맞춰 탐지·분석모델을 지속적으로 고도화하고, 관계기관이 활용할 수 있도록 제공·공유할 예정이다.

성평등가족부는 기존에 활용 중인 민간 딥페이크 탐지모델과 정부의 AI 탐지·분석모델을 함께 활용해 피해영상물과 의심 콘텐츠를 보다 정밀하게 분석하고 삭제를 지원한다.

또한 피해영상물 처리와 보안에 관한 업무기준을 마련·운영해 피해자 보호와 2차 피해 방지에도 힘쓸 계획이다.

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다.

아울러 재유포되거나 변형된 콘텐츠에도 신속히 대응할 수 있도록 관계기관 간 정보공유와 협력을 확대할 예정이다.

◆ 탐지부터 피해자 보호까지 AI 기반 대응체계 구축

정부는 이번 협약을 계기로 AI 탐지·분석 기술을 딥페이크 성범죄 대응 전 과정에 연계한다.

앞으로 피해영상물이나 의심 콘텐츠가 접수되면 AI 딥페이크 탐지·분석모델을 활용해 1차 탐지·분석을 실시하고, 그 결과를 삭제·차단과 피해자 지원 절차에 연계해 보다 신속하게 대응할 계획이다.

또한 피해영상물 처리 과정에서는 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 영상의 복제·공유·보관을 제한하는 등 보안관리 기준도 강화한다.

행정안전부와 성평등가족부, 방송미디어통신위원회는 협약 이후 AI 딥페이크 탐지·분석모델을 현장에 본격 적용하고, 활용도를 높이는 한편 딥페이크 성범죄 공동 대응 성과를 지속적으로 점검할 계획이다.

윤호중 행정안전부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다"며 "AI 딥페이크 탐지·분석모델을 관계기관과 공유하고 탐지와 분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다"고 밝혔다.

문의: 행정안전부 공공데이터분석관리과(044-205-2287), 성평등가족부 디지털성범죄방지과(02-2100-6575), 방송미디어통신위원회 디지털유해정보대응과(02-2110-1549)

'텍스트'에 한하여 공공누리 출처표시의 조건에 따라 자유이용이 가능합니다.

단, 사진, 이미지, 일러스트, 동영상 등의 일부 자료는 문화체육관광부가 저작권 전부를 보유하고 있지 아니하므로, 반드시 해당 저작권자의 허락을 받으셔야 합니다.

저작권정책 담당자안내

정책브리핑 공공누리 담당자 안내

문의처 : 문화체육관광부 정책포털과

문화체육관광부 정책포털과 공공누리 담당자

뉴스	정책뉴스, 정책칼럼, 뉴스인사이트 등 044-203-3052 국민이 말하는 정책 044-203-3254
멀티미디어	영상, 숏폼 044-203-3049 카드/한컷 044-203-3261 사진 044-203-3261 웹툰 044-203-3049
브리핑룸	보도자료 044-203-3049 사실은 이렇습니다 044-203-3052 브리핑자료 044-203-3049 연설문 044-203-3049
정책자료	국정신문 044-203-3046
정부기관 SNS	소통채널(SNS) 044-203-3046

※ 브리핑룸 보도자료는 각 부·처·기관으로부터 연계로 자동유입되는 자료로 보도자료에 포함된 연락처로 문의
※ 전문자료와 전자책의 이용은 각 자료를 발간한 해당 부처로 문의

국가법령정보센터 저작권법 바로가기 공공누리 유형안내 바로가기

닫기

기사 이용 시에는 출처를 반드시 표기해야 하며, 위반 시

저작권법 제37조

제37조(출처의 명시)

① 이 관에 따라 저작물을 이용하는 자는 그 출처를 명시하여야 한다. 다만, 제26조, 제29조부터 제32조까지,
제34조 및 제35조의2의 경우에는 그러하지 아니하다. <개정 2011. 12. 2.>

② 출처의 명시는 저작물의 이용 상황에 따라 합리적이라고 인정되는 방법으로 하여야 하며, 저작자의 실명
또는 이명이 표시된 저작물인 경우에는 그 실명 또는 이명을 명시하여야 한다.

닫기

및

제138조

제138조(벌칙)

다음 각 호의 어느 하나에 해당하는 자는 500만원 이하의 벌금에 처한다. <개정 2011. 12. 2.>

1. 제35조제4항을 위반한 자

2. 제37조(제87조 및 제94조에 따라 준용되는 경우를 포함한다)를 위반하여 출처를 명시하지 아니한 자

3. 제58조제3항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작재산권자의 표지를 하지 아니한 자

4. 제58조의2제2항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작자에게 알리지 아니한 자

5. 제105조제1항에 따른 신고를 하지 아니하고 저작권대리중개업을 하거나, 제109조제2항에 따른 영업의 폐쇄명령을 받고 계속 그 영업을 한 자 [제목개정 2011. 12. 2.]

닫기

에 따라 처벌될 수 있습니다.

<자료출처=정책브리핑 www.korea.kr>