경찰이 영상·음성·문자를 함께 분석해 인공지능(AI) 조작물을 판별하고 생성·유포 과정을 추적하는 수사 역량을 강화한다.

조작물 분석에 특화된 'AI 전문분석관'을 전국 시도경찰청에 배치하고, 전문교육도 대폭 확대한다.  

경찰청 국가수사본부는 딥페이크 성범죄뿐 아니라 명예훼손·투자사기·보이스피싱 등으로 확산하는 AI 악용 범죄에 대응하기 위해 'AI 불법 조작물 탐지·분석체계 고도화 기본계획'을 수립해 본격 시행한다고 밝혔다.

이번 계획은 AI 조작 여부를 신속하고 정확하게 탐지하고, 조작부터 유포까지 범행의 전체 과정을 분석하는 역량을 높이는 데 중점을 뒀다.

이를 위해 ▲AI 조작물 정밀 탐지 시스템 구축 ▲자동화 분석 도구 개발 및 기법 고도화 ▲AI 전문분석관 운영 ▲표준 절차 정립 ▲전문가 그룹 운영 등 기술·시스템·인력·조직 측면의 8대 세부 과제를 추진한다.

먼저, AI 조작물을 신속하게 판별할 수 있도록 차세대 정밀 탐지 시스템을 구축한다.

경찰은 2024년부터 도입해 활용 중인 '딥페이크 탐지 시스템'에 한국인 맞춤형 자료를 학습시켜 국내 실정에 맞게 성능을 개선하고 있다.

영상·이미지뿐 아니라 음성과 문자까지 함께 분석하는 '멀티모달(Multi Modal) 딥페이크 탐지 기술' 연구개발도 진행하고 있다.

영상 속 입 모양과 목소리가 맞는지, 음성과 자막의 내용이 일치하는지 등을 종합적으로 확인해 탐지 성능을 높이는 방식이다.

이를 위한 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 사업을 2025년부터 2027년까지 3년간 예산 91억 원 규모로 추진하고 있다.

연구개발이 완료되면 경찰을 비롯한 모든 수사기관이 공동으로 활용할 수 있는 시스템 구축도 추진할 계획이다.

생성형 AI 등을 이용한 조작물 생성·유포 과정의 분석 기술도 강화한다.

경찰은 사용 빈도가 높은 주요 생성형 AI 서비스를 대상으로 프로그램 실행이력과 명령어 기록 분석, 조작에 사용된 특정 프로그램 식별, 변형 자료 분석 등 범행 과정을 확인하는 기법을 개발하고 설명서를 보급하고 있다.

새롭게 유행하는 기술에 대한 연구도 지속한다.

불법 조작물의 생성·유포 전 과정을 분석해 증거를 추출하는 자동화 도구 개발도 추진한다.

관련 사업인 '로컬환경 인공지능 모델 대상 포렌식 기술개발'은 2026년부터 2029년까지 4년간 예산 100억 원 규모로 진행한다.

기술·시스템 고도화와 함께 전문인력과 조직, 대내외 협력 대응체계도 강화한다.

조작물 분석에 특화된 'AI 전문분석관'을 전국 시도경찰청에 배치·운영하고, 현장수사관과 분석관 대상 전문교육을 대폭 확대한다.

민·관·학 전문가 그룹을 운영해 최신 AI 기술 동향과 주요 탐지 사례, 신규 프로그램 분석 성과 등을 지속적으로 공유하고 관련 범죄에 공동 대응할 계획이다.

김종철 경찰청장 직무대행은 "AI를 이용한 범죄 수법이 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"라며 "경찰은 AI로 만든 가짜를 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사 역량을 갖춰 국민이 안심하고 AI 기술을 이용할 수 있도록 하겠다"라고 말했다.

문의: 경찰청 디지털포렌식센터(02-3150-1517)

이 자료는 텍스트에 한하여 공공누리 제1유형(출처표시)의 조건에 따라 이용할 수 있습니다.

단, 텍스트를 제외한 사진·이미지·일러스트·동영상 등 자료의 대부분은 정책브리핑이 저작권을 보유하고 있지 않으므로, 이용 전 해당 저작권자의 허락을 반드시 받으셔야 합니다.

저작권정책 담당자안내

정책브리핑 공공누리 담당자 안내

문의처 : 문화체육관광부 정책포털과

문화체육관광부 정책포털과 공공누리 담당자

뉴스	정책뉴스, 정책칼럼, 뉴스인사이트 등 044-203-3052 국민이 말하는 정책 044-203-3254
멀티미디어	영상, 숏폼 044-203-3049 카드/한컷 044-203-3261 사진 044-203-3261 웹툰 044-203-3049
브리핑룸	보도자료 044-203-3049 사실은 이렇습니다 044-203-3052 브리핑자료 044-203-3049 연설문 044-203-3049
정책자료	국정신문 044-203-3046
정부기관 SNS	소통채널(SNS) 044-203-3046

※ 브리핑룸 보도자료는 각 부·처·기관으로부터 연계로 자동유입되는 자료로 보도자료에 포함된 연락처로 문의
※ 전문자료와 전자책의 이용은 각 자료를 발간한 해당 부처로 문의

국가법령정보센터 저작권법 바로가기 공공누리 유형안내 바로가기

닫기

기사 이용 시에는 출처를 반드시 표기해야 하며, 위반 시

저작권법 제37조

제37조(출처의 명시)

① 이 관에 따라 저작물을 이용하는 자는 그 출처를 명시하여야 한다. 다만, 제26조, 제29조부터 제32조까지,
제34조 및 제35조의2의 경우에는 그러하지 아니하다. <개정 2011. 12. 2.>

② 출처의 명시는 저작물의 이용 상황에 따라 합리적이라고 인정되는 방법으로 하여야 하며, 저작자의 실명
또는 이명이 표시된 저작물인 경우에는 그 실명 또는 이명을 명시하여야 한다.

닫기

및

제138조

제138조(벌칙)

다음 각 호의 어느 하나에 해당하는 자는 500만원 이하의 벌금에 처한다. <개정 2011. 12. 2.>

1. 제35조제4항을 위반한 자

2. 제37조(제87조 및 제94조에 따라 준용되는 경우를 포함한다)를 위반하여 출처를 명시하지 아니한 자

3. 제58조제3항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작재산권자의 표지를 하지 아니한 자

4. 제58조의2제2항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작자에게 알리지 아니한 자

5. 제105조제1항에 따른 신고를 하지 아니하고 저작권대리중개업을 하거나, 제109조제2항에 따른 영업의 폐쇄명령을 받고 계속 그 영업을 한 자 [제목개정 2011. 12. 2.]

닫기

에 따라 처벌될 수 있습니다.

<자료출처=정책브리핑 www.korea.kr>