뉴스

국민이 직접 오류 찾아낸다…'AI 안전 지킴이' 출범

2026.11.12 과학기술정보통신부

뉴스레터 구독

말하기 속도

본문 듣기를 종료하였습니다.

글자크기 설정

국민이 직접 인공지능(AI) 오류 등을 상시 찾아내고 제보할 수 있도록 AI 안전 국민 모니터링단 'AI 안전 지킴이'가 출범했다.

과학기술정보통신부는 인공지능안전연구소(이하 안전연구소)와 함께 12일 서울 여의도 글래드 호텔에서 'AI 안전 지킴이' 발대식을 개최했다.

과기정통부와 안전연구소는 신뢰 가능한 AI 이용 환경을 조성하기 위해 국민이 참여하는 '정보 오류 없는 찐 AI 챌린지' 캠페인을 지난해 12월부터 30여 일간 추진한 바 있다.

캠페인 기간 동안 총 625건이 접수됐으며 이 중 464건이 유효한 오류 사례로 확인됐다. 이를 통해 AI 안전·신뢰에 대한 국민들의 높은 관심을 확인할 수 있었다.

이에 한시적 캠페인을 넘어 국민이 직접 AI 오류 등을 상시적으로 찾아내고 제보할 수 있는 체계가 필요하다는 인식 아래 이번 'AI 안전 지킴이'를 구성·운영하게 됐다.

'AI 안전 지킴이'는 지난 8월과 9월 두 차례 공개 모집을 통해 지원한 138명 중 최종 선발된 80명으로 구성됐다.

10대 고등학생부터 60대 이상까지 폭넓은 연령층이 참여하며 직장인, 가사종사자, 프리랜서, 학생 등 다양한 분야의 국민이 함께 한다.

이들은 내년 8월까지 약 1년간 인공지능 오류·위험 사례를 찾아내는 등 국민이 일상에서 AI를 안전하게 믿고 사용할 수 있는 환경을 만드는 데 앞장선다.

이날 발대식에는 엄열 과기정통부 인공지능정책실장을 비롯해 김명주 인공지능안전연구소장, AI 안전지킴이 등 50여 명이 참석했다.

행사는 위촉장 수여, 운영계획 안내, 대표 지킴이 소감 발표 순으로 진행됐다. 행사 이후에는 AI 안전 지킴이를 대상으로 오류사례 발굴 방법과 제보 기준을 다루는 교육이 이어졌다.

AI 안전 지킴이가 제보한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등 유효성 검증을 거쳐 확정된다.

확정된 사례는 AI 안전성 평가와 위험 연구의 기초 자료 등으로 활용될 예정이다. 또한 과기정통부와 안전연구소는 관련 기업에 사례를 공유하는 등 AI 기업과 지속적으로 소통해 나갈 계획이다.

엄열 과기정통부 인공지능정책실장은 "AI가 남녀노소 누구나 사용하는 우리의 일상이 된 만큼 이를 안전하게 사용할 수 있는 환경은 우리 모두가 함께 만들어 가야 한다"고 말했다.

그러면서 "AI 안전 지킴이가 국민의 눈높이에서 찾아낸 오류 하나하나가 모여 더욱 안전한 AI를 만드는데 소중한 밑거름이 될 것"이라고 덧붙였다.

문의: 과학기술정보통신부 인공지능안전신뢰정책과(044-202-6295)

이 자료는 텍스트에 한하여 공공누리 제1유형(출처표시)의 조건에 따라 이용할 수 있습니다.

정책브리핑 공공누리 담당자 안내

문의처 : 문화체육관광부 정책포털과