금융위원회는 지난 2022년 8월, 금융권의 인공지능(Artificial Intelligence, AI) 활용을 지원하기 위해 「금융분야 인공지능 활용 활성화 및 신뢰확보 방안」을 발표하였다. 해당 방안의 후속조치로 신뢰받는 인공지능 활용 환경을 구축하기 위해 「AI 기반 신용평가모형 검증체계」와 「금융분야 AI 보안 가이드라인」을 마련했다.
「AI 기반 신용평가모형 검증체계」는 AI 특성을 고려하여 신용정보회사가 데이터를 적절히 관리하는지, 신용평가모형에 사용되는 알고리즘과 변수를 합리적으로 선정하였는지 점검하고, 신용정보회사가 개발한 신용평가모형이 통계적으로 유의한지 확인한다. 또한, 신용정보회사가 금융소비자에게 신용평가모형과 신용평가 결과에 대해 충분히 설명할 수 있는지 검증한다.
개인신용평가체계 검증위원회는 「AI 기반 신용평가모형 검증체계」를 활용하여 연내 AI 신용평가모형을 활용하고 있는 개인사업자신용평가회사에 대한 검증을 수행할 예정이다. 향후 개인신용평가회사 등의 AI 신용평가모형에 대해서도 검증을 실시할 계획이다.
「금융분야 AI 보안 가이드라인」은 AI 모델을 개발할 때 고려해야 할 보안사항을 개발단계별로 제시하고, AI 챗봇 서비스에 대한 보안성 체크리스트를 추가로 제공한다.
AI 모델 개발단계별 보안 고려사항은 “학습 데이터 수집→ 학습 데이터 전(前)처리 → AI 모델 설계·학습 → AI 모델 검증·평가” 단계에 따라 구성되어 있다. 학습 데이터 오염, 개인정보 유출, AI 모델에 대한 공격 등 구체적 보안위협에 대해 대응할 수 있도록 데이터 관리·처리 방법, 모델 설계 기법, 보안성 검증 방법 등을 제시한다.
금융분야에서 AI가 가장 활발히 사용되는 서비스 중 하나인 챗봇에 대해서는 「AI 챗봇서비스 보안성 체크리스트」를 별도로 마련하였다. 보안성 확보에 필요한 사항들을 체크리스트 형태로 구체화하여 제공해 현장 실무자가 쉽게 활용할 수 있을 것으로 기대된다.
※ (참고) 「AI 챗봇서비스 보안성 체크리스트」 문항 예시
분류
소분류
연번
보안성 체크리스트
공통
입력제한
6
개인정보를 처리하지 않는 챗봇의 경우 입력창에 개인정보를 입력하지 않도록 이용자에게 사전에 안내하는가?
「금융분야 AI 보안 가이드라인」은 「금융보안 레그테크 포탈*」에 게시되어 있으며, 앞으로 새로 등장하는 보안위협·대응기법 등을 고려하여 지속적으로 개선·보완해나갈 계획이다.
금융위는 AI가 초지능·초연결·초융합 시대에 혁신적 서비스 개발의 핵심 기술이며, 금융분야는 고품질 데이터가 풍부해 AI 활용의 잠재력이 매우 큰 분야라고 언급하며, 앞으로 「금융분야 인공지능 활용 활성화 및 신뢰확보 방안」의 다른 세부 추진과제에 대해서도 차질없이 추진해 나가겠다고 밝혔다.
참고 : 「AI 신용평가모형 검증체계」 및 「금융분야 AI 보안 가이드라인」 주요내용
별첨 : 「금융분야 AI 보안 가이드라인」
“이 자료는 금융위원회의 보도자료를 전재하여 제공함을 알려드립니다.”
이 자료는 텍스트에 한하여 공공누리 제1유형(출처표시)의 조건에 따라 이용할 수 있습니다.
단, 텍스트를 제외한 사진·이미지·일러스트·동영상 등 자료의 대부분은 정책브리핑이 저작권을 보유하고 있지 않으므로, 이용 전 해당 저작권자의 허락을 반드시 받으셔야 합니다.