개인정보위, 에이닷 등 인공지능(AI) 응용서비스 사전 실태점검 결과 발표

개인정보보호위원회(위원장 고학수, 이하 ‘개인정보위’)는 6월 12일(수) 제10회 전체회의를 열고, 에이닷 등 인공지능(AI) 응용서비스를 제공하는 4개 사업자*에 대한 사전 실태점검** 결과를 심의·의결하였다.

* SKT / 스노우 / DeepL / 뷰노

** 개인정보 보호의 취약점을 선제적으로 점검하여 침해위험을 사전에 예방하기 위해 도입된 제도로서 법 위반 사항 발견시 시정을 권고(「개인정보 보호법」 제63조의2)

개인정보위는 지난해 11월부터 국내·외 주요 AI 서비스를 ①LLM(Large Language Model) 관련 사업자와 ②응용서비스 제공사업자로 나누어 점검을 진행하였으며, 지난 3월 LLM 관련 사업자에 대해 우선 점검 결과를 발표한 바 있다.

이번 심의·의결 과정에서는 에이닷, 스노우 등 AI를 활용한 응용서비스의 개인정보 처리 과정을 중점적으로 살펴보았고, 그 결과는 다음과 같다.

< SKT(에이닷) >

에이닷은 통화녹음·요약 및 실시간 통역 등을 제공하는 서비스이다.

점검 결과, 통화 녹음·요약 서비스의 경우 이용자의 기기에서 통화 녹음이 이루어지면 음성파일이 SKT의 서버에서 텍스트로 변환되고, 이를 다시 MS의 클라우드에서 요약해 이용자에게 전달하는 방식으로 진행되고 있었다. 그 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않은 사실이 있어, 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수토록 시정권고하기로 하였다.

아울러 개인정보보호 원칙 등에 비추어 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련·시행할 것을 개선권고키로 하였다.

* 해당 사업자는 점검 기간 동안 국외이전 관련 고지 구체화, 학습데이터 보관 기간 단축 등의 조치를 취한 바 있음

< 스노우 >

스노우는 생성형 AI 기술을 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성해 주는 서비스로, 사전 학습(pre-training)되어 인터넷에 공개된 AI 모델을 이용함에 따라 별도로 학습데이터는 수집하지 않으며, 서비스 이용 과정에서 생성된 이미지 또한 이용자 편의(재다운로드 등)를 위해 일정기간 서버에 보관할 뿐, 다른 목적으로 이용하지는 않고 있었다.

다만, 스노우가 제공하는 특정 기능 관련해 이미지를 서버로 전송하여 사용·처리 중이나, 처리방침에는 이용자가 알기 어려운 형태로 공개하고 있고, 이미지 필터링 등을 위한 외부 개발도구(Software Development Kit, SDK)의 안전성을 충실히 검토하지 않은 사실이 있었다. 이에 개인정보를 서버로 전송하여 처리하는 경우, 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용하여 개인정보를 처리하는 경우 의도하지 않은 개인정보 처리·전송 가능성을 점검할 것을 개선권고하였다.

< DeepL 및 뷰노 >

DeepL은 AI 기반 전 세계 31개 언어를 번역해 주는 서비스로, 공개된 데이터* 및 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용하고 있다.

* 입력된 텍스트만 번역하므로 공개 데이터 학습에 따른 개인정보 생성·노출 등 소지는 없음

개인정보위는 DeepL이 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않은 사실을 확인하였으나, 점검 과정에서 개인정보위가 지난 3월 발표한 내용*을 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리방침에 반영함으로써 별도의 개선권고는 하지 않기로 하였다.

* AI 모델 등 개선 목적으로 이용자 입력 데이터에 대한 인적 검토과정을 거치는 경우 이용자에게 관련 사실을 명확하게 고지

뷰노는 AI 기반 의료영상(X-RAY, CT, MRI 등)·생체신호(심전도 등) 판독·진단을 보조하고 질환(심정지)을 예측하는 프로그램이다.

뷰노는 AI 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용하고, 의료기관에서 프로그램에 입력한 의료영상 등의 데이터는 사용하지 않는 것으로 확인되어 AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다.

이번 사전 실태점검은 각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다. 개인정보위는 앞으로도 정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시하고, AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련해 나갈 계획이다.

* 기타 자세한 내용은 첨부파일을 확인해주시기 바랍니다.

- 담당자 : 조사1과 고명석(02-2100-3114)

조사2과 허재형(02-2100-3129)

“이 자료는 개인정보보호위원회의 보도자료를 전재하여 제공함을 알려드립니다.”