본문 바로가기 메인메뉴 바로가기

전자정부이 누리집은 대한민국 공식 전자정부 누리집입니다.

브리핑룸

콘텐츠 영역

개인정보위, 에이닷 등 인공지능(AI) 응용서비스 사전 실태점검 결과 발표

2024.06.13 개인정보보호위원회
목록

개인정보위, 에이닷 등 인공지능(AI) 응용서비스 사전 실태점검 결과 발표



  개인정보보호위원회(위원장 고학수, 이하 ‘개인정보위’)는 6월 12일(수) 제10회 전체회의를 열고, 에이닷 등 인공지능(AI) 응용서비스를 제공하는 4개 사업자*에 대한 사전 실태점검** 결과를 심의·의결하였다.


   * SKT / 스노우 / DeepL / 뷰노


  ** 개인정보 보호의 취약점을 선제적으로 점검하여 침해위험을 사전에 예방하기 위해 도입된 제도로서 법 위반 사항 발견시 시정을 권고(「개인정보 보호법」 제63조의2)


  개인정보위는 지난해 11월부터 국내·외 주요 AI 서비스를 ①LLM(Large Language Model) 관련 사업자와 ②응용서비스 제공사업자로 나누어 점검을 진행하였으며, 지난 3월 LLM 관련 사업자에 대해 우선 점검 결과를 발표한 바 있다.


  이번 심의·의결 과정에서는 에이닷, 스노우 등 AI를 활용한 응용서비스의 개인정보 처리 과정을 중점적으로 살펴보았고, 그 결과는 다음과 같다.


< SKT(에이닷) >


  에이닷은 통화녹음·요약 및 실시간 통역 등을 제공하는 서비스이다.


  점검 결과, 통화 녹음·요약 서비스의 경우 이용자의 기기에서 통화 녹음이 이루어지면 음성파일이 SKT의 서버에서 텍스트로 변환되고, 이를 다시 MS의 클라우드에서 요약해 이용자에게 전달하는 방식으로 진행되고 있었다. 그 과정에서 텍스트 파일을 보관하는 시스템 등에 접속기록이 보관되지 않은 사실이 있어, 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수토록 시정권고하기로 하였다.


  아울러 개인정보보호 원칙 등에 비추어 텍스트 파일의 보관 기간 최소화, 비식별 처리의 강화, 서비스 내용에 대해 정보주체들이 명확히 이해할 수 있는 조치를 마련·시행할 것을 개선권고키로 하였다.


  * 해당 사업자는 점검 기간 동안 국외이전 관련 고지 구체화, 학습데이터 보관 기간 단축 등의 조치를 취한 바 있음


< 스노우 >


  스노우는 생성형 AI 기술을 기반으로 AI 프로필 등 얼굴 사진을 변형한 이미지를 생성해 주는 서비스로, 사전 학습(pre-training)되어 인터넷에 공개된 AI 모델을 이용함에 따라 별도로 학습데이터는 수집하지 않으며, 서비스 이용 과정에서 생성된 이미지 또한 이용자 편의(재다운로드 등)를 위해 일정기간 서버에 보관할 뿐, 다른 목적으로 이용하지는 않고 있었다.


  다만, 스노우가 제공하는 특정 기능 관련해 이미지를 서버로 전송하여 사용·처리 중이나, 처리방침에는 이용자가 알기 어려운 형태로 공개하고 있고, 이미지 필터링 등을 위한 외부 개발도구(Software Development Kit, SDK)의 안전성을 충실히 검토하지 않은 사실이 있었다. 이에 개인정보를 서버로 전송하여 처리하는 경우, 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용하여 개인정보를 처리하는 경우 의도하지 않은 개인정보 처리·전송 가능성을 점검할 것을 개선권고하였다.


< DeepL 및 뷰노 >


  DeepL은 AI 기반 전 세계 31개 언어를 번역해 주는 서비스로, 공개된 데이터* 및 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용하고 있다.


  * 입력된 텍스트만 번역하므로 공개 데이터 학습에 따른 개인정보 생성·노출 등 소지는 없음


  개인정보위는 DeepL이 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않은 사실을 확인하였으나, 점검 과정에서 개인정보위가 지난 3월 발표한 내용*을 바탕으로 개인정보를 입력하지 않도록 입력 화면에 안내하고, 인적 검토 사실을 처리방침에 반영함으로써 별도의 개선권고는 하지 않기로 하였다.


  * AI 모델 등 개선 목적으로 이용자 입력 데이터에 대한 인적 검토과정을 거치는 경우 이용자에게 관련 사실을 명확하게 고지


  뷰노는 AI 기반 의료영상(X-RAY, CT, MRI 등)·생체신호(심전도 등) 판독·진단을 보조하고 질환(심정지)을 예측하는 프로그램이다.


  뷰노는 AI 학습에 병원의 기관생명윤리위원회 및 기관데이터심의위원회를 통과한 데이터만 사용하고, 의료기관에서 프로그램에 입력한 의료영상 등의 데이터는 사용하지 않는 것으로 확인되어 AI 학습데이터 수집·처리 관련 보호법 위반 사항은 발견되지 않았다.


  이번 사전 실태점검은 각 산업·서비스 분야에서 빠르게 AI를 도입하는 가운데 개인정보 처리 과정에서의 취약점을 선제적으로 점검하고 개선을 유도하였다는 데 의의가 있다. 개인정보위는 앞으로도 정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI를 도입하는 응용서비스에 대한 지속적인 모니터링을 실시하고, AI 시대의 개인정보 보호 대책 및 안전한 개인정보 활용 방안을 마련해 나갈 계획이다.



* 기타 자세한 내용은 첨부파일을 확인해주시기 바랍니다.


- 담당자 : 조사1과 고명석(02-2100-3114)

             조사2과 허재형(02-2100-3129)

“이 자료는 개인정보보호위원회의 보도자료를 전재하여 제공함을 알려드립니다.”

이전다음기사

다음기사“같이하는 헌혈, 마음을 나누다. 가치있는 헌혈, 생명을 더하다.”

히단 배너 영역

추천 뉴스

국민과 함께하는 민생토론회
정부정책 사실은 이렇습니다

많이 본, 최신, 오늘의 영상 , 오늘의 사진

정책브리핑 게시물 운영원칙에 따라 다음과 같은 게시물은 삭제 또는 계정이 차단 될 수 있습니다.

  • 1. 타인의 메일주소, 전화번호, 주민등록번호 등의 개인정보 또는 해당 정보를 게재하는 경우
  • 2. 확인되지 않은 내용으로 타인의 명예를 훼손시키는 경우
  • 3. 공공질서 및 미풍양속에 위반되는 내용을 유포하거나 링크시키는 경우
  • 4. 욕설 및 비속어의 사용 및 특정 인종, 성별, 지역 또는 특정한 정치적 견해를 비하하는 용어를 게시하는 경우
  • 5. 불법복제, 바이러스, 해킹 등을 조장하는 내용인 경우
  • 6. 영리를 목적으로 하는 광고 또는 특정 개인(단체)의 홍보성 글인 경우
  • 7. 타인의 저작물(기사, 사진 등 링크)을 무단으로 게시하여 저작권 침해에 해당하는 글
  • 8. 범죄와 관련있거나 범죄를 유도하는 행위 및 관련 내용을 게시한 경우
  • 9. 공인이나 특정이슈와 관련된 당사자 및 당사자의 주변인, 지인 등을 가장 또는 사칭하여 글을 게시하는 경우
  • 10. 해당 기사나 게시글의 내용과 관련없는 특정 의견, 주장, 정보 등을 게시하는 경우
  • 11. 동일한 제목, 내용의 글 또는 일부분만 변경해서 글을 반복 게재하는 경우
  • 12. 기타 관계법령에 위배된다고 판단되는 경우
  • 13. 수사기관 등의 공식적인 요청이 있는 경우