개인정보보호위원회(이하 ‘개인정보위’) 고학수 위원장이 12월 21일(목) 디캠프 프론트원에서 인공지능(AI) 새싹기업(스타트업)들을 만났다. 인공지능 특성을 반영한 개인정보 규율체계를 모색하기 위해 현장의 의견을 들어보겠다는 것이다.
생성형 인공지능(AI)의 등장 이후, 인공지능 기술 발전이 가속화됨에 따라 과거에 비해 데이터가 복잡하고 예측하기 어려운 방식으로 처리되는 경우가 증가하고 있다. 이에 따라 인공지능 개발·제공 과정에서 정보주체의 개인정보 침해에 대한 불안과 우려가 커지고, 인공지능 등을 개발하거나 활용하는 기업의 입장에서는 법적 불확실성이 심화되고 있는 상황이다.
이에 개인정보위는 ‘인공지능 시대 안전한 개인정보 활용 정책방향(’23.8.)’, ‘데이터 경제 활성화 추진과제(’23.11.)’ 등 인공지능 개인정보 관련 주요 정책을 마련하여 개인정보가 안전하게 활용될 수 있는 기반을 조성하는 한편, ‘AI 프라이버시 민·관 정책협의회(’23.10월)’를 구성하여 민간의 전문가들과 공동으로 인공지능 개인정보 규범체계를 마련 중이다.
이번 간담회는 국내 인공지능 산업의 한 축인 새싹기업과 함께 인공지능 개인정보 관련 주요 정책과제를 점검하고 현장의 목소리를 청취하기 위해 마련되었다.
인공지능 새싹기업들은 인공지능으로 인한 개인정보 위험에 대응하고, 투명성과 신뢰성을 확보하기 위한 기업 차원의 주요 성과를 공유하였다.
먼저, 이영복 제네시스랩 대표는 사람 면접관의 한계를 극복한 자사의 인공지능 채용 솔루션의 주요 특징을 소개하면서, 공정성·타당성·투명성을 확보하기 위한 노력 및 신뢰할 수 있는 인공지능 구현을 위한 ‘제네시스랩 AI 채용 솔루션 윤리점검표’의 주요 내용을 발표하였다.
이어서 김동환 포티투마루 대표가 자연어 처리를 기반으로 딥러닝 인공지능 기술을 접목하여 사용자의 질의 의도를 정확히 이해하고, 단 하나의 정답을 도출하는 자사의 핵심 기술을 소개하고, 인공지능의 신뢰성과 품질 우수성을 확보하기 위한 노력에 대하여 발표하였다.
마지막으로 배호 큐빅 대표는 딥페이크 대응기술 및 거대언어모델(LLM)에서 민감한 내부정보 유출을 예방하는 자사의 솔루션을 소개하였다. 큐빅은 고품질 데이터는 인공지능 발전의 핵심이지만 각종 규제 등으로 확보가 어려운 점을 해결하기 위해 합성데이터 시장에 주목하고 있으며, 안전한 데이터 활용을 위해 비식별 기술 등을 개발하여 대응하고 있다.
발표 이후 진행된 자유 토론에서는 간담회에 참석한 기업들이 인공지능 사업 추진과정에서 겪고 있는 다양한 애로 사항을 제시하였으며, 이 중 개인정보 관련 법적 불확실성은 다수 기업이 공통적으로 겪고 있는 문제로 드러났다.
이에, 개인정보위는 법적 불확실성 해소와 ‘원칙’ 기반의 규율체계 정립을 위한 노력을 설명하고, 특히 인공지능 등 신기술 사업 추진과정에서 프라이버시 현안(이슈)이 발생했을 때 ‘사전적정성 검토제*’를 적극 활용해 달라고 당부하였다.
* 인공지능(AI) 등 새로운 서비스를 기획·개발하려는 사업자가 개인정보위와 함께 「개인정보 보호법」 준수방안을 마련하고, 이를 사업자가 적정히 적용하면 추후 환경변화가 없는 한 행정처분 대상에서 제외하는 제도
아울러, 인공지능 분야 가이드라인을 여러 부처에서 산발적으로 발표하기 때문에 각종 정보가 산재되어 있고, 기업에서는 이를 인지하기 어려워, 인공지능 관련 각종 가이드라인을 한눈에 알아볼 수 있도록 범정부 통합 가이드라인 제정 필요성도 제시되었다.
한편, 일부 참석자는 딥페이크(첨단 조작 기술) 악용 등 위험성만을 강조하여 규제에 초점을 둔다면, 우리나라 인공지능 기술 및 새싹기업 발전을 저해하기 때문에, 기술 중립적인 시각에서 개별 인공지능 서비스의 용례, 위험성 등을 고려한 세심한 규제·감독이 필요하다는 의견도 제시하였다.
고학수 개인정보위 위원장은 “경성적인 규범은 인공지능 기술의 빠른 변화 속도를 따라갈 수 없기 때문에 원칙 기반의 유연한 규율체계가 필요하다.”며, “사전적정성 검토 및 규제샌드박스 신청 사례 등 인공지능 서비스·기술의 다양한 용례를 바탕으로 세밀하게 접근하여 국내 인공지능 생태계를 발전시키는 한편, 글로벌 인공지능 규범 논의 과정에서도 역할을 다해나가겠다.”라고 밝혔다.
* 기타 자세한 내용은 첨부파일을 확인해주시기 바랍니다.
- 담당자 : 인공지능프라이버시팀 최홍석(02-2100-3176)
“이 자료는 개인정보보호위원회의 보도자료를 전재하여 제공함을 알려드립니다.”
이 자료는 텍스트에 한하여 공공누리 제1유형(출처표시)의 조건에 따라 이용할 수 있습니다.
단, 텍스트를 제외한 사진·이미지·일러스트·동영상 등 자료의 대부분은 정책브리핑이 저작권을 보유하고 있지 않으므로, 이용 전 해당 저작권자의 허락을 반드시 받으셔야 합니다.
이 누리집은 대한민국 공식 전자정부 누리집입니다.
231222 (조간) 인공지능 새싹기업이 개인정보위에 바라는 점은(인공지능프라이버시팀).hwpx
231222 (조간) 인공지능 새싹기업이 개인정보위에 바라는 점은(인공지능프라이버시팀).pdf
