서울에서 글로벌 인공지능(AI) 거버넌스를 묻다

- 개인정보위, UN과 함께 「인공지능(AI)과 데이터 거버넌스 국제 컨퍼런스」 개최

- 글로벌 인공지능 전문가와 산업계 모여 AI·데이터 거버넌스의 미래 논의

  개인정보보호위원회(위원장 고학수, 이하 ‘개인정보위’)가 5월 23일(목), 서울 더 플라자 호텔에서「인공지능(AI)과 데이터 거버넌스 국제 컨퍼런스」를 개최했다. 이날 컨퍼런스에서는 유엔 기술특사를 비롯한 유엔 AI 자문위원들과 국제기구 및 국내외 AI 관련 전문가, 산·학·연 관계자 등 300여 명이 참석하여 AI 시대 데이터 거버넌스의 미래에 대해 활발한 대화를 나누었다.

  이번 국제 컨퍼런스는 개인정보위가 유엔 AI 고위급 자문기구(이하 ‘UN AIAB’)와 협력하여 마련한 자리이다. AI 서울 정상회의에 이어 개최된 데다, 특히 전 세계의 AI 및 데이터 관련 전문가들이 한자리에 모여 AI와 데이터 거버넌스에 관한 심도 있는 논의를 진행하였다는 점에서 그 의미가 크다.

  개회사에서 고학수 개인정보위 위원장은 “개별 국가마다 AI를 안전하게 활용하고 관리하기 위한 제도와 정책을 만들고 있지만, 국가·지역별로 파편화된 규범은 AI 기술을 통한 혁신이나 규율 체계 형성에 효과적이지 못할 수 있다”는 우려를 표하며, 긴밀한 국제적 소통·협력과 유연한 사고에 기반한 논의과정을 통해 인류 전체가 함께 번영을 누릴 수 있는 조화롭고 상호운용적인 AI 거버넌스 체계를 마련해야 한다고 역설하였다.

  이어진 기조연설에서 아만딥 싱 길(Amandeep Singh Gill) 유엔 기술특사는 “데이터와 AI 거버넌스는 밀접히 연결되어 있다”면서, “이는 데이터가 AI 시스템에 투입되는 핵심 원천일 뿐 아니라, AI 모델이나 결과만 보아서는 AI 리스크에 적절히 대응할 수 없기 때문”이라고 말하였다. 길 기술특사는 이 때문에 UN AIAB가 국제 AI 거버넌스 다섯 원칙 중 하나로 데이터 거버넌스를 포함한 것이라고 설명하였다. 

  이어진 두 개의 세션은 임용 서울대 법학전문대학원 교수의 진행으로 유엔 등 공공부문 전문가 그룹과 산업계 그룹으로 나뉘어 AI 거버넌스와 데이터 거버넌스에 대한 논의를 각각 진행하였다.

  UN AIAB 자문위원 등 공공부문 전문가가 참여한 첫 번째 세션에서는 ‘글로벌 AI 거버넌스’를 주제로 ‘국제 공조와 상호운용성의 전망’에 대해 논의하였다. 임용 교수는 AI 거버넌스와 관련한 글로벌 협력의 의미와 상호운용성 확보를 위한 국제기구 및 각국 정부의 역할, 글로벌 AI 거버넌스를 구축하는 데 있어 폭넓은 접근성과 포용성의 가치에 대해 화두를 던졌다. 

  라티파 알 압둘카림(Latifa Al-Abdulkarim) 유엔 UN AIAB 자문위원이자 사우디아라비아 국회의원은 디지털 격차를 넘은 협력을 촉진하고, 소외가 발생하지 않도록 국제 AI 거버넌스를 이행할 유연하고 포용적인 접근이 필요하다고 주장하였다. 이를 위해서는 범국가적 AI 정책 강화와 현존하는 AI 거버넌스 간 조화가 필요하다고 언급하면서도 각국의 주권과 문화적 규범을 존중해야 한다고 덧붙였다.

  고학수 개인정보위 위원장은 현시점은 글로벌 AI 거버넌스에 다양한 접근을 하는 모색기이자 과도기라고 진단하며, AI 시장이 고착화되기 전에 글로벌 대화가 최대한 빨리 적극적으로 진행되어야 한다고 언급하였다. 또한, 각국 기관 간 지속적인 대화를 통해 글로벌 표준과 상호운용 시스템을 만들어가는 것이 정부의 역할이라고 설명하였다. 균형 잡힌 시각에 기반한 규율 체계를 형성하기 위하여 AI가 가져올 편익과 기회, 새로운 도전에 대해 국제적 차원의 지속적 논의와 고민이 계속되어야 한다고 강조하였다. 

  데니스 웅(Denise Wong) 싱가포르 개인정보 감독기구(PDPC) 부위원장은 포용적인 글로벌 협력이 기술 발전과 신뢰성 있는 AI 생태계 구축의 핵심 요소라고 주장하였다. 나아가, 전통적 AI와 생성형 AI 모두를 위한 싱가포르의 ‘모델 거버넌스 프레임워크(Model Governance Framework)’가 상호운용성 확대를 위한 기반을 제공한다고 소개하였다. 

  카린 퍼셋(Karine Perset) 경제개발기구(OECD) AI 정책연구소장은 OECD 역시 상호운용성을 핵심 가치로 삼고 있다고 강조하면서, 최근 OECD 장관회의에서 AI 관련 권고문을 검토했다고 언급하였다. 또한, OECD의 AI 원칙이 여러 국가의 정책에 반영되어 글로벌 상호운용성의 기반이 된다고 평가하였다.

  토마스 바시콜로(Thomas Basikolo) 국제전기통신연합(ITU) 통신표준화 정책 프로그램 책임자는 ITU가 2017년부터 100개 이상의 AI 표준을 공개하고 120개 이상의 표준을 개발하고 있으며, AI for Good 글로벌 써밋과 같은 이니셔티브를 통해 이해관계자 간 논의를 촉진하고 있다고 밝혔다. 의료, 농업, 재해관리 분야를 사례로 들며, 효과적 AI 거버넌스 구축에 있어 표준화의 중요성을 강조하였다.

  패널로도 참여한 아만딥 싱 길 유엔 기술특사는 편향되고 오도하는 추론, 개인의 불안과 행태 조작, 부분적이고 비인간적인 표현 등은 모두 적절하지 않은 데이터 거버넌스에서 기인한다고 말하며, 올바른 데이터 거버넌스는 공공 및 민간 부문 전반에서 올바른 이용과 신뢰할 수 있는 협력을 촉진할 수 있다고 언급하였다.

  이어진 주요 데이터 기업들의 두 번째 세션은, ‘글로벌 AI 맥락의 데이터 거버넌스’를 주제로 진행되었다. 진행자인 임용 교수는 AI와 관련하여 기업들이 당면한 데이터 거버넌스의 과제와 그 대응 방안에 대해 질의하였다. 

  멜린다 클레이보(Melinda Claybaugh) 메타(Meta) 프라이버시 정책 디렉터는 이번 컨퍼런스에 대해 기존의 법·제도가 AI 기술 발전에 어떻게 적용되는지와 관련한 UN AIAB, G7, OECD 등 국제 논의에 기여할 것이라고 평가하면서, AI 및 데이터 거버넌스에 대한 다양한 국제적·국내적 이니셔티브 간 조율 방안에 대한 의견교환이 기대된다고 언급하였다.

  김성훈 업스테이지 대표는 책임 있는 AI 개발과 윤리적인 AI 및 데이터 활용에 최선을 다하고 있다고 강조하면서, 업스테이지가 그간 쌓아온 경험과 노하우를 공유해 AI의 거대한 잠재력을 적절히 활용할 수 있는 정책 환경 조성에 기여하고 싶다고 밝혔다. 업스테이지는 데이터 오너십(ownership)의 중요성을 바탕으로, 기여한 데이터에 비례하여 보상을 제공하고 이익 공유 파트너십을 창출하는 ‘1조 토큰 클럽’을 이끌어 나가고 있다고도 언급하였다.

  하정우 네이버 클라우드 센터장은 데이터와 AI 거버넌스에 있어서 각 국가와 지역의 주권(Sovereignty)을 존중하는 것이 중요하다고 강조했다. 프론티어(frontier) AI와 같은 강력한 생성형 AI의 오픈소스화를 위한 안전한 거버넌스 체계는 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다고 언급하였다.

  애슬리 판툴리아노(Ashley Pantuliano) 오픈 AI 법률고문은 AI 관련 안전한 프라이버시 보호 수단을 지속적으로 혁신하기 위한 정부 및 업계 관계자와의  대화를 환영한다면서, 오픈 AI가 널리 이용되는 AI 모델을 개발하므로 책임 있는 AI 활용과 데이터 거버넌스를 위한 논의에 참여하는 것이 중요하다고 언급하였다. 오픈 AI의 툴이 사람들에게 편익을 제공하고 있지만 한편으로는 AI 기술에 위험이 동반한다는 것을 알고 있으며 AI를 안전하고 이롭게 유지하기 위해 전념하고 있다고 강조하였다. 

  유니스 훵(Eunice Huang) 구글(Google) 아태지역 인공지능 및 신흥기술 부서장은 AI가 대다수 분야에서 우리가 살아가고, 일하고, 배우는 방식을 근본적으로 변화시킬 잠재력을 갖고 있으며, 데이터 개방성(data openness)은 지속적 혁신을 가능케 하는 환경 조성에 중요한 역할을 한다고 강조하였다. AI가 제공하는 기회를 모두가 온전히 활용하기 위해 데이터 거버넌스에 대한 사려 깊고 균형 잡힌 접근이 필요하다고 언급하였다.

  이번 컨퍼런스를 주최한 고학수 개인정보위 위원장은 이번 컨퍼런스가 AI와 데이터 거버넌스에 관한 글로벌 논의에 또 하나의 디딤돌을 놓은 것이라고 평가하면서, AI 기술 발전이 더 많은 사람의 편익으로 연결될 수 있게 하는 포용적인 데이터 거버넌스 마련을 위해 앞으로도 국제 논의에 주도적으로 참여하겠다는 의지를 밝혔다.

* 기타 자세한 내용은 첨부파일을 확인해주시기 바랍니다.

- 담당자 : 국제협력담당관 정유진(02-2100-2488), 박민영(02-2100-2499)

“이 자료는 개인정보보호위원회의 보도자료를 전재하여 제공함을 알려드립니다.”