본문 바로가기 메인메뉴 바로가기

뉴스

img-news

콘텐츠 영역

정부, ‘사람이 중심되는 신뢰할 수 있는 AI 실현전략’ 마련

제품·서비스 개발·검증·인증단계 따라 신뢰확보 기준 제시·지원…2025년까지 단계적 추진

과학기술정보통신부 2021.05.13

정부가 4차 산업혁명을 견인하는 범용기술인 인공지능(AI)의 부정적 영향에 대응하기 위한 ‘신뢰할 수 있는 인공지능 실현전략’을 마련했다.

과학기술정보통신부는 13일 열린 대통령 직속 4차산업혁명위원회 제22차 전체회의에서 ‘사람이 중심이 되는 인공지능을 위한 신뢰할 수 있는 인공지능 실현전략’을 발표했다.

최기영 과학기술정보통신부 장관이 2월 4일 광주 서구 김대중컨벤션센터에서 열린 국가 인공지능 데이터센터 투자협약 및 착수식에서 발언하고 있다.(사진=저작권자(c) 연합뉴스, 무단 전재-재배포 금지)
지난 2월 4일 광주 서구 김대중컨벤션센터에서 열린 국가 인공지능 데이터센터 투자협약 및 착수식에서 최기영 과학기술정보통신부 장관이 발언하고 있다.(사진=저작권자(c) 연합뉴스, 무단 전재-재배포 금지)

과기부에 따르면 인공지능(AI)이 전 산업·사회에 빠르게 도입·확산되며 혁신을 창출하고 있으나 확산에 따른 예상하지 못한 사회적 이슈와 우려도 함께 대두되고 있는 상황이다.

이에 미국, 영국, 프랑스 등 주요국은 인공지능에 대한 사회적 신뢰 확보를 인공지능의 사회적·산업적 수용의 전제요소로 인식하고 인공지능의 신뢰성을 강조하며 그 실현을 위한 적극적인 정책을 추진하고 있다.

이러한 흐름 속에서 사람이 중심이 되는 ‘인공지능 강국’으로 도약하기 위해 신뢰할 수 있는 인공지능 실현을 위한 지원 정책이 조속히 필요하다는 판단에 따라 이번 전략을 마련하게 됐다고 과기부는 설명했다.

이 전략은 지난해 12월 발표한 ‘인공지능 윤리기준’의 실천방안을 구체화한 것이다. 민간 자율적으로 신뢰성을 확보할 수 있도록 지원체계를 구축하며 재정·기술력이 부족한 스타트업 등에 대한 지원책을 담은 것이 특징이다.

앞서 인공지능 윤리기준은 ‘인간성을 위한 AI’를 위해 사회구성원이 지켜야 할 3대 원칙(인간 존엄성, 사회 공공선, 기술의 합목적성)과 10대 요건(책임성, 안전성, 투명성)을 제시했다.

이번 전략은 ‘누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현’을 비전으로 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 2025년까지 단계적으로 추진된다.

우선 신뢰할 수 있는 인공지능 구현 환경을 조성하기 위해 민간에서 인공지능 제품·서비스를 구현하는 개발, 검증, 인증 단계에 따라 신뢰확보 기준을 제시하고 지원한다.

또 기술·재정적 상황이 열악한 스타트업 등도 체계적으로 신뢰성을 확보해 나갈 수 있도록 인공지능 구현을 위한 ‘데이터 확보→알고리즘 학습→검증’을 통합 지원하는 플랫폼을 운영한다.

안전한 인공지능 활용을 위해서는 민관이 인공지능 학습용 데이터 제작공정에서 공통으로 준수해야 할 표준 기준을 마련하기로 했다.

또 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 인공지능의 범주를 설정하고 서비스 제공 전에 해당 인공지능의 활용 여부를 이용자에게 고지하도록 할 계획이다.

신뢰할 수 있는 인공지능 실현전략의 비전·목표·추진전략.

인공지능이 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위해 사회적 영향평가를 도입하고 인공지능 신뢰 강화를 위한 제도를 개선할 계획이다.

신뢰성 요소(안전성, 투명성 등)를 토대로 인공지능의 영향력을 종합 분석, 향후 인공지능 관련 정책이나 기술·관리적 조치방안 수립 시 활용할 계획이다.

또 정부는 사회 전반에 건전한 인공지능 의식이 확산할 수 있도록 인공지능 윤리교육 총론을 마련하고 개발자·시민에게 맞춤형 교육도 진행할 예정이다.

아울러 인공지능 윤리기준에 대한 구체적인 행위지침으로 연구·개발자, 이용자 등이 업무·일상생활 등의 속에서 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발·보급하기로 했다.

학계·기업·시민단체·공공 등 다양한 사회 구성원이 참여해 인공지능 윤리에 대해 의견 수렴 및 발전방향을 논의하는 공론의 장도 운영할 방침이다. 

최기영 과기정통부 장관은 “최근 발생했던 챗봇 사건은 우리 사회가 인공지능의 신뢰성에 대해 어떻게 대처해야 하는지 많은 숙제를 안기는 계기가 됐다”며 “기술적·재정적으로 부족한 중소기업 등이 신뢰성 기준을 준수하는 데 어려움이 없도록 지원 방안을 마련하는 등 사람이 중심이 되는 인공지능 강국 실현을 위해 동 전략을 차질없이 추진해나갈 계획”이라고 밝혔다.
 
문의: 과학기술정보통신부 인공지능기반정책과 044-202-6275/6276

정책브리핑의 정책뉴스 자료는 「공공누리 제1유형 : 출처표시」의 조건에 따라 자유롭게 이용이 가능합니다.
다만, 사진의 경우 제3자에게 저작권이 있으므로 사용할 수 없습니다.
기사 이용 시에는 출처를 반드시 표기해야 하며, 위반 시
저작권법 제37조
제37조(출처의 명시)
① 이 관에 따라 저작물을 이용하는 자는 그 출처를 명시하여야 한다. 다만, 제26조, 제29조부터 제32조까지,
제34조제35조의2의 경우에는 그러하지 아니하다. <개정 2011. 12. 2.>
② 출처의 명시는 저작물의 이용 상황에 따라 합리적이라고 인정되는 방법으로 하여야 하며, 저작자의 실명
또는 이명이 표시된 저작물인 경우에는 그 실명 또는 이명을 명시하여야 한다.
제138조
제138조(벌칙)
다음 각 호의 어느 하나에 해당하는 자는 500만원 이하의 벌금에 처한다. <개정 2011. 12. 2.>
1. 제35조제4항을 위반한 자
2. 제37조(제87조 및 제94조에 따라 준용되는 경우를 포함한다)를 위반하여 출처를 명시하지 아니한 자
3. 제58조제3항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작재산권자의 표지를 하지 아니한 자
4. 제58조의2제2항(제63조의2, 제88조 및 제96조에 따라 준용되는 경우를 포함한다)을 위반하여 저작자에게 알리지 아니한 자
5. 제105조제1항에 따른 신고를 하지 아니하고 저작권대리중개업을 하거나, 제109조제2항에 따른 영업의 폐쇄명령을 받고 계속 그 영업을 한 자 [제목개정 2011. 12. 2.]
에 따라 처벌될 수 있습니다.
<자료출처=정책브리핑 www.korea.kr>
운영원칙 열기

정책브리핑 게시물 운영원칙에 따라 다음과 같은 게시물은 삭제될 수 있습니다.

  • 1.타인의 메일주소, 전화번호, 주민등록번호 등의 개인정보 또는 해당 정보를 게재하는 경우
  • 2. 확인되지 않은 내용으로 타인의 명예를 훼손시기는 경우
  • 3. 공공질서 및 미풍양속에 위반되는 내용을 유포하거나 링크시키는 경우
  • 4. 욕설 및 비속어의 사용 및 특정 인종, 성별, 지역 또는 특정한 정치적 견해를 비하하는 용어를 게시하는 경우
  • 5. 불법복제, 바이러스, 해킹 등을 조장하는 내용인 경우
  • 6. 영리를 목적으로 하는 광고 또는 특정 개인(단체)의 홍보성 글인 경우
  • 7. 타인의 저작물(기사, 사진 등 링크)을 무단으로 게시하여 저작권 침해에 해당하는 글
  • 8. 범죄와 관련있거나 범죄를 유도하는 행위 및 관련 내용을 게시한 경우
  • 9. 공인이나 특정이슈와 관련된 당사자 및 당사자의 주변인, 지인 등을 가장 또는 사칭하여 글을 게시하는 경우
  • 10. 해당 기사나 게시글의 내용과 관련없는 특정 의견, 주장, 정보 등을 게시하는 경우
  • 11. 동일한 제목, 내용의 글 또는 일부분만 변경해서 글을 반복 게재하는 경우
  • 12. 기타 관계법령에 위배된다고 판단되는 경우
  • 13. 수사기관 등의 공식적인 요청이 있는 경우
운영원칙 닫기

아~차!뉴스