과학기술정보통신부는 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)'이 22일부터 시행된다고 전했다.

국가 인공지능 경쟁력을 높이고, 안전하고 신뢰할 수 있는 인공지능 활용 기반 조성을 위한 인공지능기본법은 지난 2024년 12월 여·야 합의를 거쳐 국회를 통과했다.

세계에서 두 번째로 제정된 인공지능기본법은 국가 인공지능 거버넌스를 법제화하고 인공지능 산업 활성화와 인프라 조성, 인공지능 혁신을 뒷받침하는 안전신뢰 기반에 관한 내용을 담고 있다.

과기정통부는 인공지능기본법의 시행 준비를 위해 지난해 1월부터 80여 명 민간 전문가로 구성된 하위법령 정비단을 구성해 70여 차례 의견 수렴을 거쳐 인공지능기본법 시행령 초안을 마련했다.

시행령 초안은 작년 9월 국가인공지능전략위원회 출범식을 계기로 공개했고 직후 고시, 가이드라인 등 하위법령 전체를 대국민 공개하고 의견수렴을 진행함과 동시에 20여 차례 국내·외 기업을 대상으로 설명회를 통해 기업과 소통했다.

과기정통부는 수렴된 의견을 반영한 시행령을 지난해 11월 12일 입법예고를 실시했으며 올해 1월 20일 국무회의 의결을 거쳐 1월 22일부터 인공지능기본법이 시행된다.

◆ 국가 인공지능 거버넌스 확립…R&D 및 학습용데이터 구축·제공

국가 인공지능 정책의 컨트롤 타워인 ▲국가인공지능전략위원회의 구성·운영 ▲전략위원회 내 인공지능책임관 협의회 ▲분과·특별위원회, 지원단에 관한 세부 사항 등을 구체화하여 국가 인공지능 정책의 추진 기반을 마련했다.

또한 선도적 인공지능 기술력 확보와 학습용데이터 구축을 위하여 정부 지원 사업의 범위와 기준을 시행령에 반영했다.

학습용데이터의 제공을 위한 '통합제공시스템'을 과기정통부장관이 구축·관리하되 시스템이 갖춰야 하는 기능을 시행령에 규정해 내실있게 운영될 수 있도록 했다.

◆ 인공지능 도입·활용 지원 및 실증기반 조성

기업·공공기관이 AI를 도입하고 그 활용을 확산하기 위하여 정부의 지원 사항을 시행령에 규정하고 지원 방안을 수립하도록 했다.

기업이 AI기술을 실증 또는 성능시험할 수 있도록 공기업, 정부출연연, 국공립대학 등이 보유한 시설을 기업에게 개방 가능하도록 행정적·재정적 지원 근거를 마련했다.

◆ 국제협력 및 해외시장 진출 지원…인공지능집적단지 지정

기업의 해외 진출을 지원하기 위해 기술·인력의 국제 교류를 지원하고 관련 업무를 지원하는 공공기관이나 단체를 지정할 수 있는 근거를 마련했다.

이와 함께 기업·기관 등의 인프라를 집적하는 인공지능집적단지 지정 시 ▲인공지능기본계획과의 부합 여부 ▲집적화 효과 ▲지역경제 발전의 기여 등을 종합적으로 고려하고 집적단지를 지원할 수 있는 전담기관을 별도로 설치하거나 지정할 수 있도록 해 집적단지가 체계적으로 운영될 수 있는 제도적 기반을 마련했다.

◆ 투명성 확보 의무

고영향AI·생성형AI를 활용하는 AI제품 또는 서비스를 제공하는 AI사업자는 해당 인공지능 활용 사실을 사전에 이용자에게 고지하도록 했다. 고지방법은 시행령을 통하여 다양한 방법으로 할 수 있도록 하여 기업이 이행하기 쉽도록 규정했다.

생성형AI의 결과물, 사회적 부작용이 우려되는 딥페이크 결과물에 대해서는 이용자의 연령 등을 고려하여 명확하게 인식할 수 있는 방법으로 표시하도록 규정했다.

다만, 딥페이크 결과물이 아닌 애니메이션, 웹툰 등 AI결과물에 대해서는 가시적 방법뿐 아니라 눈에 보이지 않는 디지털 워터마크도 허용했으며, AI사업자가 알림창이나 UI 등을 통해 생성형AI 결과물을 안내하도록 규정했다.

◆ 안전성 확보 의무

안전성 의무 확보 대상이 되기 위해서는 ▲학습에 사용된 누적연산량이 10의 26승 부동소수점 연산(FLOPs)이상이고 ▲최첨단 기술을 적용하며 ▲위험도가 사람의 기본권에 광범위하고 중대한 영향을 미칠 우려가 있는 경우 등을 모두 충족해야 한다.

그중 기준의 판단 방법은 가이드라인을 통해 상세하게 규정할 예정이다. 안전성 확보 의무는 고도로 발전한 AI가 통제 불가능한 상황을 가정해 사회적으로 큰 피해 발생을 사전에 예방하는 게 목적이다.

◆ 고영향AI 판단 및 사업자의 책무

고영향AI의 판단 기준과 고영향AI 사업자의 책무는 시행령에 구체화했다.

판단 기준의 경우 AI가 ▲법에서 정하는 영역에서 활용되었는지 여부 ▲위험의 중대성 등을 모두 고려함과 동시에 최종 의사결정 과정에 사람이 개입하는 경우는 통제 가능한 것으로 판단해 고영향AI 대상에서 제외된다.

과기정통부는 기업의 혼란을 최소화하고 현장에서 충분히 준비할 시간을 제공하기 위해 최소 1년 이상 규제를 유예한다.

해당 기간에 사실조사, 과태료 관련 계도기간을 운영하며 사실조사는 인명사고, 인권훼손 등 중대한 사회적 문제 발생하는 등 극히 예외적인 경우에만 실시할 예정이다.

기업의 법 이행 준비 지원을 위해 하위법령 제정에 참여한 전문가로 구성된 '인공지능기본법 지원데스크'도 개설·운영한다.

인공지능기본법과 관련된 기업의 문의와 애로사항을 해소하기 위해 전문가들이 검토·분석을 통해 기업에 상세한 컨설팅을 제공할 예정이다.

영업비밀 유출 등을 우려하는 기업을 고려해 상담 내용은 비밀로 관리하고 익명 컨설팅도 제공한다.

규제 유예 기간에 합리적으로 운영되고 기업의 불확실성을 해소할 수 있도록 관련 가이드라인을 보완해 나갈 계획이다.

현재까지 수렴된 의견을 바탕으로 보완된 가이드라인 수정본은 오는 22일 법 시행과 함께 공개할 예정이며 한국지능정보사회진흥원(www.nia.or.kr), 한국인공지능·소프트웨어산업협회(www.sw.or.kr) 홈페이지를 통해 확인 가능하다.

또한 '제도개선 연구반'을 내달부터 운영하되 산업계, 시민사회, 학계 등 이해 관계자의 의견을 청취해 제도 개선 사항을 발굴해 나갈 예정이다.

스타트업을 위한 인공지능기본법 현장 설명회도 진행한다.

과기정통부 관계자는 "특히 AI 생성물에 대한 워터마크 적용은 딥페이크 오용 등 기술의 부작용을 막기 위한 최소한의 안전장치이자 이미 주요 글로벌 기업들이 도입하고 있는 세계적인 추세"라며 "이번 인공지능기본법 시행을 통해 현장에서의 법적 불확실성이 제거되고 건강하고 안전한 국내 AI생태계가 조성되기를 기대한다"고 말했다.

문의: 과학기술정보통신부 인공지능안전신뢰정책과 (044-202-6295) 인공지능안전신뢰지원과 (044-202-6367)