위험한 임무는 로봇에게 맡기되 통제와 책임은 인간이 갖는 것, 그 원칙을 기술과 작전교리, 제도에 함께 심는 것. 그것이 우리가 만들어야 할 진정한 '신뢰의 방패'다.

지난 9월 3일 국회에 제출된 2027년 국방예산 정부안은 우리 군의 전력구조가 어떻게 변하고 있는지를 선명하게 보여준다. 국방예산은 전년 대비 8.2% 증가한 73조 2777억 원으로 사상 처음 70조 원을 넘어섰다. 그중 인공지능(AI)·유무인 복합체계 예산이 올해 4968억 원에서 내년 7727억 원으로 55.5% 급증했고, 위험물 취급·주둔지 경계 등에 AI 로봇을 적용하는 430억 원 규모의 '피지컬 AI 실증사업'도 처음 편성됐다.

방향은 분명하다. 병역자원이 감소하는 상황에서 로봇을 활용해 제한된 인력을 효과적으로 운용하고, 무엇보다 장병의 위험 노출을 줄이겠다는 것이다. 폭발물 제거 로봇, 수중자율기뢰탐색체, 다족보행로봇은 모두 사람이 감당해 온 가장 위험한 임무를 대신함으로써 장병을 보호하는 새로운 방패가 될 수 있다.

최근의 사고는 이 변화가 왜 필요한지를 다시 일깨운다. 지난 9월 21일 서부전선 비무장지대(DMZ)에서 수색로를 개척하던 중 지뢰로 추정되는 폭발이 발생해 장병 3명이 부상을 입었다. 원인은 조사 중이지만, 고위험 지역에 사람이 접근하기 전에 로봇·드론·원격센서를 먼저 활용할 방안을 분명히 요구하는 사고다. 

앞으로 국방 피지컬 AI의 핵심 원칙은 '로봇 우선(Robot First)'이 돼야 한다. 지뢰 탐지, 화생방 정찰, 붕괴 지역 수색처럼 위험도 높은 임무에서는 사람보다 무인체계가 먼저 진입하도록 작전개념 자체를 바꿔야 한다.

그러나 전장의 AI 로봇은 산업현장의 로봇과 무게가 다르다. 공장의 로봇이 멈추면 생산이 지연되지만, 전장의 로봇이 잘못 판단하면 생명과 작전의 성패가 걸린다. 성능만큼이나 '얼마나 믿을 수 있는가'를 함께 설계해야 한다.

첫째는 적대적 교란에 대한 복원력이다. GPS 재밍, 통신 두절, 센서 기만, AI를 겨냥한 사이버 공격은 물리 세계에서 곧바로 사고로 이어진다. 통신이 끊기고 센서가 고장 나도 안전하게 임무를 멈추는 '고장 안전(fail-safe)' 설계가 기본이 되어야 한다.

둘째는 인간의 통제와 책임이다. 무력이 쓰이는 자율체계에서는 단순히 AI가 처리한 결과를 사람이 최종적으로 검토하는 '휴먼 인 더 루프(human-in-the-loop)'를 넘어 '의미 있는 인간 통제'가 핵심이다. 

인간이 목표와 작전 범위를 제한하고 필요하면 즉시 중단할 수 있어야 하며, 사고 시 지휘관·운용자·개발자의 책임 범위도 함께 규정돼야 한다. 지난 8월 유엔과 국제적십자위원회가 자율무기 규범 마련을 거듭 촉구한 만큼 우리도 원칙 정립을 서둘러야 한다.

셋째는 시험·평가와 지속적 검증이다. 실험실에서 완벽했던 AI도 비·먼지·연막·교란이 있는 전장에서는 다르게 행동한다. 배치 전 시험평가뿐 아니라, 모델·소프트웨어 업데이트 이후의 재검증과 인증까지 제도화해야 한다.

한국은 이를 추진할 기반이 충분하다. 스톡홀름국제평화연구소(SIPRI) 기준 2021~2025년 세계 9위 무기 수출국이며, 제조업 근로자 1만 명당 산업용 로봇 1220대로 로봇 활용도가 세계 최고다. 이 자산을 살려 민간 기술을 군 작전환경에서 신속히 실증·전력화하는 '국방 피지컬 AI 생태계'를 갖추되, 안전성 인증과 인간 통제 원칙을 처음부터 그 안에 심어야 한다.

피지컬 AI 시대의 국방력은 로봇의 수만으로 결정되지 않는다. 위험한 임무는 로봇에게 맡기되 통제와 책임은 인간이 갖는 것, 그 원칙을 기술과 작전교리, 제도에 함께 심는 것. 그것이 우리가 만들어야 할 진정한 '신뢰의 방패'다.