피지컬 AI, '모션 토큰'의 환각을 넘어서야 한다.

피지컬 AI가 실험실을 벗어나 국방으로 향하고 있다. 무인기, 무인차량, 로봇은 이제 인지·판단·행동을 하나의 자율 루프로 통합하고 있다. 디지털 영역의 위험은 물리 영역에서 증폭되며 물리 영역은 치명적인 물리적 결과를 낳는다.

최근 로보틱스는 거대언어모델(LLM)이 단어를 쪼개듯 로봇의 움직임을 기호화하는 '모션 토큰(Motion Token)' 기술을 도입하며 피지컬 AI의 행동 자율성을 극대화하고 있다. 그러나 이 혁신적인 기술은 테스팅 체계에 전에 없던 거대한 숙제를 던진다.

언어 모델이 텍스트를 토큰으로 쪼개 학습하듯, 최근의 로봇·피지컬 AI 파운데이션 모델은 움직임(motion)을 토큰으로 변환해 학습한다. 트랜스포머는 이산적인 '토큰'을 다루는 시퀀스 모델이고, 로봇의 출력은 팔 관절 각도 같은 짧은 행동 시퀀스, 즉 '액션 청크(action chunk)'의 형태다.

텍스트 AI의 오류는 기껏해야 화면 위의 거짓말(환각 현상)에 그치지만, 피지컬 AI의 오류는 무기가 스스로 오작동하거나 아군을 타격하는 물리적 재앙으로 이어질 수 있다. 물리 세계는 완벽한 연속형(Continuous) 공간입니다. 이를 확률 기반의 불연속적인 '토큰'으로 제어하려 할 때, 미세한 마찰력 변화나 센서 노이즈만으로도 AI는 물리적 환각을 일으키며 주저앉거나 폭주할 수 있다. 국방 피지컬 AI에서 고전적인 물리 계산(Dynamics)과 안전 마진을 무시한 채 AI의 확률적 토큰 예측에만 의존하는 것은 위험한 행위이다.

결국 피지컬 AI는 단순한 알고리즘이 아니라 센서·플랫폼·통신·제어, 그리고 전통적인 제어공학(MPC 등)이 결합된 하이브리드 복합체이다. 게다가 이 시스템들은 계속 학습하며 변하기 때문에, 일회성 실물 시험만으로는 검증이 성립하지 않는다.

데이터에서 신뢰로: 검증되지 않은 자율성은 위험

모션 데이터를 확보해 자율 행동을 만들어내는 것과, 그 자율 행동을 믿고 현장에 내보내는 것은 전혀 다른 문제이다. 데이터가 풍부해질수록 시스템은 더 자율적으로 움직이지만, 자율성이 높아질수록 검증의 부담도 함께 커진다. 피지컬 AI가 실험실을 벗어나 실제 환경으로 나아가려면 세 가지 개념이 함께 정의되어야 한다.

자율성(Autonomy)은 인지·판단·행동을 인간 개입 없이 수행하는 능력의 수준이다. NIST의 ALFUS(Autonomy Levels for Unmanned Systems) 프레임워크는 이를 임무 복잡도·환경 복잡도·인간 개입이라는 세 축으로 측정하며, 자율성의 정도를 요구되는 인간 개입의 감소 수준으로 정량화한다. 모션 토큰으로 학습된 정책이 어느 수준의 자율성을 갖는지는 측정되어야 할 대상이지, 가정할 수 있는 것이 아니다.

신뢰성(Reliability)은 반복적 상황과 환경 변화 속에서도 일관된 성능을 내는 능력이다. 학습 기반 시스템의 본질적 약점이 바로 여기에 있다. 훈련 분포를 벗어난 입력(out-of-distribution)에서 성능이 급격히 저하되거나, 적대적 입력에 취약해질 수 있다. 실제로 적대적으로 조작된 이미지가 자율주행차를 반대 차선으로 급조향하게 만들거나 정지 표지를 속도제한 표지로 오분류하게 만든 사례들이 보고되었다. 모션 데이터의 커버리지가 넓을수록 신뢰성은 올라가지만, 그 신뢰성은 강건성(robustness)시험을 통해 입증되어야 한다.

안전성(Safety)은 오작동이나 예상치 못한 상황에서도 물리적 위해를 방지하는 능력이다. 특히 중요한 점은, 시스템이 설계대로 정확히 작동하는데도 위험이 발생할 수 있다는 것이다. 센서 오해석, 불충분한 상황 인식, 예견하지 못한 시나리오에서 나오는 위험은 '고장'이 아니어서 전통적 기능안전만으로는 잡히지 않는다. 그리고 디지털 영역의 위험은 물리 영역에서 증폭되며, 물리 영역은 물리적 결과를 낳는다.

자율성·신뢰성·안전성을 제대로 검증하는 일은 피지컬 AI 전력화의 걸림돌이 아니라 확률 뒤에 숨은 불확실성을 통제하고 국방 분야의 군인을 보호하기 위한 결코 타협할 수 없는 전제조건이다.

---

• ALFUS(Autonomy Levels for Unmanned Systems) 프레임워크는 미국 국립표준기술연구소(NIST)가 주도하여 개발한 무인 체계(UMS)의 자율성 수준을 평가하고 측정하기 위한 표준 프레임워크입니다.