미래 국가안보를 위한 AI 기반 무기체계 개발

인공지능(Artificial Intelligence)을 기반으로 모든 사물에 지능을 넣어서 인류의 삶을 증진시키는 디지털 혁신이 지속적으로 추진되고 있다. 과거에 사람들이 직접해야 했던 업무들을 인공지능을 지닌 자동화된 컴퓨터들이 대신 수행하므로 사람들은 편안함을 느끼고 동시에 효율성이 향상되고 있다. 이러한 기술 환경은 우리의 생활방식을 변화시키고 있으며, 우리의 미래 전쟁 방식도 변화시킬 것이다. 역사적으로 인류의 전쟁 방식은 인류가 일하고 생활하는 공간과 방식에 투영돼 왔으며 미래전은 첨단과학기술에 기반한 사이버전자전과 더불어 사이버인공지능전이 될 것이다.

 인공지능은 ‘X+AI(Everything+AI)’라는 용어처럼 모든 분야에서 적용 가능한 범용 기술의 성격으로 발전하고 있다. 그로 인해 로봇이나 자율주행차 뿐만 아니라 다양한 산업 분야, 생활서비스, 금융서비스 형태로 적용 영역을 확장하고 있다. 또한, 인공지능 특이점(Singularity·인공지능이 비약적으로 발전해 인간의 지능을 뛰어넘는 기점)은 기존 예측인 2045년보다 빠른 2035년으로 예상하는 학자들도 있다. 인공지능의 한 분야인 기계 학습(Machine Learning)은 특정 영역에서 인간의 능력을 뛰어넘는 수준으로 미래 국가안보의 게임체인저로 인식되고 있다.

인공지능 이슈

• (의사결정의 불명확성) 인공지능 기반 시스템의 가장 큰 특징은 의사 결정과 판단이 내부에서 어떻게 이뤄졌는지 알 수 없는 블랙박스 모형이라는 것이다. 이는 비선형적이고 매개변수가 최대 수천에서 수억 개에 이르는 알고리즘의 복잡성 때문이다. 이를 해결하기 위해 몇 년 전부터 설명 가능한 인공지능인 XAI(eXplainable Artificail Intelligence)에 대한 연구가 활발히 이뤄지고 있다.
• (데이터 편향성으로 인한 공정성 저하) 인공지능의 올바른 학습을 위해서는 양질의 데이터 확보가 매우 중요하다. 데이터 품질에 대한 문제는 학습 데이터와 테스트 데이터의 선정과 비율에 관한 것부터 데이터의 편향 문제까지 포함된다. 학습 데이터의 편향으로 인한 공정성이 저하되는 문제는 꾸준히 발생하고 있는데 결국 데이터의 품질은 인공지능의 성공에 가장 중요한 요소라고 할 수 있다.
• (적대적 공격에 대한 문제) 딥러닝 기반의 심층신경망을 이용한 모델에 대해서 적대적 공격(Adversarial Attack)이 가능하다. 학습 과정에서 악의적인 학습 데이터를 주입하는 중독 공격(Poisoning Attack)과 추론 과정에서 데이터를 교란해 인공지능을 속이는 회피 공격(Evasion Attack), 모델의 학습된 데이터를 추출하거나, 모델의 정보를 추출하는 탐색적 공격(Exploratory Attack)도 가능하다. 특히 정제되지 않은 오염 데이터는 의도하지 않은 중독 공격을 유발할 수 있어 주의가 필요하다.
• (인공지능의 윤리와 책임 문제) 인공지능이 가지는 윤리적인 문제와 인공지능의 결과에 대한 책임 관계 문제에 대한 논의가 전 세계적으로 이뤄지고 있다. 인공지능 챗봇, 면접 프로그램, 범죄 예방 프로그램 등에서 성적 차별, 인종적 차별에 대한 윤리적 문제 등이 불거져 나왔다. 인공지능이 실행한 결과에 대한 책임은 누구에게 귀속되느냐에 대한 문제는 지속적인 논란이 되고 있다. 국방 분야 역시 인공지능이 무기체계에 적용되면서 가장 큰 논란을 불러 일으키는 주제는 인공지능을 장착한 치명적 자율무기(LAWs·Lethal Autonomous Weapons)에 대한 이슈다. LAWs는 인간의 개입 없이 시스템 스스로가 목표물을 선택하고 공격하도록 설계된 자율무기로 일부 사람들의 거부감은 있지만, 미국의 경우도 국가안보를 위해 인공지능 국방 활용에 힘쓰고 있다.

원본 글: 메인 | 국방일보 (dema.mil.kr)