미군 AI 오판 군사작전 직전 중단, 중국 선박 왜 문제됐나

미군이 인공지능이 생성한 잘못된 정보 보고서를 바탕으로 중국 선박을 상대로 군사작전을 준비했다가, 실행 직전에 오류를 확인하고 멈춘 사실이 뒤늦게 알려졌습니다. 한때 ‘거의 전쟁이 날 뻔했다’는 표현까지 나올 정도로 상황이 위태로웠던 만큼, 이번 사례는 AI가 만든 정보가 실제 군사 판단에 어떤 위험을 줄 수 있는지 보여주는 장면으로 읽힙니다.

AI가 만든 오판, 왜 군사작전 직전까지 이어졌을까

보도에 따르면 이란전이 진행 중이던 올봄, 미군 내부에서는 중동 지역을 운항하던 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 정보 보고서가 회람됐습니다. 문제는 이 보고서가 인공지능의 도움으로 작성됐고, 결과적으로 잘못된 정보였다는 점입니다. 미군은 이 보고서를 진지하게 받아들였고, 중국 선박을 상대로 한 군사작전을 준비하는 단계까지 갔지만 실행 직전 오류를 확인하고 중단한 것으로 전해졌습니다.

이 과정은 단순한 문서 오류와는 성격이 다릅니다. 군사 판단은 짧은 시간 안에 이뤄지고, 한 번 잘못 내려진 정보가 현장 작전으로 이어질 수 있기 때문입니다. 특히 보고서에 등장한 ‘핵무기 프로그램 관련 부품’이라는 표현은 경보 수준을 급격히 높일 수밖에 없는 민감한 단서입니다. 그래서 이번 일은 AI가 사실처럼 보이지만 실제로는 틀린 결론을 내릴 수 있다는 점을 다시 드러낸 사례로 받아들여지고 있습니다.

보고서 한 장이 만든 긴장감, 시간순으로 보면 더 선명합니다

당시 흐름을 따라가면 상황은 더 선명해집니다. 먼저 분석관이 AI의 도움을 받아 중국 선박 관련 정보를 정리했고, 그 결과물에는 선박이 위험한 물자를 실어 나르고 있다는 취지의 내용이 담겼습니다. 이어 내부에서는 해당 정보가 공유됐고, 미군은 이를 근거로 군사작전 준비에 들어간 것으로 알려졌습니다. 그러나 실행 직전에 잘못된 보고서라는 점이 확인되면서 실제 충돌은 피했습니다.

여기서 중요한 지점은 ‘오류를 빨리 발견했다’는 사실보다, 그 전까지는 작전 검토가 실제로 진행됐다는 점입니다. AI가 만든 정보는 겉으로는 정교해 보여도 근거가 빈약할 수 있고, 특히 국가 안보와 직결되는 사안에서는 작은 오차도 큰 파장을 부를 수 있습니다. 이번 사례가 더 크게 읽히는 이유는, 결과적으로 미·중 충돌로 번질 수도 있었던 고비가 AI의 오판에서 출발했기 때문입니다.

이번 사례가 남긴 질문, AI는 어디까지 믿을 수 있나

AI는 방대한 자료를 빠르게 정리하고 패턴을 찾는 데 강점이 있지만, 결론의 타당성까지 자동으로 보장해 주지는 않습니다. 이번 보도에서도 문제의 핵심은 ‘AI가 틀렸다’는 사실 자체보다, 그 틀린 결과가 군사적 의사결정의 사전 단계에 들어갔다는 점입니다. 다시 말해 기술의 효율성이 높아질수록 검증 절차는 더 엄격해야 한다는 뜻입니다.

이와 관련해 AI 미래를 설계하는 전문가들도 중대한 결정을 AI에 맡겨서는 안 된다고 경고해 왔습니다. 전쟁처럼 윤리와 판단이 복합적으로 얽힌 영역에서는 인간의 최종 검토가 빠질 수 없다는 이야기입니다. 특히 이번처럼 사실관계가 조금만 흔들려도 국제적 긴장으로 이어질 수 있는 분야에서는, AI는 보조 도구일 뿐 판단 주체가 되어서는 안 된다는 인식이 더 강해질 수밖에 없습니다.

전쟁 직전까지 간 이유는, 기술보다 검증의 빈틈이었습니다

이번 일은 AI 기술 자체의 문제가 아니라, 기술을 검증 없이 신뢰했을 때 어떤 위험이 생기는지를 보여줍니다. 중국 선박이 위험 물자를 운송하고 있다는 보고가 사실로 굳어졌다면, 실제 군사적 대응이 이어질 가능성도 배제할 수 없었을 것입니다. 다행히 실행 직전에 오류가 발견되면서 사태는 멈췄지만, 그 몇 단계 앞에서 이미 큰 불씨가 만들어진 셈입니다.

결국 핵심은 하나입니다. AI는 판단을 돕는 도구이지, 전쟁과 같은 중대 결정을 대신 내려주는 존재가 아니라는 점입니다. 이번 사례가 널리 회자되는 이유도 여기에 있습니다. 기술이 빨라질수록 검토는 더 느리고 신중해야 한다는 원칙이 다시 확인됐기 때문입니다. 비슷한 시각 급상승한 다른 이슈는 아래에서 이어집니다.