“중동에 정박 중인 중국 선박에 핵무기 프로그램에 쓰일 구성품이 운송 중입니다.” 영화에 나오는 장면이 아니다. 미 CNN은 최근 이란전이 한창 진행되던 올해 봄, 미군 내부에서 인공지능(AI)이 중국 선박에 사실상 핵무기가 실렸다는 잘못된 정보를 생성해 군 지휘부에 공유한 사건이 발생했다고 보도했다. 미군은 해당 선박을 상대로 군사작전을 준비했지만, 실행 직전 정보 오류를 발견해 중단했다. 보도에 따르면 미군은 선박을 차단하기 위해 곧바로 움직였다. 무장 병력을 승선시킬 준비를 하고 군용기까지 출격시키는 등 즉각적인 작전 준비에 돌입했다. 그러나 작전 실행 직전 보고서의 문제.을 찾아냈다. 특수전사령부 분석관이 AI를 활용해 작성한 보고서에서 챗봇이 선박에 실린 화물을 잘못 식별한 사실을 확인한 것이다. 문제가 된 보고서는 한 분석관이 챗봇에 질의하면서 시작됐다. 챗봇은 공개 정보와 미 정부가 보유한 기밀 신호정보를 통합 분석한 끝에 해당 선박의 화물이 핵무기 프로그램과 관련됐다는 잘못된 결론을 내렸다. 분석관은 다시 AI를 활용해 이 내용을 미군의 표준 정보보고서 형식으로 작성한 뒤 내부에 배포했다. 미군의 중국 선박 대상 작전이 실제 실행됐다면 미중 간 무력 충돌로 비화할 위험이 있었다. CNN은 이번 사건이 미 국방부와 정보기관이 AI 활용을 빠르게 확대하는 가운데, AI의 오류가 실제 군사적 오판으로 이어질 수 있음을 보여주는 사례라고 지적했다 황금성연타 . CNN은 특히 미국 정부 내 각 조직이 서로 다른 AI 도구와 안전 기준을 사용하고 있으며, AI가 생성한 정보를 어떻게 검증할지에 관한 통일된 기준도 마련되지 않았다고 비판했다. 미군은 피트 헤그세스 국방장관이 지난 1월 ‘AI 가속화 전략’을 발표한 이후 정보 분석과 표적 선정 등 군 업무 전반으로 AI 도입을 확대하고 있다. 일각에서는 미군이 공격 표적 선정에도 AI 활용을 늘리면서 우려가 커지고 있다. AI를 통해 정보를 더 빠르게 생산·배포하도록 압박할 경우 오류가 발생하거나 잘못된 결론에 더 빨리 도달할 수 있다는 지적이다. 표적 선정에 AI 활용이 확대되고 있지만, 민간인 피해나 아군 오인 공격을 막기 위한 지침은 미군 내에 아직 마련되지 않은 것으로 알려졌다. “AI에 대한 인간 통제가 얼마나 중요한 지 보여주는 사례” 최근 미국 일간 뉴욕타임스(NYT)는 우크라이나군과 드론·포렌식(디지털 증거 추출) 전문가 등을 인용해 “지난 8월 우크라이나 남동부 자포리자 소재 주유소의 프로판 탱크 시설을 타격한 드론을 분해한 결과, 러시아군의 자율 살상 드론은 전적으로 AI에 의해 조종된 사실을 확인했다”고 보도한 바 있다. 릴게임 종류 현재 군사작전에 활용되는 드론은 AI 시스템이 탑재되지만 인간이 공격 대상을 결정해 입력하면 AI가 비행이나 표적 추적 등을 지원하는 방식이다. 반면 러시아의 자율 살상 드론은 사전에 설정된 위치까지 스스로 이동한 뒤 인간의 개입 없이 AI를 활용해 표적을 식별하고 공격할 수 있어 오류에 따른 위험이 너무 높다는 지적을 받고있다. 인간의 직접적인 통제 없이 AI에 전적으로 의존해 표적을 찾아 공격하는 드론이 실전에 투입된 것은 이번이 처음이다. 학습된 데이터를 바탕으로 AI가 스스로 표적을 식별하고 공격한 것으로 전해지면서 공상과학 영화에서나 등장하던 자율 살상 무기가 현실화했다는 우려의 목소리가 높아지는 것은 이 같은 까닭이다. 기존 군사용 드론은 인간이 공격 대상을 지정하고 최종 타격 여부를 판단한다. 그러나 러시아 자율 살상 드론은 인간이 아닌 알고리즘에 표적 식별과 공격 권한을 넘겨 AI가 스스로 표적을 찾아 공격했다. 이 때문에 전문가들은 국제인도법에 따른 인간의 통제가 제대로 이뤄지지 않을 경우 통제 불능의 상황을 초래할 수 있다고 지적한다. 이처럼 미군이 운용하는 인공지능(AI)이 만들어낸 잘못된 정보로 군 작전이 실행됐다면 미중 간 무력 충돌로 비화될 수 있었다. 러시아군의 자율 살상드론이 통제 없이 AI가 전적으로 표적을 찾아 공격할 때 오류가 발생하면 예상치 못한 막대한 민간인 피해가 나올 수 있다. 두 사례는 AI에 대한 인간 통제가 얼마나 중요한 가를 보여준다. 을 인용해 “지난