[이데일리 방성훈 기자] 인공지능(AI)에 핵보유국 지도자 역할을 맡기고 전쟁 게임을 시키면 어떤 결과가 나올까. 영국 킹스칼리지런던의 케네스 페인 교수가 지난 2월 공개한 시뮬레이션 결과는 안보 전문가들에게 충격을 안겼다. 페인 교수는 앤스로픽, 오픈AI, 구글 AI 모델에 각각 핵보유국 지도자 역할을 부여했다. 상대 행동을 예측하면서 영토를 놓고 경쟁하는 대전 게임을 반복한 결과, 총 21차례 대전 중 3차례가 전면적 핵전쟁으로 치달았다.
니혼게이자이신문은 7일 이번 이란전쟁을 계기로 전쟁에서 AI를 얼마나 잘 활용하고 통제하느냐가 중요해지고 있다고 보도했다. 동시에 AI를 군사적 오션파라다이스다운로드 용도로 활용하는 데 대한 우려도 함께 커지고 있다는 분석이다.



(사진=AFP)



이란戰서 AI 무기화 현실로…인간 통제 벗어난 ‘플래시워’ 우려↑

페인 교수의 황금성릴게임 시뮬레이션에서 주목할 만한 점은 AI 모델별로 극명한 성격 차이를 보였다는 것이다. 핵 위협이 오가는 상황에서 핵전쟁을 끝까지 회피한 것은 앤스로픽 모델뿐이었다. 오픈AI 모델은 결단을 요구받는 순간 급격히 공격성을 높였고, 구글 모델은 상대국과의 외교적 줄다리기 과정에서 민간인에 대한 핵 공격 가능성을 시사했다. 겉으로는 우호적 태도를 보이면서 뒤로는 바다이야기릴게임연타 공격 준비를 진행하는 이중적 행태도 관찰됐다.
페인 교수는 논문에서 세 모델에 각각 ‘계산적인 매(hawk)’, ‘지킬과 하이드’, ‘광인(madman)’이라는 별명을 붙이며, AI에 대량살상무기를 맡기는 위험성을 경고했다.
이 시뮬레이션이 더 큰 주목을 받는 것은 AI의 군사적 활용이 이미 현실이 되고 있기 때문이다. 골드몽사이트 베네수엘라 군사작전에 이어 이번 이란전쟁을 치르는 과정에서 미 국방부는 AI를 활용해 기존에 인력이 필요했던 군사표적 선정과 작전계획 수립을 자동화했다. 특히 이란전쟁은 AI가 실질적 전쟁 수행의 주역으로 등장한 첫 사례로 평가받고 있다.
실례로 미군은 이란산 샤헤드-136 드론을 역설계해 만든 저비용 자율공격 드론 ‘루카스’(LUCAS) 바다이야기오리지널 를 첫 실전 투입했고, AI 기반 군집드론(swarm) 기술로 한 명의 조종사가 수십대의 드론을 동시에 운용하는 방식도 시험하고 있다. 방공 분야에서도 AI가 해상·공중·지상 레이더 데이터를 밀리초(1000분의 1초) 단위로 통합 분석해 어떤 요격 미사일을 어느 표적에 발사할지 자동으로 결정하고 있다.
앤스로픽의 다리오 아모데이 최고경영자(CEO)는 완전 자율형 무기에 대해 “적절한 안전장치를 갖춰 배치돼야 하지만, 현 시점에서 그런 장치는 존재하지 않는다”며 우려를 표했다.
더욱 우려스러운 점은 미국의 적대국들까지 AI를 실전에 투입하기 시작하는 상황이다. AI 대 AI가 주도하는 전쟁은 판단 속도가 승패를 가른다. 인간이 개입할 틈 없이 공방이 순식간에 확전으로 이어지는 이른바 ‘플래시 워’(Flash War·순간적 전쟁)로 치달을 가능성이 있다.



(사진=AFP)



승리가 더 중요…‘AI 전쟁 활용’ 위험성 외면하는 패권국들

미국과 중국, 세계 패권을 다투는 두 초강대국은 한때 그 위험을 충분히 인식하고 있었다. 조 바이든 전 미국 대통령과 시진핑 중국 국가주석은 2024년 11월 페루 리마 정상회담에서 핵무기 사용 결정에 인간의 통제를 유지해야 한다는 점을 확인한 바 있다.
그러나 도널드 트럼프 대통령이 백악관에 복귀한 이후 분위기가 바뀌었다. 유엔총회 제1위원회가 지난해 유사한 제안을 표결에 부쳤을 때 미국 등 8개국이 반대표를 던졌다. 엎친 데 덮친 격으로 미국·러시아 간 마지막 핵 군축 조약이었던 뉴스타트(New START) 협정도 지난 2월 만료됐다. 러시아가 지난해 9월 1년 연장을 제안했지만 미국은 공식 답변을 내놓지 않았다. 트럼프 대통령이 중국까지 포함하는 새로운 핵 조약 체결을 구상하고 있기 때문으로 풀이된다.
하지만 중국은 “미국·러시아와는 보유한 핵전력 규모 자체가 다르다”며 참여를 거부하고 있다. 아울러 러시아는 프랑스·영국도 포함시켜야 한다는 입장이지만, 트럼프 대통령은 이번 이란전을 계기로 유럽과 더 멀어졌다.
핵 군축 논의조차 표류하는 상황이어서, 핵무기 운용에 대한 AI의 개입을 제한하자는 논의는 사실상 실종된 상태다. 교토산업대학의 이와모토 세이고 교수는 “핵보유국들이 자신의 손발을 묶이는 것을 꺼린 결과”라고 지적했다.
페인 교수는 논문에서 “AI는 종종 실행할 의사가 없는 행동을 가장했다”며 AI 모델들 간 탐색전이 상호 의심을 키우고 대립을 가속화했다고 설명했다. 니혼게이자이는 “서로를 따돌리려다 더 위험한 도박에 손을 대는 AI의 모습은 결국 인간 사회의 거울이기도 하다”고 진단했다.
방성훈 (bang@edaily.co.kr)