(제네바) 문아영 기자 = 지난 2월 27일, 미국 역사에서 전례 없는 일이 벌어졌다. 트럼프 대통령이 트루스 소셜(Truth Social)에 올린 글 한 줄로 미국의 주요 AI 기업이 모든 연방기관에서 퇴출 명령을 받은 것이다. 국방부 장관 피트 헤그세스는 해당 기업을 "국가안보에 대한 공급망 위험"으로 지정했다. 미 국내기업이 지정된 것은 역사상 처음 있는 일이었는데, 그 최초의 사례가 된 기업은 앤트로픽(Anthropic), 미국의 AI 스타트업이다.
앤트로픽은 무엇을 잘못했을까? 잘못한 것이 있다면 이 한 가지였다. "우리 AI를 완전 자율 무기와 시민 대상 대규모 감시에는 사용할 수 없다"는 계약 조건을 끝내 철회하지 않았다는 것.
4일간의 대치
사건의 전말은 이렇다. 앤트로픽은 2025년 7월, 미국 국방부와 2억 달러 규모의 계약을 맺었다. AI 모델 클로드(Claude)를 국방 목적에 활용하되, 두 가지는 조건을 달았다. 첫째, 클로드 AI를 미국 시민에 대한 대규모 감시에 사용하지 않을 것과 AI가 스스로 표적을 선정하고 공격을 결정하는 완전 자율 무기 시스템(Lethal Autonomous Weapon System, LAWS)에는 사용하지 않는다는 조건이었다.
그런데 올해 1월, 헤그세스 장관은 국방부의 모든 AI 계약에 "모든 합법적 목적(any lawful use)"이라는 표준 문구를 넣도록 지시했다. 이 문구가 들어가는 순간, 앤트로픽이 설정한 안전장치는 사실상 무력화된다. 국방부가 합법이라고 판단하면 무엇이든 할 수 있다는 뜻이기 때문이다. AI 사용에 대한 계엄령과 다름없다.
 |
| ▲피트 헤그세스 미국 국방부 장관이 지난 4일(현지시각) 워싱턴 국방부에서 브리핑을 진행하고 있다. ⓒ AP/연합뉴스
|
"우리는 좋은 양심으로 이 요구에 동의할 수 없다."
데드라인 당일인 27일, 트럼프는 앤트로픽을 "재앙적 실수를 저지른 좌파 반미 집단"이라 몰아붙이며 연방 전 기관의 사용 즉시 중단을 명령했다. 같은 날 저녁, OpenAI는 국방부와 계약을 체결했다고 발표했다.
가장 아이러니한 장면
OpenAI가 체결한 계약에는 앤트로픽이 지키려던 두 원칙이 그대로 담겨 있었다. 자율 무기 금지, 대규모 시민 감시 금지. 오히려 "고위험 자동 의사결정 금지"라는 조건 하나가 더 추가된 채로. 앤트로픽이 지키려다 블랙리스트에 오른 내용보다 더 많은 조건을 달고도 OpenAI는 계약에 성공했다.
차이가 무엇이었냐고? OpenAI는 이 원칙들을 계약서에 명시적으로 쓰지 않았다. 대신 "기술적 배포 방식"과 "클라우드 전용 운영"을 통해 간접적으로 보호하는 방식을 택했다. 표현의 양보, 구조적 통제권 유지. 국방부가 진짜 원한 것은 안전장치의 폐기가 아니라, 기업이 우회적으로 표현하더라도 국가권력에 '예스'라는 응답을 하는 것이었다.
아모데이는 이를 정확하게 짚었다.
"국방부는 우리 AI가 국가안보에 필수적이라고 하면서 동시에 안보 위협이라고 한다. 이 두 주장은 본질적으로 모순이다."
 |
| ▲지난 2월 19일 인도 뉴델리에서 열린 AI 임팩트 서밋에서 다리오 아모데이 앤트로픽 최고경영자(CEO)가 연설을 하고 있다. ⓒ 로이터/연합뉴스
|
대부분의 한국 독자에게 이 사건은 먼 나라 이야기처럼 들릴 수 있다. 그러나 지금 한국 국회와 정부에서도 거의 동일한 구조의 논쟁이 진행 중이다.
현재 입법 예고된 국방인공지능법 제정안은 AI 시스템의 국방 분야 활용을 대폭 확대하는 내용을 담고 있다. 그런데 이 법안에는 국방부 재량으로 일반 AI 안전 규제를 예외 처리할 수 있는 조항들이 포함돼 있다. 올해부터 시행된 AI 기본법 역시 방위산업 분야에 광범위한 예외를 두고 있다.
앤트로픽 사태의 언어로 번역하면 이렇다. 미국 국방부가 AI 기업에게 "모든 합법적 목적(any lawful use) 조항을 받아들여라"고 압박했듯이, 한국의 국방AI 법체계도 실질적으로 동일한 구조를 법률로 못 박으려 하고 있다. 민간 AI 윤리 기준이 군사 영역에서 국방부의 재량적 판단으로 우회될 수 있는 통로를 제도화하려는 것이다.
이번 앤트로픽 사태가 드러낸 가장 중요한 사실은, 세계에서 가장 진지하게 AI 안전을 추구해온 기업조차 자사의 자발적 사용 정책을 계약 조건으로 유지하려다 정부 조달 시장에서 퇴출당하고 말았다는 것이다. 앤트로픽은 공공의 양심으로 미국 정부에 맞섰고, 미국 정부는 기업의 원칙을 꺾지 못했으나, 정부 조달 시장에서 퇴출시켜버렸다.
이 상황은 "기업 자율 규범"의 한계를 보여주는 동시에 미 정부가 주장하는 "국내법으로 충분하다"는 입장 또한 반박한다. 첫째, 강제력이 없는 기업의 자의적 윤리 원칙은 정치권력의 의지 앞에 언제든 무력화될 수 있다. AI 기업들이 자신들의 책임 있는 AI(Responsible AI) 정책을 홍보할 때, 그것이 법적으로 구속력 있는 규범 없이는 얼마나 취약한지를 미국 정부가 직접 시연해 보인 셈이다. 둘째, 구속력 있는 국제규범이 존재하지 않을 때, 미국 정부가 그 국제규범 공백을 어떻게 활용할지 여실히 보여주기도 했다.
UN CCW(특정재래식무기금지협약) 정부전문가그룹에서는 자율무기시스템(LAWS)에 관한 국제 규범 논의가 이루어지고 있다. 미국은 이 국제논의의 장에서 기존 국제인도법과 국내 규정으로 충분하기 때문에 새로운 법적 구속력 있는 협약은 필요 없다는 비협조적인 입장을 보여왔다. 앤트로픽에게 '국방부는 항상 법을 따른다, 따라서 언급한 계약 조항은 불필요하다'고 말했던 논리와 일맥상통한다. 법에 대한 해석권을 군 당국이 독점하는 한, "법을 따른다"는 보장은 너무나 공허하다.
규제다운 규제는 만들고 싶지 않은 한국정부
 |
| ▲2025년 9월, 자율살상무기체계 규제를 위해 제네바 UN 회의에 참석한 시민단체 대표들UN 특정재래식무기금지협약 자율살상무기체계 정부전문가그룹 회의에 참여한 필자와 동료, 스탑킬러로봇 활동가 들 및 로봇무기 통제를 위한 국제위원회(ICRAC) 등 시민사회 단체 대표단이 모여 회의를 진행하고 있다. ⓒ Stop Killer Robot
|
필자는 지난해, 해당 회의에 동료와 함께 참여했다. 이 글을 쓰고 있는 지금은 제네바에서 진행되고 있는 2026년 첫 회의의 3일차 모니터링을 온라인으로 막 마친 직후이다. 3월 2일부터 6일까지, 5일간, 한국 시간으로 저녁 6시부터 새벽 2시까지 회의가 진행된다.
오늘도 한국 대표단은 국제규범이 가능한 한 협소하고 구체적으로 지정되어, 규제 바깥에 놓이는 자율무기체계가 많아질 수 있도록 아주 꼼꼼하게 노력했다. 지켜보기 부끄러웠다. 부끄럽고 참담하여 잠도 안 오기에 이 글을 쓰게 되었다. 그 사이 시간은 새벽 4시가 되었다.
필요한 것은 무엇인가
앤트로픽 사태가 보여주는 정책적 함의는 명확하다. AI 시스템이 군사 목적에 전용될 때, 그 안전장치는 기업의 선의나 계약 협상력이 아닌 법적 의무로 보장되어야 한다. 인권영향평가와 국제인도법 준수 검토를 AI 무기 시스템 도입의 전제 조건으로 제도화하고, 민간 AI를 군사적으로 전용할 때 반드시 이 심사를 거치도록 해야 한다.
한국의 국방AI법 제정 과정은 지금 바로 그 분기점에 있다. 앤트로픽이 지키려다 퇴출당한 두 원칙, 자율 살상 결정 금지와 대규모 시민 감시 금지는 한국 법률에서도 명시적으로 보장받아야 한다. 국방부의 재량에 맡기는 예외 조항이 아니라, 예외 없는 법률 조항으로.
아모데이는 사태 이후 진행된 CBS 인터뷰에서 이렇게 말했다. "우리는 애국적인 미국인이다. 우리가 한 모든 것은 이 나라를 위한 것이었다." 국가를 위한다는 진심이 국가의 강압 앞에서 얼마나 무력한지를 이 사태가 고스란히 보여주었기에, 그 말이 쓸쓸하게 들린다. 국가란 무엇인가? 애국이란 무엇인가?
양심은 국경에 갇히지 않는다
제네바 협약이 만들어질 때, 마르텐스 조항은 국적에 제한받지 않는 공공의 양심으로써 무력분쟁에서 모든 민간인과 전쟁포로, 부상병들을 보호하는 시작이 되었다. 국가의 틀 안에서 해결할 수 없는 인류 공통의 난제들과 기후위기로 대표되는 지구의 복합위기 상황에서, 오로지, 만가지 해악일 뿐인 전쟁을 언제까지 계속할 것이며, 재래식 군비경쟁을 넘어 AI 군비경쟁에도 혈안이 되어 뛰어들지 못해 앞장설 것인가.
이 사태를 예상했던 걸까? 지난해, 나는 OpenAI 구독을 취소하고, Claude를 주 파트너 삼아 활용해왔다. 내가 좋은 선택을 했다는 생각에 조금의 뿌듯함이 있었다. 정부 조달시장에서는 퇴출당했지만, 전쟁범죄에 연루되지 않는 AI를 기다리던 이들은 앞다투어 클로드 AI 구독을 시작했다고 한다.
아모데이가 지키고자 했던 양심은 개인적 양심이 아니다. 공공의 양심, 전쟁이 재발하지 않는 세계를 만들려던 국제규범의 시작에 놓였던 바로 그 양심이다. 무작위로 표적을 식별하고 민간인들을 살상하며, 인간을 그저 20초 짜리 승인기계로 만드는 자율살상무기체계를 규제하는 것에 대한 공공의 양심이 필요하다. 이것이 모두의 양심이 되어야 전쟁이 재발하지 않는 세계가 가능해진다.
윤리적 AI를 만들겠다는 기업의 약속이 법 앞에서 아무런 보호를 받지 못할 때, 그 피해는 어디로 가는가? 그 피해는 앤트로픽에 그치지 않는다. 이 상황의 결과는 결국 모두에게 돌아올 것이다. 전쟁터의 병사에게도, 표적으로 식별된 무고한 민간인들과 부수적 피해라 이름 붙여지는 수많은 사망자들, 그리고 감시당하는 일상에 익숙해지고 있는 당신에게도. (본보 제휴 <오마이뉴스>, 무단전재 및 재배포 금지)
올려짐: 2026년 3월 10일, 화 4:34 pm
평가: 0.00/5.00 [0]