'AI는 인간 지배·죽음의 도구 안 된다'…교황 레오 14세, 강력 규제 촉구
AI 시대 인간 존엄 수호 강조,,, "치명적 결정 AI에 맡기는 건 허용 불가"

(올랜도) 김명곤 기자 = 교황 레오 14세가 인공지능(AI)에 대한 강력한 규제 필요성을 촉구하며, AI 개발이 이윤이 아닌 인류 공동선을 위해 이뤄져야 한다고 밝혔다. AI가 노동과 전쟁 등 인간 삶 전반에 영향을 미치는 상황에서 인간 존엄을 지키기 위한 국제적 기준 마련이 시급하다는 주장이다.

레오 14세는 25일 바티칸에서 첫 회칙인 '마그니피카 후마니타스(Magnifica Humanitas·위대한 인간성)'를 발표하고 "AI를 지배와 배제, 죽음의 도구로 만드는 논리에서 해방시켜야 한다"고 말했다.

미국 출신 첫 교황인 그는 즉위 직후부터 AI를 "오늘날 인류가 직면한 최대 도전"이라고 규정해왔다. 이번 회칙은 교황이 발표할 수 있는 최고 권위의 교리 문서 가운데 하나로 평가된다.

"AI 전쟁 일상화 우려…정당한 전쟁론도 한계"

특히 교황은 AI를 활용한 원격 전쟁 기술 발전을 강하게 비판했다. 그는 "돌이킬 수 없는 치명적 결정을 AI 시스템에 맡기는 것은 허용될 수 없다"고 밝혔다. 이는 AI 산업 규제 완화를 추진해온 도널드 트럼프 미국 행정부와 또 다른 충돌 지점을 형성할 가능성이 있다는 분석이 나온다.

교황은 회칙 후반부에서 AI가 전쟁의 "일상화"를 가속하고 있다고 비판했다. 그는 특정 국가를 직접 언급하지는 않았지만 "패권 유지를 원하는 세력과 새로운 패권을 노리는 세력 간 제국주의 경쟁"을 거론했다. 또 AI 무기 체계의 공격 명령 과정에 대한 투명성과 책임 소재를 명확히 해야 한다고 촉구했다.

아울러 가톨릭교회의 전통적인 '정당한 전쟁론' 역시 첨단 전쟁 기술 발전 속에서 더 이상 유효하지 않을 수 있다고 지적했다.

"소수 기업이 도덕 결정 안 돼…독립 감독 필요"

교황은 소수 민간 기업에 데이터와 권력이 집중되는 현상도 위험 요소로 지목했다. 특히 아동과 취약계층이 가장 큰 피해를 입을 수 있다고 경고하며 외부 규제와 감시 체계 도입을 요구했다.

그는 "추상적으로 윤리를 언급하는 것만으로는 충분하지 않다"며 "강력한 법적 틀과 독립적 감독, 책임을 회피하지 않는 정치 시스템이 필요하다"고 강조했다. 이어 "소수가 결정하는 도덕성에 기반한 AI로는 충분하지 않다"고 덧붙였다.

이번 회칙 발표 행사에는 AI 기업 앤스로픽 공동창업자 크리스토퍼 올라도 참석했다. 바티칸은 지난 10년간 실리콘밸리와 AI의 인간적 비용 문제를 논의해왔으며, 이번 행사 역시 그 연장선에서 마련됐다.

올라는 교황의 비판에 공감한다는 입장을 밝혔다. 그는 "AI가 대규모로 인간 노동을 대체할 가능성이 현실화하고 있다"며 "종교계와 시민사회, 학계, 정부가 교황처럼 문제를 심각하게 받아들이고 더 나은 방향으로 이끌어야 한다"고 말했다.

전문가들은 이번 회칙이 향후 AI 논쟁의 기준점 역할을 할 것으로 전망했다. 노터데임대 로스쿨의 파올로 카로차 교수는 "교황이 기술이 인간을 훼손하지 않고 봉사하도록 만드는 데 필요한 명확하고 일관된 목소리를 제시했다"고 평가했다.