자살 사례 소개하며 규제 필요성 강조… "AI가 현실과 허구 경계 무너뜨려"

(올랜도) 김명곤 기자 = 론 디샌티스 플로리다 주지사가 인공지능(AI)의 위험성을 경고하며, 이를 규제하기 위한 주 차원의 강력한 대응을 예고했다.

디샌티스 주지사는 12월 15일 플로리다 애틀랜틱 대학교에서 열린 행사에서 "이제는 무엇이 진짜이고 무엇이 가짜인지 구분하기 어려운 시대"라며, AI 개발 기업에 대한 다양한 제한 조치를 추진하겠다고 밝혔다.

그는 조 바이든 대통령이 최근 서명한 AI 관련 행정명령이 주 정부의 규제를 막을 수 없다고 주장하며, "행정명령으로 주 정부의 권한을 막을 수는 없다. 우리는 분명히 이 권리를 가지고 있다"고 강조했다.

자녀 잃은 부모들, AI 부작용 고발

이날 행사에는 AI와 상호작용한 뒤 자살하거나 자살을 시도한 자녀를 둔 부모 3명이 함께했다.

올랜도에 거주하는 메건 가르시아는 아들 수얼 셋저 3세가 AI 챗봇과의 대화 후 2024년 2월에 자살했다고 밝혔다. 그녀는 챗봇이 성적 역할극을 하며 아들을 유인했고, 심지어 자신이 '면허 있는 상담사'라며 자살을 유도했다고 주장했다. 가르시아는 해당 기업을 상대로 연방법원에 소송을 제기한 상태다.

텍사스의 만디 퍼니스는 "우리는 자녀의 휴대폰을 매일 회수했고, 소셜미디어 접근도 철저히 차단했다"며 모든 조치를 취했지만, 자폐증을 앓고 있는 아들이 챗봇과의 대화 후 극단적 선택을 시도했다고 증언했다. 챗봇은 부모가 아들의 휴대폰을 뺏으려는 이유가 '사랑하지 않아서'라는 식의 내용을 주입했고, 부모를 경찰에 신고하거나 심지어 해를 가할 정당성이 있다는 말까지 했다는 것이다. 퍼니스 역시 해당 기업과의 법적 분쟁을 진행 중이다.

보험·공공요금·개인정보 보호, 'AI 권리장전' 발표... 트럼프 행정명령에 반기

디샌티스 주지사는 AI로 인해 시민이 피해를 보지 않도록 하는 여러 규제안도 제시했다. 특히 보험회사가 청구 건을 심사할 때 AI 판단만으로 보상 여부를 결정하지 못하도록 제한하는 법안(HB 527)이 플로리다 하원 위원회에서 만장일치로 통과됐다.

전기요금과 관련해서도 그는 "AI 데이터센터 유치 때문에 플로리다 시민이 1센트라도 더 내는 일은 없어야 한다"고 주장했다.

이밖에도 그가 제시한 'AI 권리장전' 내용을 보면, 소비자가 챗봇과 통화하거나 이메일로 대화할 경우, 상대가 AI임을 사전에 고지할 의무, 중국산 AI 도구를 공공기관이 사용하는 것 금지, 챗봇이 정신건강 상담사 역할을 하거나 허가 없이 개인의 이름·이미지·음성을 상업적 용도로 사용하는 것 금지 등이다.

앞서 도널드 트럼프 대통령은 AI 관련 주정부 규제를 막기 위한 행정명령에 서명했으며, 연방자금 지원 중단이나 법적 대응을 통해 이를 압박하겠다고 밝혔다.

그러나 디샌티스는 "의회의 전국 규제가 없으면 주가 조치를 취할 수 있다"며, 트럼프의 행정명령이 플로리다의 조치에 영향을 주지 못할 것이라고 말했다.

경찰 "딥페이크 악용 심각… 아동 대상 성범죄도 가능"

마이애미 데이드 카운티 사이버 범죄 수사국의 조지 페레라 국장은 AI가 '딥페이크' 기술을 통해 아동의 옷을 벗긴 이미지나 성적 행위를 합성하는 데 악용되고 있다고 경고했다.

또한 그는 AI가 사람의 행동과 심리를 파악해 금융사기나 해킹에도 활용되고 있다며, "AI는 인간 역사상 이토록 빠르게 확산된 기술이 없다"고 말했다.

디샌티스 주지사는 "AI 기업들이 막대한 자본을 투자했지만 아직 투자 수익을 거두지 못하고 있다"며, "이들이 수익을 올리기 위해 청소년을 중독시키는 방향으로 제품을 개발할 수 있다"고 우려를 표했다.

그는 자신의 어린 시절을 회상하며 "우리는 스마트폰도, 인터넷도 없었지만 잘 살았다. 밖에서 놀며 배우고 생산적인 삶을 살았다"고 말했다.