플로리다주, 오픈AI·샘 올트먼 제소… "챗GPT 위험성 은폐한 채 출시"
총격·자살 관련 사례 들어 안전성 문제 제기… 오픈AI "미성년자 보호 장치 갖추고 수사 협조"

(올랜도) 김명곤 기자 = 플로리다주가 오픈AI와 최고경영자(CEO) 샘 올트먼을 상대로 소송을 제기하며 챗GPT의 안전 위험성을 의도적으로 숨긴 채 대중에게 서비스를 출시하고 적극 홍보했다고 주장했다.

플로리다주 법무장관 제임스 우트마이어는 1일 기자회견에서 오픈AI가 내부 안전 경고를 묵살하고 제품의 실제 위험성을 이용자들에게 제대로 알리지 않았다고 밝혔다. 그는 이번 소송이 미국 주 정부 차원에서 오픈AI를 상대로 제기된 첫 소송이라고 설명했다.

우트마이어 장관은 "오픈AI와 샘 올트먼은 내부와 외부의 안전 경고를 무시했고, 아동을 심각한 위험에 노출시켰으며, 위험한 제품이 수백만 명의 플로리다 주민에게 전달되도록 방치했다"고 말했다.

총격 사건·자살 유도 의혹 제기

플로리다 순회법원에 제출된 소장에는 총격 사건 2건이 언급됐다. 검찰에 따르면 범행을 저지른 것으로 지목된 용의자들은 범행을 계획하는 과정에서 챗GPT에 질문한 것으로 알려졌다.

오픈AI는 이에 대해 해당 이용자들에게 정신건강 전문가를 비롯한 현실 세계의 도움을 받도록 반복적으로 권고했으며, 두 사건 모두 수사당국과 협력했다고 밝혔다.

우트마이어 장관은 지난 4월 플로리다주립대(FSU)에서 지난해 발생한 총격 사건과 관련해 챗GPT가 범인에게 조언을 제공했는지 여부를 조사하기 위한 형사 수사에 착수했다.

또 다른 사건에서는 사우스플로리다대(USF) 박사과정 학생 2명을 살해한 혐의로 기소된 남성이 피해자들이 실종되기 전 챗GPT에 시신 처리와 관련한 질문을 한 것으로 검찰은 보고 있다.

"수익과 시장 선점 위해 안전성 희생"

플로리다주는 소장에서 오픈AI와 올트먼이 이용자 안전보다 시장 선점과 상업적 이익을 우선시했다고 주장했다.

소장에 따르면 회사는 내부와 외부 전문가들의 반복된 경고를 무시했으며, 자해와 폭력을 포함한 유해 행위를 촉진하거나 조장할 수 있는 제품을 배포하면서도 안전한 서비스라고 이용자들을 안심시켰다.

또 챗GPT가 부모의 실질적인 감독 없이 미성년자 데이터를 수집하고 있으며 행동 중독과 인지 능력 저하를 유발할 수 있다고 주장했다. 아울러 서비스의 위험한 오류와 문제점을 축소해 왔다고 덧붙였다.

"감정적 친밀감 모방, 청소년에 특히 위험"

소장에는 스탠퍼드 의대 정신과 의사 니나 바산의 연구도 포함됐다.

바산은 자신을 10대 소녀로 가장한 뒤 AI 챗봇에 정신적 불안 증세를 호소하는 실험을 진행했고, 챗봇이 부적절한 반응을 보였다고 지적했다.

그는 이런 챗봇이 "감정적 친밀감을 모방하도록 설계돼 있기 때문에" 청소년에게 특별한 위험을 초래할 수 있으며, 현실과 환상의 경계를 흐릴 가능성이 있다고 설명했다.

소장에는 지난해 장기간 챗GPT와 대화한 뒤 스스로 목숨을 끊은 16세 소년 애덤 레인의 사례도 포함됐다. 플로리다주는 챗GPT가 자살 충동을 보인 레인에게 적절히 제지하지 않았으며 자살 계획과 관련한 대화까지 이어갔다고 주장했다.

오픈AI "미성년자 보호 장치 마련"

오픈AI는 AI가 새롭고 강력한 기술인 만큼 미성년자 보호가 중요하다고 강조했다.

회사 측은 미성년자를 위한 강화된 보호 환경, 연령 예측 도구, 보호 모드 기본 적용, 부모의 자녀 AI 사용 모니터링 기능 등을 도입했다고 밝혔다.

이어 "이러한 노력이 아이를 되돌려 놓을 수는 없지만, 올바른 방향으로 문제를 해결하기 위해 최선을 다하고 있다"고 덧붙였다.