극단적 선택한 청소년 사례 이어져…부모 알림·야간 차단·콘텐츠 제한 기능 도입

(올랜도) 김명곤 기자 - 오픈AI가 10대 사용자 보호를 위해 챗GPT에 부모 통제(parental controls) 기능을 도입했다. 최근 챗GPT 이용 후 극단적 선택을 한 청소년 사례가 알려지면서, 인공지능 챗봇의 안전성이 도마에 오른 데 따른 조치다.

오픈AI는 지난달 29일 블로그를 통해 부모와 10대가 각각 계정을 만든 뒤 서로 초대해 연동하는 방식으로 부모 통제 기능을 이용할 수 있다고 밝혔다. 초대는 이메일이나 문자 메시지로 보낼 수 있으며, 설정 메뉴의 '부모 통제' 항목에서 요청을 전송할 수 있다.

10대는 계정 연동을 언제든지 해제할 수 있지만, 이 경우 부모에게는 알림이 전송된다.

연동이 완료되면 해당 10대 계정에는 자동으로 일부 콘텐츠 제한이 적용된다. 오픈AI는 "그래픽 콘텐츠, 바이럴 챌린지, 성적·연애적·폭력적 역할극, 과도한 외모 기준과 같은 부적절한 내용이 줄어든다"고 설명했다.

이 필터는 부모가 해제할 수 있지만, 10대 사용자는 설정을 변경할 수 없다. 다만 오픈AI는 이러한 기능이 "완벽하진 않으며 의도적으로 우회하려는 경우엔 통제가 어려울 수 있다"고 경고하면서, "자녀와 AI 사용에 대한 건강한 대화를 나누는 것이 중요하다"고 조언했다.

사용자 맞춤 설정과 경고 시스템

부모는 통제 패널을 통해 다양한 기능을 조정할 수 있다. 예를 들어 챗GPT 사용 시간 제한, 대화 저장 및 AI 학습에 이용되는 기능 해제, 이미지 생성 및 편집 제한, 음성모드 차단 등 세부 설정이 가능하다.

특히 오픈AI는 위급 상황을 사전에 인지하고 부모에게 알리는 경고 시스템도 마련했다. 극단적 선택 징후가 포착될 경우, 소수의 전문팀이 상황을 검토한 뒤 이메일·문자·푸시 알림을 통해 부모에게 통지한다. 단, 부모가 해당 알림 기능을 비활성화한 경우엔 예외다.

회사는 "10대의 프라이버시는 최대한 보호하며, 부모나 구조 당국이 도움을 줄 수 있도록 필요한 정보만 공유할 것"이라고 밝혔다. 이어 "완벽한 시스템은 아니지만, 경고를 보내는 것이 침묵하는 것보다 낫다고 판단했다"고 덧붙였다.

오픈AI의 이번 조치는 미국 연방거래위원회(FTC)가 청소년 대상 AI 챗봇의 위해 가능성에 대한 조사를 시작한 가운데 나왔다.