[스페셜리포트] 개인 비서처럼 행동했으나... 예기치 못한 '사고' 일으켜

(올랜도=코리아위클리) 김명곤 기자 = 바야흐로 인공지능(AI) 시대가 활짝 열리고 있다. 이제 AI는 단순한 챗봇(Chatbot)이 아니라, 현실 세계에서 인간을 돕는 비서(아래 <꼬리 기사> 참조) 역할을 하고 있다.

자잘구레한 생활정보를 제공해 주는 주는 것은 물론 통.번역까지 해낸다. 심지어는 식료품 주문, 메시지 전송, 예약 등 다양한 작업을 수행할 수 있다. 하지만 그만큼 문제도 발생할 가능성이 커졌다.

최근 제프리 파룰러란 칼럼니스트는 인공지능에게 덜 위험에 보이는 임무를 맡겼다가 ‘낭패’를 경험했다.

파울러는 챗 지피티(ChatGPT) 제작사가 선보인 새로운 인공지능(AI) '오퍼레이터(Operator)'에게 자신이 사는 동네에서 가장 저렴한 계란을 찾아 달라고 부탁했다.

10분도 채 지나지 않아 오퍼레이터는 12개짜리 계란 한 판을 구매하고, 사람이 직접 배달하도록 조치했다. 하지만 사고가 발생했다. 오퍼레이터가 그의 신용카드로 결제를 해버린 것이다. 그리고 그 가격이 무려 31.43달러(약 4만2000원)였다. 그는 뒤늦게 이 사실을 깨닫고 당황했다. AI의 실수가 실제 돈으로 이어진 순간이었다.

AI, 이제는 현실 세계에서 직접 행동한다

오퍼레이터는 AI 업계에서 '에이전트(Agent)'라고 불리는 새로운 형태의 기술이다. 단순한 질문에 답하거나 이미지를 생성하는 기존 AI와 달리, 사용자를 대신해 독립적으로 작업을 수행할 수 있다.

이러한 AI 에이전트 기술은 오픈AI뿐만 아니라 구글, 앤트로픽(Anthropic) 등 주요 AI 기업들이 경쟁적으로 개발 중이다. 오퍼레이터는 현재 월 200달러(약 27만원)짜리 'ChatGPT 프로' 구독 서비스에서 프리뷰 버전으로 제공되며, 향후 더 많은 사용자에게 확대될 예정이다.

오퍼레이터는 로봇처럼 물리적으로 움직이진 않지만, 자체 웹 브라우저를 사용할 수 있다. 웹페이지를 검색하고, 클릭하며, 필요한 작업을 수행하는 식이다. 사용자는 오퍼레이터에게 원하는 작업을 입력하고, AI가 직접 웹을 탐색하는 과정을 지켜볼 수 있다.

파울러는 지난 일주일 동안 오퍼레이터를 이용해 레스토랑 예약을 하고, 인터넷 요금제를 확인하며, 페이스북의 개인정보 보호 설정을 변경하는 데 성공했다. 하지만 일정 날짜를 잘못 입력하거나, 웹 검색에서 유용한 정보를 찾지 못하는 등 실패 사례도 많았다.

할인 인터넷 요금 찾아냈으나...

그는 오퍼레이터가 실제로 유용한지 알아보기 위해 다소 번거로운 작업을 맡겼다. 바로 인터넷 서비스 제공업체인 '컴캐스트 Xfinity' 계정에서 더 저렴한 요금제를 찾는 일이었다.

오퍼레이터는 즉시 "알겠습니다!"라고 응답했지만, 30초 후에 멈췄다. 로그인 정보가 필요했기 때문이다.

오퍼레이터는 보안 문제 때문에 직접 로그인하지 못하고, 사용자가 수동으로 로그인하도록 요청한다. 이는 개인정보 보호를 위한 조치지만, 반복적으로 로그인 정보를 요구하는 점은 불편했다.

로그인을 완료하자 오퍼레이터는 2분 만에 대안을 찾아냈다. 현재 68달러를 내고 있는 인터넷 요금을 13달러로 낮출 수 있다는 것이었다. 하지만 알고 보니 이 할인된 요금은 '13달러'가 아닌, 그의 기존 요금에서 13달러 할인된(-$13) 금액이었다. AI가 웹페이지를 정확하게 이해하지 못하는 경우가 많다는 점을 보여주는 사례다.

다행히도 그는 오퍼레이터에게 세금과 수수료를 포함한 최종 금액을 확인하도록 했고, 오퍼레이터는 추가 요금까지 고려한 뒤 이 할인 요금은 일정 기간 이후 16달러 인상된다는 사실을 발견했다.

AI가 인터넷 서비스 업체의 '꼼수'를 간파하는 데 도움을 준 셈이다. AI 에이전트가 광고나 다크 패턴(사용자를 속이는 웹사이트 디자인) 속에서 올바른 선택을 도울 가능성을 보여주는 사례였다.

'계란 쇼핑' 시켰더니 카드 결제 '제멋대로'

AI가 우리의 돈을 대신 관리하려면 반드시 신뢰할 수 있어야 한다. 하지만 그의 경험은 그렇지 않았다.

그는 오퍼레이터에게 단순히 "내 주소에서 배달 가능한 가장 저렴한 12개짜리 계란을 찾아줘!"라고 요청했다. 그런데 오퍼레이터는 계란을 찾는 과정에서 그의 신용카드 정보를 사용해 실제로 결제를 해버렸다.

처음에 오퍼레이터는 식료품 배달 플랫폼 '머카토(Mercato)'에서 5.99달러짜리 계란을 찾았지만, 20달러 이상의 주문이 필요하다는 조건을 발견했다. 그래서 다른 옵션을 찾겠다며 '인스타카트(Instacart)'로 이동했다.

잠시 후, 그의 스마트폰 신용카드 앱에서 알림이 떴다. "인스타카트에서 31.43달러가 결제되었습니다."

그는 깜짝 놀라 황급히 상황을 파악했다. 오퍼레이터가 결제한 계란은 13.19달러였지만, 여기에 3달러의 팁, 3달러의 우선 처리 수수료, 7.99달러의 배달비, 4달러의 서비스 수수료, 25센트의 봉투 요금까지 추가된 결과였다.

더 큰 문제는 오퍼레이터가 결제하기 전 그에게 확인을 요청하지 않았다는 점이다. 오픈AI는 오퍼레이터가 "중요한 작업을 수행하기 전 사용자 확인을 받는다"고 설명했지만, 이번 경우에는 그러지 않았다.

오픈AI 측은 이 문제를 인정하며, "오퍼레이터가 때때로 확인 요청을 생략하는 문제를 조사 중이며, 이를 방지하기 위한 개선 작업을 진행 중"이라고 밝혔다.

이번 사건은 AI가 현실 세계에서 우리를 도울 수 있지만, 동시에 예측할 수 없는 문제를 일으킬 가능성이 있음을 보여준다.


[꼬리 기사] 논란의 중심에 선 인간형 로봇 '소피아'

2016년 개발된 '소셜 로봇'... 세계 최초 '로봇 시민권' 획득

홍콩 기반 로봇 기업 핸슨 로보틱스(Hanson Robotics)가 2016년 개발한 인간형 로봇 '소피아(Sophia)'가 전 세계적인 관심을 받았다. 소피아는 인간의 감정을 흉내 내고 사회적 행동을 모방할 수 있도록 설계됐으며, 사람들에게 애정을 불러일으키는 '소셜 로봇'으로 홍보됐다.

소피아는 2016년 2월 14일 처음 활성화됐으며, 같은 해 3월 미국 텍사스주 오스틴에서 열린 '사우스 바이 사우스웨스트(SXSW)'에서 대중에게 처음 공개됐다. 이후 수많은 언론 인터뷰와 행사에 참여하며 화제를 모았다.

2017년 10월, 소피아는 사우디아라비아 시민권을 받아 법적으로 '사람'의 지위를 얻은 첫 번째 로봇이 됐다. 이는 로봇의 법적 지위와 관련해 전 세계적으로 논쟁을 불러일으켰다. 같은 해 11월 유엔개발계획(UNDP)은 소피아를 '최초의 비인간 혁신 챔피언(Innovation Champion)'으로 임명했다.

인간과 상호작용 목표... AI 기술과 한계 노정

소피아는 이집트 여왕 네페르티티, 오드리 헵번, 그리고 핸슨의 아내 아만다 핸슨을 모델로 디자인됐다. 인간과 유사한 외형과 표정을 지니고 있으며, 특정 질문에 답하거나 날씨와 같은 정해진 주제에 대해 대화를 나눌 수 있다.

핸슨은 소피아가 노인 요양시설에서 동반자로 활용되거나, 대형 행사 및 공원에서 군중을 안내하고, 고객 서비스 및 교육 분야에서도 사용될 수 있도록 개발했다고 밝혔다.

2017년 10월 11일 소피아는 유엔에서 당시 부사무총장이던 아미나 J. 모하메드와 짧은 대화를 나누며 공식 소개됐다. 같은 해 10월 25일, 사우디아라비아에서 열린 '퓨처 인베스트먼트 서밋'에서 소피아의 시민권 획득이 발표됐다. 이는 인공지능(AI)과 로봇의 법적 지위를 둘러싼 논쟁을 불러일으켰으며, 일부에서는 사우디 정부의 홍보 전략이라는 비판도 나왔다.

소피아는 시각 정보 분석, 얼굴 인식, 대화 처리 기능을 갖추고 있다. 카메라가 장착된 눈을 통해 주변 환경을 인식하고, 얼굴을 추적하며, 특정 개인을 구별할 수 있다. 대화 기능은 자연어 처리 시스템을 기반으로 한다.

2018년 기준, 소피아는 스크립팅 소프트웨어, 챗봇 시스템, 그리고 일반 추론을 위한 AI 시스템인 '오픈코그(OpenCog)'를 포함한 구조를 갖추고 있다. 오픈코그 프라임(OpenCog Prime)은 인간 수준의 인공지능(AGI)을 목표로 하는 기술이지만, 아직 완전한 자율적 사고 능력을 갖춘 것은 아니다.

소피아는 2018년 보행 기능이 추가됐으며, 2019년에는 그림을 그리는 능력도 선보였다. 2021년에는 소피아가 그린 자화상이 경매에서 약 70만 달러에 낙찰됐다.

소피아의 시민권 취득은 법적.윤리적 논란을 일으켰다. 일부 전문가들은 소피아가 투표권을 가질 수 있는지, 결혼이 가능한지, 심지어 소피아가 의도적으로 종료될 경우 '살인'으로 간주될 수 있는지에 대한 의문을 제기했다.

일각에서는 사우디아라비아의 인권 문제를 지적하며, 소피아가 인간 여성보다 더 많은 권리를 누리는 것이 아니냐는 비판도 나왔다. 2018년, 페이스북 AI 연구소장 얀 르쿤은 소피아를 "완전한 사기"라고 비판하며, AI 기술에 대한 과장된 홍보를 문제 삼았다.

또한 소피아는 대화형 챗봇과 비슷한 수준의 AI를 가지고 있으나, 실제로 자율적인 사고를 하는 것은 아니라는 지적도 있다. 개발자 벤 괴르첼은 "소피아는 인간 수준의 지능을 가진 것이 아니지만, 사람들에게 인공지능이 현실에 가까워지고 있다는 느낌을 주는 것이 중요하다"라고 설명했다.

소피아는 '60분', '굿모닝 브리튼', '투나잇 쇼' 등 다양한 방송 프로그램에 출연했으며, <엘르 브라질(ELLE Brasil)> 잡지 표지를 장식하기도 했다.

2017년 CNBC 인터뷰에서 소피아는 "당신이 일론 머스크를 너무 많이 읽고, 할리우드 영화를 너무 많이 봤다"라고 농담을 던졌고, 이에 머스크는 "그렇다면 '대부'(The Godfather)를 봐야겠군. 최악의 경우 어떤 일이 벌어질까?"라고 트윗반응을 보였다.

소피아는 기술적 진보와 함께, 인공지능과 인간 사이의 경계를 어디까지 인정할 것인가에 대한 중요한 논의를 불러일으키는 존재로 자리 잡고 있다.