[목수정의 바스티유 광장] AI가 논술형 시험을 채점하는 것이 우려되는 이유

(파리=오마이뉴스) 목수정 기자 = 지난 16일 치러진 프랑스의 바칼로레아 철학 시험엔 다음의 두가지 질문이 제시됐다. "우리의 미래는 기술에 달려 있는가?", "진실은 언제나 설득력이 있는가?" 늘 그랬듯, 바칼로레아 철학 시험 문제는 현 시대를 관통하는 질문들을 날카롭게 포착한다. 이 질문들은 한 방향으로 정신없이 휩쓸려 가는 사회를 잠시 멈춰 세우며, 생각하고 토론할 것을 요구한다.

물론, 여기에 정답은 없다. 질문을 받아 든 학생들은 열려있는 각자의 결론을 향해 논리를 구축하고, 4시간에 걸쳐 최대한 매끄러운 문체로 답안을 작성할 것을 요구받는다. 하지만 이런 식의 질문은 던져지는 순간, 우리의 미래가 오직 기술의 진보에 달려 있는 것은 '아니라는 사실', 진실이 언제나 설득력 있어 보이는 것은 '아니라는 사실'을 역설하는 힘을 갖는다.

철학 시험 문제가 공개된 후, 각 언론사들은 철학 교사, 교수들을 통해 해당 문제들에 대한 모범 답안을 제시하며, 토론의 장을 연다. 이 질문이 누른 버튼은 기술(테크놀로지)을 향한 절제 없는 무한돌진이 얼마나 크게 인류를 위협하고 있는지를 환기하는 글들을 토해냈다. 기술의 진보에 따른 윤리와 절제, 현명함이 동반될 때만 그것이 인류를 위해 기여할 수 있음을 역설하는 글들이 기다렸다는 듯 여러 지면에 펼쳐졌다.

"영화 <매트릭스>는 우리가 컴퓨터에 부여한 힘이 어떻게 우리에게 돌아와 인간의 의식을 제거하고 인간의 미래 자체를 박탈하는지 보여준 바 있다".
"기술은 진보에 꼭 필요한 요소지만, 우리는 이를 명확한 규범을 통해 제한해야 할 책임을 지닌다." (르 피가로)

"찰리 채플린은 <모던 타임즈>를 통해 기계 앞에서 기계가 되어버린 인간에겐 더 이상 미래가 없다는 사실을 보여주었다."(르 파리지앙).

"우리는 무분별하게 인공지능에 더 많은 권한과 삶에 직결된 결정을 맡길 것인가, 아니면 지혜를 발휘해 그 영향력에 한계를 정할 규제 수단을 마련할 것인가? 소설가 메리 셸리(Mary Shelley)가 통찰했듯, 하이테크 엔지니어들이 부주의와 성공에 도취되어 프랑켄슈타인 박사처럼 자신이 창조한 괴물이 통제를 벗어나 우리 모두에게 등을 돌리는 상황에 직면하지 않도록 경계해야 한다." (필로소피)

통제되지 않은 기술, 부메랑 되어 인류를 공격한다

당장 지구촌을 위협하고 있는 이스라엘-이란의 전쟁을 보자. 이스라엘은 최신 미사일을 이용해 특정 인물들을 사살하는 것으로 전쟁을 시작했다. 놀라운 첨단 기술이다. 지난해 국제형사재판소로부터 전범으로 체포 영장을 받았으며, 자국 내에서도 부패 혐의로 재판을 받던 이스라엘 총리 베냐민 네타냐후는 정치생명 연장의 돌파구로 또 다른 전쟁을 택했다. 그가 누른 미사일 버튼은 이란 뿐 아니라, 세계 평화를 위협한다. 권력에 눈먼 정치인의 손에 놓인 첨단 기술은 오직 파멸을 초래할 뿐이다.

의학 기술의 발달과 함께 인간의 수명은 늘었지만, 만성질환이 이토록 광범위하게 인류를 지배한 적도 없었다. 한국 60대 이상의 64.6%가 고혈압, 70대 이상의 20%가 당뇨 환자(2015년 한국보건사회연구원 통계)다. 지금처럼 많은 아이들이 아토피, ADHD, 자폐증에 시달린 적도 없었다. 2023년, 미국의 8세 어린이 36명 중 1명이 자폐증을 가지고 있다. 2000년에 비해 4배 이상 자폐증 진단 비율이 높아진 것이다(미국 질병통제예방센터 통계). 한국 역시 어린이 50명당 1명꼴로 자폐증을 앓고 있다.

과학자들은 이 모든 현대의 비극에 대해 유전과 환경 등 복합적 원인이라고 말한다. 그러나 결국 그 복합적 원인의 근원엔 과학 기술이 자본의 이해를 위해 생산해 온 화학 약품들과 그것에 의해 오염되고 훼손된 식품, 혹은 과도하게 남용된 의약품들이 있다. 인류 역사가 시작된 이후 대부분의 시간 인간은 기아의 고통과 싸워왔다. 하지만 지난 반세기 전부터는 오남용된 과학 기술로 오염되고 조작된 음식물과 환경호르몬의 공격을 받고 있다. 1세기 전에 비해 1.5도 상승한 지구의 온도와 무차별적으로 살포돼 온 화학약품들은 지난 50년간 야생동물의 수를 73% 감소시켰다. 그 속에서 인류도 함께 피해를 입는 것은 피할 수 없는 일이다.

미래를 위한 현명한 준비는 바삐 달려가는 테크놀로지의 열차에 무조건 올라타는 것이 아니다. 기술의 진보를 전능한 미래의 신으로 추종하는 세력에 맞서 인간의 공동선을 위협하지 않을 적정한 윤리의 선을 확보하는 것, 기술의 노예가 아니라 주인으로서의 인식을 굳건히 지켜가는 데에 있다.

직립 보행을 시작하며 손의 자유를 얻은 인류는 도구들을 발명, 사용하면서 고유한 자신만의 진화의 거듭해 왔다. 기술의 발전은 그러므로, 인류의 삶을 동반해 온 필연적 과정이기도 하다. 그 기술의 최전선에 AI가 있다.

이재명 대통령은 공약 속에 대한민국이 AI 1등국이 되도록 하겠다는 포부를 밝히고 있다. 이는 김대중 대통령이 인터넷 강국 대한민국을 만들던 때를 떠오르게 한다. 구한말, 세계사의 흐름에 발 빠르게 동참하지 못하며 역사에 뒤처졌던 통한의 기억을 DNA 속에 새긴 우리에게, AI산업이 '놓칠 수 없는 열차'라는 사실은 암묵적 합의에 속한다.

논술형 시험 채점을 AI에 맡기기로 한 경기도 교육청

그런 분위기 속에서, 지난 18일 경기도 교육청은 다음 달부터 중1과 고1 국어·사회·과학 교과의 서술형·논술형 평가에 대한 채점을 AI에게 맡기는 시스템(인공지능 서·논술형 평가시스템)을 도입하고, 이후 경기도 내 전 학교, 전 학년으로 확대 적용하겠다고 밝혔다. 임태희 경기도 교육감은 "교육의 본질은 정답을 찾는 기술이 아니라, 학생이 살아갈 미래 사회를 위한 역량과 인성을 기르는 것"이라며 그들의 결정을 "학생 성장을 지원하고 입시 중심 교육을 바꾸기 위한 시도"라고 설명했다. 임 교육감이 말한 교육의 본질에는 의문을 제기할 수 없으나, 그것을 위해 경기도 교육청이 선택한 방법이 과연 옳은 것인지는 의문을 갖게 한다.

한국에서 지금까지 본격적인 논술형 평가가 광범위하게 이뤄질 수 없었던 것은 그것을 담당할 교사들의 훈련이 충분치 않고, 교사의 주관성이 개입될 수 있는 채점 결과에 대해 논란이 예상된다는 측면 때문이었다. 한국의 살벌한 교육 환경에서 이는 좀처럼 극복하기 힘든 난관이었기에, 우리 교육은 대부분의 시험을 오지선다에 맡겨왔다.

그런데 "아무도 가지 않은 길을" 과감하게 나선 경기도 교육청이 찾은 해법은 논술식 시험 확대를 위해 교사를 훈련시키는 것이 아니라, 채점을 AI에게 맡기는 것이었다. 이는 교육의 본질로부터 오히려 아이들을 더 멀어지게 할 수 있는 결정으로 보인다.

7개 시범학교에서 사용해 본 결과 교사들은 "채점 시간을 줄이고, 정확도를 높일 수 있어서 매우 효율적"이라고 했고, 학생들은 "평가 결과에 대해 신뢰할 수 있다"는 반응이 있었다고 한다. 즉, 임교육감이 말한, 미래 사회를 위한 역량과 인성을 기르기는 목표와는 전혀 상관없는 지점에서 AI채점은 효용을 드러낸 것이다.

시리(Siri)의 핵심 엔지니어 창조자이자, 삼성인공지능연구소 부사장을 역임한 바 있는 인공지능 엔지니어 뤽 줄리아(Luc Julia)는 지난 4월 파리에서 가진 강연에서 AI에 대해 이렇게 밝힌 바 있다. " AI는 하나의 도구다. 망치처럼. 못을 박을 때, 우리의 손보다 망치를 사용하는 게 더 효과적이기 때문에 우린 망치를 사용한다. 하지만, 망치는 우리 없이 혼자서 아무것도 할 수 없다. 그것은 우리의 삶을 더 편하게 하기 위한 '도구'다. AI도 마찬가지다."

경기도 교육청의 결정은 망치를 사용하는 인간의 자리를 망치에게 내주기로 한 결정과 비슷해 보인다. 도구로 쓰여야 할 존재에 결정할 수 있는 권리를 양도하는 순간, 인류는 스스로가 만든 기술로부터 공격당하는 처지에 놓이게 되는 것이 아닐까.

AI 도움받은 작문, 프랑스 고등학교에선 낙제 처리

지난 봄에 내 지인인 프랑스의 고교 철학교사 베네딕트 레(Benedicte REY, 56세)는 한 학생이 과제로 낸 철학 리포트가 AI에 의해 작성되었다는 사실을 간파했다. 30년째 학생들의 철학 에세이를 검토해왔던 교사의 눈에 그 사실은 명백했다. 그녀는 낙제 점수를 주었고, 그 이유를 명확히 기재했다. 놀랍게도 학생은 이에 대해 문제를 제기했다. 이런 경우, 교육청은 다른 철학교사에게 그 답안을 검토하게 한다. 다른 철학 교사 역시 그녀와 같은 결론을 내렸다. 학생의 에세이에는 사고가 전개된 자연스러운 흔적, 인간의 육성이 배제되어 있었다.

철학은 스스로 생각하는 힘. 당연하게 보이는 사실의 이면을 꿰뚫어 보는 비판적 이성을 키우는 것을 목표로 하는 학문이다. 그런 과목에서 훈련 과정을 생략한 채, AI에게 집필을 맡긴 학생에게 낙제점이 주어지는 것은 당연했다. 베네딕트를 비롯한 프랑스의 철학 교사들은 점점 늘어나고 있는 학생들의 AI 의존 현상을 지적하며, 이를 방지할 수 있는 보다 명확한 교육청의 지침을 요구한 상태다.

같은 일이 경기도에서 벌어졌을 경우, 학교는 그리고 교사는 어떻게 대응할 수 있을까? 아이들은 AI가 채점하는 답안을 작성하는데 있어, AI의 도움을 받는 일을 부당하다고 여길 수 있을까? 교사 스스로 교사 고유의 권한인 학생의 과제를 평가하는 일을 기계에게 양도했을 때, 학생들은 스스로 판단하고 분석하고, 사고해야 하는 이유를 찾을 수 있을까? 오히려 아이들은 AI에게 높은 점수를 받는 방법을 알려주는 학원을 다니게 되지 않을까? 그것이 진정, 미래 사회를 살아갈 역량과 인성을 기르는 교육일까?

주체가 되지 못하면 도구가 된다

프랑스의 경우, 교사는 학생들의 시험 답안, 혹은 과제를 단지 '채점'하지 않는다. 그들은 채점 대신 교정(corriger)이란 단어를 쓴다. 어느 대목에서 논리의 허점이 있고, 어느 대목에서 탁월한 사고가 보였는지 밑줄 치고, 옆에 코멘트를 단다. 마지막엔 칭찬의 말, 때론 부족한 점들을 지적한다. 점수는 그 모든 입체적이고 적극적인 답안지 교정의 과정에서 나오는 결산이다. 학생은 교정된 답안지를 통해 교사의 목소리를 들으며 자신의 과제 혹은 답안지를 살펴볼 수 있다. 그 과정에서 학생도 교사도 성장한다. 물론 AI가 하는 것보다 훨씬 많은 시간이 소요될 것이다. 때때로 교사의 주관성이 개입할 것이다. 세상 모든 인간사가 그러하듯.

미국 MIT 미디어랩 연구진은 최근 챗GPT와 같은 생성형 AI를 활용한 에세이 작성이 단기적 편의를 제공하지만, 장기적으론 학습 능력 저하를 유발한다는 실험 결과를 발표한 바 있다. AI를 사용해 에세이를 작성한 그룹은 즉각적 편의를 제공받을 수 있으나, 그 대가로 깊이 있는 사고, 기억력, 자율적 문제해결능력 같은 학습의 핵심 역량이 훼손되는 피해를 입게 된다는 것이다.

반면, 인공지능의 도움 없이 스스로 에세이를 작성한 그룹은 글을 작성하는 동안 뇌신경 네트워크가 넓고 강하게 활성화되는 모습을 보였으며, 높은 수준의 인지적 참여도를 드러냈다고 연구진은 밝히고 있다. 우리가 AI와 관련해 아이들에게 시켜야 할 교육은 어떻게 그것을 지배하고 통제할 것이냐지, 그들의 포로가 되는 법이 아님은 분명해 보인다.

동의하든 안 하든, 우리의 세상은 점점 AI에 포위 당하고 있다. 이런 세상에서, 아이들이 기계에 의식을 잠식당하지 않고, 또렷한 생각과 판단의 주체로 서도록 지켜주는 최전선은 학교와 교사들이 되어야 할 것이다.

의지와 사고의 주체가 되지 못하는 인간들은 전지전능해 보이는 인공지능의 존재 앞에서 무력하게 주인의 자리를 양도할 가능성이 크다. 테크노크라트들이 장악한 프랑스 내각은 채 20%가 안되는 교사들의 AI 이용률을 문제로 지적하며, 그들을 AI 전쟁의 전사로 내몰려한다. 하지만 교사들, 특히 생각하는 힘을 길러주는 최후의 보루인 철학교사들은 아이들이 AI의 포로가 되지 않도록 막아서서 이렇게 외칠 것이다. '주체가 되지 못하면 도구가 된다'