디베이터 - 테크놀로지

#1 개요

다국적 테크 회사 IBM의 연례회의 '싱크_Think'의 2019년 무대는 더없이 단출했다. 한쪽 구석에는 온화한 태도의 케임브리지대 졸업생이자 내(저자) 오랜 토론대회 경쟁자였던 해리시 나타라잔이 서 있었다. 해리시는 가장 실력이 뛰어나고 경험 많은 토론자로 꼽혔고 토론대회에서 몇 차례 나를 꺾은 적도 있었다.

반대쪽 구석에는 실시간으로 인간과 논쟁을 벌이고, 어쩌면 이길 수도 있도록 훈련된 인공지능 시스템 '프로젝트 디베이터_{Project Debater}'가 있었다.

준비 시간이 다 끝났을 때 프로젝트 디베이터는 우아한 여성 목소리로 먼저 말문을 열었다. "만나서 반가워요, 해리시. 당신은 인간들과 겨루는 토론대회에서 세계 최다 승리 기록을 갖고 있다고 들었어요. 하지만 기계와의 토론은 아마 처음이겠지요. 미래에 오신 걸 환영합니다."

테크놀로지(인터넷, AI)에 대해 논한다.
 

#2 핵심 논리

#2-1 소셜미디어의 파급력

2010년 말 이집트, 요르단, 레바논, 시리아에서는 경직되고 부패한 체제에 대항하는 지역 운동의 일환으로 대규모 시위가 벌어졌다. 이 운동은 '아랍의 봄'이라는 시적인 이름으로 불렸다.

서방 언론은 이 '민주화' 봉기를 숨가쁘게 보도하면서 새로운 영웅을 하나 지목했다. 바로 테크놀로지였다. 기자들은 시위자들이 집회를 조직하고 정보를 나누는 데 소셜미디어를 이용했음을 보여주었다. '소셜미디어 혁명'이라는 문구가 곧 사방에 퍼졌다. 그 해 8월 스코틀랜드 던디에서 열린 세계학생토론대회의 논제는 '페이스북 시대에는 독재정치가 종말을 고하게 될 것이다'였다.

물론 이런 낙관주의에는 논리도 맥락도 없었다. 그러나 인터넷은 그 시작부터 건강한 유토피아적 사고에 영감을 주었다. 웹개척자들이 전파하고 주류 언론이 증폭시킨 그 이론들은 웹을 궁극의 의회로 간주했다. 웹은 국경을 뛰어넘어 지위와 상관없이 사람들이 서로 만나고 함께 머무를 수 있는 곳이다. 그런 연결성이 협력만큼이나 갈등도 자주 불러일으킨다는 위험도 있지만 말이다.

북한 주민들에게, 힘으로 빼앗을 수 없고ㆍ데이터와 배터리가 무제한이며ㆍSNS가 깔려 있는 스마트폰이 보급되는 상상을 해봤다. 이렇게 되면 민주화는 분명 시간문제일 것이다. 하지만, 많은 피가 흐를 것이라는 생각도 뒤따라왔다. 슬픈 일이다. 하루라도 빨리 이북 주민들이 해방되었으면 좋겠다.

 

#2-2 Change My View

기자 생활을 하며 가장 어려운 부분은 제대로 관점을 잡는 일이었다. 그래서 나는 대부분의 시간을 트위터(현 X) 같은 소셜미디어를 훑어보며 보냈다. 나는 소셜미디어와 함께 자랐고, 세 차례 나라를 옮겨 생활할 때마다 소셜미디어로 친구들과 계속 연락했다. 게다가 내 내면의 토론자는 풍성한 온라인 정치 논쟁을 환영했다.

하지만 이들 사이트에 오랜 시간 머물러보니 전과는 생각이 달라졌다. 그곳에서는 시시각각 서로를 할퀴어대는 자잘한 논쟁이 벌어졌다. 한마디로 끔찍했다. 과연 온라인에 좋은 논쟁에 대해 고민하는 사람이 있기나 한지 궁금해졌다. 그러다 '내 관점을 바꿔봐_{Chage My View}'라는 이름의 한 인터넷 포럼을 알게 되었다.

이 포럼은 2013년 레딧에서 개설되어, 현재(2025년) 팔로워만 400만 명에 달하는 커뮤니티로 성장했다. 아이디어는 단순했다. 최초의 게시자는 특정 견해를 지지하지만 생각이 바뀔 여지가 있다(예컨대 '젠트리피케이션은 힘들지만 불가피한 과정이다'라고 말하는 식이다). 그래서 다른 사람들에게 'Change My View (이하 CMV)'라고 요청한다. 원 게시자는 그에 응답한 사람과 토론을 벌이고, 그 과정에서 만약 누군가가 자기 생각을 바꾸어놓는다면 델타 기호(Δ)를 수여한다. 공동체 구성원들의 이름 옆에는 지금껏 획득해온 델타 수가 표기된다.

이 포럼은 불가능해 보이는 두 가지 과업이 가능함을, 즉 온라인에서의 반대가 점잖게 이루어질 수 있고, 그것이 우리의 관점을 바꿔놓을 수 있음을 증명하는 듯했다.

우리나라에는 왜 이런 공간이 없을까? 수요가 없어서? 분명 필요는 하지만 인지조차 못하고 있는 건 아닐까. 내가 만들어 볼 수도 있지 않을까 (이런 걸 근거 없는 자신감이라고 하나 보다).
 

#2-3 온라인 토론의 4가지 팁

온라인 논쟁을 연구하는 학자들에게 CMV는 풍부한 데이터 소스였다. 이는 사람들이 반대하는 방법을 기록할 뿐 아니라 어떤 접근법이 사람들의 생각을 바꾸는 데 가장 효과적인지, 즉 델타 기호를 얻게 하는지를 보여주었다. 다음은 CMV 데이터에 기초한 코넬대학교에서의 연구 결과다. 이 연구 결과는 다음과 같은 몇 가지 경험칙*을 제시한다.
* 경험칙: 일상에서 반복된 경험을 바탕으로 얻은 일반적인 판단 기준. 예를 들어, 물건은 아래로 떨어진다.

빨리 반응할 것: 진입 시간이 지연될수록 원게시자의 생각이 바뀔 가능성이 줄어든다. 원글에 첫번째나 두번째로 반대 글을 올린 사람이 열번째 사람보다 성공할 확률이 세 배 높다.

정직할 것: 설득력이 높은 게시글일수록 불확실성과 한계를 인정하는 경우가 많다. 아마도 이와 비슷한 이유로, 효과적인 주장은 '주장하는 사람과 관련된 사적인 대명사(나, 당신, 우리 같은)'를 씀으로써 그저 포괄적이고 일반적인 진술이 될 수도 있는 (뻔한) 이야기와 구별되는 경향이 있다.

(지나치게) 직접적으로 대응하지 말 것: 성공적인 논쟁은 원글의 표현을 그대로 가져다쓰기보다는 '새로운 정보나 새로운 관점'을 제공할 때인 경우가 더 많다. 양쪽이 사용한 단어의 차이를 측정해보면 알 수 있다. 일반적으로 우리는 반론을 할 때 흔히 상대방의 말을 인용하지만, 연구자들은 그것이 "유용한 전략이 아닌 것 같다"고 판단했다.

증거를 제시할 것: 설득력 있는 게시물은 '예를 들어' 같은 말이나 하이퍼링크를 외부 근거로 인용하는 경우가 많다. 2018년 애리조나주립대학교에서 실시한 연구에 따르면 근거는 '사회ㆍ도덕적' 이슈와 감정을 덜 격앙시키는 주제 모두에서 설득력이 강했다.

(네 차례의 주고받기 뒤에는) 포기할 것: 관점을 바꿀 가능성은 원 게시자와 대응자 간의 주고받기가 세 차례 이루어졌을 때 가장 높고 네번째 이후로는 급격히 낮아진다.

상대방의 말을 인용하는 게 오히려 설득 가능성을 더 낮춘다는 사실이 흥미롭다. 동어반복 행위에 단순한 거부감을 느끼기 때문일까? 어쩌면 자신이 이미 발언한 내용은 '옳기' 때문에, 그걸 다시 들춰내어 '틀렸다'라는 딱지를 붙이는 게 진부하다고 느끼기 때문일지도 모른다. 만약 그렇다면, 상대방에게 동어반복적 인용 대신 새로운 정보와 새로운 관점을 제공하는 게 설득력 있는 이유도 나온다. 이는 상대방의 발언에 '틀렸다'는 딱지 대신 '더 다듬어짐'이라는 딱지를 붙이는 것과 같기 때문이다.
 

#2-4 온라인 토론의 문제점

CMV에서 시간을 보낼수록 이곳 이용자들과 환경이 점점 이상해 보이기 시작했다. 사용자들은 (소셜미디어에서 봐온 '끔찍한 논쟁'들과 비교하면) 심하게 정직했다. 질문자는 신문 사설만큼의 긴 게시글부터 개인적 어려움이나 깨달음의 순간들을 공유하기도 했다. 응답자는 매우 엄격한 비판을 했고 때로는 가혹했다. 그러면서도 질문자의 주장을 일부 인정하기도 했다. 사용자들은 위험천만한 웹 세상을 탈출해 신세계를 만든 난민처럼 보였다.

게다가 이 사회는 친밀감이나 문화라는 배경뿐만 아니라 법과 규칙도 뒷받침되고 있었다. CMV의 '규칙' 전문은 미국 헌법보다 길었다. 세세한 절차적 규정(가령 제목은 의문문이 아니라 평서문이어야만 한다)부터 도덕적인 규정(가령 타인이 제시하는 아이디어에는 얼마든지 모욕적인 표현을 쓸 수 있으며, 그런 표현을 쓴 사람을 지적해서도 안 된다)까지 명시했다.

이처럼 CMV는 연성 권련과 경성 권력의 조합으로, 나쁜 온라인 토론에서 발생하는 다음의 세 가지 구조적 문제를 해결하려 노력한 듯했다.

청중: 온라인 논쟁의 매우 나쁜 측면들 중 하나는 참여자들이 서로의 생각을 바꾸거나 심지어 당면 문제를 토론하는 일보다 대중을 향해 자신의 선함과 친화성을 알리는 데 더 관심이 있다는 점이다. CMV는 이 문제에 대해 멋들어진 해결책을 제시한다. 이곳에서는 '성공'하는 유일한 방법이 다른 사람의 생각을 바꾸는 일이다.

알고리즘: 소셜미디어 논쟁은 대체로 장기화되고 분란을 유발하는 경우가 많다. 왜냐하면 극단적 콘텐츠로 참여를 부추기도록 알고리즘이 짜이기 때문이다. CMV 역시 참여에 중점을 뒀지만, 토론 스레드 맨 윗자리에 놓이는 것은 개별 발언이 아닌 전체 토론 스레드에 대한 사용자들의 '지지'를 바탕으로 결정한다.

익명성: 소셜미디어 플랫폼은 자신들의 웹사이트에 게시된 프로필의 5퍼센트가량이 가짜이고, 그 대부분은 봇이라고 추산한다. 이는 선거 개입 같은 심각한 위협을 제기하고, 다른 네티즌의 정체성과 동기에 대해 의심하게 한다. CMV 사용자들은 대부분 익명이지만 그간 획득한 델타 수로 자신을 드러낸다. 델타 수는 오랫동안 이 공동체에 참여했음을 알리는 표지다.

그 결과 좋은 논쟁의 조건이 되는 배경이 어느 정도 갖춰졌다. 이를테면 슬로건 대신 논쟁, 억지 관심 끌기 대신 경청하기, 지지부진하게 물고늘어지기 대신 해결책 제시하기가 활성화되었다. 개인의 선택에 의한 것이기도 했지만, 상당 부분 설계 덕분이었다. 그러나 이처럼 완벽한 형태의 논쟁은 사실 부자연스럽고 비현실적이었다. 솔직히 CMV의 규칙은 나에게조차 너무 부담스러웠다. 마치 입구에 높은 장벽을 세워둔 것 같았다. 만약 이 유토피아를 대부분의 사람들이(나를 포함해) 좋아하지 않는다면, 미래에 실현 가능한 논쟁이란 과연 어떤 모습일까?

인터넷이 제공하는 익명성은, 인간 본성을 적나라하게 표출할 수 있게 만든다. 이를 나쁘다고 볼 수만은 없다. 하지만, 인간 본성이 100% 선할 리도 없다. 나쁜 온라인 토론은 거의 반드시 익명성에 기반해 탄생한다. CMV의 강력한 규칙은 익명성의 역기능을 틀어막으려는 시도였다. 나는 이런 강한 규칙들을 꼭 부자연스럽게 여기진 않을 것 같다. 오히려, 온라인 공동체의 구성원을 보호하는 안전장치로 여길 것이다.

#2-5 인터넷과 민주주의

몇 년 동안 나는 탕펑이라는 특이한 대만 공직자의 이력을 눈여겨보았다. 탕펑은 사회문제에 대한 해결책을 모색하는 시민 해커단 '거브제로_g0v'에 동참해, 시위자들끼리 서로 소통하고 조직화하게끔 하는 기술 인프라 구축을 도왔다. 탕펑은 정부로 하여금 시민들의 의사에 더 민감하게 반응하도록 하겠다는 더 높은 목표를 위해 전력을 다했다. 그리고 2016년 10월, 서른다섯 나이에 대만의 디지털 장관으로 임명되었다.

그는 우선 정부의 자체적인 소셜 플랫폼 조인_join을 만들고, 시민들이 청원하고 토론할 수 있게 했다. 조인은 사용자가 사용자가 500만 명이 넘었다. 대만 인구의 4분의 1에 해당하는 숫자였다. 조인의 활약은 그간 간과되어온 소셜미디어의 존재 이유를 보여주는 듯했다. 사실 시민들은 자신의 삶을 지배하는 정책에 영향을 미치고 싶어했던 것이다.

나는 탕펑이 한 일이 CMV와 대조적이라고 보았다. CMV는 규제 위에서 번영했지만 탕펑은 보다 가벼운 개입을 바랐다. 그의 접근법은 부적절한 콘텐츠나 반사회적인 플랫폼을 배제하는 대신 그것들을 능가하는 방법이었다. 그러나 이런 노력은 처음부터 어느 정도 불행한 결말이 예정되어 있었다. 소셜미디어에서는 진실보다 거짓이 더 빨리 퍼지고, 중상과 역정보는 불신될 때조차 사람들의 머릿속에서 좀처럼 지워지지 않는다는 것을 시사하는 증거가 차고 넘쳤다.

정부는 자신들이 통제하지 않는 이 플랫폼(조인)에서 역정보 및 허위정보와 맞서 싸웠다. 부서마다 잘못된 정보와 해로운 정보에 대해 1시간 안에 '똑같이 또는 더 설득력 있는 글'로 대응하는 팀이 있었다. 탕펑에게 팩트 체크는, 더 책임 있는 사회라는 큰 비전을 위한 작은 도구들이었다. 그 비전을 위해서는 미디어 활용 능력에 대한 공교육과, 정부를 더 투명하게 만드는 개혁도 필요했다.

팩트 체크는 비이성ㆍ선동적 주장에 대항하는 가장 교과서적인 방법이다. 그리고 피해서는 안 되는 길이기도 하다. 선동에 선동으로 대응하면, 아무것도 해결할 수 없다. 그리고 상대 진영이 항상 '선동'만 할 리도 없다. 상대는 진실을 말하고 있을 수도 있다. 이럴 때의 팩트 체크는 더 자세한 내막을 알 수 있게 해주는 돋보기의 임무를 수행한다.

 

#2-6 탕펑의 접근법

장관으로서 그는 자신이 주재한 모든 회의 기록을 인터넷에 투명하게 공개했다. 일급비밀이나 고도로 민감한 토의 내용까지도 가리지 않았다. 설령 그 정보가 맥락을 벗어나거나 자신에게 불리하게 사용되더라도 개의치 않았다. 그는 수요일마다 공개 만남을 열어 사람들의 발언과 피드백을 확인하고 그에 답했다. 쓸모없을 게 분명한 만남도 꾸준히 이어갔다.

2017년, 탕펑은 한 기자에게 말했다. "사람들이 역정보나 루머에 귀기울이는 건 지금 무슨 일이 일어나고 있는지 알고 싶은데 완전한 내용을 알 수 없기 때문입니다." 또, 그는 잡지 『덤보 페더』와의 인터뷰에서 "국민들에게 정부를 믿어달라고 요구하려면 이런 일부터 해야 합니다. 누군가 먼저 나서서 움직여야 해요"라고 말했다.

탕펑의 연설과 인터뷰를 들으면서, 나는 방향을 잃은 느낌이었다. 그의 말은 인터넷 초창기의 기술 유토피아주의가 떠올라 시대착오적으로 들리기도 했고, 미래에서 온 목소리처럼 들리기도 했다. 어느 경우건 그의 태도는 기술에 대한 자신감이 실망으로 바뀌어가는 현상황에 어울리지 않았고, 네티즌에 대한 믿음 역시 머지않아 된통 당하기 딱 좋아 보였다. 하지만 나는 탕펑이 자주 인용한 한 문구가 머리 속에 맴돌았다. 기원전 6세기에 노자가 지은 것으로 알려진 『도덕경』에 나오는 문장이었다. "신뢰하지 않으면, 신뢰받지 못한다."

우리나라도 전자민주주의_E-democracy적인 시스템이 있지만, 투명성과는 거리가 멀다. 그리고 투명함이 없는 전자민주주의는 비(非)전자민주주의와 다를 바 없다. 정치인 → 시민으로 이동하는 정보의 일방향적 구도를 바꿀 수 없기 때문이다 (#3-1).
 

#2-7 인간 vs 토론 AI

개요(#1)에서 이어짐.

토론의 논제는 '우리는 어린이집에 보조금을 지급해야 한다'였다. 프로젝트 디베이터를 제작한 노엄 슬로님과 래빗 아하로노프 연구팀은 두 가지 자료를 입력했다. 하나는 백억 개의 문장으로 된 신문 기사 사억 개에 달하는 데이터베이스로, 프로젝트 디베이터는 여기에서 주장과 증거를 '채굴'할 수 있었다. 다른 하나는 일반적인 주장, 예시, 인용, 유추, 프레임을 모아놓은 자료였다. 프로젝트 디베이터는 후자에서 자료를 끌어와 이야기를 시작했다.

1. 프로젝트 디베이터
"현상황에서 보조금 문제는 사회ㆍ정치ㆍ도덕적 문제까지 관련된다는 사실을 우리 모두 인정하는 바입니다. 어린이집 같은 곳에 보조금을 지급하는 일은 정부 예산을 잘 사용하는 것입니다. 어린이집은 사회 전체를 이롭게 하는 곳이기 때문입니다. 그런 곳을 지원하는 것은 우리의 의무입니다. 보조금 지급은 중요한 정책 도구입니다."

프로젝트 디베이터는 자신의 가장 큰 강점을 드러냈다. 초인적인 증거 수집 능력을 제대로 발휘한 것이다. 이 기계는 빈곤 감소에 대한 주장을 1분 동안 이어나가며 경제협력개발기구, 미국질병통제예방센터, 미국국립초등교육 연구소의 1960 ~ 2013년의 기간에 대한 메타 연구, 고프 휘틀럼 호주 총리의 1973년 연설을 언급했다. 좀 성급하고 혼란스러운 느낌을 주긴 했지만 과연 보기 드문 입담이었다.

나는 해리시가 이 정보 세례에 어떻게 대응할지 궁금했다. 프로젝트 디베이터가 제시한 데이터 각각에 대해 이리저리 따져봤자 쓸모없는 일일 터였다. 설령 데이터의 내용을 아주 잘 안다고 해도 반론을 펴려면 한 가지 반박거리만 이끌어내는 데도 엄청난 시간이 걸릴 것이었다. 해리시는 한 가지 사실을 인정하면서 말을 시작했다.

2. 해리시
"어마어마한 정보력에 갖가지 사실과 수치들까지, 정말 엄청나군요. 프로젝트 디베이터는 매우 직관적으로 말합니다. 만약 우리가 어린이집이 원칙적으로 좋다고 믿는다면 보조금을 지급할 가치가 있다고요. 하지만 저는 그것만으로는 보조금 지급을 정당화하기에 충분치 않다고 생각합니다. 왜냐하면 사회에 좋은 것들은 그것 말고도 많기 때문입니다."

해리시는 의료보장제도와 제3차교육*을 다른 우선 사항으로 들었지만 둘 중 어느 것도 깊이 파고들지 않았다.
* 제3차교육: 고등학교 졸업 이후의 대학 및 직업교육 과정.

"... 여기서 제가 하려는 말은 이 모든 것이 어린이집보다 더 중요하다는 이야기가 아닙니다. 그저 어린이집이 이롭다는 주장만으로 충분치 않다는 이야기를 하려는 것입니다."

해리시는 한 걸음 더 나아갔다. 특히 어린이집에 보조금을 지급하는 일의 문제는, 많은 돈이 자기 아이를 그곳에 보낼 가능성이 높은 중산층과 상류층을 위해 쓰인다는 점이었다. 게다가 빈곤층 가정이 나머지 비용을 감당할 수 있을 만큼 넉넉하지 않을 수도 있었다. 이 경우, 취약계층은 자신이 낸 세금으로 본인은 받을 수도 없는 서비스 비용을 대는, '이중 배제'라는 부당한 입장에 놓였다. 대체 뭘 위해서? 그건 사실상 '정치적 목적을 위한 중산층에게 선물 안겨주기'나 다름없었다.

3. 프로젝트 디베이터
이어서 진짜 시험이 닥쳤다. 프로젝트 디베이터는 반론을 미리 준비하도록 고안되었다. 그래서 해리시가 말문을 열기도 전에, 이 기계는 상대가 할 법한 핵심 주장들을 미리 생성하고 그에 대한 반론을 준비했다. 기계가 해야 할 일은 해리시가 실제로 한 말이 이 핵심 주장들 중 어느 것인지를 식별하고 그에 맞춰 대응하는 일이었다.

"주 예산은 규모가 매우 큽니다. (...) 그래서 더 중요한 곳에 돈을 써야 한다는 생각은 별 의미가 없습니다. 각 분야의 지원금은 서로 배타적이지 않으니까요. 우리가 말하는 건 제한적이고 적용 대상이 분명한 지원 시스템입니다."

추가로 프로젝트 디베이터는 지원금 덕에 부모들이 직장을 구하고 일을 계속할 수 있다는 점도 짚어냈다.

4. 해리시
해리시는 반론을 펴면서 유화적인 입장을 취했다.

"그렇다면 저는 프로젝트 디베이터와 제가 동의하는 바부터 짚고 넘어가겠습니다. 우리는 가난이 끔찍하다는 데 의견을 같이합니다. (...) 사실 이것이 바로 우리가 고민해야 하는 문제의 전부라 할 수 있습니다."

그러고 나서 방향을 틀었다.

"하지만 이 문제들 중 어느 것도 어린이집을 지원하는 것만으론 해결되지 않습니다."

해리시는 예산 제약에 관한 핵심 주장을 반복했다. 또한 그는 설령 예산이 부족하지 않다 해도 이 지출에 대한 정치적 지지는 여전히 부족하다고 첨언했다.

5. 토론 결과
양측은 각자 2분짜리 마무리 연설을 했다. 그런 다음 청중의 투표가 진행됐다. 토론의 논제였던 어린이집 보조금 지원 찬/반에 대한, 토론 전에 진행된 투표와 토론이 끝나고 진행된 투표의 결과는 다음과 같았다.

	토론 전의 투표	토론 후의 투표
찬성	79%	62%
반대	13%	30%
기권	8%	8%

'입장 변화'를 심사 기준으로 삼았을 때, 해리시 나타라잔의 승리였다. 참고로 "두 토론자 중 누가 여러분에게 더 풍부한 지식을 나눠주었습니까?" 이 질문에는 프로젝트 디베이터가 55퍼센트, 해리시가 22퍼센트라는 결과가 나왔다 (나머지는 양쪽이 똑같다고 답했다).

프로젝트 디베이터는 말 그대로 '기계'적으로 막강한 팩트 공세를 펼쳤다. 해리시는 이를 노련하게 받아냈다.
 

#2-8 기계와 인간의 접근 방식

나(저자)는 이 토론을 판결하는 데 사용한 두 가지 기준에 대해 곰곰히 생각해보았다.

프로젝트 디베이터는 전략상 유리한 고지를 점하고자 우리에게 다양한 지식을 나눠주었다. 이 기계는 사실과 조사의 설득력을 믿도록 프로그래밍되었다. 그래서 다음과 같이 자기주장을 요약했다. "저는 어린이집에 대한 지원을 정당화할 충분한 데이터를 제시했다고 확신합니다." 하지만 이것은 오히려 증거의 무게를 지나치게 강조하는 약점으로 보였다. 프로젝트 디베이터는 계속해서 추가 연구나 인용을 끼워넣기 바쁜 나머지 다른 기회들을 놓쳤다. 아이디어를 풀어내고, 청중과 유대를 쌓고, 더 섬세한 차원에서 반론을 제기하는 일에는 무능했다.

해리시는 이와 다르게 접근했다. 그는 상호 균형과 예산상 제약의 관점에서 이야기했고, 이상과 현실 사이에 분명하게 선을 그었다. 이는 신중한 접근으로 보였다. 우리가 실제로 어떤 결정을 내리는 과정과 그 올바른 방법에 더 가까워 보였다. 해리시가 프로젝트 디베이터를 훨씬 능가한 다른 영역은 청중과의 교감이었다. 그는 '공통 기반'을 강조하고 우려를 드러냈다. 적절한 순간에 웃거나 인상도 썼다. 나는 다른 인간과의 교감이라는 인간의 가장 우월한 능력은 여전히 우리만의 것으로 남아 있다는 사실에 안도했다.

하지만 그렇기에 다름보다 같음에 대한 선호, 즉 인간을 옹호하고 싶다라는 동종 선호가 우리를 잘못된 방향으로 이끌 수도 있겠다는 생각도 들었다. 이 생각에서 다음과 같은 질문이 떠올랐다. 프로젝트 디베이터가 토론에서 진 것은 이 기계가 우리 인간보다 토론을 못해서일까, 아니면 더 잘해서일까?

논증을 위해선 2가지 입증 책임을 져야 한다. 하나는 '사실'이고, 하나는 '중요성'이다. 둘 중에서 더 중요한 것은 '중요성'이다.
 

#2-9 결국 인간을 넘게 될 AI

2021년 중반, 나는 프로젝트 디베이터를 제작했던 노엄 슬로님을 다시 만났다. 그리고 시간이 지나면서 슬로님이 그 토론에 대해 어떤 생각을 갖게 됐는지가 궁금했다.

"저는 해리시가 토론을 더 잘한 이유는 단순하다고 생각합니다. 해리시가 프로젝트 디베이터보다 진짜로 토론을 더 잘하는 사람이기 때문입니다." 동시에 슬로님은 프로젝트 디베이터가 청중에게 더 많은 지식을 알려주었다는 면에서 우세했음을 상기시켰다. "솔직히 저는 전혀 신경쓰지 않습니다. 어느 정도는 우리가 진 게 오히려 다행이라고 생각해요. 뭐, 그 차이가 조금 더 적었다면 좋았겠지만요. 하지만 그 일은 우리에게 정말로 좋은 교훈을 주었습니다."

그때 나는 속으로 설마 했다. 체스 인공지능 딥블루는 1996년 2월 체스 그랜드마스터 가리 카스파로프와의 첫 대결에서 지고 나서 1년 후 다시 대결해 이겼다. 때로는 패배가 더 의미 있는 승리를 향한 한 걸음이 되기도 하는 것이다.

슬로님은 재대결에서 팀이 어디에 심혈을 기울여야 할지 잘 알았다. 무엇보다 '청중의 마음'에 닿아야 했다. 그들은 기계가 반론에만 초점을 맞추는 대신 공통 지점을 찾고 청중에게 더 직접적으로 호소하도록 프로그래밍할 수 있었다. 그의 대답에는 아이러니가 숨어 있었다. 이 토론 기계는, 그러니까 지나치게 토론에 몰입한 것이다. 만약 설득이 목적이라면 순전한 공격과 논리적 유추만으로는 부족했다. 안심시키고, 공감하고, 타협하는, 더 부드러운 기술도 필요했다.

"정말로 더 강한 논리와 반론 같은 걸 만들어낼 수 있냐고요? 물론입니다. 그런 건 얼마든지 할 수 있습니다. 꾸준히 보완만 해나간다면요. 팀 인원을 늘리고 몇 년 더 투자하면 결국 우리가 이길 겁니다."

프로젝트 디베이터는 사람 같게 말하지 않아서 졌다. 그렇다면 사람 같게 말한다는 것은 안심시키고, 공감하고, 타협하는 것인가? 그렇다면 현대 사회 속에서 일상을 보내며 이따금 느껴지는, 이른바 '도시의 비인간성'은 사람 같게 말하는 사람들의 부재에서 오는 게 아닐까. 오직 정보의 송신과 수신만이 있는 그런 대화는 사람이 아니라 기계에 더 가까운 것이다.

 

#2-10 강화학습과 인간성

토론 인공지능 개발엔 뛰어난 실력을 지닌 디베이터들의 토론 데이터가 아주 많이 필요하다는 문제가 있었다. 이런 문제를 해결하는 한 가지 방법은 강화 학습*이라는 신기술이었다. 이 시스템은 과거의 기록에 얽매이지 않고 각 종목의 가장 뛰어난 선수들을 교묘히 이기는 전략을 찾아냈다. 기술자들의 말에 따르면, "인간 지식의 한계에 더이상 제약당하지 않는" 기계가 탄생한 거였다.
* 강화 학습_{Reinforcement Learning}: 머신 러닝_{Machine Learning}의 한 방법으로, 명시적인 데이터셋 없이도 머신러닝을 가능케 한다.

슬로님은 이 강화 학습을 이용한, 또다른 토론 인공지능을 만들보았다. 이 인공지능은 스스로 '공부'하며 (인간은) 생각지도 못했던 설득 패턴을 찾아냈다. 하지만 거기에는 중요한 문제가 숨어 있었다. 토론의 목표는 인간의 마음을 돌리는 것이기 때문에, 인간이 도무지 납득하기 힘든 수를 쓸 경우 기계가 이길 수 없다는 점이었다. 바둑이나 체스 선수는 상대를 초월하고자 하는 반면 토론자는 상대를 이끌고 가야 했다.

나는 그 점에서 약간의 위안을 얻었다. 논쟁은 우리의 별난 생각과 한계를 아우르는 인간적인 행위다. 좋든 나쁘든 추론하고 공감하고 판단하는 우리의 능력이 토론의 본질을 이룬다. 토론에서 결국 우리를 이기게 될 기계는 인간성을 초월하는 대신 구현해냄으로써 그 위업을 달성할 것이다.

솔직히 무섭다. 인간의 수사를 배운 인공지능은 사기에도 매우 유용하게 쓰일 수 있기 때문이다. 하지만, 발전이라는 게 항상 그렇다. 어떻게 활용할지는 결국 인간의 몫이다.
 

#2-11 AI의 미래

강화 학습의 이런 한계에도 여전히 난 불안했다. 강화 학습이 아니더라도, 과거 데이터를 통해 학습하는 방식의 비교적 전통적인 방식의 머신러닝은 유효했기 때문이다. 미래의 토론 인공지능은 의회 토론 녹취록부터 소셜미디어 메시지 기록에 이르기까지 온갖 텍스트까지 자기의 학습에 이용할 것이다. 그 기계는 분명 우리가 찾아낸, 현실성 떨어지는 의견에 잘 반대하는 방법들을 보겠지만, 동시에 가끔은 우리가 굴욕적으로 빠져든 선동, 비논리, 아첨, 증오의 수사법도 보게될 터였다. 심지어 우리가 만든, 좋은 토론을 가능하게 하는 기술과 그걸 방해하는 기술까지 인식할지도 몰랐다.

그런 데이터를 토대로 훈련한 기계는 우리 인간 종족이 어떻게 의견 차를 다루어왔는지에 대해 판단을 내릴 것이다. 그리고 필요하다고 여겨지는 조정을 할 것이다.

기계가 우리 안의 약한 천사에게 말할지 선한 천사에게 말할지는,
이를테면 싸움의 언어로 말할지 토론의 언어로 말할지는,
전쟁하듯 말할지 협력하듯 말할지는,
아직 우리 손에 달려 있다.

좋은 토론을 향유하고 공유하는 문화는 후대의 토론자들에게도 고스란히 전달될 것이다. 그 토론자가 인간이든 기계든.

 

#3 나의 생각

#3-1 정치가 투명해야하는 이유

'투명함'이 지니는 긍정적인 어감은 설명할 필요가 없을 정도로 자연스럽다. 따라서 정치도 투명해야 한다. 그러나 정치에서의 투명함이 중요한 이유에 덧붙일 점이 있다. 바로 '섞임'이다. 정치란 국가적 단위로 의견을 모아 개진하는 행위고, 의견이 모인다는 것은 타인의 의견과 내 의견이 얽히고 섞인다는 걸 의미한다. '섞임'은 토론의 비유적 표현이기도 하다. 토론을 이루는 요소는 주장, 근거, 사실, 중요성 등이 있다. 이 요소들을 알 수 있어야 거기에 무언가를 '섞을 수' 있다. 그게 찬성의 방향이든 반대의 방향이든 말이다.

안타깝게도 이런 '섞임'은 적어도 우리나라에선 비빔밥 같은 음식에서밖에 없다. 왜냐하면 '높으신 분'들이 도대체 무슨 생각으로, 무슨 근거로 어떤 정책을 펴는지 일반 시민들은 알 길이 없기 때문이다. 설령 알더라도, 그 깊이는 굉장히 얕다. 기자 회견에서 정치인들이 몇 마디 툭 내뱉는 걸 주워 먹는 게 시민의 일상이 된 지 오래다.

 

탕펑(#2-6)은 투명함에 집착하면서 동시에 상상했을 것이다. 시민들이 자신 행동의 근거를 실시간으로 확인하고 있는 모습을. 탕펑 본인에게 도움이 되는 일은 결코 아니다. 왜냐하면 정치인들의 전매특허인 한 입으로 두말하기가 어려워지기 때문이고, 실언이라도 했다간 '투명하지 않은' 정치인보다 더 쉽게 구설에 오를 것이기 때문이다. 하지만, 탕평은 '투명'해지기로 결심했다. 그리고 사회 공동체에 건설적인 반향을 울렸다.

 

#3-2 궁극의 토론 기계는 없을 것이다

슬로님의 꿈(#2-9)은 이루어질까? 나는 부정적으로 본다. 왜냐하면 인공지능은 자동화에 불과하기 때문이다. 바둑에는 가로 칸수 × 세로의 칸수의 공간에서 단 한 칸의 선택을 해야 한다는 규칙이 있다. 이 규칙 덕에, 바둑 인공지능 알파고의 개발(자동화)은 순조로이 진행될 수 있었다. 이런 바둑과 달리, 토론은 딱히 규칙이랄 게 없다. 토론에서 무언가를 주장하는 사람은 선택하는 게 아니라 창조하기 때문이다. 심지어 비언어적 행동, 청중들이 공유하는 문화(스키마), 시대에 따른 진실의 차이까지 고려하면 경우의 수는 따지는 게 무의미할 정도다.

 

인간 심리의 단편이나 사람이 쓰는 수사법을, '자동화 목록'에 넣어 어떻게든 개발을 강행할 수도 있겠다. 그러나 제대로 작동하지 않을 것이다. 엑셀이 등장했다고 해서, 이 세상 모든 것을 데이터베이스화할 수는 없는 것처럼. 3D 프린터가 등장했다고 해서, 상상하는 모든 물건을 만들어낼 수는 없는 것처럼.

 

#4 요약

'좋은 토론'은 인터넷에 기반할 수 있다. AI 개발은 '좋은 토론'에 기반해야 한다.