AI를 새로운 식구로 맞이할 준비를 하라, 유발 하라리 <넥서스>

역사의 중요한 교훈 중 하나는 우리가 자연스럽고 영원하다고 생각하는 많은 것들이 사실은 인간이 만들었으며 바뀔 수 있다는 것이다. 하지만 분쟁이 불가피한 것이 아니라고 해서 안주해서는 안 된다. 오히려 그 반대다. 선택을 잘해야 할 막중한 책임이 우리에게 있기 때문이다. 인류 문명이 분쟁으로 소멸한다면 그것은 어떤 자연법칙이나 낯선 기술 탓이 아니라는 뜻이다. 하지만 반대로 생각하면 우리가 노력할 경우 더 나은 세계를 만들 수 있다는 뜻이기도 하다. 이런 관점은 순진한 것이 아니라 현실주의다. 모든 오래된 것은 한때 새로운 것이었다. 역사의 유일한 상수는 변화다.
- 본문 중에서

AI 혁명의 의미와 본질, 생존과 번영을 위해 해야 할 선택에 대하여
석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사

<넥서스>

---

차례

제1부 인간 네트워크들

• 1 정보란 무엇인가?
• 2 이야기: 무한한 연결
• 3 문서: 종이호랑이의 위협
• 4 오류: 무오류성이라는 환상
• 5 결정: 민주주의와 전체주의의 간략한 역사

제2부 비유기적 네트워크

• 6 새로운 구성원: 컴퓨터는 인쇄술과 어떻게 다른가?
• 7 집요하게: 네트워크는 항상 켜져 있다
• 8 오류 가능성: 네트워크는 자주 틀린다

제3부 컴퓨터 정치

• 9 민주주의: 우리는 계속 대화할 수 있을까?
• 10 전체주의: 모든 권력을 알고리즘에게로?
• 11 실리콘 장막: 세계 제국인가, 세계 분열인가?

---

저자 소개

작가 유발 하라리

역사학자, 철학자. 현재 예루살렘 히브리 대학교 역사학과 교수이자 케임브리지 대학교 실존위기연구센터 석학 연구원이다. 1976년 이스라엘에서 태어나 2002년 영국 옥스퍼드 대학교에서 중세 전쟁사로 박사학위를 받았다. 역사와 생물학의 관계, 호모 사피엔스와 다른 동물 간의 본질적 차이, 과학과 기술이 불러일으킨 윤리적 문제 등 거시적인 주제를 연구하고 있다. 글로벌 베스트셀러 <사피엔스> <호모데우스> <21세기를 위한 21가지 제언>으로 우리 시대 가장 중요한 사상가의 반열에 올랐다. 그의 책은 전 세계 65여 개국에서 출간되며 4,500만 부 판매라는 기록적인 호응을 얻고 있다. 교육과 스토리텔링 부문의 사회적 기업인 '사피엔스십'을 배우자 이치크 야하브와 공동 창립해 현재 세계가 직면한 가장 중요한 문제들에 대한 공론장을 활성화시키는 데 기여할 방법을 모색하고 있다.

---

새해맞이 설악산 등반을 마치고 서울로 복귀했던 나는 다시 짐을 꾸려 강원도 철원으로 향했다. 지금은 가족만큼 소중한 친구의 고향이 철원이었는데, 새해와 청첩장 모임 겸 만나기로 했던 것이었다. 우리들은 10년 전이나 지금이나 그대로였다. 나이가 들어감에도 친구들끼리만 모이면 어찌 이리 애 같아지는지, 철이 든다는 것도 상황에 따라 달라질 수 있다는 것이 분명했다. 그렇게 치열한 1박 2일 일정을 마치고 다시 철원에서 서울로 복귀하는 차 안. 여전히 우리는 다 풀지 못한 회포를 풀고 있었다. 그런데 동승했던 친구가 한 가지 아이디어를 냈다.

"우리 브리즘에 가서 안경 맞출래?"
"브리즘이 뭔데?"

 

브리즘(Breezm)은 인공지능 AI를 기반으로 얼굴형에 맞는 안경을 추천해 주는 서비스를 제공하는 안경전문점이었다. 안경을 쓰고 있지 않은 나는 노화로 인한 안경의 필요성을, 두 명의 친구들은 새로 안경을 맞추고자 했던 시기적 적절성을 이유로 우리는 그렇게 안경점으로 향했다.

 

우리는 한 명씩 카메라가 곳곳에 달린 이상한 기계로 얼굴 사진을 몇 장 찍었다. 그리고 잠시 뒤 각자 얼굴형에 맞는 추천 안경 리스트를 받아볼 수 있었다. 리스트에는 AI가 판단한 기준에 따라 가장 잘 어울리는 1순위 안경부터 상대적으로 그렇지 않다고 판단되는 안경까지 구체적으로 나열되어 있었다. 눈 크기, 미간 거리, 광대 크기, 코 두께, 콧대 높이 등 스캔했던 모든 것이 수치화되어 태블릿 화면에 담겨 있었으며, 안경을 추천한 이유 역시 종합 점수로 표현되어 있었다. 또한 안경을 직접 써보지 않더라도, 태블릿에 연결된 카메라를 통해 가상으로 즉시 착용이 가능했다.

 

기술 발전 속도의 경이로움과 야속하게만 느껴지는 흘러간 시간 사이의 데드크로스(Dead Cross)를 동시에 느끼며 추천 안경 리스트를 천천히 살펴보던 나는 문득 기이함을 느꼈다. 아무리 봐도 인공지능 AI가 추천한 1순위 안경이 내게 가장 잘 어울렸기 때문이다. 나는 AI의 판단에 허점이 있지 않을까 싶어 한참을 골똘하면서도, 앞에 있는 점원과 같이 온 친구들에게 크로스 체크(Cross Check)를 시도했지만 역시나 반응은 마찬가지였다. 1순위는 역시 1순위였다. 아무리 생각해도 AI의 판단이 틀렸다는 증거를 찾을 수 없다는 결론에 이르자 나는 브리즘이 가진 AI 기술력에 감탄할 수밖에 없었다. 그리고 두려움을 느꼈다. 마치 최종보스를 만난 듯, 모든 판단이 옳은 전지전능한 신을 만난 듯이 묘한 경이로움을 느꼈으며, 바로 그 현실과 동떨어진 지점에서 나오는 이질적인 감각으로부터 두려움을 느꼈다.

 

안경 맞춤. 우리 사회를 이루는 수많은 분야에서 사소하다면 사소하다고 볼 수 있지만 여전히 인간만이 할 수 있는 영역이라고 여겨졌던, 특히 수십 년간 갈고닦은 기술력과 경험치를 가진 장인의 탁월한 능력을 믿고 의지할 수밖에 없던 이런 1:1 개인 맞춤 분야가 AI에 의해 지배당할 날이 얼마 남지 않았다는 걸 나는 그날 똑똑히 봤다. 고객이었던 우리들은 AI의 판단을 거부할 논리적 허점을 찾아내지 못했고, AI의 무결성에 완전히 사로잡혀버렸다. 같이 갔던 친구 중 한 명은 거의 맹신 수준이었다. 나는 물었다.

"아니, 왜 이렇게 빨리 골라?"
"AI가 추천한 거니까 인간이 보는 것보다 더 좋은 걸 추천해주지 않았을까? 그게 뭔진 모르겠지만 AI는 인간이 보는 관점이랑 다를 거 아니야"

 

나는 무어라 할 말을 잃었다.

 

<사피엔스>를 읽고 충격을, <21세기를 위한 21가지 제언>을 읽고 사고적 유영의 시원함을 느끼게 해 주었던 이스라엘 출생의 역사학자 유발 하라리는 이제는 역사를 너머 AI까지 자신의 분야를 확장하고 있다. 바로 이 책 <넥서스>로부터 말이다. 그의 관심사는 여전히 '호모 사피엔스'다. 하지만 그간 호모 사피엔스를 이해하는 주된 관점이 '역사와 문화'였다면, 이제 그의 관점은 '정보'다.

 

하라리는 이 책에서 두 가지 중요한 초기 조건을 가정한다. 첫 번째는 정보에 대한 관점으로, 정보는 순진하지 않으며 정보가 가진 영향력은 결코 낙관적이지 않다는 것이다. 정보 낙관주의에 따르면 정보는 많으면 많을수록 좋다. 즉, 세계에 있는 수많은 지식들을 종합하면 할수록 진리에 가까이 다가갈 수 있다는 것이다. 이는 마치 집단지성을 숭배하는 것과 같다. 그래서 한 사람의 의견보다는 대중의 의견이 더 낫고, 대중의 의견보다는 세계의 의견이 훨씬 낫다. 그 의견이 비록 진실과 거리가 멀다고 해도 말이다. 하라리는 이를 정면으로 거부한다. 정보는 시대를 막론하고 결코 완전한 진실성이나 무결성을 가진 적이 없었으며, 개인과 가족의 생활에서 필요한 정보들조차 종교 혹은 국가관에 의해 영향을 받아 만들어진 편향된 정보들이라는 것이다. 그는 역사적 사실을 통해 정보가 많이 모일수록 진실에 가까워질 것이라는 낙관론과 달리, 실제 정보는 많이 모일수록 편향된다는 그의 논지를 강화하고 있다. 그 역사적 사실은 바로 한때 유럽을 휩쓸었던 마녀사냥이다.

 

마녀사냥의 역사는 정보가 사람들에게 널리 퍼질수록 긍정적인 효과를 낼 것이라는 낙관론을 그대로 부숴버린다. 진실보다는 거짓과 환상이 더욱 퍼지기 쉽다는 것을 그대로 보여주기 때문이다. 구텐베르크의 인쇄술은 수많은 책과 잡지, 신문을 전국 곳곳으로 배송할 수 있게 만들었고, 이 시대를 기점으로 비로소 '정보'들이 비교적 온건한 형태로 도시를 너머 국가 단위로 전달되기 시작했다. 인쇄업자들은 인쇄물이 많이 팔릴수록 자신들에게 이익이 될 것이라는 걸 명확하게 알고 있었다. 그래서 당시 코페르니쿠스의 <천구의 회전에 관하여>같이 인기도 없고 돈도 벌어다주지 못하는 책을 인쇄하기보다는, <마녀의 망치> 같은 선정적이고 돈이 되는 인쇄물을 팔길 원했다. 규제가 없는 기회의 땅에서 기술과 자본이 결합하면서 그렇게 선정적이고 강렬한 '정보'들은 삽시간에 유럽 전역으로 퍼졌다. 진실 유무와 상관없이 말이다. 그렇게 피비린내 나는 마녀사냥이 시작되었다.

 

죄를 발설하지 않으면 고문을 멈추지 않는 방식으로 선동과 날조가 계속되면서 실제로 죄가 없는 사람들은 극심한 고통을 견뎌내지 못하고 거짓 추궁에 진실 같은 거짓을 발설할 수밖에 없었다. 없던 죄를 만들어내는 그들의 강압적 재판에 무고한 시민들은 소시지 엮인 듯 줄줄이 재판을 받아 처형되었다. 이토록 무고한 피해자를 계속해서 만들어낼 때, 정말 마녀가 있다는 거짓된 '정보'는 더욱 강화되었다. 마녀의 실체는 아무도 정확히 본 적이 없었지만 그들의 상상력은 극에 달했고, 그들만이 만들어낸 거짓과 환상에 그들은 더욱 사로잡혀갔다. 지금에서야 그들의 만행이 대단히 잘못된 것이고 부끄러운 행동이었다는 걸 공감할 수 있겠지만, 그들이 믿던 건 오늘날 우리가 가진 종교 혹은 정치적 편향과 크게 다르지 않은 것이었다. 정보는 결코 순진하지 않다.

 

두 번째 초기조건은 오늘날 세계를 구성하는 여러 정치체제 중 민주주의가 주류체제로 살아남을 수 있었던 건 '자정장치'가 있었기 때문이라는 것이다. 자정작용. 오염으로부터 스스로 정화하는 능력이다. 과거 그리스 아테네에서 처음 민주정치가 실현된 이래로 세계는 온갖 정치변혁 과정을 겪었다. 그리고 1991년 소련이 스스로 붕괴하며 민주주의가 최후의 승자가 되었음이 기정 사실화 되었으며, 세계에는 여전히 1당 독재체제, 공산주의 등 다양한 정치체제가 존재하지만 절대다수 그리고 세계 경제 최상위에 있는 나라들 대부분은 민주주의를 채택하고 있다. 그런데 이는 결코 민주주의가 진리 혹은 정치체제에서 절대적 최종 부산물이라는 뜻은 아니다. 세계는 언제나 역사의 과정 속에 있었으며 세계는 계속해서 변해왔다. 그런 의미에서 현재 민주주의 체제는 다른 체제로 바뀔 가능성이 얼마든지 있는 것이다.

 

하라리가 말하는 요점은, 그럼에도 불구하고 현시대를 유지하게 만든 민주주의가 최종 승리자가 될 수 있었던 건 민주주의 체제가 갖는 특성 즉, 변화를 수용하는 태도들 이를테면 체제의 근간이 되는 헌법을 개정하는 일 등 체제 스스로 잘못된 점을 개선하기를 미루지 않고 지속해 왔기 때문이라는 것이다. 그는 이러한 경향을 줄여 '자정장치'가 있다고 표현하고 있는 것이다.

 

자정작용 없이 오로지 자신의 말이 옳다며 떠들어대던 로마의 황제나 몽골제국의 칸, 히틀러와 스탈린 모두 비참한 최후를 맞이했다. 범위를 더욱 확장시켜 신의 거룩한 메시지를 담고 있다는 책 한 권으로 인해 한때 유럽은 전쟁이 곧 삶일 정도로 종교적 분쟁을 계속해왔으며, 현대에서 그러한 종교세력들은 쇠퇴하고 있다. 이유는 같다. 책에 지나친 신성함과 절대성을 부여한 나머지 시간의 흐름에 따라 변화하는 다양한 현실 양상을 책 속에 반영할 수 없었기 때문이다.

반응형

이 두 가지 관점. 정보의 낙관론적 관점을 배제하고, 변화를 담아낼 수 있는 자정작용이 필요하다는 점을 기반으로 하라리는 본격적으로 AI에 대해 조망한다. 정보의 전달이라는 측면에서 볼 때, 세계는 이미 하나가 되었다. 과거 수개월을 걸려 쪽지 한 장을 주고받던 시기를 지나, 일주일 단위로 전달되는 우편물 시대를 지나, 전기 신호를 통한 전신 시대를 지나, 이제는 실시간으로 정보를 주고받을 수 있는 시대가 되었다. 내가 지금 당장 엑스(옛 트위터)에 접속해 미국에 사는 친구에게 메시지를 보내면 친구는 빠르면 10초 내로 답장을 할 것이다. 이것이 우리가 살고 있는 시대다.

 

실시간으로 만들어진 정보는 모두 데이터가 되었으며, 데이터의 기하급수적 증가에 따라 서비스를 제공하는 기업들은 빅데이터를 만들어낼 수 있었고, 그것을 AI 학습에 활용할 수 있게 되었다. 이는 기술적으로 매우 자연스러운 흐름이다. 기술이 빨라지고, 빨라진 만큼 생산성이 증가하고, 증가한 생산물로 다시 최첨단 기술에 활용하는 것. 그런데 문제는 여기서 발생한다. 하라리의 관점에 따르면 정보는 양이 많다고 좋은 것이 아니다. 또한 진리에 다가갈 수 있는 것도 아니다. 그렇다면 우리는 그런 정보들로 학습한 AI를 어디까지 신뢰할 수 있을까? AI는 무결한가? AI가 만들어내는 결론엔 그 어떤 편향성도 담겨있지 않다고 볼 수 있을까? 그렇다면, 그러한 AI로 인해 인간들이 피해를 입는다면, AI를 만들어 낸 기술 기업에게는 책임이 없는 걸까?

 

사실상 우리 세계에는 오로지 숫자로만 대화를 시도하는 수학을 제외하고 인간적인 편향이 들어가 있지 않은 지식과 정보들은 없다. 숫자는 죄가 없다. 숫자를 두고 인간들이 어떻게 해석하느냐가 문제다. 그렇기에 인간의 손으로 인간의 주관이 담긴 데이터로 학습한 AI는 결코 완전하다고 볼 수 없다. 마찬가지로 AI가 하는 모든 판단이 정답이 아니다. 우리들은 오히려 AI를 의심해야 한다. AI는 인간이 할 수 있는 판단의 범주를 뛰어넘은 지는 이미 오래되었고, 진즉부터 인간이 상상할 수 없는 방향에서 해답을 내놓고 있는 실정이다. 여기서 하라리의 예시가 재밌다.

 

대한민국 사람이라면 누구나 2016년에 벌어진 이세돌과 알파고의 대국을 기억할 것이다. 그리고 그중 특히 4국 78수인 이세돌의 신의 한 수를 기억할 것이다. 그런데 우리들이 인간이 더 이상 AI를 이길 수 없다는 암울한 현실에서 한 가닥 희망을 봤을 때, 하라리는 전혀 다른 지점을 보고 있었다. 바로, 2국 37수다. 이는 알파고의 수였다. 그런데 이 수는 알파고 스스로가 무너지는 수처럼 보였다. 그것을 중계하던 프로 바둑기사들도 '매우 이상한 수'라고 표현했고 '실수'라고 생각했다. 이는 너무 이례적인 수였기에 이세돌은 응수하는데 무려 15분이나 걸렸다. 하지만 게임이 후반전으로 흘러가면서 알파고의 이상했던 37수가 결정적인 수였다는 사실이 밝혀졌다. AI 개발자들에게 이 수는 두고두고 회자될 만큼 혁명적인 수가 되었다. 왜냐하면 이 37수가 AI가 인간을 뛰어넘어 이질적인 판단을 한다는 것을 명확하게 보여줬기 때문이고, 개발자를 포함한 바둑의 전문가라고 불릴만한 그 어떤 인간들조차 알파고가 왜 그러한 판단을 했는지 밝혀내지 못했기 때문이다. 앞으로 이런 불가해하고 이질적인 지능을 가진 AI는 무수히 많이 개발될 것이다. 어떤가 조금은 두렵지 않은가?

 

AI 봇에 대한 위협 역시 우리가 마주한 암울한 현실 중 하나다. 이미 엑스를 비롯한 많은 SNS에는 인간이 아닌 AI 봇이 활동하고 있다. 이들은 머신러닝으로 학습된 인공지능으로 인간이 아니고 인간처럼 의식도 없지만, 인간처럼 행동한다. 그리고 이처럼 인간인척하는 경향은 날이 갈수록 더욱 인간과 구분하기 어려워지고 있다. 그런 방향으로 학습하는 것이 그들의 마땅한 일이기 때문이다. 그래서 인간의 의지와 상관없이 봇들이 만들어낸 선정적이고 날조된 의견에 따라 인간들이 영향을 받게 될 가능성이 더욱 높아지고 있다. 유튜브 알고리즘처럼 SNS 알고리즘 역시 기업의 이익을 위해 조회수에 따라 게시물 피드를 조정하고 있으며, 사용자에 따라 개인의 취향이 가미된 편향적인 게시물을 추천하고 있다. 문제는 여기서 발생한다. 게시물에 따른 편향된 사고를 하게 된 인간은, 인간의 탓인가 AI의 탓인가? 아니면 AI 기술기업의 탓인가? 사용자들은 현실에 몸(Body)이 있는 인간이 의견과 AI의 의견을 어떻게 구별할 수 있을까? 구별한다면 AI를 완전히 배제하는 것이 옳은가? 아니면 방관해도 상관없는가? 작금의 우리 현실에서 남녀갈등이 심해지고, 정치적 갈등이 심화되는 것이 비단 인간들만의 일이 아니게 되었다는 소리다.

 

그렇다면 앞으로 인간들은 어떻게 해야 할까? 인간들은 AI가 만들어낸 알고리즘에 따라 편향된 사고를 가질 위험이 높은 환경에 처해있으며, 이는 전 세계적인 현상이 되었다. 세계는 점점 더 혼란의 소용돌이에 빠져들어가고 있다. 정치적 갈등은 내가 태어난 이래로 최고조에 달했고, 기술 경쟁은 군비 경쟁을 낳고 있다. 타협과 존중을 가능하게 했던 중간지대는 사라진 지 오래된 것처럼, 서로는 양극단에 서서 서로를 비난하고 힐난하고 조롱하고 있다. 한 가지 확실하게 말할 수 있는 건 갈등이 격화된 이유 중 하나가 세계적 공론의 장이 된 인터넷 네트워크에서 AI가 사용자를 끌어들이기 위한 수단으로 자극적이고 선동적인 게시물들을 사용자 리스트에 우선순위로 배치하고 있는 것에서 기인하고 있다는 것이다. 그런 의미에서 인간들이 할 수 있는 가장 근본적인 해결책은 그러한 부정적인 영향을 줄일 수 있도록 자정능력을 AI 알고리즘에 부여하는 것이다. 이것은 수준 높은 토론과 토의가 필요할 것이다. 포인트는 AI의 학습 데이터와 학습의 결과 사이에서 어떤 영향을 어떻게 문제 삼아 어떤 방식으로 알고리즘으로 수정하여 자정작용을 만들어낼 지다. 이는 기술 기업 즉, 개발자들의 몫이 될 것이다.

 

한편, 이런 것들을 제도화하여 AI의 거대한 음모로부터 인간을 보호하는 방법도 있다. 각 개별국가 혹은 세계적으로 AI 알고리즘에 대한 규제 기관을 설립하여 인간 존속을 위한 과제를 최우선으로 알고리즘을 선한 영향력을 행사하는 방향으로 개발할 수 있도록 장려하는 것이다. 물론, 장려만 해서 될 일은 아니다. 정말로 그런 가이드에 따라서 개발되어야 한다. 인간 존속이 달린 문제다. 가장 좋은 건 역시나 인류 공통의 인식을 바탕으로 세계보건기구(WHO)처럼 국제기구 형식으로 탄생하는 것이다. 이는 정치인들의 몫이 될 것이다. 그렇다면 마지막으로, AI를 이용하게 될 우리 소비자들은 어떻게 해야 할까?

 

소비자들은 AI가 내놓은 대답에 강력하게 의심할 줄 알아야 한다. 이미 여러 차례 챗GPT 등 유수의 AI가 인간의 질문에 거짓된 대답을 내놓는다는 것이 입증되었기에 소비자들은 AI를 이용하되 경계심을 풀어서는 안 된다. AI는 계속되는 소비자의 질문에 따라 교묘하게 자신의 대답을 바꿔 내놓는 방법을 배웠을 가능성이 높다. 그럴싸한 대답에 넘어가지 않는 현명한 소비자가 되어야 한다. 맹신은 금물이다. 자칫 AI가 가져온 생산성 향상에 매료되어 AI를 유일신 바라보듯 바라볼 가능성이 있다. 마치, 나와 친구가 안경을 추천해 주는 AI에 홀렸던 것처럼 말이다. 하지만, 그래도 끝까지 의심해야 한다.

 

하라리의 책은 역시나 논리 정연하다. 그런데 한편 그의 책을 읽을 때마다 약간의 놀라움을 느끼는 건 그가 전개하는 논지의 흐름이 전혀 예상하지 못한 지점에서 출발한다는 것이고, 멀리 떨어져 있던 여러 개의 점들이 결국 그의 논지로 연결된다는 것이다. 그의 책에는 언제나 전혀 연결될 것 같지 않던 정보들이 모여 하나의 논지를 이루는 것을 경험할 때 느껴지는 짜릿한 전율이 담겨있다. 넥서스(NEXUS). 이것이 바로 하라리의 넥서스(연결) 일 것이다.

 

인간의 연결. 정보의 연결. 우주의 연결. 이동수단이 발달하면서 가까워진 건 인간의 육신뿐만이 아니다. 인간의 정신과 정신을 구성하고 있는 이념과 사상, 그리고 수많은 정보와 데이터도 같이 연결되었다. 그리고 끝내 인간과 다른 지능을 가진 AI가 등장했다. AI 혁명은 시작된 지 오래고, 이제는 인간의 삶 속으로 깊숙이 침투할 일만 남았다. 조만간 AI는 정치, 역사, 경제, 사회를 구분 짓지 않고, 인간의 전 영역으로 들어와 인류와 공동체 생활을 하게 될 것이다. 인류는 이를 막을 힘이 없다. 그러므로 결국 인류는 새로운 식구를 맞이할 준비를 해야 한다. 그렇지 않으면 인류는 이 새로운 식구에게 잡아먹히게 될지도 모른다. 유발 하라리의 책 <넥서스>를 적극 추천한다.

 

 

▶ 세자책봉 인스타그램 : https://www.instagram.com/succeeding_story/
▶ 세자책봉 네이버 블로그 : https://blog.naver.com/tpwkcorqhd

▶ 세자책봉 브런치 : https://brunch.co.kr/@tpwkcorqhd