「넥서스」 - 서평

「사피엔스」(2011), 「호모 데우스」(2016) 의 저자인 예루살렘 히브리 대학의 (The Hebrew University of Jerusalem) 역사학 교수인 유발 하라리 (Yuval Noah Harari)가 AI (Artificial Intelligence) 에 대해 2024년 9월 출간한 책이다. 많은 AI 전문가들의 책과 그들과의 토론을 참고가 될 만한 역사적 사건들을 들어가며 역사학자 입장에서 재해석한 것이라서 일반인의 시각에서는 읽기가 더 쉽다.

책 제목 넥서스(nexus)는 ‘여러가지 것의 복잡한 결합’을 뜻하는 단어다. “6. 새로운 구성원” 중 “책임” 단락에서는 ‘특정 국가나 주에서 납세자에게 과세할 수 있는 충분한 연결 고리 (substantial connection)의 존재여부’라는 뜻도 소개하지만, 전체 책 흐름으로 볼 때 대규모 인간 사회간의 접착제 역할을 하는 정보 네트워크의 역할을 뜻한다고 볼 수 있겠다.

책 표지의 비둘기는 책 앞 부분에서 소개하는 군용 통신 비둘기 "셰르 아미"다. 이 비둘기는 1918년 고립된 미군 대대 병력의 위치 정보를 사단본부에 전달함으로 500여명의 병사들을 구해냈다. 이 이야기는 브랜딩(branding) 작업이라는 과장을 거쳐 사실 여부나 모순은 무관하게 참전 용사들에게 큰 용기를 주었다고 한다.

책을 아주 짧게 요약하자면:

• 인류는 종교, 국가, 진영등 협력 네트워크(network, 연결망)를 통해 막대한 힘(power)을 가지게 되었다. 그러나 힘은 지혜(wisdom)가 아니다.
• 진실(truth)은 현실(reality)을 부분적으로 묘사한다.
• 하지만 정보(information)는 진실이 아닐 수 있다. 그래도 진위 여부와 무관하게 특정 맥락에서 의미를 주기 때문에 역사적으로 네트워크(network)의 접착제 역할을 해왔다.
• 많은 정보는 진실(truth)과 질서(order)를 함께 보장하지 않는다. 복잡하고 불편한 진실보다는 쉽고 아름답게 들리는 허구가 보통 더 매력적이고 결속을 쉽게 하기 때문에 허구를 통해 질서를 유지하고는 한다.
• 법, 신, 국가, 기업, 화폐와 같은 상호주관적 현실의 허구적 가치 공유가 인류의 네트워크를 만들어온 핵심이다.
• 상호주관적 현실의 신화 이야기(mythology stories)가 만들어낸 대규모 네트워크를 운영하기 위해서는 관료제(bureaucracy)가 관리하는 목록(lists)가 필수적이었다. 대부분 쉽게 이해하는 이야기와는 달리 목록은 소수만이 이해할 수 있고, 이것을 이해하는 사람들에게만 힘과 부를 주었다.
• AI 컴퓨터는 어느 인간보다도 목록을 저장하고 기억하고 이해하는 것에 능해짐으로 엄청난 힘을 가지게 되었다. 동시에 민주주의에서 대화 규모의 한계를, 전체주의에서는 감시와 통제 규모의 한계를 없애게 했다.
• 인간은 오류(error) 없는 초인적 지능과 연결되고자 하는 환상을 가진다. 하지만, 현실은 늘 오류가 있기 때문에 강력한 자정 장치(self-correcting mechanism)가 필요했다. 민주주의는 이 사실을 인정했고 전체주의는 거부했다.
• 컴퓨터 역시 오류와 편향(bias)가 있으며, 통제 없는 AI는 인류의 종말로도 이어질 수 있다. 따라서 강력한 자정 장치가 필요한데, 그 결정은 정치적, 경제적인 것이고 예측하기 어려우나 선택의 문제다.
• 인간 없이 서로 소통하는 AI 컴퓨터들 역시 인간의 상호주권적 현실과 비슷한, 상호 컴퓨터 현실을 창조할 수 있다. AI가 인간이 포착하지 못하는 패턴을 찾아 만들어 낼 종교, 화폐, 정당, 법인등을 어떻게 올바른 방향으로 이끌 것인가?
• 민주주의 네트워크는 자유로운 진실 추구와 붕괴 위험 간의 싸움이다. AI가 자율적으로 생성해 쏟아내는 정보와 정치적 의견들은 민주주의 네트워크의 질서를 더 어렵게 할 것이다.
• 전체주의 네트워크는 효율적 통제와 정보 동맥 경화 위험 간의 싸움이다. AI가 모든 사람을 24시간 감시할 수 있다는 사실은 전체주의 네트워크 지도자에게 큰 유혹이다. 하지만 자정 장치가 없는 중앙 집중 네트워크에서 AI의 오류를 누가, 어떻게 찾아내고 고칠수 있을까?
• 민주주의와 전체주의는 각 진영의 목적에 다른 네트워크와 컴퓨터 코드를 선택해 실리콘 장막을 만들고 경쟁할 가능성이 높다. 우리의 선택에 따라 분쟁으로 소멸할 수도, 함께 노력해 더 나은 세계를 만들 수도 있다. 우리는 어떤 선택을 해야할까?
• 참고: 컴퓨터, AI, 알고리즘 각각에 대한 구분된 정의를 “6. 새로운 구성원” 의 “함의는?” 단락에서 설명하지만 실제 책 내용에서는 거의 같은 의미로 섞어 쓰고 있다.

 

기본적인 사고의 큰 틀이 전작인 「호모 데우스」과 공통분모가 많아 연작이라고 볼 수 있으면서도 최근 급격하게 커진 AI의 파급력에 맞춰 시각은 달라졌다. 전작에서는 미래에 모든 결정이 데이터를 기반으로 이루어질 것을 기정 사실로 간주하고 도태될 인간들과 민주주의의 미래를 걱정한 반면, 이번 책에서는 편향된 데이터 (이 책에서는 ‘정보’라는 단어로 바꾸었음)와 그에 기반한 AI의 결정이 얼마나 위험한 것일지, 그 결과가 이미 어떻게 정치 상황을 조종했는지, AI가 민주주의와 전체주의 대결에 어떻게 새로운 국면을 열게 될지, 그 대결이 초래하게 될 상상조차 할 수 없는 종국이 어떨지를 걱정한다.

“3. 문서”의 “관료제와 진실 추구” 단락에서 유발 하라리는 관료제가 세상의 진실을 분리 보관하기 위해 세상을 이 서랍들에 억지로 끼워 맞추고, 구겨 넣기도 하는 과정이 질서 유지에는 좋지만 그 대가로 진실이 희생된다고 한다. 사실이지만 모든 문서 작업은 같은 방식을 채택할 수 밖에 없다. 유발 하라리의 저서들도 시각의 균형을 나름 잘 유지하는 편이기는 하지만, 마찬가지로 허구, 신화, 상호주관적 현실 등의 큰 틀에 맞추어 세계 역사의 많은 사건들을 자르고 판단하고 구겨 넣은 것이라는 것은 부정할 수 없는 사실이다. 그래도 책의 큰 흐름 면에서 봤을때 관료제의 한계와 오류가 당사자들의 인생에 미치는 엄청난 영향을 적절히 설명하고 있고, AI 관료제가 초래할 가공할만한 영향을 강조하는데에 적절한 내용이라고 할 수 있다.

“6. 새로운 구성원”의 “함의는?” 단락에서 유발 하라리는 만들어진지 겨우 80년동안 컴퓨터가 진화한 것을 문명이나 원시세포가 시작된지 80년 된 시기와 비유하며 앞으로의 컴퓨터 진화 속도가 상상할 수조차 없다고 우려한다.  하지만 개인적으로는 하드웨어의 한계가 있기 때문에 컴퓨터의 진화 속도가 무한정 가속될 것 같지는 않다.

 

공학에는 새 것이 없다. 현재 AI의 기초가 되는 신경망(neural network)의 개념 자체는 무려 82년 전인 1943년 미국 시카고 일리노이 주립대학에서 신경정신학자 Warren McCulloch와 수학자 Walter Pitts에 의해 태어났다. 개념적으로는 말이 되었지만, 수십억개의 신경세포로 이루어진 인간 두뇌에서 벌어지는 일을 당시의 컴퓨터는 재현해 낼 도리가 없었기에 자연스럽게 파 묻혔던 이 케케묵은 개념이 현실화된 것은, 무지막지한 양의 데이터를 저장할 수 있는 기술과, 그 데이터를 실시간으로 검색하고 주고 받을 수 있는 통신 기술과, 이진수 연산이란 단순 무식한 방법을 초당 petascale (10의 15제곱) 라는 천문학적 숫자만큼 계산할 수 있는 디지털 계산 기술이 모두 뒷받침 된 2010년대가 되어서였다. 그리고 이 모든 기반 기술들은 각각 2차원에서 이미 원자 수준의 한계에 도전할 정도로 한계에 도달 했고, 그래서 칩 간의 통신이라도 빠르게 하기 위해 지금은 3차원으로 위에 쌓기 시작했다. 어떤 새 기술도 끝없이 성능을 개선하지 못하는 임계점이 있기 때문에 이것 역시 조만간 한계에 도달할 것이다. 이와는 별도로 이 시스템들을 유지하고 늘려가야할 전기 역시 유한하다.

하지만, 내 예상대로 컴퓨터가 하드웨어의 한계에 부딪힌다고 하더라도, 이미 AI 기술은 극도로 위험한 수준을 향해 꾸준히 달려가고 있으며, 날마다 그 연결 기기들과 그에 따른 데이터 양을 늘려가고 있는 것이 사실이다.  1991년 베스트셀러였던 「컴퓨터는 깡통이다」에서 컴퓨터 자체는 아무런 능력이 없고, 사용자가 어떤 목적과 명령을 부여하는지에 따라 그 가치와 쓰임이 결정된다는 점을 강조했다.  30여년이 지난 지금, 컴퓨터는 더 이상 깡통이 아니다.

역사학자답게, AI라는 첨단 기술 분야가 민주주의와 전체주의의 미래에 어떻게 영향을 줄 수 있을지 미리 시뮬레이션 (simulation)을 해 본 것이 아마도 이 책을 읽어볼만한 가장 큰 가치일것 같다.

아울러, 책의 핵심 내용은 아니지만 민주주의 국가 시민들이 민주주의에 대한 ‘싫증’을 한참 넘어선 ‘짜증’으로 인해,  의견이 다른 사람들 사이에는 말이 전혀 통하지 않게 되어버린 전세계적 현실 속에서 “5. 결정 (Decisions)” 에 간략하게 설명됐듯, 과거 포퓰리스트 (populists) 들이 어떻게 민주주의 원리를 바탕으로 전체주의적 목표인 무제한적 권력 추구를 정당화하는 정치적 연금술을 부려왔는지를 읽고 우리의 현실을 곰곰히 다시 생각해 보는 것도 유익할 듯 하다.

 

“민주주의의 최대 아이러니(joke)는, 민주주의를 파괴하려는 치명적인 적들에게 민주주의가 바로 그 수단을 제공한다는 점이다.” (요제프 괴벨스)