특이점(singularity)란 원래 수학 용어로서, 1/x과 같은 함수에서 x가 0으로 접근하면서 무한대로 발산하는 성질을 지칭하는 말이다. 근래 이 말은 인공지능이 인간의 지능을 초월하는 시점을 나타내는 말로 쓰이고 있다. 특이점에 도달한 이후의 세상에 대해서는 비관적 관점과 낙관적 관점이 모두 존재하는데, 특이점 이후가 이전의 세상과 질적으로 다르다고 본다는 점에서는 공통점이 있다. 비관적 관점을 표하는 사람으로는 스티븐 호킹, 일론 머스크 등이 유명하며, 이들은 특이점 이후의 인공지능이 인류의 생존에 야기시킬 위험에 대해 심각하게 고민해야 한다고 주장한다. 영화 <터미네이터>에서 묘사된 인류를 절멸시키려는 인공지능 로봇이 이러한 관점을 반영한다고 볼 수 있다. 낙관적 관점은 레이 커즈와일이 대표하는데, 그는 특이점 이후에는 엄청나게 진보한 컴퓨터에 인간 의식을 옮기는 마인드 업로딩이 가능할 것이며 이를 통해 인간이 영생할 수 있을 것이라는 전망을 내놓기도 했다.


저자는 이 책을 통해 왜 이러한 주장이 ‘신화’인지에 대해 다양한 논의를 통해 파헤친다. 무엇보다도, 특이점이 필연적으로 온다는 ‘특이점 추종자들’이 근거로 드는 컴퓨터 기술의 지수함수적 발전이 미래에도 지속적으로 가능하리라는 보장이 없다는 점을 지적한다. 컴퓨터 기술의 진보를 이야기할 때 예로 드는, 마이크로프로세서의 트랜지스터 수가 18개월에서 24개월마다 2배씩 늘어난다는 ‘무어의 법칙’은 단지 경험적 관찰일 뿐이며 지금까지 성립해 왔더라도 미래에도 지속적으로 성립하리라는 보장은 없다는 것이다. 결국 원자의 크기라는 물리적 한계에 부딪힐 것이기 때문이다. 저자는 정당한 과학으로서 시작한 인공지능 연구가 일종의 ‘사기hype’인 ‘초인공지능’이라는 변질된 개념으로 나아갔음을 역사적, 철학적, 문화적으로 검토한다.


흥미로운 것은 계시종교인 기독교나 유대교에서 출발했지만 결국 그 속에서 내용이 변질된 그노시스주의(영지주의)와의 비교이다. 겉모습은 그대로이지만 속 내용이 달라진 변형을 저자는 가상(假像, pseudomorphose)이라고 부른다. 생물의 유기물 분자가 다양한 무기물로 바뀌어 형성된 화석을 가상의 예로 들 수 있다. 원래 ‘pseudo’에는 ‘유사’, ‘가짜’라는 의미가 있다. ‘pseudoscience’가 겉모습은 과학처럼 보이지만 사실은 과학이 아닌 유사과학, 가짜과학인 것과 같다. 저자에 따르면 ‘특이점’이라는 개념도 인공지능 연구에서 출발하여 결국은 과학을 넘어선 이야기, 신화일 뿐이다. 그노시스주의와의 비교는 단순한 ‘가상’ 비유를 넘어서는데, 그노시스주의가 물질과 영혼의 분리라는 이원론에 기반하고 있는 것과 마찬가지로 많은 특이점 추종자들에게도 이원론적 사고의 혐의가 보이고 있기 때문이다. 마인드 업로딩이라는 생각이 그렇다.


특정한 업무를 수행하는 약한 인공지능은 우리 주변에서 이미 널리 쓰이고 있다. 빅데이터를 통해 학습한 약한 인공지능이 얼마나 강력할 수 있는지는 우리가 최근 여러 예에서 실감하고 있다. 저자가 그것을 부인하는 것은 아니다. 저자의 비판은 인간과 같이 일반적 상황을 판단할 수 있는 범용 인공지능(AGI, Artificial General Intelligence)이 현재 실체가 없다는 것이다. 인공지능이 지수함수적으로 발전하여 결국 인간의 지능을 능가하는 범용 인공지능이 도래한다는 주장은 결국 과학적 근거가 희박한 신화라고 할 수 있겠다. 오히려 이러한 특이점에 대한 두려움을 동반한 우려보다는 인공지능과 연관된 다른 이슈와 위험에 대해 고민하는 것이 더 올바른 태도인 듯싶다.


책 속 몇 구절:


... 결국 [기계의] 강화 학습도, 교사가 있는 학습도 자율성은 없다. 실제로 강화 학습 알고리즘을 사용할 때는 인간이 최적의 선택을 하도록 기준을 설정하고, 기계는 이를 변경할 수 없게 되어 있다.
따라서 ... 스티븐 호킹, 일론 머스크, 빌 게이츠, 스튜어트 러셀 등이 잇달아 발표한 우려를 뒷받침하는 것은 아무 것도 없는 것이다. 분명 지금까지의 경험상, 기계 학습처럼 단시간 안에 눈부신 발전을 이룬 수법은 어떤 문제를 야기할 위험성을 내포하고 있다. 그렇다고 해서 우리 인간이 귀환 불능 지점에 도달하고, 그 이후에는 기계에 의해 지배되리라고 말할 수는 없을 것이다. (73~74 페이지)
존 설이 강한 인공지능이라는 용어를 설명의 도구로 쓴 것은 1980년대 초였다. 이 강한 인공지능이야말로 앞서 정의한 인공지능의 가상이다. 왜냐하면 강한 인공지능과 본래 의미에서의 인공지능은 이름이 서로 비슷하지만 목표와 방법은 전혀 다르기 때문이다. 과거 컴퓨터로 시뮬레이션을 하고, 실험을 통해 검증하는 데 기초를 둔 과학의 한 분야였던 것이 지금은 논증에만 기초한 철학적 접근법이 되고 있다. 이전에는 지능을 컴퓨터로 재현할 수 있는 기본적인 기능으로 분해한다고 했었는데, 지금에 와서는 기본적인 인지 기능으로부터 정신과 의식을 재구성한다고 말한다. 석화 작용과 마찬가지로 강한 인공지능은 약한 인공지능에서 외형만 그대로인 채 처음의 구성 요소를 계속 바꿔가면서 완성된 것이다. (84~87 페이지)
... 강한 인공지능과 범용 인공지능은 같은 것이 아니다. 전자는 철학적 연구를 기원으로 하고 있지만, 후자는 이론 물리학자들의 연구로부터 탄생했다. 범용 인공지능이 강한 인공지능의 아이디어를 차용하곤 있지만, 강한 인공지능이 본래 철학적 논의만을 근거로 하고 있는데 반해 범용 인공지능은 꽤 난해한 수학 이론과 정보기술에 근거하고 있다.
이러한 차이에도 불구하고, 오늘날 강한 인공지능과 범용 인공지능의 추진자들은 서로의 주장에 작은 차이가 있기는 하지만, 서로 손을 맞잡고, 특이점의 제창자와도 많은 시점을 공유하며 협력하고 있다. 게다가 거츨, 허터, 슈미트후버를 비롯한 많은 이가 매년 열리는 특이점 정상회담에 참가해 여러 트랜스휴머니즘 단체와 관계를 맺고 있다. (88~91 페이지)
... 특이점 가설이 그리는 미래상에서는 마침내 기계가 인간의 뇌를 능가하는 능력을 손에 넣어 인간의 의식을 업로드할 수 있게 된다고 한다. 그렇게 되면 이미 세포의 노화라는 피할 수 없는 운명을 받아들이지 않아도 되고, 운 좋게 그 혜택을 누릴 수 있는 사람들은 불사까지는 아니더라도 수명을 대폭 연장할 수 있게 될 것이다. 즉 이것은 인간의 정신이 육체에서 완전히 분리되는 것을 의미한다. 육체로부터 완전히 구별된, 자율적인 존재가 된다. 이보다 더 극단적인 이원론이 또 어디에 있겠는가? (102~103 페이지)
... 현대의 과학기술과 먼 옛날의 신화가 공존하는 듯 한 모습에는 놀라지 않을 수 없다.... 저명한 과학자와 대기업의 수장, 유명한 엔지니어와 같은 인물들이 자신들의 영향력을 이용해 통속적인 공상을 사람들의 의식 속에 주입하려 하고 있다.... 과학과 공상을 명확히 구분하지 않는다면 혼란만 야기할 뿐이다. 그들은 양자의 구별을 애매하게 함으로써, 진정한 미래의 모습을 숨기고 있다. 단순히 하나의 가능성에 불과한 시나리오를 전혀 피할 수 없는 운명인 것처럼 말해 그 외에도 존재할 수많은 선택을 숨기고, 특이점 이외의 것을 선택한다면 어떤 결과가 생길지 혹은 그 선택이 인간의 행동을 얼마나 자유롭게 할지 등을 생각하지 못하도록 하고 있다. (142~143 페이지)