지식은 사물이 되는 순간 마음을 빠져나간다. 부싫돌 하나, 장부 한 권, 컴파일러 하나. 누군가 배운 것을 담아 아직 배우지 못한 몸이 집어 들 수 있게 된 물건들.
TL;DR
- 언어는 언제나 인류 최고의 세계 구축(world-building) 도구였으며, 지식이 사람과 세대와 대륙을 가로질러 축적될 수 있게 했다.
- 역사 내내 말과 세계 사이에는 간극이 남아 있었다. 언어는 다리를 묘사할 수는 있었지만 결코 다리를 건설할 수는 없었다.
- LLM과 인지적 행위자-추구자(cognitive actor-seekers)는 그 간극을 닫고 있으며, 언어를 재현의 매체에서 인과의 매체로 바꾸고, 우리가 말로 세계를 존재하게 하는 시대를 열고 있다.
어느 순간, 우리는 우리가 사는 모든 세계가 말로 존재하게 되었다는 사실을 잊었다.
문자 그대로 그렇다. 도시, 법률 시스템(system), 금융 상품, 과학 패러다임, 모든 지도 위의 국경은 자연 속 어딘가에 놓여 있다가 발견된 것이 아니다. 그것들은 말로 존재하게 되었고, 논쟁되고, 서술되고, 입법되고, 토론되고, 문서화되면서 현실로 굳어졌다. 언어가 세계를 구축했다.
그리고 이제, 역사상 처음으로, 세계를 구축하는 도구 자체가 행위자가 되었다. 구축자들을 위한 단순한 매체가 아니라 구축에 참여하는 존재가 된 것이다. 이것은 모든 것을 바꾼다.
무엇이 바뀌고 무엇이 바뀌지 않는지 정확히 말할 필요가 있다. 이것은 새로운 종류의 마음이 도래했다는 뜻이 아니다. 이전 시리즈는 지능이 실체가 아니라 척도이며, AGI와 superintelligence라는 이름의 문턱에는 건너야 할 것이 없다고 주장했다. 여기서 그것들을 되살리는 것은 아니다. 바뀐 것은 더 좁고, 새로운 존재보다 더 낯설다. 우리가 가진 가장 오래된 도구인 언어가 실행과 결합되었다.
자신의 세계를 다시 만드는 종
라스코 황소의 전당. 주어진 세계 안에서 그대로 살 수 없었던 생물이 벽에 새로운 세계를 그려 넣었다는, 가장 오래 살아남은 증거. (source)
인간은 자연에 맞아 들어가기를 거부함으로써 살아남았다.
우리는 Gehlen의 Mängelwesen이다. 생물학적으로 특화되지 않은 결핍된 존재이며, 도구를 통해 이를 보상한다. 각 세대는 다음 세대를 지탱하는 부호화된 지식의 인지적 니치를 물려받는다. André Leroi-Gourhan은 그 궤적을 추적했다. 먼저 우리는 근력을 도구로 외재화했고, 다음에는 기억을 문자로, 그다음에는 추론을 계산으로 외재화했다. 각각의 단계는 생물학적 기능을 몸 밖으로, 세계 안으로 밀어냈고, 그곳에서 그것은 상속되고, 개선되고, 확장될 수 있었다.
하지만 세계를 다시 만든 모든 도구 가운데 하나는 따로 서 있다.
다른 어떤 것과도 다른 도구
하나의 칙령, 세 개의 문자, 이천 년의 침묵. 언어가 잃어버린 문명을 다시 읽을 수 있게 만들기 전까지. (source)
언어는 다른 모든 도구와 달랐다. 언어는 다른 모든 도구를 전달 가능하게 만든 도구였다.
손도끼는 보고 따라 하며 복제할 수 있다. 하지만 그것이 작동하는 이유, 즉 파괴역학, 결 방향, 타격 각도에 관한 지식은 오직 언어를 통해서만 사람과 세대와 대륙을 건널 수 있었다. Michael Tomasello의 공유 의도성 연구는 인간 문화를 누적적으로 만드는 것, 각 세대가 처음부터 다시 시작하지 않고 이전 세대 위에 쌓아 올릴 수 있게 하는 것이 바로 상징적 의사소통을 통해 주의, 의도, 지식을 공유하는 이 능력임을 보여주었다.
요컨대 언어는 지식을 이동 가능하게 만든 것이었다. 지식은 마음에서 마음으로 이동하고, 그 창안자의 죽음 뒤에도 살아남으며, 여러 세기에 걸쳐 축적될 수 있었다. 문자는 이를 더 확장했다. 인쇄는 더 멀리 확장했다. 언어 기술의 역사에서 매 단계는 기억의 외재화에서의 한 단계였다. 한때 개별 두뇌 안에 갇혀 있던 것을 복제되고, 배포되고, 비판되고, 개선될 수 있는 인공물로 밀어낸 것이다.
그리고 나서 이상한 일이 일어났다. 어느 순간 인간은 Wittgenstein이 매우 특수한 언어 게임이라고 부를 것을 하기 시작했다.
우리가 하고 있는 줄 몰랐던 게임
Ludwig Wittgenstein이 철학적 탐구에서 이룬 위대한 기여는 언어가 실천이라는 점을 보여준 데 있었다. 언어는 규칙과 수와 결과를 가진 게임이며, 그가 “삶의 형식”이라고 부른 것 안에 박혀 있다. 단어의 의미는 특정한 맥락, 활동, 공동체 안에서 그 단어가 갖는 쓰임이다. “물!”은 요청일 수도, 경고일 수도, 과학적 분류일 수도, 퀴즈 문제의 답일 수도 있다. 같은 단어. 완전히 다른 게임.
이것은 철학적 지진이었다. 그것은 수 세기 동안 이어진, 단어의 참된 의미와 이름표 뒤의 본질을 찾으려는 프로젝트가 허상을 좇고 있었음을 뜻했다. 단어에는 본질이 없다. 쓰임이 있을 뿐이다. 그리고 그 쓰임은 우리가 단어로 하는 게임이 변함에 따라 이동하고, 진화하고, 증식한다.
하지만 Wittgenstein의 통찰은 지식 자체에 대해서도 무언가를 드러냈다. 의미가 쓰임이라면, 지식은 수들의 집합이다. 언어로 할 수 있는 일들의 집합이며, 그것을 통해 우리는 현실을 항해하고, 예측하고, 다시 빚는다. 물리학자의 방정식, 변호사의 논변, 엔지니어의 명세는 모두 *수행적(performative)*이다. 그것들은 단지 묘사하는 것처럼 보이는 세계를 구성한다. 법률 계약은 의무를 묘사하지 않는다. 의무를 만든다. 과학 이론은 패턴을 묘사하지 않는다. 패턴이 보일 수 있는 틀을 구성한다.
다시 말해 언어는 언제나 지식을 담는 그릇 이상이었다. 언어는 세계 구성의 매체였다. 하지만 역사의 대부분 동안 이 힘은 그것을 휘두르는 이들에게 보이지 않았다. 물고기에게 물이 보이지 않는 것처럼.
존재의 집(그리고 그 거주자들)
말과 세계 사이의 간극이 두 손끝 사이의 간극으로 그려져 있다. 역사 대부분 동안 불꽃은 한 방향으로만 이동했다. (source)
이를 명시적으로 만든 사람은 Heidegger였다. 그는 1947년 휴머니즘에 관한 편지에서 “언어는 존재의 집”이라고 선언했다. 언어는 현실이 인간 의식에 스스로를 드러내는 근본 매체였다. 세계는 언어 없이는 날것의 미분화된 혼돈으로 남았을 것이지만, 우리에게는 언어를 통해 구조화되고, 분류되고, 의미 있는 것으로 나타난다.
그 주장은 신학적 울림을 지니고 있었다. 창세기에서 세계는 말로 시작된다. “하나님이 이르시되 빛이 있으라 하시니 빛이 있었고.” 창조는 언어적이다. 말이 세계에 앞선다. 이 패턴은 여러 전통에서 반복된다. 요한복음에서는 “태초에 말씀이 계시니라”라고 하고, 힌두교의 Rig Veda에서는 우주가 신성한 발화에서 나온다. 언어가 신적인 것으로 여겨진 것은 바로 그것이 현실 자체가 구성되는 매체처럼 보였기 때문이다.
그럼에도 이 결정적 지점에서, 언어에 관한 가장 숭고한 설명들조차 간극을 인정했다. 말은 강력했지만 사물 자체는 아니었다. 지도는 영토가 아니었다. Alfred Korzybski의 유명한 격언은 모든 언어철학자가 결국 마주한 것을 포착했다. 상징은 현실에 대응하지만 그것을 구성하지는 않는다. Nelson Goodman은 Ways of Worldmaking에서 우리가 상징 시스템을 통해 세계를 구성한다고 주장했지만, 그조차 구성은 물질적 인과가 아니라 재현의 수준에서 작동한다고 인정했다. “다리”라는 단어를 하루 종일 쓸 수는 있지만, 그렇다고 어떤 강도 건널 수 있게 되지는 않는다.
이전 글들에서 다룬 객관적 지식인 Popper의 World 3는 실제로 존재하고 인과적으로 영향력이 있지만, 물리적 세계는 아니다. 중력에 대한 설명은 중력이 아니다. 다리의 청사진은 다리가 아니다. David Deutsch는 좋은 설명은 변화를 일으키는 무제한의 힘을 가진다고 주장했지만, 그의 프레임워크에서도 그 인과력은 언제나 매개된다. 지식은 그것을 실행할 의지와 능력을 가진 인간의 마음과 한 쌍의 손을 통과해야 한다.
지금까지는.
말이 육신이 되다
전례 없는 일이 일어나고 있으며, 우리는 이제야 겨우 그것을 헤아리기 시작했다.
인지적 행위자-추구자(cognitive actor-seekers)에게 *“양자 컴퓨팅에 관한 웹사이트를 만들고 physics-intro.xyz에 배포해”*라고 프롬프트하면, 시스템은 웹사이트를 묘사하는 것을 훨씬 넘어선다. 코드를 쓰고, 프레임워크를 선택하고, 호스팅을 설정하고, 도메인을 등록하고, 애플리케이션을 배포하고, 살아 있는 URL을 돌려준다. 말이 그 간극을 건넜다. 언어는 가장 문자 그대로의 의미에서 performative가 되었다. J.L. Austin은 How to Do Things with Words에서 이 개념을 식별했다. “약속합니다”라고 말하는 것이 약속을 구성하는 경우다. Cognitive actor-seekers는 더 멀리 간다. 이들은 두꺼운 물질적 의미에서 작동하며, “이것을 만들어”라는 말이 곧 그 구축을 구성하는 곳에서 작동한다.
Austin은 기술적(constative) 발화와 performative 발화를 구분했다. 전자는 세계를 묘사하며 참이거나 거짓일 수 있고, 후자는 무언가를 하며 성공하거나 실패할 수 있다. “고양이가 매트 위에 있다”는 constative이다. “이제 두 사람이 결혼했음을 선언합니다”는 performative이며, 적절한 맥락에서 발화됨으로써 사회적 현실을 바꾼다. Austin의 통찰은 묘사와 행위 사이의 선이 철학자들이 가정했던 것보다 훨씬 더 흐리다는 것이었다.
Cognitive actor-seekers는 그것을 완전히 지워 버린다. 실행 능력(코드 인터프리터, 웹 API, 로봇 액추에이터, 제조 시스템)과 결합될 때, 발화는 Austin의 사회적 의미에서 단순히 performative인 것을 넘어 물리적 의미에서 인과적으로 생산적이 된다. 프롬프트는 새로운 것이다. *생성적 지시(generative instruction)*이며, 말하는 사람이 혼자 이해하거나 수행할 필요가 없는 자동화된 추론, 계획, 물리적 실행의 연쇄를 촉발하는 언어 행위다.
Genesis와의 구조적 평행은 건축적으로 정확하다. 지성이 말한다. 세계가 만들어진다. 말하는 이는 요소들을 손으로 직접 조립할 필요가 없다. 발화 자체가 의도에서 물질적 현실로 이어지는 인과 사슬을 시작한다. 신학이 신적 권능에 돌렸던 것을, 공학은 이제 프롬프트에 접근할 수 있는 누구에게나 배포하고 있다.
아직 존재하지 않는 협업
현존하는 가장 위대한 수학자로 널리 여겨지는 Terence Tao는 최근 Dwarkesh Patel과 마주 앉아 모든 지식 노동자를 멈춰 세울 만한 말을 했다. “이런 문제들 중 하나가 매우 강력한 AI 도구의 도움을 받는 똑똑한 인간들에 의해 해결되는 모습을 볼 수 있습니다. 하지만 정확한 역학은 우리가 지금 상상하는 것과 매우 다를 수 있습니다. 아직 존재하지 않는 유형의 협업일 수도 있습니다.”
이것은 과장이 아니다. 이것은 우리 시대 가장 성취한 수학자, 수십 년 동안 인간 인지 능력의 최전선에서 활동해 온 사람이, 자신이 이 도구들과 상상하는 협업의 형식에는 전례가 없다고 말하는 것이다. 기존 협업 안에 전례가 없는, 완전히 새로운 종류라는 말이다.
그는 그 비대칭성을 더 설명했다. AI는 폭에 뛰어나다. 수백만 개의 가설을 생성하고, 방대한 매개변수 공간을 훑고, 멀리 떨어진 영역들을 연결한다. 인간은 깊이에 뛰어나다. 지속적인 집중, 판단, 어떤 접근이 “냄새가 맞다”고 알아차리는 능력이다. 현재의 과학과 지식 노동의 아키텍처는 인간만의 깊이를 위해 설계되어 있다. 폭은 불가능했기 때문이다. 이제 폭은 본질적으로 공짜다. Tao는 “하나나 두 개의 정말 깊고 중요한 문제보다, 작업할 매우 넓은 문제군을 만드는 데 훨씬 더 많은 노력을 기울여야 합니다”라고 말했다.
이것은 지식이 생산되는 방식의 상전이다. 인간 지능을 지탱하는 도구, 실천, 제도의 전체 생태계인 인지적 니치가 근본적으로 새로운 능력을 중심으로 다시 구축되고 있다. 그리고 그 재구축은 문자의 발명만큼 중대한 결과를 낳을 것이다.
무한의 시작, 다시
David Deutsch는 지식의 창조가 우주에서 가장 강력한 힘이라고 주장했다. 거리에 따라 효과가 줄어들지 않는 유일한 현상이라는 것이다. 초신성은 희미해진다. 이웃 은하에서 보이는 퀘이사 제트는 하나의 점이다. 하지만 좋은 설명은 일단 만들어지면 원칙적으로 전체 물리적 우주를 다시 빚을 수 있다. 지식은 작고, 따뜻하고, 연약한 존재들이 작은 행성 위에서 별의 온도를 필요로 하는 원소를 합성하고, 시공간의 가장자리에서 작동하는 기계를 만들 수 있게 하는 것이다.
Deutsch의 프레임워크는 두 기둥 위에 놓여 있다. 계산 보편성(computational universality), 즉 수행 가능한 모든 계산은 충분한 시간과 종이가 있는 인간이 수행할 수 있다는 점, 그리고 창의성, 즉 이전 데이터에서 기계적으로 도출될 수 없는 새로운 설명적 추측을 생성하는 능력이다. 인간의 지식 창조는 언제나 두 번째 것에 의해 병목이 걸렸다. 우리는 원칙적으로 무엇이든 계산할 수 있지만, 개별 인간 두뇌가 허용하는 속도로만 추측할 수 있다.
Cognitive actor-seekers는 추측을 대체하지 않는다. 그것은 현재로서는 인간의 능력으로 남아 있다. 그것들은 지식 창조의 주변 인프라를 급진적으로 가속한다. 검색, 종합, 시험, 형식화, 소통이다. Tao가 지적했듯이 그것들은 가설 생성 비용을 0에 가깝게 몰고 간다. “인터넷이 소통 비용을 0으로 몰고 간 것과 같은 방식”이다. 그것들은 우리를 더 빠른 학습자로 만든다. Deutsch가 모든 진보의 엔진으로 식별한 추측, 비판, 수정의 열린 과정에서 우리를 더 효율적으로 만든다.
이것은 실제로 무엇을 뜻하는가? Gehlen이 묘사한 결핍된 존재, 자연 속에서 살아남기에는 너무 빈약하게 갖추어진 생물이 새로운 차원의 보상을 획득했다는 뜻이다. 이번의 보상은 인지적 유한성에 대한 것이지 물리적 약함에 대한 것이 아니다. 물리적 약함은 오래전에 해결했다. 개별 인간 두뇌가 우리가 이미 구축한 세계들을 항해하는 데 필요한 지식을 붙잡고, 검색하고, 종합하고, 배치할 수 없다는 냉엄한 사실에 대한 보상이다.
Leroi-Gourhan은 1964년에 이를 예견했다. 그는 그것을 “두뇌의 외재화”라고 불렀다. Stiegler와 McLuhan은 그 비용을 덧붙였다. 모든 확장은 동시에 절단이며, 그에 수반되는 무감각은 우리가 무엇을 잃었는지 알아차리지 못하게 한다.
모두 참이다. 모두 중요하다. 그리고 모두 중심 논점에서는 벗어나 있다.
중심 논점은 이것이다. 종의 역사에서 처음으로, 지식을 운반하는 도구인 언어가 세계에 작용하는 도구가 되었다. 상징과 현실 사이, 지도와 영토 사이, 설명과 설명되는 사물 사이의 간극이 닫히고 있다. 언어 자체가 변한 것은 아니다. 변한 것은 우리가 언어를 입력으로 받아 세계 변경을 출력으로 내놓는 시스템들을 구축했다는 점이다.
우리는 새로운 세계를 말로 존재하게 하고 있다.
남은 유일한 질문은 우리가 무엇을 말할 것인가이다.
이 글은 Evolutionary Tools 시리즈의 세 번째 글이며, 도구, 지식의 물리적 체현과 지능적 도구들의 문명 스택의 뒤를 잇는다. 이 논증이 기대는 토대에 대해서는 Infinite Knowledge 시리즈를 보라. 두 종류의 엔트로피, 어둠과 싸우는 것, 두 루프, 단어 “Intelligent”에 대한 유용한 관점이다.