AI에 관한 대부분의 대화는 잘못된 고도에서 이루어지고 있다.
논쟁은 language models가 무엇을 할 수 있는지에 집중된다. 문서를 요약한다. 메모를 작성한다. 데이터셋을 분석한다. 코드를 쓴다. 이런 역량은 실제이고, 중요하다. 하지만 그것은 훨씬 더 깊은 이야기의 가장 얇은 층이기도 하다. 표면을 전체로 착각하는 것은 지금 builder, investor, leader가 저지를 수 있는 가장 비싼 오류다.
language model 하나만 놓고 보면, 앞으로 무엇이 올지에 관해 거의 아무것도 말해주지 않는다.
무엇이 오고 있는지 보려면 다른 렌즈가 필요하다. 문명이 늘 지능의 발전을 어떻게 흡수해 왔는지를 보아야 한다.
이렇게 말이다. 이전의 다섯 기술이 일곱 층을 통과해 온 과정, 5천 년을 30년으로 압축한 그림. 이 글의 나머지는 그 부분들에 이름을 붙인다.
인류 역사에서 변혁적 기술은 모두 같은 패턴을 따랐다. 처음에는 개인을 더 생산적으로 만드는 도구로 시작한다. 그런 다음 제한된 영역 안에서 스스로 행동하기 시작한다. 그다음에는 시간에 걸쳐 지속적인 작업을 떠받치는 환경이 된다. 그다음에는 조직이 조율되는 방식을 다시 빚는다. 그다음에는 시장이 공급과 수요를 매칭하고 사람들이 서로를 찾는 방식을 바꾼다. 그다음에는 가치가 교환되고 집행되는 경제적 레일 안에 자신을 심는다. 그리고 마지막으로, 다른 모든 것을 신뢰 가능하고 지속 가능하게 만드는 공유 지식(knowledge) 인프라로 들어간다.
문자는 이 층들을 수천 년에 걸쳐 통과했고, 우리가 지금 거주하는 문명을 만들었다. 검색은 이 층들을 30년도 안 되어 통과했고, 종 전체가 서로와 필요한 것들을 찾는 방식을 바꾸었다. 각각은 모든 단계에서 새로운 가치 범주를 만들었다.
이 패턴은 문명 자체의 아키텍처다. 우리는 그것을 **지능형 도구의 문명적 스택(Civilizational Stack of Intelligent Tools)**이라고 부른다. 인류가 늘 지능적 역량을 경제적, 제도적 가치로 전환해 온 일곱 층이다.
새로운 것은 primitive다. 인류는 처음으로 인지 역량을 단순히 증폭하는 데 그치지 않는 지능적 확장을 만들었다. 그것들은 그 역량을 행사한다. 문제를 추론한다. 스스로 더 나은 정보를 찾는다. 배운 것에 따라 행동한다. 시간에 걸쳐 지속된다. 우리는 이것을 **인지적 행위자(cognitive actors)**라고 부른다. 일을 단순히 가속하는 것이 아니라 일에 참여하는 최초의 지능적 확장이다.
인지적 행위자들은 이제 문명적 스택(stack)에 들어오고 있다. 그리고 이전의 어떤 기술과도 달리, 그들은 일곱 층 모두에서 동시에 작동할 수 있다. 추론한다. 지속된다. 행동한다. 조율한다. 검증한다. 중개한다. 정산한다.
한 사람이 만드는 모든 mind, curator가 빚고 배포하는 모든 framework는 이 아키텍처로 들어오는 인지적 행위자다. 그 행위자의 품질은 그것을 만든 사람의 취향과 분리될 수 없다. 스택의 위쪽으로 올라갈수록 이것은 더 중요해질 것이다.
업계는 Layer 1에 집중하고 있다. 변환은 일곱 층 전체에 있다.
Layers 1–2: 수행과 위임
스택의 처음 두 층은 한 사람과 새로운 지능적 역량 사이의 가장 즉각적인 관계를 설명한다. 하나는 당신이 더 많이 하도록 돕는다. 다른 하나는 당신을 대신해 일을 하기 시작한다.
Layer 1: 과업 가속. 새로운 역량은 특정 과업에서 한 사람을 더 빠르고, 더 유능하고, 더 정밀하게 만든다. Mesopotamia의 상인은 빚을 기록하기 위해 점토판에 눈금을 새긴다. 한때는 숫자를 기억 속에 붙들고 있어야 했던 일이 이제 표면 위에 지속된다. 과업은 더 신뢰성 있게 완료된다. 모든 지능적 확장은 여기서 시작한다.
Layer 2: 위임된 실행. 당신은 그 역량을 충분히 신뢰하게 되어, 손을 올려두지 않고도 행동하게 둔다. 봉인되어 사자에게 들려 보내진 왕의 서면 칙령은 거리를 가로질러 권위를 행사한다. 문자는 저자를 대신해, 그의 부재 속에서, 그가 결코 방문하지 않을 곳들에서 행동한다. 역량은 더 이상 당신의 일을 보조하지 않는다. 당신이 정한 경계 안에서 직접 일을 완료한다.
당신은 도구를 사용한다. 그것을 신뢰하는 법을 배운다. 당신의 주의를 다른 곳으로 돌리는 동안 그것이 일하게 둔다. 이것은 기술에서 가장 오래된 이야기다.
인지적 행위자와 함께 달라지는 것은 이 층들이 담을 수 있는 범위다. 이전의 지능적 확장들은 기계적 또는 계산적 과업만 가속할 수 있었고, 엄격한 파라미터 안에서만 신뢰될 수 있었다. Layer 1의 인지적 행위자는 아침 커피가 준비되기 전에 가격 결정 하나를 세 가지 framework로 stress-test한다. Layer 2에서는 밤새 portfolio를 모니터링하고, 새벽 3시에 anomaly를 표시하며, 해가 뜰 때쯤 당신의 검토를 위한 응답 초안을 작성한다. 위임의 경계는 rote execution에서 진정한 인지 작업으로 확장된다.
10년 뒤에는 AI가 주로 chatbots에 관한 것이었다는 생각이, 인터넷이 주로 email에 관한 것이었다는 생각만큼이나 낡고 순진하게 보일 것이다. 이 처음 두 층은 그 깨달음이 시작되는 곳이다. 그리고 이미 여기서도 인간의 역할은 분명하다. 어떤 과업을 위임할지, 어떤 경계를 그을지 선택하는 curator가 결과를 빚는 사람이다.
Layers 3–5: 조직화와 중개
처음 두 층은 개인이 이룰 수 있는 것을 바꾼다. 다음 세 층은 집단이 형성되고, 일을 지속하고, 서로를 찾는 방식을 바꾼다.
Layer 3: 지속적 환경. 어떤 역량이 자신을 증명하고 나면, 그것은 일이 조직되는 방식 안에 영구적 자리를 얻는다. 문자 이전에는 장로들을 잃은 마을이 그들이 알던 모든 것을 잃었다. 문자 이후에는 지식이 어떤 개인보다 오래 살아남았다. 도서관은 최초의 지속적 환경이 되었다. 한 문명의 축적된 사고가 세대를 넘어 살아남는 공간이었다. 역량은 더 이상 episodic하지 않다. 그것은 인프라가 된다.
Layer 4: 조직적 조율. 지능적 역량들이 늘어나면 중심 과제는 바뀐다. 수십 명의 사람과 수십 개의 유능한 시스템(system)이 통치되는 구조 안에서 어떻게 일관되게 함께 일할 것인가? 누가 무엇을 하는가? 어떤 규칙 아래에서? 어떤 escalation path로? 성문 법전은 최초의 대규모 조직에 운영 논리를 제공했다. Hammurabi의 법은 규칙을 기록하기만 한 것이 아니었다. 그것은 수천 명의 낯선 사람들이 제국 전역의 공유된 governance 구조 안에서 조율될 수 있게 했다.
Layer 5: 시장과 사회적 중개. 조직을 넘어, 어떤 역량은 공급이 수요를 만나는 방식과 사람들이 서로를 찾는 방식을 다시 빚기 시작한다. 작성된 catalog, price list, 그리고 결국 인쇄된 directory는 한 도시의 구매자가 개인적 소개 없이 다른 도시의 판매자를 찾을 수 있게 했다. 문자는 필요와 충족 사이의 거리를 압축했다.
현대 software infrastructure는 수 세기가 아니라 몇 년 안에 같은 호를 그려 왔다.
이제 인지적 행위자들이 이 세 층 모두에 한꺼번에 들어오는 모습을 상상해 보라. 지난 분기 의사결정 뒤의 추론을 보존하고 이번 분기에 그 위에 쌓아 올려, 당신의 팀이 결코 0에서 시작하지 않게 하는 workspace. 인지적 행위자들이 인간과 함께 governed systems 안에서 일하고, 역할 중재와 정책 집행이 양쪽 모두를 포함하는 workforce를 위해 설계되는 조직. 중개자가 keyword만이 아니라 의도를 이해하기 때문에, 사려 깊은 동료처럼 당신에게 실제로 필요한 것이 무엇인지 추론하는 시장.
이것은 먼 미래가 아니다. 구성 요소들은 존재한다. 아키텍처는 형태를 갖추고 있다. 그리고 이 층들에서 중요한 인간 역량은 판단이다. 환경을 잘 설계하는 취향. 조율을 사려 깊게 통치하는 지혜. 다른 사람들이 통과하게 될 시스템을 빚는 integrity.
Layers 6–7: 제도화
처음 다섯 층은 생산성, 조율, 중개를 바꾼다. 마지막 두 층은 그 모든 것이 기대고 있는 깊은 인프라로 들어간다.
Layer 6: 경제적 정산. 어떤 역량은 경제적 가치를 지속 가능하고, 이전 가능하고, 집행 가능하게 만드는 시스템들 안에 자신을 심는다. 서면 계약은 결코 만나지 않을 낯선 사람들 사이의 합의를 집행 가능하게 만들었다. 서면 재산 기록은 소유권을 세대 너머로 이전 가능하게 만들었다. 서면 회계는 경제적 청구를 대규모로 감사 가능하게 만들었다. 각각의 진전은 가치를 창출하는 일과 그것을 정산하는 일 사이의 거리를 압축했다.
Layer 7: 공유 인식론적 인프라. 가장 깊은 층이다. 스택의 모든 시스템은 신뢰의 공유 기질에 의존한다. 무엇이 참인가? 어떤 출처가 신뢰할 만한가? 어떤 주장이 검증될 수 있는가? 문자는 공유된 종교 텍스트, 법전, 과학 전통을 만들어냈을 때 이 층에 들어왔다. 이것들은 낯선 사람들이 협력할 수 있는 공통의 인식론적 기반을 만들었다. 무엇이 참이고, 권위 있으며, 구속력을 갖는 것으로 간주되는지에 대한 공유된 이해였다. 이런 시스템들이 존재하기 전에는 그 아래 층들이 scale할 수 없었다. 공유 인식론적 인프라는 다른 모든 것을 신뢰 가능하고 지속 가능하게 만드는 것이다.
이 두 층은 변할 때 가장 느리고, 변하면 가장 큰 결과를 낳는다. 문자가 여기에 들어왔을 때, 그것은 최초의 대규모 경제와 수천 년 동안 문명을 빚은 지적 전통을 가능하게 했다.
컴퓨터는 1946년 ENIAC의 방 하나 크기 산술 장치로 시작했다. 사람보다 계산을 조금 더 빠르게 수행하는 Layer 1 도구였다. 80년 뒤, 같은 기술은 정산 층에서 SWIFT, Stripe, Bitcoin을 낳았고, 인식론적 층에서는 Wikipedia, Google Scholar, algorithmic feed를 낳았다. Layer 1에 들어온 도구가 이제 Layers 6 and 7에서 작동한다. 패턴은 매번 자기 자신을 완성한다.
인지적 행위자들도 같은 길을 따를 것이다. 구체적으로 그려 보라. Consulting firm은 지금 associates를 client engagement에 데려가듯 자신의 인지적 행위자들을 데려간다. mind는 평판 점수, 작업 이력, 시장 가격을 지닌다. 추론 역량 자체가 거래 가능하고 정산 가능한 경제 단위가 된다. 가장 깊은 층에서, 인지적 행위자들은 한 경제 전체가 무엇을 credible하고 authoritative하며 trustworthy하다고 취급할지를 결정하는 인프라에 참여한다.
돌이켜 보면 이것은 당연하게 들릴 것이다. 모든 변혁적 기술은 결국 제도적 직물 안에 자신을 심고, 사람들은 그것이 한때 따로 떨어져 있었다는 사실을 잊는다. 질문은 결코 그것이 일어나는가가 아니다. 누가 어떻게를 빚는가다.
이 시스템들, 곧 다른 모든 것이 기대게 될 인식론적·경제적 foundation을 설계하는 사람들은 스택에서 가장 무거운 curator의 책임을 진다. 그들의 취향, 판단, integrity가 인지 경제가 신뢰를 복리(compounding)로 키울지, 아니면 침식할지를 결정할 것이다.
스택을 함께 붙드는 것
스택은 스스로 안전해지지 않는다.
일곱 층 전체에서 같은 질문들이 반복된다. 누구에게 행동할 권한이 있는가? 무엇을 검증할 수 있는가? 책임은 어디에 놓이는가? 신뢰는 어떻게 세워지고, 유지되고, 깨졌을 때 수리되는가?
Identity. Permissions. Provenance. Evaluation. Auditability. Policy enforcement. Incentive alignment. 이것들이 스택의 결합 조직이다. 그것들은 모든 층에 나타나며, 위로 올라갈수록 더 중요해진다. 강한 역량은 Layer 1에서 가치를 생성할 수 있다. 그 가치가 Layers 3, 5, and 7을 통해 안전하게 scale할 수 있는지는 전적으로 이 질문들에 답이 주어졌는지에 달려 있다.
Raw capability는 업계가 만들기 위해 경쟁하는 것이다. Trust architecture가 누가 이길지를 결정할 것이다.
시대가 시작된다
모든 중요한 기술적 전환은 인간 역량을 두 단계로 확장한다. 먼저 개인이 더 많이 하게 돕는다. 그런 다음 사회가 조율되는 방식을 바꾼다.
우리는 바로 지금 그 두 단계 사이의 전환을 살고 있다.
스택의 낮은 층들은 이미 활성화되어 있다. 인지적 행위자들은 오늘날 여러 산업에서 과업을 가속하고 위임된 일을 실행하고 있다. 중간 층들은 나타나고 있다. 지속적 환경과 새로운 형태의 조직적 조율이 실시간으로 형태를 갖추고 있다. 위쪽 층들은 지평선 위에 있으며, 대부분의 사람이 생각하는 것보다 가깝다. 시장 중개, 경제적 정산, 공유 인식론적 인프라는 이번 decade 안에 변형될 것이다.
지능형 도구의 문명적 스택은 예측이 아니다. 그것은 인류 역사에서 모든 지능적 확장이 이미 가치를 만들어 온 아키텍처에 대한 설명이다. 패턴은 전에도 펼쳐졌다. 다시 펼쳐질 것이다. 새로운 것은 그 아키텍처 안으로 들어오는 primitive다. 추론하고, 찾고, 행동하고, 지속되는 인지적 행위자들이다. 새로운 것은 속도다. 새로운 것은 규모다.
사람들은 이 시기를 우리가 초기 인터넷을 돌아보듯 돌아볼 것이다. Raw capability는 모두에게 보였다. 그것이 결국 스며들 스택은 거의 아무에게도 보이지 않았다. 전체 아키텍처를 일찍 이해한 builder들이 다음에 올 것을 빚은 사람들이었다.
모든 층에서 기술은 가능한 것을 확장한다. 인간은 무엇이 가치 있는지를 결정한다. 이것이 curatorial intelligence다. 어떤 행위자, 어떤 framework, 어떤 composition을 특정 순간에 가져올지 선택하는 역량이다. 그것은 스택의 모든 고도에서 희소한 자원이다. 사용할수록 깊어진다. 시간이 지나며 복리처럼 쌓인다. 나는 underlying framework가 그것이 우리의 것으로 남는다고 보장한다고 가장하지 않겠다. intelligence가 하나의 measure이고 그 밖에 범주적으로 놓이는 것이 아무것도 없다면, curator의 판단 역시 영구적으로 예외가 아니다. bet은 더 좁고 falsifiable하다. frontier가 그것에 충분히 천천히 도달해서, 지금 그것을 cultivate하는 사람들이 앞서 있을 수 있다는 것. 무엇이 중요한지에 대한 판단이 다른 모든 역량에 방향을 부여하는 것이기 때문이다.
지금 curatorial intelligence를 cultivate하는 개인과 조직이 앞으로의 변환의 모든 층을 빚는 이들이 될 것이다. 그렇지 않은 이들은 그것에 의해 빚어질 것이다.
Harari는 Sapiens에서 인간이 지배적 종이 된 이유는 의미의 공유 시스템들을 통해 규모 있게 조율하는 법을 배웠기 때문이라고 주장했다. 지능형 도구의 문명적 스택은 인지적 행위자들이 그 시스템들 안으로 어떻게 들어오고 있는지를 보여주는 지도다. 그 진입을 빚는 builder, curator, leader들이 다음에 올 것을 정의할 것이다.
우리는 그들 가운데 있으려 한다.