우주는 무질서를 향해 간다. 그 흐름에 맞서는 무언가가 있다. 우리는 그것을 지식이라 부르지만, 지식이 어떻게 작동하는지에 관해 아직 정립된 이론은 없다.
이 글은 앞선 글들의 논의를 잇는다.
2023년 생물학자 마이클 호크버그는 〈지능들의 이론〉을 발표했다. 이전의 지능 이론에서 찾기 어려웠던 관점을 제시한 논문이다. 한 문장으로 지능을 정의하는 대신, 서로 다른 물리적 기반에 적용할 수 있는 작동 원리를 제안했다.
이전 시도는 대체로 지능을 어떤 실체처럼 다뤘다. 1904년 스피어먼의 g 요인, 1944년 웩슬러의 ‘총체적 능력’, 스턴버그의 삼원 지능 이론, 가드너의 다중 지능 이론이 그 예다. 이 이론들은 모두 지능이라는 실체가 있다고 전제한 뒤 몇 가지 이름 붙은 구성 요소로 나눴다. 인간이 소유한 능력을 분류한 체계였기에 벌이나 면역 세포, 파운데이션 모델로 자연스럽게 확장하기 어려웠다.
호크버그는 다른 질문에서 출발한다. ‘지능이란 무엇인가?‘가 아니라 ‘지능적인 시스템은 무엇을 하는가?‘를 묻는다. 답은 한 문장으로 요약된다. 지능은 결과나 목표를 만들어 내는 불확실성의 해소다. 어떤 과정이 목표를 향해 불확실성을 줄인다면 물리적 기반과 무관하게 같은 기준을 적용할 수 있다. 이 출발점에서 온도조절기와 체스 엔진, 문어, 파운데이션 모델, 문명을 일관된 방식으로 살펴볼 분석틀이 나온다.
이 관점을 기억해 둘 이유는 세 가지다.
- 어떤 시스템에도 적용된다. 뇌, 면역 세포, 파운데이션 모델, 도시의 교통망, 제도를 같은 척도에서 살필 수 있다. 크기가 크게 다를 뿐이다. 무엇이 ‘정말로’ 지능적인지를 둘러싼 끝없는 논쟁을 정량적인 질문으로 바꾼다.
- 설명 가능한 작동으로 나뉜다. 지능은 하나의 숫자가 아니라 목표의 난이도에 따라 달라지는 두 기초 역량, 해결(solving)과 계획(planning)의 프로필이다. 프로필은 지능 여부를 판정하는 문턱이 아니라 시스템의 강점과 약점을 설명한다.
- AGI와 초지능을 둘러싼 혼란을 풀어낸다. 두 개념은 지능이 어떤 시스템에 더 많이 담길 수 있는 물질이라고 가정한다. 지능을 난이도에 따라 달라지는 작동의 프로필로 보면 넘어야 할 단일 임계값 자체가 없다. 각 역량과 영역에서 더 높일 점수만 있을 뿐이다.
이제 호크버그가 제시한 작동 구조를 따라가며 두 역량이 무엇을 뜻하는지 살펴보자. 그런 다음 이 관점으로 AI를 둘러싼 흔한 혼란 몇 가지를 정리한다.
불확실성 해소로서의 지능
불확실성의 해소로서 본 지능. 행동 전에는 가능한 상태가 넓게 퍼져 있다. 행동 뒤에는 더 작은 영역으로 좁혀진다. 이 척도는 그 변화의 크기를 상호정보량의 비트 단위로 측정한다.
핵심 발상부터 보자. 호크버그에게 지능적 시스템이란 여러 가능성이 열려 있는 세계의 상태를 목표에 해당하는 하나의 상태로 좁혀 가는 시스템이다.
온도조절기는 “방이 목표 온도에 도달했는가”라는 불확실성을 해소한다. 목표보다 낮으면 릴레이를 닫아 히터를 켜고 방을 데운다. 작은 불확실성을 작게 해소하는 단순한 작동이지만, 이 척도에서는 지능의 한 형태다.
외과의는 “다음 절개를 어디에 해야 하는가”라는 불확실성을 해소한다. 환자의 몸은 수많은 변수가 얽힌 복잡한 상태다. 해부학 지식과 수술 기술, 오랜 임상 경험이 절개 위치를 밀리미터 단위로 정하는 판단에 녹아 있다. 큰 불확실성을 크게 줄이는 고도의 지능이다.
파운데이션 모델은 ‘이 문맥에서 다음 토큰은 무엇인가’라는 불확실성을 해소한다. 방대한 말뭉치로 학습한 모델은 언어와 코드, 이미지의 통계적 규칙성을 흡수했다. 예측 하나하나가 불확실성을 줄인다. 수백만 개의 맥락에서 누적되는 해소량은 엄청나지만 영역별 능력은 고르지 않다.
세 경우에 같은 작동이 일어난다. 사전확률과 기술을 갖춘 시스템이 여러 가능성이 열린 상태를 받아, 범위를 좁히는 행동이나 출력을 만든다. 호크버그의 틀은 바로 이 작동에 이름을 붙인다. 그래서 규모의 차이는 분석에서 제외할 이유가 아니라 살펴봐야 할 질문이 된다.
두 역량, 해결과 계획
호크버그의 핵심 그림. 목표는 하위 목표의 네트워크다. 해결 능력은 각 지점에서 줄일 수 있는 불확실성을 실제로 얼마나 줄이는지를 나타낸다. 계획 능력은 시스템이 전체 경로에서 어떤 지점을 어떤 순서로 택하는지를 나타낸다.
호크버그는 시스템의 핵심 역량을 해결과 계획으로 나눈다.
첫 번째는 해결이다. 해결은 하나의 하위 목표에서 국소적 불확실성을 해소하는 일이다. 체스의 각 수는 해결 행위다. 병뚜껑을 여는 것도 해결이다. 얼굴을 알아보는 것도 해결이다. 날아오는 공을 잡는 것도 해결이다. 시스템은 현재 상태를 받아, 자신이 가진 사전확률과 기술을 적용하고, 그 한 단계에 대한 불확실성을 줄이는 행동을 만들어낸다.
호크버그는 해결 품질을 하위 목표마다 계산한 비율의 평균으로 나타낸다. 어떤 목표가 개 단계로 나뉜다고 하자. 각 단계 에는 해소할 수 있는 불확실성의 양이 있다. 목표 의 단계 에서 해소 가능한 정보량을 라고 하자. 실제로 해소한 양은 다. 해결 품질은 모든 단계에서 가능한 양 가운데 실제로 해소한 비율을 평균한 값이다.
말로 풀면 이렇다. 해결 품질 는 개 하위 목표에서 얻은 평균 점수다. 각 점수는 해소 가능한 불확실성 가운데 시스템이 실제로 줄인 비율이다. 모든 단계에서 가능한 불확실성을 전부 해소하면 이고, 아무것도 해소하지 못하면 이다. 실제 시스템의 값은 그 사이에 놓인다. 방이 설정 온도보다 낮을 때 릴레이를 닫는 온도조절기는 매 주기 관련된 국소 불확실성을 거의 전부 해소한다. 복잡한 국면을 마주한 초급 체스 선수는 같은 국면의 그랜드마스터보다 더 작은 비율을 해소한다. 같은 문제라도 는 다르다.
두 번째는 계획이다. 계획은 궁극 목표를 향해 하위 목표를 가장 알맞은 순서로 배열하는 일이다. 체크메이트에 이르는 30수의 순서를 짜는 일도, 연구 프로그램을 설계하고 달 탐사선 발사를 조율하는 일도 계획이다. 계획은 가능한 단계의 네트워크에서 올바른 경로를 고르는 능력이다. 그 경로의 각 단계를 직접 수행하는 능력과는 다르다.
Hochberg는 계획 품질도 비슷한 비율로 쓴다. 시스템이 선택한 실제 경로를 최적 경로와 비교하는 것이다. 실제 경로는 개의 노드를 갖고, 각 노드에서 정보 를 가진다. 최적 경로는 개의 노드를 갖고, 각 노드에서 정보 를 가진다. 계획 품질은 실제 경로의 단계당 평균 정보량을, 최적 경로의 단계당 평균 정보량으로 나눈 값이다.
말로 읽으면 이렇다. 계획 품질 는 시스템이 선택한 경로가 최적 경로와 맞아떨어질수록 1에 가까워진다. 각 단계가 얻을 수 있는 정보를 최대한 많이 담을 때다. 경로가 돌아가거나 최선의 대안보다 정보량이 적은 단계를 선택하면 값은 떨어진다. 거의 최적인 30수짜리 체크메이트 경로를 찾는 체스 엔진은 높은 를 갖는다. 불필요한 수를 거듭 둔 끝에 우연히 체크메이트에 도달하는 엔진은 값이 낮다.
그다음 Hochberg는 목표 를 다루는 시스템 에 대해 해결과 계획을 하나의 지능 척도로 결합한다.
위의 위첨자 은 관련성으로 가중된 해결 버전임을 표시한다. 각 하위 목표가 궁극 목표에 얼마나 기여하는지에 따라 가중한다는 뜻이다. 와 는 합이 1인 가중치이며, 해당 목표 종류에서 계획이 얼마나 중요한지를 인코딩한다. 이면 지능은 순수한 해결이다. 시스템은 온도조절기처럼 반응적이다. 이면 계획이 점수에 필수적이 된다. 시스템은 경로의 품질이 모든 것인 다단계 목표와 씨름하고 있는 것이다.
방정식의 형태에는 하나의 구조적 주장이 담겨 있다. 해결 능력은 식에서 반드시 곱해지는 기본 항이다. 계획은 해결 능력의 효과를 증폭하며, 목표가 얼마나 복잡한지에 따라 가중치가 달라진다. 단순한 목표에서는 해결 능력만으로도 높은 지능을 보일 수 있다. 복잡한 목표에서는 해결 품질이 같아도 계획이 나쁘면 지능 점수가 크게 낮아진다.
두 역량은 서로 분리될 수 있다. 온도조절기는 계획 없이 매 주기마다 불확실성 한 비트를 다루는 순수한 해결을 수행한다. 미니맥스를 실행하는 체스 엔진은 탐색 트리의 각 노드에서 문제를 해결하고, 그 노드를 잇는 경로를 계획한다. 외과의는 수술 전체의 거시적 계획 안에서 각 절개라는 고난도 문제를 해결한다. 해결 능력이 없는 계획자는 경로를 실행할 수 없다. 계획이 없는 해결자는 국소 문제에는 강해도 여러 문제를 장기 목표로 연결하지 못한다.
호크버그의 틀이 여러 대상에 자연스럽게 적용되는 이유가 여기에 있다. 시스템마다 해결과 계획의 프로필이 다르며, 우리가 “지능적”이라는 말을 쓸 때 나타내고 싶은 것은 바로 그 프로필이다. 온도조절기는 아주 작은 문제에서 해결 점수가 높고 계획 점수는 0이다. 문명은 수십억 개의 뇌와 여러 세대에 분산된 채 두 축 모두에서 대단히 높은 점수를 낸다. 파운데이션 모델은 검색·회수와 패턴 완성에서 해결 점수가 높지만, 오랜 시간 목표를 추구해야 하는 과제에서는 계획 점수가 낮다.
호크버그는 인지심리학의 익숙한 구분도 활용한다. 시스템에 저장되어 필요할 때 꺼내 쓰는 지식인 결정성 지능과, 낯선 문제를 그 자리에서 추론하는 능력인 유동성 지능이다. 둘은 별도의 역량이라기보다 해결과 계획이 활용하는 자원이다. 결정성 지능은 익숙한 문제를 더 빨리 풀고 계획하게 하며, 유동성 지능은 낯선 문제에서도 해결과 계획을 가능하게 한다. 따라서 시스템의 지능 프로필은 눈앞의 목표에 맞춰 두 자원을 어떻게 조합하는지까지 보여 준다.
직접 경로를 만들어 볼 수도 있다. 가운데 세 열에서 노드를 하나씩 눌러 선택이 바뀔 때마다 해결 품질 𝕌, 계획 품질 𝔸, 결합 지능 𝕀가 어떻게 달라지는지 살펴보자. 최적 경로와 일부러 고른 나쁜 경로를 차례로 시험하면 계획 품질의 변화를 확인할 수 있다.
난이도와 지능의 활동 영역
호크버그는 분석틀 전체에 중요한 요소를 하나 더 도입한다.
목표에 대한 수행은 절대적인 기준으로 평가될 수 없다. 목표는 시스템의 역량에 상대적으로 어렵다. 아이가 2+2를 푸는 것은 그 수준에서는 진짜 지능을 보이는 일이다. 체스 그랜드마스터가 같은 산수를 하는 것은 딱히 별 의미가 없다. 같은 문제, 같은 정답, 완전히 다른 지능 판독값.
호크버그의 틀에서는 이를 목표의 내재적 복잡도와 그 목표를 다루는 시스템의 기대 능력 사이의 비율로 나타낸다.
말로 읽으면 이렇다. 목표 의 난이도 는 목표의 내재적 복잡도 , 즉 그것을 달성하는 데 필요한 최소 정보량을, 같은 목표에 대한 시스템의 기대 능력 로 나눈 값이다. 이면 목표가 시스템의 전형적 역량을 넘어선다. 정말 어렵다는 뜻이다. 이면 목표가 시스템의 주특기 안에 있다. 쉽다는 뜻이다. 2+2 예시는 여기서 깔끔하게 읽힌다. “2+2”의 복잡도 는 두 경우 모두 같다. 아이의 능력 는 작고, 그랜드마스터의 능력 는 크다. 그래서 는 아이에게는 거대하고 그랜드마스터에게는 아주 작다. 같은 문제, 완전히 다른 난이도, 그리고 그것을 보정하고 나면 완전히 다른 지능 판독값.
난이도는 절대값이 아니라 비율이다. 같은 문제라도 누구의 역량이 늘어나고 있는지에 따라 완전히 다른 지능 판독값을 만든다.
지능은 시스템이 자기 역량의 한계를 넓히는 목표를 다룰 때 드러난다. 이미 익숙한 문제를 처리하는 모습만으로는 충분히 알 수 없다. 난이도 비율 덕분에 온도조절기와 뇌를 같은 기준으로 설명하면서도 단순한 일렬 순위로 환원하지 않을 수 있다. 각 시스템을 저마다의 역량에 맞는 목표로 평가하기 때문이다.
이 상대적 관점은 호크버그가 **지능의 활동 영역(intelligence niche)**이라고 부르는 개념으로 이어진다. 생물 종의 생태적 지위가 무엇을 먹고 무엇에게 먹히는지에 따라 정해지듯, 지능적 시스템의 활동 영역은 어떤 목표를 추구하고 어떤 역량을 발휘하는지에 따라 정해진다. 벌에게는 꽃을 찾고 위치를 알리며 꿀을 만드는 일이 해당한다. 파운데이션 모델에게는 학습한 말뭉치 전반에서 패턴을 완성하는 일이 해당한다. 인간 문명은 손이 닿는 물리 세계 거의 전체를 활동 영역으로 삼는다.
이 개념 덕분에 틀은 단순한 비교를 넘어 설명의 도구가 된다. 벌이 파운데이션 모델보다 “더 지능적인가”를 묻는 대신, 각자가 자기 활동 영역에서 필요한 해결과 계획을 얼마나 잘 수행하는지 물을 수 있다.
해결자와 계획자의 스펙트럼
지능이 물질이 아니라 프로필이 되면, 우리는 시스템들을 순위로 밀어 넣지 않고도 연속선 위에 놓을 수 있다.
지능은 하나의 점수가 아니라 여러 역량으로 이루어진 프로필이다. 시스템마다 자기 활동 영역에 따라 다른 위치를 차지하며, 단 하나의 순위로 환원되지 않는다.
물리 시스템은 가장 원초적이고 반응적인 형태의 해결을 수행한다. 과포화 용액에서 결정이 형성되면 분자의 위치를 둘러싼 막대한 국소 불확실성이 줄어든다. 행위자가 추구하는 목표는 없지만, 호크버그의 틀에서는 이 작동도 해결에 해당한다. 물리적 과정 자체가 이미 이 척도의 가장 단순한 형태를 보여 준다.
생물학적 시스템은 능동적 해결과 계획의 시작을 발전시킨다. 화학적 구배를 따라 움직이는 박테리아는 어느 방향이 구배를 올라가는 방향인지에 대한 국소 불확실성을 해결한다. 먹잇감을 사냥하는 동물은 이런 해소들을 여럿 통합해 계획에 가까운 시퀀스로 만든다. 포유류는 분명한 계층적 계획을 보인다. 영장류는 그것을 더 밀어붙인다. 계통 발생의 기록은 해결에서 계획이 서서히 출현해온 과정을 추적한다.
인간 인지는 계층적 계획이 지배적 모드가 되는 기반이다. 각 세대는 언어, 문자, 제도를 통해 거대한 사전 지식 재고를 물려받고, 그것을 사용해 어떤 개인의 뇌도 혼자 계산할 수 없는 시간 범위에 걸쳐 계획한다. 문명은 거대한 검색과 실행 기반 위에서 돌아가는 분산 계획 기계다.
인공 시스템은 이 연속선 위의 흥미로운 지점에 놓인다. 파운데이션 모델은 여러 영역에서 대규모로 문제를 해결하며, 검색과 패턴 완성에서 높은 점수를 낸다. 기본 상태에서는 계획이 얕지만 사고 과정 유도나 에이전트 구조 같은 보조 장치를 붙이면 더 길게 계획할 수 있다. 다만 해결 품질이 낮아질 때도 있다. 휴대용 계산기는 산술을 완벽하게 풀지만 그 밖의 일은 하지 못하고, 체스 엔진은 매우 좁은 목표 공간에서 깊게 계획한다. 시스템마다 고유한 프로필을 지니며 이를 하나의 “지능 수준”에 대응시킬 수는 없다.
중요한 것은 연속선이다. 범주는 우리가 편의상 만들어 낸 구분일 뿐이다.
이 관점이 AGI와 초지능을 둘러싼 혼란을 푸는 이유
지능을 범주로 보는 관점의 문제는 존재하지 말아야 할 두 개념을 만들어낸다는 것이다.
첫 번째는 인공 일반지능(artificial general intelligence), 곧 AGI다. AGI는 기계가 범용 지능이라는 단일 능력을 획득하는 순간을 가리킨다고 여겨진다. 기계에 맞춰 확장한 g 요인과 비슷한 발상이다. 그러나 지능이 여러 틈새에 걸친 해결과 계획의 프로필이라면 AGI라는 개념이 가리킬 단일한 대상은 사라진다. 여러 틈새에서 문제를 잘 해결하고 계획하는 시스템은 분명 인상적이고 유용하다. 다만 이는 특별한 범주로 도약했다기보다 여러 유형의 목표에서 기초 역량 점수가 높다는 뜻이다.
두 번째는 **초지능(superintelligence)**이다. 이 개념은 어떤 시스템이 인간보다 더 많은 지능을 가져 질적으로 다른 존재가 된다고 상상한다. 지능이 양을 늘릴 수 있는 물질이라면 말이 되지만, 여러 틈새에서 나타나는 해결과 계획의 프로필이라면 이야기가 달라진다. 파운데이션 모델은 이미 일부 해결 과제에서 개인보다 높은 점수를 내고, 계산기는 산술에서, 체스 엔진은 체스에서 인간을 넘어선다. 그렇다고 이들을 보통 말하는 초지능이라고 부르지는 않는다. 좁은 틈새의 일부 작동에서는 매우 뛰어나지만 다른 곳에서는 평범하거나 낮은 점수를 내기 때문이다. 미래 시스템이 더 많은 틈새와 작동에서 높은 점수를 받는다면 더 폭넓게 유능한 것이지 범주 자체가 달라지는 것은 아니다.
이것은 AI에 대한 비관론이 아니다. 지금 만들어지고 있는 시스템들은 인류가 지금까지 만든 가장 강력한 지식 도구다. 그것들은 사람들이 일하는 방식, 연구가 수행되는 방식, 소프트웨어와 예술이 만들어지는 방식을 바꾸고 있다. 그것들을 배치하면서 따라오는 생산성과 가치의 지수적 성장은 실제이고 눈에 보이며, 곧 느려질 것이라고 생각할 이유도 없다. Arvind Narayanan과 Sayash Kapoor는 AI as Normal Technology에서 AI의 효과가 다른 모든 변혁적 기술이 사용해온 같은 통로를 통해 퍼진다고 주장했다. 즉 채택, 인프라, 규제, 그리고 기존 도구와의 재조합이다. AI를 구세주이든 위협이든 독특한 종류의 존재로 취급하는 것은 대화를 왜곡한다. 특정 니치에서 높은 해결-계획 점수를 가진 도구로 취급하는 것은 대화를 명료하게 한다.
AGI 도달의 순간이나 superintelligence 임계값에 의존하는 전망들은 근거가 없다. 그 전망들이 말하는 물질이 존재하지 않기 때문이다. 진보는 실제이고, 가치 창출도 실제이며, 곡선은 계속 올라간다. 범주의 도약은 범주 오류다.
프록시, 그리고 다음 시리즈로 가는 다리
마지막으로 호크버그는 중요한 요소를 하나 더 제시한다.
해결과 계획을 반드시 시스템 자체가 수행할 필요는 없다. 시스템이 이용하는 **대리 수단(proxies)**이 대신할 수 있다. 호크버그는 환경과 기술, 사회, 집단이 지능의 일반 이론에 반드시 포함되어야 한다고 주장한다. 계산기를 든 사람은 계산기 없이 계산할 때보다 산술 문제를 더 잘 풀고, 동료심사망에 연결된 과학자는 혼자일 때보다 연구를 더 잘 계획한다. 도서관과 검색 엔진, 실험실을 갖춘 문명은 개인이 혼자서는 도달할 수 없는 규모로 해결과 계획 능력을 확장한다.
대리 수단은 그 자체로 구현된 지식이다. 뇌 안에서 처리해야 할 인지 작업을 외부 세계의 도구와 제도에 맡긴다. 그러면 그 지식은 검토하고 개선하며 물려줄 수 있다. 좋은 대리 수단을 찾아 통합하는 능력도 지능 프로필의 일부이며, 인간 문명을 생물학적 기준선 위로 끌어올린 핵심 역량일 수 있다.
Hochberg의 전체 아키텍처. 하나의 Controller는 자신의 해결과 계획을 증강하는 네 층의 프록시(환경, 전송, 진화) 안에 박혀 있다. 다음 시리즈는 이 각 층에서 무슨 일이 벌어지는지를 추적한다. (Hochberg 2024, Fig 9)
이 지점에서 다음 시리즈인 진화하는 도구들로 넘어간다. 이 시리즈는 그런 대리 수단이 무엇이며 어떻게 축적되는지 살핀다. 첫 글 도구, 지식의 물리적 구현체는 경험의 인코드, 맥락에 맞는 검색·회수, 세계를 향한 활성화라는 인지과학의 틀을 소개한다. 도구가 문명의 지능과 결합하는 7단계 과정은 문명이 새로운 형태의 지능을 가치로 흡수하는 일곱 층을 추적한다. 마지막 글 빛이 있으라는 해결과 계획의 일부를 직접 수행할 만큼 풍부한 새로운 대리 수단을 살핀다.
이 글에서 ‘지능’이라 부른 것은 척도다. 다음 시리즈는 그 척도에서 성과를 내는 도구와 외부 지식 구조를 추적한다.
이 글은 무한한 지식 시리즈의 네 번째 글이며, 두 가지 엔트로피, 어둠에 맞서는 것, 두 개의 루프의 뒤를 잇는다. 이 분석틀이 가리키는 대리 수단은 진화하는 도구들 시리즈에서 이어서 다룬다. 첫 글은 도구, 지식의 물리적 구현체다. 여기서 사용한 분석틀은 마이클 호크버그의 지능들의 이론이며, 프랑수아 숄레의 지능의 측정에 관하여는 경험 대비 기술의 비율로 지능을 측정하는 관련 연구다. AI를 특별한 종류의 존재가 아니라 여느 변혁적 기술처럼 작동하는 것으로 보는 더 넓은 관점은 아르빈드 나라야난과 사야시 카푸르의 정상 기술로서의 AI를 참고할 수 있다.