아마존 지역의 원주민 공동체는 적어도 수천 년 동안 마니옥을 같은 방식으로 조심스럽게 가공해 왔다. 껍질을 벗기고 갈아 물에 헹군 뒤 며칠을 기다린다. 현대인의 눈에는 쓸데없는 지연처럼 보일 수 있다.
그러나 기다림에는 이유가 있다. 가공하지 않은 마니옥에는 청산성 화합물이 들어 있고, 전통적인 가공 과정은 이를 없앤다. 이 화합물은 사람의 몸을 천천히 해친다. 제대로 가공하지 않은 마니옥을 먹은 가족의 자녀나 손주에게 수십 년 뒤 ‘콘조’라는 심각한 신경계 질환이 나타날 수 있다. 원인과 결과 사이에 30년과 두 세대가 놓여 있으므로, 전통 안의 어느 한 사람도 관찰만으로 이 인과관계를 알아낼 수 없었다.
이 의식을 지키는 공동체 구성원도 이런 과학적 설명을 알지는 못했다. 인류학자가 이유를 물었을 때 돌아온 답은 정령이나 전통에 관한 이야기였다. 사람들은 원리를 이해해서가 아니라 물려받았기 때문에 그 관행을 이어 갔다. 이런 사례를 연구해 온 인류학자 조지프 헨릭은 여기서 피할 수 없는 결론을 끌어냈다. 이 의식은 공동체의 어느 한 사람도 온전히 갖고 있지 않은 지식이다. 여러 세대의 시행착오에 맞춰 형성된 제약이며, 이유를 이해하는 사람이 없어도 공동체가 아이들을 서서히 중독시키지 않게 지켜 준다.
문명은 하나의 믿음 체계다. 제도와 법, 종교, 과학 패러다임, 처음 생긴 이유를 잊은 관습 속의 암묵지가 매개변수 역할을 한다. 역사 기록과 구전 전통, 구성원이 살아온 경험이 학습 데이터다. 사회를 어떻게 조직하고 위기에 어떻게 대응할지 내리는 판단이 예측값이다. 문명이 사람처럼 믿음을 ‘갖는’ 것은 아니다. 다만 수백만 명에게 분산되어 있고 건물과 도시 공간, 성문화된 기록에 물질적 형태로 남은 모델이 있다. 개인의 직감이 낯선 사람을 해석하듯, 이 모델도 현재를 해석하고 미래를 전망한다. 문명은 어느 한 사람도 접할 수 없는 데이터로 학습했기 때문에 구성원이 모르는 것을 안다.
앞선 글에서는 믿음을 직접 볼 수 없는 모델의 출력으로 설명했다. 그 모델은 각자가 우연히 살아온 제한된 경험에 맞춰져 있으며, 모든 모델에는 같은 상충 관계가 있다. 모델을 촘촘하게 만들면 익숙한 분야를 더 선명하게 보지만 세계가 바뀔 때 쉽게 흔들린다. 느슨하게 만들면 변화에는 강해지지만 해상도가 낮아진다. 둘을 동시에 얻을 수는 없다. 이번 글은 이 제약이 개인의 머릿속을 넘어 모든 규모에서 어떻게 작동하는지 살펴본다.
실패의 모습은 익숙하다. 코닥은 사진 산업의 미래가 화학 필름에 있다고 믿었다. 노키아는 휴대전화의 미래를 뛰어난 하드웨어에서 찾았고, 블록버스터는 오프라인 대여점에서 찾았다. 한동안은 모두 현실에 아주 잘 맞는 판단이었다. 그러나 시장은 각 모델이 예상하지 못한 속도로 바뀌었다. 밖에서 보면 전략의 실패였지만, 안에서 일어난 일은 믿음 모델의 실패였다. 조직의 집단적 렌즈가 이미 떠나가 버린 세계에 대해 선명하고 자신 있는 예측을 계속 내놓았다.
과적합은 성공이 낳는 병리다. 시스템이 학습한 환경에서 능숙해질수록 그 밖에서는 더 쉽게 깨질 수 있다. 외과의에게도, O링의 이상 징후를 점차 정상으로 받아들이다가 챌린저호 참사를 맞은 NASA에도, 언젠가 틀리게 될 전제 위에 갈수록 정교한 제도를 쌓는 문명에도 적용된다. 반대편에는 지나친 단순화가 낳는 과소적합이 있다. 환경에 비해 너무 거친 믿음 모델은 계속 뜻밖의 사건을 만난다. 신입 직원과 자원이 부족한 규제기관, 몇 가지 목표만으로 복잡한 경제를 통제하려는 중앙계획자가 같은 문제를 겪는다.
제임스 마치는 1991년 논문에서 이 메커니즘을 정식화했다. 조직은 이미 하는 일을 더 잘하는 활용과, 대신 할 수 있는 다른 일을 찾는 탐색 사이에서 긴장한다. 활용은 분산이 낮고 안정적이며 효율적이고 측정하기 쉽다. 탐색은 분산이 높고 불확실하며 비용이 들고, 성과 없이 끝날 때도 많다. 마치의 핵심 발견은 조직이 활용에 체계적으로 지나친 투자를 한다는 것이었다. 활용의 성과는 더 빨리 나타나고 측정하기도 쉽기 때문이다. 그 결과 조직은 서서히 낡아 가는 현실에 놀라울 만큼 능숙해진다.
그러나 마니옥 사례가 더 낯설고 유익한 까닭은 그 믿음 모델이 실패하지 않았기 때문이다. 오히려 너무 잘 작동해 아무도 작동 원리를 볼 수 없었다. 식민화나 산업화, 더 ‘합리적인’ 관행으로 전통을 자신 있게 대체하는 과정에서 이런 제약을 없애면, 믿음 모델은 말로 설명하지 못하던 정규화 장치를 잃는다. 새 환경에 과적합한 피해가 수십 년 뒤에야 드러날 수 있다. 이제 규모가 커진 믿음 모델이 무엇을 하고 어디에 저장되며, 얼마나 빨리 변하는지, 그리고 현실에서 벗어나지 않게 하려면 무엇이 필요한지 살펴보자.
믿음 모델은 어디에 있고 얼마나 빨리 바뀌는가
믿음 모델은 규모만 다른 것이 아니다. 서로 다른 기반에 자리 잡고 서로 다른 속도로 갱신된다. 그 차이가 각 모델이 빠지기 쉬운 오류를 결정한다.
개인은 신경 패턴과 도식, 몸에 밴 기술에 믿음 모델을 저장한다. 맥락이 풍부하고 곧바로 꺼내 쓸 수 있지만 오래 남지는 않는다. 사람과 함께 사라지고 노화나 트라우마로 약해진다. 반대로 한나절 만에 바뀌기도 한다.
조직은 절차와 표준운영절차(SOP), 데이터베이스, 내부자만 아는 비공식 규범에 믿음 모델을 저장한다. 구성원 한 명이 떠나도 유지되지만 개인의 모델보다 천천히 바뀌고 쉽게 굳어진다. 2005년에 타당한 이유로 만든 절차가 2026년에도 이어질 수 있다. 아무도 만든 이유를 기억하지 못하고, 없앤 책임을 지려는 사람도 없기 때문이다. 조직이 방향을 바꾸려면 고통스러운 한 분기가 걸릴 수 있다.
문명은 법과 헌법, 종교와 언어, 과학 문헌, 도제식 교육으로 전해지는 방대한 암묵적 관행에 믿음 모델을 저장한다. 가장 천천히 갱신되고 개인의 변화에는 가장 강하지만, 한 번 잊으면 돌이키기 어려운 망각에도 가장 취약하다. 고대 후기의 라틴어 문해력과 콘크리트 기술 상실, 명나라가 정화의 항해 기록을 폐기한 일, 문화대혁명이 교사와 도서관을 체계적으로 파괴한 일은 같은 실패의 사례다. 문명의 깊은 전제는 수십 년이나 수백 년에 걸쳐 바뀌며, 아예 바뀌지 않을 때도 있다.
편향과 분산의 상충 관계는 시간 규모마다 다르게 나타난다. 개인의 모델은 분산이 높고 편향은 비교적 낮다. 렌즈의 방향을 빨리 바꿀 수 있다. 문명의 모델은 그 반대다. 수백 년 된 전제가 안정적으로 유지되고, 다른 수많은 구조를 떠받치기 때문에 쉽게 고칠 수 없다.
이 비대칭은 특유의 실패를 만든다. 개인 수준의 분산을 조직과 문명 수준의 편향이 눌러 버린다. 은행의 신입 분석가가 기존 모델이 놓친 위험을 발견한다. 그러나 우려는 이전 환경에 맞춰진 조직의 관행에 흡수된다. 그 관행은 다시 더 오래전 위기에 맞춰진 규제 체계 안에 놓여 있다. 세 모델은 저마다 다른 시간축에서 과적합되어 있고, 오류를 바로잡을 신호가 한 층을 지날 때마다 약해진다. 그 결과 전체 시스템은 어느 한 모델만으로는 생기지 않을 방식으로 취약해진다.
탐색의 모습도 규모에 따라 다르다. 개인은 새로운 기술을 배우고 자기 분야 밖의 글을 읽으며 직업을 바꿔 탐색한다. 조직은 연구개발과 독립 혁신 조직에 투자하고 업계 밖에서 사람을 채용한다. 문명은 종교적 다원주의와 자유로운 탐구, 반대 의견, 서로 경쟁하는 여러 관할권을 유지하고 같은 문제에 다양한 접근을 허용함으로써 탐색한다. 엘리너 오스트롬의 공유자원 거버넌스 연구와 다중심 거버넌스 연구가 보여 주는 핵심은, 다양하고 어느 정도 독립된 의사결정자의 집합이 하나의 중앙계획자보다 새로운 상황에 더 잘 대응한다는 사실이다. 여러 의사결정나무를 결합한 모델이 나무 하나보다 일반화 성능이 좋은 것과 같은 이유다. 서로 다른 오류가 자원이 되고, 집계가 그 자원을 활용하는 메커니즘이 된다. 다만 각 오류가 실제로 독립적일 때만 작동한다.
모든 믿음 모델이 답해야 할 세 가지 질문
지금까지는 믿음 모델이 어떻게 작동하고 실패하며 제약받는지를 살펴봤다. 이제 남는 질문은 우리가 이 모델을 어떻게 다뤄야 하는가이다. 개인과 조직, 문명 모두 끝없이 복잡한 현실을 제한된 모델로 이해해야 한다면, 그 모델을 어떻게 점검하고 다듬고 갱신해야 할까?
질문은 세 갈래로 나뉘며 뒤로 갈수록 더 어렵다.
무엇을 최적화하는가?
머신러닝에서는 학습을 시작하기 전에 손실 함수를 정하고, 전체 시스템은 그 값을 줄이도록 움직인다. 삶의 목표는 다차원적이고, 이해관계자마다 원하는 바가 다르며, 성공의 뜻도 시간에 따라 달라진다. 굿하트의 법칙은 측정 지표가 목표가 되는 순간 좋은 지표로서의 기능을 잃는다고 경고한다.
국내총생산(GDP)이 대표적인 사례다. 경제 상태를 묘사하는 통계로 만들어졌지만 문명의 목표가 됐고, 이제는 생태 파괴와 불평등을 체계적으로 부추기기도 한다. 최적화 압력이 지표와 실제로 추적하려던 대상 사이의 관계를 비틀었기 때문이다. 같은 현상은 표준화 시험이 교육과정을 왜곡하는 교육, 행위별 수가제가 진료를 왜곡하는 의료, 참여도 지표가 정보 생태계를 왜곡하는 기술 분야에서도 나타난다.
개인의 믿음 모델에서도 어떤 신호를 옳다는 증거로 볼지 물어야 한다. 지위를 중시하면 모델은 지위를 예측하는 데 능숙해지고, 소득을 중시하면 소득을 예측하는 데 능숙해진다. 보상하는 것은 잘 만들어 내지만, 보상 항목에서 빠뜨린 것은 모델에도 담기지 않는다.
모델이 여전히 현실에 맞는지 어떻게 아는가?
이는 점검의 문제다. 개인에게는 보정이 필요하다. “이 정도로 확신할 때 실제로 얼마나 자주 맞는가?”라고 묻고 답을 정직하게 확인하는 습관이다. 예측 연구에 따르면 별도 훈련을 받지 않은 사람은 자신의 확신 정도와 실제 적중률을 좀처럼 일치시키지 못하며, 훈련을 거치면 나아질 수 있다.
조직에는 구조화된 반대 의견과 레드팀, 사전 부검, 실제 사고만큼 아차 사고를 진지하게 다루는 규율이 필요하다. 문명에는 조너선 라우치가 “지식의 헌법”이라고 부른 제도가 필요하다. 경험주의와 반증 가능성, 자유로운 탐구, 제도화된 이견을 통해 대규모 믿음 체계가 오류를 고치게 하는 규범이다. 점검이 무너져 보정은 오만이 되고, 반대 의견은 불충으로 간주되며, 경험적 판단은 정치적 이해관계에 종속되면 믿음 체계는 큰 충격이 닥치기 전까지 과적합을 알아차리지 못한다.
어느 속도로 갱신해야 하는가?
너무 빨리 바꾸면 잡음을 좇게 된다. 새 데이터가 들어올 때마다 방향을 틀면 시스템은 한곳에 수렴하지 못하고 흔들린다. 반대로 너무 느리면 낡은 가정을 고착시킨다. 세계는 이미 바뀌었는데 모델만 알아차리지 못한다. 적절한 속도는 현실의 변화가 일어나는 시간축에 달려 있다. 개인의 믿음은 조직의 절차보다 빨리, 조직의 절차는 헌법 질서보다 빨리 바뀌어야 한다. 이 시간축이 무너지면 병적인 진동이나 경직이 생긴다. 선거 때마다 헌법을 고치는 문명은 진동하고, 수십 년 동안 반대 증거를 보고도 핵심 믿음을 바꾸지 않는 개인은 경직된다. 어느 쪽도 제대로 작동하지 않는다.
가장 강건한 믿음 모델은 일종의 이중 기억 구조를 사용한다. 새 정보를 받아들이는 빠르고 유연한 장치와, 힘들게 얻은 구조적 지식을 보존하는 느리고 통합된 장치를 나란히 둔다. 개인에게는 작업 기억과 장기 기억, 조직에는 기민한 팀과 운영 중심부, 문명에는 자유 언론·과학 사전 공개와 헌법 질서가 각각 이 쌍을 이룬다. 뇌도 실제로 같은 구조를 쓴다. 빠르고 희소한 해마 체계가 경험을 신속하게 부호화하고, 느리고 분산된 대뇌피질 체계가 서서히 통합한다. 조직의 혁신 연구소와 운영 조직, 문명의 유연한 입법과 경직된 헌법에서도 같은 구조를 볼 수 있다. 서로 다른 속도로 가는 두 시계를 일부러 함께 두는 셈이다. 그래야 세계의 변화를 따라가면서도 행동의 토대가 되는 깊은 구조를 잃지 않는다.
실천
편향-분산 트레이드오프는 곡선 맞춤에 관한 정리에서 출발했지만, 변하는 세계에서 제한된 경험으로 배우는 모든 시스템의 핵심 제약을 설명한다.
그 제약은 피할 수 없다. 편향을 없애면 분산이 커지고, 분산을 줄이면 편향이 생긴다. 대신 어디에서 작동할지 의식적으로 선택할 수 있다. 적정 구간 가까이에 머물게 할 정규화 장치를 만들고, 환경이 변했음을 알려 줄 점검 체계를 운영하며, 무엇이 중요한지에 대한 이해가 깊어질 때 최적화 목표도 고쳐야 한다. 모든 규모에서 정규화는 회복탄력성의 구조다.
앞선 세 글은 믿음을 선택할 수 있다는 점, ‘믿음’이라는 한 단어가 여섯 가지 기능을 품고 있다는 점, 믿음이 직접 볼 수 없는 모델의 출력이라는 점을 차례로 다뤘다. 이번 글은 여기에 네 번째 주장을 보탠다. 편향과 분산의 문제는 개인을 넘어 조직과 문명으로 확장되며, 이에 대응하는 실천도 함께 확장되어야 한다.
개인에게 필요한 것은 전문성을 가볍게 다루는 태도다. 겸손해 보이기 위해서가 아니라 판단 모델이 한정된 경험에서 만들어졌음을 잊지 않기 위해서다. 모델은 실제로 유용하지만, 모델을 만든 경험의 범위는 계속 변한다. 깊은 숙련을 유지하면서도 과거 경험에 붙잡히지 않고, 과거 성공의 겉모습보다 작동 원리를 부호화하며, 자기 모델을 깨뜨리는 관측값을 환영해야 한다. 바로 그 관측값이 렌즈가 현실에서 어긋났음을 알려 주기 때문이다.
조직은 활용과 탐색을 동시에 할 수 있는 제도를 만들어야 한다. 합의만큼 반대 의견에도 보상하고, 현재 모델이 해석하지 못하는 신호를 알아챌 흡수 능력에 투자해야 한다. 문명은 대규모 믿음 체계가 실수에서 배우고 확신만 강화하지 않도록 다중심적이고 다원적이며 경험주의적인 구조를 지켜야 한다.
어느 규모에서나 실천은 같다. 이미 바뀌었을지 모르는 환경에 대해 모델이 또렷하고 자신 있는 출력을 내놓는 순간을 알아차려야 한다. 반대로 익숙한 환경에서도 머뭇거리는 출력만 내놓는다면 경험이 더 필요하거나 다른 관점이 필요하다는 신호일 수 있다. 아직 없는 정규화 장치는 의식적으로 만들어야 한다.
자신의 믿음에 반하는 글을 읽고, 피해 온 대화를 시작하며, 외면해 온 지표를 확인하고, 느슨해진 실천을 다시 시작하는 일이다. 일부러 만들어야 한다.
이 글은 믿음의 주체성, 당신은 무엇을 믿는가?, 세상을 바라보는 렌즈에 이은 ‘강력한 믿음’ 시리즈의 네 번째 글이다. 논의는 제임스 마치의 탐색과 활용 연구, 조지프 헨릭의 문화 진화 연구, 엘리너 오스트롬의 다중심 거버넌스 연구, 조너선 라우치의 지식의 헌법, 인지신경과학의 이중 기억 구조 연구를 바탕으로 한다.