단어 하나, 문장 여섯 개, 프로필 여섯 개. 문장이 넘어갈 때마다 다각형은 형태를 바꾼다. 단어는 바뀌지 않는다.
1877년, 영국 수학자 W.K. Clifford는 작고 끔찍한 이야기로 한 에세이를 열었다.
한 선주가 이민선을 바다로 내보내려 한다. 그는 그 배가 낡았다는 것을 안다. 의심의 목소리도 들었다. 검사를 받을 비용도 낼 수 있다. 하지만 그는 그 배가 이미 무사히 마친 항해들을 떠올리고, 불길한 예감을 밀어내고, 배가 버틸 것이라고 스스로를 설득한다. 그는 부두에 서서 “자기 배가 철저히 안전하고 항해에 적합하다는 진실하고 편안한 확신”과 승선한 가족들을 향한 선의의 바람을 품고 배가 떠나는 것을 지켜본다. 배는 대서양 한가운데서 가라앉고, 선주는 보험금을 수령한다.
Clifford의 요점은 그 남자가 사악했다는 것이 아니었다. 그는 진실했고, 그의 믿음(belief)도 진심으로 품은 것이었다. Clifford가 고발하려던 것은 불충분한 증거 위에서 이루어진 믿는 행위 자체였다. 그는 그 잘못을 누구보다 분명하게 말했다. “언제나, 어디서나, 누구에게나, 불충분한 증거 위에서 무언가를 믿는 것은 잘못이다.” 선주는 배가 항해에 부적합할 수도 있다는 사실을 그저 알고 있는 것이 아니다. 그는 배가 항해에 적합하다고 믿고, 바로 그 믿음이 승객들을 바다로 보낸다.
우리는 거의 150년 동안 이 우화의 변주를 써 왔다.
오늘날 그 배는 병원 재입원 위험 모델이다. 선주는 그것을 만들고 배포하는 임상 팀이다. 승객들은 이제 모델이 자신의 30일 재입원 위험에 대해 무엇을 “믿는지”에 따라 퇴원 계획, 후속 진료 예약, 가정 방문이 조정되는 환자들이다. 모델에는 내면의 삶이 없다. 그것에 의존하는 임상의들은 출력이 무엇을 뜻하는지에 관해 대체로 말로 드러나지 않는, 신뢰와 유보가 섞인 복잡한 태도를 갖고 있다. “고위험군”에 속한다고 들은 환자는 그 배정을 자기 자신에 관한 사실로 받아들이는 경향이 있다. 그 방에 있는 모두가 모델에 대해 믿는다라는 말을 쓰고, 자기 자신에 대해서도 믿는다라는 말을 쓰지만, 그들은 그 말을 같은 방식으로 쓰고 있지 않다.
이 글은 그 단어, 그 단어가 숨기는 것, 그리고 그 숨김이 우리가 이전에는 관리할 필요가 없었던 속도로 중요해지기 시작한 이유에 관한 글이다.
가장 위험한 말은 평범한 말이다
믿음은 그런 단어 중 하나다. 익숙하기 때문에 정확해 보이지만, 그 정확성은 환상이다. 이 단어는 행동을 허가한다. 배에 탈지, 돈을 빌려줄지, 추천을 신뢰할지를 말해 준다. 알고 보면 서로 다른 여러 헌신이 같은 어휘를 입고 있다.
어떤 분야에서든 가장 위험한 말은 너무 평범해서 아무도 그 말이 무슨 일을 하고 있는지 알아차리지 못하는 말이다.
이 연습을 해 보자. 다음 문장들을 하나씩 읽고, 그 뒤에 있는 상태가 다른 문장들의 상태와 공통점을 갖는지 물어보라.
“나는 지구가 45억 년 되었다고 믿는다.” “나는 신을 믿는다.” “나는 너를 믿는다.” “나는 고문이 잘못이라고 믿는다.” “그 여론조사를 믿나요?” “그 모델은 환자가 재입원할 확률이 73%라고 믿는다.”
유창한 영어 화자는 여섯 문장을 모두 아무 노력 없이 읽고, 바로 그 유창함이 함정이다. 첫 번째는 반대 증거가 나오면 화자가 수정할 임시적인 경험적 추정이다. 두 번째는 화자에 따라 신뢰, 정체성, 혹은 실존적 헌신일 수 있다. 세 번째는 한 사람을 향한 관계적 태도다. 네 번째는 그것이 과연 믿음의 지위를 갖는지조차, 그것이 사실을 표상한다는 점을 부정하는 진지한 철학자들 사이에서 논쟁이 되는 평가적 헌신이다. 다섯 번째는 적어도 세 개의 독립된 질문을 한 문장 안에 접어 넣는다. 여섯 번째는 내면의 삶이 전혀 없는 것에 믿음을 적용한다.
이 단어는 차이를 표시하지 않는다. 그리고 늘 같은 현상을 보고하는 것처럼 작동한다.
언어학자들은 모양은 같아 보이지만 뜻은 서로 무관한 단어들을 거짓 동족어(false cognates)라고 부른다. 형태는 맞지만 의미는 맞지 않는다. 이 글의 주장은 믿음이 하나의 언어 내부에서 작동하는 거짓 동족어라는 것이다. 두 영어 화자가 그 단어를 말하고 같은 것을 논의하고 있다고 가정하지만, 실제로는 그렇지 않다.
여섯 개의 독립된 차원
믿음의 한 용법이 다른 용법과 무엇 때문에 다른지 특징짓기 시작하면, 그 차이는 여섯 개의 축으로 흩어진다. 그리고 그 축들은 분석적으로 독립되어 있음이 드러난다. 여기서 독립적이라는 말은 어떤 믿음이 한 축의 어디에 놓이는지를 알아도 다른 축의 위치에 대해서는 아무것도 알 수 없다는 뜻이다. 모든 조합이 똑같이 흔하지는 않지만, 모두 일관성은 있다. 단어는 그 결과로 생기는 공간 전체로 조용히 배분되고, 듣는 사람은 어느 영역이 의도되었는지를 추론해야 한다.
| 축 | 양극 | 준거 인물 |
|---|---|---|
| 1. 근거 | 증거 ↔ 신앙 | Clifford, James |
| 2. 명시성 | 분명히 말해진 것 ↔ 암묵적인 것 | Polanyi, Schwitzgebel |
| 3. 대상 유형 | 명제 ↔ 사람 ↔ 가치 | H.H. Price, expressivists |
| 4. 수정 가능성 | 임시적 ↔ 구성적 | Quine, Kahan |
| 5. 강도 | 차가움 ↔ 불타오름 | Hume, L.J. Cohen |
| 6. 자발성 | 선택된 것 ↔ 강제된 것 | Descartes, Alston, Sartre |
하나의 그림으로 본 프레임워크. 여섯 축, 각기 자기만의 양극과 철학적 계보를 가진 축들. “믿음”의 한 용법은 이 공간 안의 한 위치다.
근거. 믿음은 어디서 현실에 대한 장악력을 얻는가? 한쪽 극에는 Clifford가 요구했고 베이지안 인식론(Bayesian epistemology)이 조건화에 의해 갱신되는 확신도로 형식화한 종류의 증거가 있다. 다른 극에는 신앙이 있다. William James는 The Will to Believe에서 “우리의 순수하게 논리적인 지성이 강제되지 않았다는 사실에도 불구하고, 종교적 문제에서 믿는 태도를 채택할” 권리를 옹호했다. 실제 믿음 대부분은 양극 사이에 산다. 이유, 모범, 신뢰, 전통에 기대어 있으며, 어떤 단일한 인식론도 그것을 깔끔하게 포착하지 못한다.
명시성. 어떤 믿음은 말로 표현할 수 있지만, 어떤 믿음은 명제로 떠오른 적이 없으면서도 행동을 구조화한다. Michael Polanyi는 The Tacit Dimension의 한 문장으로 이것을 포착했다. “우리는 말할 수 있는 것보다 더 많이 알 수 있다.” 철학자 Eric Schwitzgebel은 믿음을 성향적 프로필(dispositional profile), 즉 행동적, 인지적, 현상적 경향들의 패턴으로 이해하는 것이 가장 좋다고 주장한다. 이는 말로 된 보고가 체계적으로 가리는 현상을 다룰 수 있게 해 준다. 한 사람은 진심으로 P를 믿는다고 주장하면서도 행동은 일관되게 not-P에 가까운 것을 드러낼 수 있고, 말로 진술된 믿음도 작동하는 믿음도 어느 쪽이 곧바로 진짜라고 말하기 어렵다. 우리는 언어 모델이 무엇을 “믿는지” 물을 때 이 지점으로 돌아올 것이다.
대상 유형. 나는 P라고 믿는다와 나는 너를 믿는다는 같은 종류의 태도가 아니다. 철학자 H.H. Price는 1960년대에 이 구분에 주목했지만, 그것은 평범한 담론으로 충분히 돌아오지 못했다. 믿음-안에 있음(belief-in)은 사람을 향한 관계적 태도인 반면, 믿음-그것(belief-that)은 명제에 대한 관계다. “나는 너를 믿는다”는 어떤 믿음-그것 주장들의 집합으로도 환원될 수 없다. 신뢰는 그 자체로 하나의 종류이기 때문이다. “고문은 잘못이다” 같은 평가적 믿음은 표현주의적 분석(expressivist analysis)에서는 애초에 명제가 아닐 수도 있으며, 대신 규범에 대한 지지를 표현한다. 믿음이라는 단어는 서로 다른 세 종류의 대상을 가리킨다.
수정 가능성. W.V.O. Quine은 주변부 믿음은 쉽게 수정되고 중심부 믿음은 그 주변의 모든 것을 재구조화하는 대가를 치러야만 수정되는 믿음의 그물(web of belief)이라는 은유를 제시했다. 축의 구성적 끝에서 어떤 믿음은 정체성을 정의하며, 그것을 수정한다는 것은 그 사람이 더 이상 그 사람이 아니게 된다는 뜻이다. Yale의 심리학자 Dan Kahan은 자신이 정체성 보호 인지(identity-protective cognition)라고 부르는 것을 기록해 왔다. 믿음이 집단 소속의 정체성 신호(signal)로 기능할 때, 반대 증거는 믿음을 갱신하기보다 정체성을 보호하는 방식으로 처리된다. 이 축은 근거와 독립적이므로, 어떤 믿음은 증거 기반이면서 동시에 정체성 구성적일 수 있고, 신앙 기반이면서 가볍게 들고 있는 것일 수도 있다.
강도. David Hume은 믿음 자체를 “현재의 인상과 관련되거나 결합된 생생한 관념”으로 정의했다. 이 정의는 현상학적 힘을 믿음이 무엇인지의 일부로 취급한다. 베이지안 확신도는 이것을 숫자로 바꾸지만, 그 숫자는 느껴지는 척도가 아니라 믿음에 관한 척도다. 당신은 .95의 확신도를 차갑게 가질 수도 있고, .6의 확신도를 불타는 확신으로 가질 수도 있다. 철학자 L. Jonathan Cohen은 믿음과 수용을 구분했다. 믿음은 비자발적이고, 참이라고 느껴지며, 강도의 정도를 갖는다. 수용은 자발적이고, 전부 아니면 전무이며, 추론을 위한 작업 전제로 채택된다. 둘은 서로 다른 행위다.
자발성. Descartes는 오류를 의지 안에 두었다. 그의 설명에서 의지는 지성이 제시한 명제에 자유롭게 동의하거나 동의를 보류한다. Hume은 반대 견해를 취했다. 믿음은 단지 어떤 느낌이나 정서에 불과하며, 의지에 의존하지 않는다. William Alston은 비자발주의에 대한 가장 영향력 있는 현대적 논증을 제시했다. Sartre의 mauvaise foi는 반대 방향을 주장했다. 믿음 형성은 깊이 자발적이라는 것이다. 선택이 비행위성으로 위장할 때조차 우리는 우리가 보는 것을 보지 않기로 선택할 수 있기 때문이다.
여섯 축, 각 축마다 최소 두 개의 극, 그리고 축들은 서로 독립적이다. 이진 수준에서만 보아도 단어 하나가 가리킬 64개의 구별되는 프로필이 생기며, 등급 값을 허용하면 그 수는 훨씬 더 커진다.
프레임워크가 녹여 버리는 대화들
이것을 적용하면 어떤 모습일까?
수만 편의 오피니언 글을 촉발한 설문 문항을 생각해 보자. 당신은 기후변화를 믿습니까?
이 문장은 적어도 네 가지 질문을 한꺼번에 묻고 있다.
- 당신이 그 증거가 인간 활동에 의한 온난화를 뒷받침한다고 평가하는지 여부(축 1, 근거).
- 당신이 그 증거를 제시하는 기관들을 신뢰하는지 여부(축 3, 관계적 믿음-안에 있음).
- “기후 신봉자” 또는 “기후 회의론자”가 당신의 사회적 정체성의 일부인지 여부(축 4, 구성적).
- 당신의 대답이 자유롭게 선택된 것인지, 아니면 정체성 보호 인지에 의해 강제된 것인지 여부(축 6, 자발성).
Kahan의 경험적 연구는 표준 서사를 갈기갈기 찢는다. Kahan과 동료들은 Nature Climate Change의 2012년 연구에서 과학 문해력과 수리 능력 점수가 가장 높은 응답자들이 기후 위험에 대해 가장 양극화되어 있음을 발견했다. 이후 논문은 인지적 성찰에서도 같은 패턴을 재현했다. 더 성찰적인 피험자들이 덜 양극화되는 것이 아니라 더 양극화되었다.
표준 개입(더 나은 과학 커뮤니케이션, 더 접근하기 쉬운 데이터)은 병목이 증거의 결핍이라는 가정 아래 축 1을 겨냥한다. Kahan의 데이터는 주된 동인이 축 4(정체성 표지로서의 기후 입장)와 축 6(자발적 통제 아래가 아니라 자동으로 작동하는 정체성 보호 인지)의 상호작용이라고 말한다. 애초에 증거 위에 놓여 있던 적이 없는 믿음에는 더 많은 증거를 제공해도 움직이지 않는다.
이것이 10년 동안 충분한 자금을 받은 과학 커뮤니케이션이 그토록 적은 변화를 만든 이유다. 그것은 잘못된 축에 적용된 올바른 개입이었다. 이 프레임워크는 기후 논쟁을 해결하지는 않지만, 특정한 개입군이 왜 원리상 작동할 수 없는지 진단하고, 작동할 수도 있는 개입들을 향해 손짓한다.
같은 진단은 곧장 법정으로 걸어 들어간다. 미국 형법은 정당방위, 수정헌법 제4조 법리, 내부고발자 보호를 포함한 여러 법리에서 “합리적 믿음”을 요구한다. 법학자 Kenneth Simons는 “많은 경우, 위해를 위협받는 행위자는 법이 그가 합리적으로 믿었어야 한다고 요구하는 것들에 대해 실제로는 아무 믿음도 갖고 있지 않을 것”이라고 주장했다. 그 기준은 위협이 임박하고 중대했으며, 사용한 힘이 비례적이었고, 대안이 존재하지 않았다는 식의 여러 사실에 대해 동시에 명시적이고 명제적인 믿음(축 2 명시적, 축 3 명제적)을 요구한다. 찰나의 대치 상황에서 사람들은 여섯 개의 서로 다른 사실 요소에 대해 명시적 명제 믿음을 형성하지 않는다. 그들은 두려움, 훈련, 본능이 빚어낸 암묵적이고 체화된 반응에서 행동한다(축 2 암묵적, 축 5 불타오름, 축 6 강제됨). 법적 허구는 배심원 심의를 위한 만족스러운 서사적 발판을 제공하지만, 그 순간 실제로 일어나는 어떤 것과도 대응하지 않는다.
모호함이 학문적인 것이 아니게 되는 곳
이제 병원 재입원 모델로 돌아가 보자.
Machine learning(ML)은 믿음이라는 단어를 여섯 축 공간의 완전히 다른 영역에 놓이는 기술적 의미들로 사용한다. Bayesian ML에서 “믿음”은 가설들 위의 확률분포이며, 증거가 도착할 때 Bayes’ theorem에 따라 갱신된다. 이 믿음은 최대한 증거 기반이고, 최대한 명시적이며(수학적 객체로 쓰여 있다), 순수하게 명제적이고, 최대한 임시적이며, 차갑고, 강제된다. 사전분포와 데이터가 주어지면 사후분포가 결정되기 때문이다. 이 프로필은 신앙적 믿음의 거의 정확한 역상이다. 신앙적 믿음은 신앙 기반이고, 부분적으로 암묵적이며, 관계적이고, 구성적이며, 불타오르고, 자유롭게 선택되었거나 신적으로 주어진 것인 경향이 있다. 같은 단어의 두 용법은 공간의 반대쪽 모서리를 가리킨다.
| 축 | Bayesian ML의 믿음 | 신앙적 믿음 |
|---|---|---|
| 근거 | 증거 | 신앙 |
| 명시성 | 분명히 말해진 것(수학적 객체) | 부분적으로 암묵적 |
| 대상 유형 | 명제 | 사람 / 가치 |
| 수정 가능성 | 임시적 | 구성적 |
| 강도 | 차가움 | 불타오름 |
| 자발성 | 강제됨(사전분포 + 데이터에 의해) | 자유롭게 선택되었거나 주어짐 |
같은 단어, 거의 정확히 역상인 프로필. 표가 이것을 말해 주지만, 그림은 더 잊기 어렵다.
large language models(LLM)에서는 혼란이 더 깊어진다. 임상의가 그 모델은 환자가 재입원할 것이라고 믿는다라고 말할 때, 그는 인간의 인지 어휘 전체를 그 어휘가 설명하도록 만들어진 아키텍처를 전혀 갖지 않은 시스템(system) 위로 가져온다. Murray Shanahan은 LLM에 관한 이런 의인화된 언어가 널리 퍼져 있으며 체계적으로 오해를 낳는다고 주장했다. 모델은 가중치의 구성이고, 그 출력은 토큰 시퀀스다. 그 배열을 믿음이라고 부르는 것은 작은 언어적 지름길이 아니라 범주 주장이다. 그리고 그 주장은 시스템이 감당할 수 없는 신뢰, 확신, 의도, 책임을 조용히 끌어들인다.
최근 연구는 이해관계를 더 날카롭게 만들었다. Burns와 동료들은 언어 모델 활성화에서 “잠재 지식”을 발견하는 방법을 개발했다. 모델의 내부 표상에 부호화되어 있지만 텍스트 출력과 어긋날 수 있는 믿음들을 찾는 것이다. 이 글의 프레임워크에서 그 노력은 축 2를 따라 이동하려는 시도다. 목표는 암묵적인 모델 믿음을 명시적으로 만드는 것이다. 이런 표면화가 필요하다는 사실 자체가 무언가를 말해 준다. Polanyi가 인간은 말할 수 있는 것보다 더 많이 알 수 있다고 관찰했듯, 언어 모델은 토큰으로 표현하는 것보다 더 많은 것을 가중치 안에 부호화한다.
Anthropic의 회로 추적 연구는 large language models의 자기 인지 과정에 대한 자기보고가 자주 틀린다는 것을 보여 주며 문제를 더 키웠다. 모델의 자기 자신에 대한 명시적 믿음은 실제 내부 메커니즘과 맞지 않는다. 같은 연구는 아첨하는 응답을 늘리는 패턴을 포함해 모델 행동에 영향을 주는 170개 이상의 감정 유사 활성화 패턴을 확인했다. 이것들은 축 5(강도)의 기능적 유사물이다. 그것들은 모델이 보고할 수 있는 것의 완전히 바깥 층위에서 믿음 표현을 형성한다.
모델은 어떤 것을 가중치 안의 신뢰할 만한 패턴으로 부호화한다는 의미에서 그것을 “믿는” 동시에, 다른 어떤 것을 언어 출력으로 생산한다는 의미에서 그것을 “믿을” 수 있다. 믿음의 두 의미는 같은 축 위에서 서로 반대 방향을 가리킨다.
대사가 바뀌고 있다
역사의 대부분 동안 믿음에 대해 혼동하는 비용은 느리게 찾아왔다. 철학 논쟁은 수 세기 동안 이어졌고, 정책 개입은 조용히 기대 이하의 성과를 냈다. 법적 기준은 피고인이 형성할 수 없는 인지 상태를 요구했고, 법 체계는 대체로 그 간극을 흡수했다. Clifford-James 논쟁은 거의 150년 동안 이어졌고 세상은 끝나지 않았다.
언어 모델은 그 대사를 바꾸기 시작했다.
Foundation models는 이제 회의를 예약하고, 커뮤니케이션 초안을 쓰고, 구매 결정을 내리는 자율 에이전트로 배포된다. 그런 각각의 행동은 모델의 파라미터 안에 부호화된 어떤 것에 근거한다. 우리는 그 어떤 것을 믿음이라고 부르지만, 우리가 무엇을 뜻하는지는 합의하지 않았다. 형식적인 언어가 더 권위 있다는 모델의 믿음은, 믿음으로 진술된 적이 없지만, 모델이 생산하는 모든 문단을 형성한다. 특정 인구통계 패턴이 예측적이라는 모델의 믿음은, 믿음으로 진술된 적이 없지만, 모든 추천을 형성한다. 출력을 읽는 인간들은 그 안에 부호화된 방향성을 합리적인 기본값으로 흡수한다. 종종 그 출처를 알아차리지 못한 채로.
데이터를 검색하고 제시하는 순수한 정보 시스템과 달리, 에이전트 시스템은 자신들의 부호화된 표상에 근거해 행동한다. 그 행동에 의존하는 인간들은 그 밑바닥의 믿음들을 의사결정의 평범한 배경으로 내면화한다. 이것이 우리를 걱정하게 해야 할 Clifford의 선주 버전이다. 이제 장면은 하나의 배와 하나의 믿음을 가진 한 사람이 아니다. 그것은 가중치 안에 부호화된 수백만 개의 작은 믿음들이며, 그 믿음들은 그 출력에 의존하는 독자와 운영자들을 통해 전파되는 에이전트들의 행동을 조용히 떠받친다.
아이러니는 정확하다. 이해 없는 활성화는 문명의 엔진이다. 당신은 약리학을 몰라도 항생제를 삼키고, 소수의 전문가들이 부호화한 지식을 10억 명이 물려받는다. 그러나 그 거래는 언제나 조용한 전제 위에 놓여 있었다. 이해가 어딘가에는 존재했다. 환자는 몰라도 약리학자는 분자를 이해했다. 모델 믿음은 그 전제를 깨뜨린다. 가중치 안에 부호화된 방향성은 모두에 의해 활성화되지만 아무도 이해하지 못한다. 심지어 그것을 담고 있는 시스템조차도. 문명을 들어 올렸던 바로 그 메커니즘이 이제 문명의 인식론을 위협한다. 이해가 루프에서 완전히 제거된 채로 작동하기 때문이다.
해석가능성 문제는 사후에 하나의 결정을 어떻게 설명할지 묻는다. 믿음 문제는 어떤 확신들이 수백만 개의 결정을 조용히 떠받치고 있으며, 에이전트와 그것에 의존하는 인간들 사이의 상호작용을 통해 전파되는지 묻는다. 우리는 언어 모델이 지니는 믿음을 감사하고, 큐레이션하고, 심지어 식별하기 위한 도구도 아직 갖고 있지 않다. 여섯 축 프레임워크는 그 이유를 시사한다. **차원의 명료성이 없으면, 모델은 무엇을 믿는가?라는 질문은 아직 잘 형성된 질문조차 아니며, 답할 수 있는 질문은 더더욱 아니다.
작은 습관
생산적인 반응은 가능한 한 가장 작은 습관이다. 당신이 믿음이라는 단어를 쓰거나 그 단어가 쓰이는 것을 들을 때, 어떤 종류가 작동 중인지 물어보라.
그것은 증거 기반인가 신앙 기반인가, 명시적인가 암묵적인가, 명제를 가리키는가 사람을 가리키는가 가치를 가리키는가, 임시적인가 구성적인가, 차가운가 불타오르는가, 선택된 것인가 강제된 것인가?
대부분의 맥락은 여섯 가지 명세를 모두 요구하지 않을 것이다. 하지만 어떤 차원이 관련되어 있는지 묻는 행위는, 들여다보면 말뜻의 미끄러짐으로 드러나는 겉보기의 불일치를 녹여 버리는 경향이 있다. 이 독법에서 Clifford와 James는 같은 종류의 믿음에 대해 의견이 갈렸던 것이 아니다. 기후 커뮤니케이션 기득권과 기후 회의론 대중도 서로 논쟁할 때 같은 종류의 믿음에 대해 논쟁하고 있지 않다. “설명가능성”을 요구하는 XAI 연구자와 모델의 추천을 신뢰해도 되는지 묻는 임상의도 마찬가지다.
같은 움직임은 이 시리즈 내부의 겉보기 긴장도 해결한다. Belief Agency는 나는 무엇이든 배울 수 있다 같은 믿음을 채택하라고 권했다. 그것들이 증명되었기 때문이 아니라 유용하기 때문이었다. Clifford의 격률은 그런 입장을 노골적으로 금지하는 것처럼 보인다. 둘을 축 위에 놓으면 갈등은 사라진다. 선주의 확신은 외부 세계에 관한 명제였고, 바로 그런 종류의 믿음은 증거적 근거를 요구하며, 다른 사람들의 생명이 걸린 상황에서 되돌릴 수 없이 행동으로 옮겨졌다. 에이전시 믿음들은 자기에 관한 것이며, 시험해 보고 버릴 수 있는 작업 전제로 임시적으로 들고 있는 것이다. Cohen이 그의 의미에서 믿음이라 부른 것보다 수용이라 부른 것에 더 가깝다. 둘은 공간의 반대 영역에 놓인다. 유용한 것을 믿어라와 충분한 증거 위에서만 믿어라는 하나의 질문에 대한 경쟁 답변이 아니다. 그것들은 서로 다른 질문에 대한 답변이며, 단일한 단어 믿음이 우리가 그것들을 하나로 착각하게 만든 것이다.
인간 추론에서 가장 위험한 말은 평범한 말이다. 너무 익숙해서 우리가 이미 그 뜻을 안다고 가정하는 말들이다. 믿음은 그중 가장 위험한 말일지도 모른다. 처음으로, 우리 대신 생각하도록 우리가 만들고 있는 시스템들이 그 모호함을 규모 있게 물려받고 있다.
이 글은 Belief Agency에 이어지는 Powerful Belief 시리즈의 두 번째 글이다. 이 논의는 Van Leeuwen과 Lombrozo, 그리고 Connors와 Halligan이 독립적으로 발전시킨 믿음에 관한 다차원적 설명을 바탕으로 한다. 두 설명은 모두 믿음을 다차원적 속성 공간을 차지하는 것으로 이해하는 것이 가장 좋다는 결론으로 수렴한다. 다섯 개의 사례 연구와 전체 참고문헌을 담은 더 긴 학술 버전의 논증은 작업 논문에 있다.