답 없이 이어진 질문들의 사슬이 어떻게 Adam Smith의 각주 같은 관찰을 현대 경제학에서 가장 강력한 아이디어 중 하나로 바꾸었는지, 그리고 왜 그것이 이제 AI를 만드는 사람들을 따라다니는지에 대하여.
정비공은 당신이 모르는 것을 안다. 그 비대칭은 부수적인 것이 아니다. 그것이 문제 전체다. (U.S. National Archives / NARA)
지금 이 순간에도 당신 삶의 어딘가에서는 누군가가 당신을 대신해 결정을 내리고 있고, 당신은 그 사람이 일을 잘하고 있는지 알 수 없다.
재무 상담사는 펀드를 고른다. 정비공은 엔진을 진단한다. 직원은 근무표를 작성한다. 외과의는 수술을 권한다. 선출직 대표는 법안에 투표한다. 매번 당신은 당신보다 더 많이 알고, 당신과 다른 것을 원하며, 당신이 완전히 걷어낼 수 없는 커튼 뒤에서 움직이는 사람에게 권한을 넘긴다.
이것이 주인-대리인 문제(principal-agent problem)다. 제도가 왜 실패하는지, 계약은 왜 지금 같은 모양을 갖는지, 우리가 원하는 것과 실제로 얻는 것 사이의 간극은 왜 끝내 닫히지 않는지를 이해하는 데 경제학이 만들어낸 아이디어 중 단연 가장 유용한 것일지도 모른다.
경제학자들이 이 문제를 이해하게 된 이야기는 정리와 명제의 건조한 목록이 아니다. 그것은 2세기 반에 걸친 지적 추리소설에 가깝다. 하나의 답이 나올 때마다 더 깊은 수수께끼가 열리는 질문들의 연쇄가 이 이야기를 밀고 간다. 아래에 나오는 것은 바로 그 질문들의 사슬이고, 그것에 답하려 했던 연구자들의 기록이다. 성공의 정도는 저마다 달랐다.
I. “다른 사람이 당신 돈을 관리하면 무슨 일이 벌어지는가?”
이 문제를 거의 각주처럼 처음 알아차린 사람. “남의 돈”을 관리하는 이사들에 대한 그의 관찰은, 경제학이 그것이 왜 중요한지 설명할 도구를 갖추기 전까지 150년 동안 거의 발전하지 않은 채 남아 있었다. (Wikimedia Commons)
그 의심은 경제학 자체보다 오래되었다.
1776년, Adam Smith는 오늘날 기업의 전신인 당시의 주식회사에 대해 불편한 점을 보았다. 그는 The Wealth of Nations에서 이사들이 “남의 돈”을 관리하며, 자기 돈을 지킬 때와 같은 경계심으로 그것을 지키리라 기대할 수는 없다고 썼다. 그는 이것을 중심으로 이론을 세우지는 않았다. 거의 지나가듯이, 위임은 태만을 낳는다고 적었을 뿐이다.
그 관찰은 150년이 넘도록 발전되지 않은 채 그 자리에 놓여 있었다.
그러다 1932년, Columbia의 두 학자 Adolf Berle와 Gardiner Means가 The Modern Corporation and Private Property를 출간했다. 그 책은 Smith의 시대 이후 수십 년 동안 미국 자본주의에 무슨 일이 일어났는지 기록했다. 대기업의 소유권은 수백만 명의 주주에게 흩어졌고, 그중 누구도 의미 있는 통제력을 행사하지 못했다. 경영진은 스스로를 재생산하는 계급이 되었다. 회사를 운영하는 사람들과 회사를 소유한 사람들은, 실질적으로 말해 서로 다른 목표를 가진 서로 다른 집단이었다.
Berle와 Means는 질문을 날카롭게 던졌다. 재무적 위험을 지는 사람들에게는 실제 권력이 없고, 권력을 가진 사람들은 거의 아무 위험도 지지 않는다면, 기업은 대체 누구를 위해 봉사하고 있는가?
치명적인 관찰이었다. 하지만 여전히 서술적이었다. 그것은 무언가가 잘못되었다는 사실 을 말해주었다. 왜 그것이 구조적으로 불가피한지, 또는 그것에 대해 무엇을 할 수 있는지는 말해주지 않았다.
II. “이걸 정밀하게 만들 수 있을까? 정보가 불평등할 때 정확히 무엇이 잘못되는가?”
_Akerlof의 1970년 논문은 중고차에 관한 것이었다. 하지만 진짜 주제는 한쪽이 다른 쪽이 모르는 것을 아는 모든 시장이었다. 판매자는 언제나 더 많이 안다. (Wikimedia Commons)_
.jpg){kind=link}
이 질문에 답할 도구는 예상 밖의 방향에서 왔다. 보험의 경제학이었다.
1960년대 초, Kenneth Arrow는 보험 시장이 왜 이상하게 움직이는지 연구하기 시작했다. 그는 자신이 도덕적 해이(moral hazard) 라고 부른 현상을 식별했다. 누군가를 나쁜 결과로부터 보험에 들게 하면, 그 사람의 행동이 바뀐다. 종합보험에 가입한 운전자는 덜 조심해서 운전한다. 화재보험에 든 집주인은 기름 묻은 걸레를 지하실에 쌓아둔다. 위험을 이전하는 행위가 위험을 만들어낸다.
Arrow의 통찰은 깊었다. 정보 문제는 단순한 시장 마찰이 아니라, 한쪽의 행동이 다른 쪽에게 숨겨져 있는 모든 관계의 구조적 특징임을 드러냈기 때문이다.
그리고 1970년, George Akerlof는 “The Market for ‘Lemons‘“라는 짧고, 겉보기에는 장난스러운 논문을 발표했다. 이 논문은 출간될 뻔하지 못했다. 두 학술지가 사소하다는 이유로 거절했기 때문이다. Akerlof의 질문은 중고차에 관한 것이었지만, 그의 답은 경제학을 다시 만들었다. 판매자는 자기 차가 레몬인지 알고 구매자는 모른다면, 구매자는 합리적으로 최악을 가정하고 낮은 가격을 제시한다. 좋은 차는 시장을 떠난다. 시장은 풀려나가듯 붕괴한다. 이것이 역선택(adverse selection) 이었다. 숨겨진 행동 이 아니라 숨겨진 특성 의 문제였고, 건강보험의 죽음의 나선부터 신용이 충분한데도 대출을 받지 못하는 이유까지 설명했다.
Michael Spence는 이어서 거울상 같은 질문을 던졌다. 정보를 가진 쪽이 자신이 아는 것을 자발적으로 드러낼 수 있을까? 그의 노동시장 신호 모형(1973)은 노동자들이 교육을 그 내용 때문이 아니라 기저 능력의 신뢰할 만한 신호(signal)로 사용할 수 있음을 보였다. 그 신호가 신뢰할 만한 이유는 정확히 그것이 비용이 들기 때문이었다. 능력이 높은 노동자들만 그 투자를 할 가치가 있다고 판단할 것이다.
이 세 사람, Arrow, Akerlof, Spence는 비대칭 정보(asymmetric information)가 특수한 예외가 아니라는 점을 확립한 공로로 2001년 Nobel Prize를 받았다. 그것은 경제적 삶의 정상 상태다. 모든 거래, 모든 계약, 모든 권한 위임은 그 그림자 안에서 작동한다.
하지만 이것들은 아직 시장 수준 의 분석이었다. 남은 질문은 더 좁고, 더 실행적인 것이었다. 특정한 일을 특정한 사람에게 반드시 위임해야 한다면, 거래를 어떻게 설계해야 하는가?
III. “그들이 무엇을 하는지 볼 수 없다면, 사람들에게 어떻게 보수를 줘야 하는가?”
여기서 주인-대리인 문제가 형식 이론으로 태어났다.
Spence의 신호 논문과 같은 해인 1973년, Stephen Ross는 American Economic Review에 이 문제에 이름을 붙인 논문을 발표했다. Ross는 대리 관계(agency relationship)를 임상적으로 정밀하게 정의했다. 한쪽 당사자(주인, principal)가 다른 쪽 당사자(대리인, agent)를 고용해 서비스를 수행하게 하고, 그 과정에서 의사결정 권한을 위임한다. 그런 다음 그는 주인이 대리인의 노력을 직접 관찰할 수 없을 때 최적의 보상표가 어떤 모양이어야 하는지 물었다.
3년 뒤, Michael Jensen과 William Meckling은 경제학 전체에서 가장 많이 인용되는 논문 중 하나가 될 글을 발표했다. 그들은 대리 비용(agency costs) 이라는 개념을 도입했다. 위임이 불완전하다는 사실 때문에 사회가 지불하는 총가격이다. 이 비용은 세 가지 맛으로 온다. 주인이 감시에 쓰는 비용, 대리인이 구속(bonding), 즉 믿을 만하게 행동하겠다고 약속하는 데 쓰는 비용, 그리고 잔여 손실(residual loss), 대리인이 실제로 하는 일과 완전히 정렬된 대리인이 했을 일 사이의 줄일 수 없는 간극이다. Jensen과 Meckling의 급진적인 주장은 기업 자체가 이런 대리 관계들의 그물망에 지나지 않는다는 것이었다. 깊은 의미에서 “기업” 같은 것은 없다. 계약이 있을 뿐이고, 끝까지 내려가도 또 계약이다.
하지만 문제가 존재하고 비용이 든다는 것을 아는 것만으로는 해법 이 어떤 모습인지 알 수 없다. 그러려면 경제학에는 실제 최적화 문제를 푸는 사람이 필요했다. 노력은 볼 수 없고 결과만 볼 수 있다면, 수학적으로 가장 좋은 계약은 무엇인가?
IV. “최적 계약은 실제로 어떤 모습인가?”
그 답은 Bengt Holmström이라는 젊은 핀란드 경제학자에게서 나왔다.
Bell Journal of Economics에 실린 Holmström의 1979년 논문, 단순히 “Moral Hazard and Observability”라는 제목의 글은 핵심 수학 문제를 풀었고 놀라울 만큼 우아한 결과를 낳았다. 그는 최적 계약이 통계적 검정처럼 작동한다는 것을 보였다. 보상은 가능도비(likelihood ratio) 에 따라 오르거나 내려야 한다. 관찰된 결과가 낮은 노력보다 높은 노력 아래에서 얼마나 더 그럴듯한가? 성실한 대리인이 게으른 대리인보다 훨씬 더 자주 만들어내는 결과라면, 대리인은 큰 보너스를 받는다. 결과가 애매해서 어느 노력 수준에서도 똑같이 그럴듯하다면, 그것은 아무것도 말해주지 않으며 인센티브의 무게를 실어서는 안 된다.
이 논문에는 많은 사람이 인센티브 이론에서 가장 중요한 단일 결과라고 여기는 것도 들어 있었다. 정보성 원리(informativeness principle) 다. 사용 가능한 어떤 신호(signal)든, 정말로 어떤 신호든, 기존 신호가 이미 포착한 것 너머로 대리인의 노력에 대한 추가 통계 정보를 제공할 때 그리고 그때에만 계약에 포함되어야 한다. 함의는 선명하다. CEO의 보너스는 자기 회사의 주가뿐 아니라 경쟁사의 주가에도 의존해야 한다. 그 비교가 경영 능력에 대해 아무것도 말해주지 않는 시장 전체의 잡음을 걸러내기 때문이다.
거의 같은 시기, Sanford Grossman과 Oliver Hart(1983)는 수학적 구조를 명확히 하는 보완적 분석을 제시했다. 주인의 문제는 사실 두 단계 최적화다. 먼저 가능한 각 노력 수준을 구현하는 가장 싼 방법을 찾아라. 그런 다음, 대리인을 더 세게 밀어붙일 때의 한계편익이 그것을 위해 필요한 인센티브 장치의 한계비용과 딱 같아지는 노력 수준을 선택하라.
이 논문들은 기술적으로 승리였다. 하지만 곧바로 더 깊은 질문을 드러냈다.
V. “그냥 보수를 결과에 완벽하게 묶으면 안 되는가?”
소작 분배율이 곧 Holmström-Milgrom의 인센티브 강도 매개변수다. 지주는 노력에 대한 욕망과 소작인이 모든 위험을 감당할 수 없다는 사실 사이에서 균형을 잡아 그것을 선택한다. 계약 이론이 이 교환관계를 발명한 것이 아니다. 수세기 동안 존재하던 것에 이름을 붙였을 뿐이다. (Wikimedia Commons)
대리인은 인간이고, 인간은 위험을 싫어하기 때문이다.
이것이 인센티브-보험 교환관계(incentive-insurance trade-off) 다. 전체 이론의 심장부에 있는 주된 긴장이다. 대리인이 위험중립적이라면, 즉 도박에 무관심하다면 해법은 사소할 것이다. 대리인에게 사업 전체를 일시금으로 팔고, 모든 이익을 가져가게 하면 된다. 그들의 인센티브는 주인의 인센티브와 완벽히 정렬된다. 그들이 곧 주인 이기 때문이다. 작은 자영업에서 본질적으로 일어나는 일이 이것이다.
하지만 대부분의 대리인은 위험회피적이다. 그들은 $200,000와 0달러 사이의 50대 50 도박보다 확실한 $100,000 연봉을 선호한다. 그래서 보수를 결과에 연결할 때, 그 결과가 일부는 그들의 노력에 달려 있지만 운, 시장 상황, 날씨, 그리고 수천 가지 통제 불가능한 요인에도 달려 있을 때, 당신은 그들이 부담하고 싶지 않은 위험을 흡수하라고 강요하는 셈이다. 그들은 그 위험을 부담하는 대가를 요구하고, 주인은 결국 더 높은 총 기대보상의 형태로 그것을 지불한다.
Holmström과 Milgrom의 1987년 논문은 이 교환관계에 결정적인 수학적 형태를 부여했다. 그들은 대리인이 시간에 따라 행동을 계속 조정할 수 있을 때, 대부분의 직업에 더 현실적인 가정인데, 최적 계약은 총 산출에 대해 단순히 선형 이라는 것을 보였다. 당신의 커미션율, 당신의 소작 분배율, 매출 대비 비율로 정해지는 당신의 보너스. 이것들은 더 복잡한 무언가의 조악한 근사치가 아니다. 실제로 최적이다. 그리고 이상적인 인센티브율의 공식은 아름다울 만큼 직관적이다. 성과 측정치의 잡음이 적고 대리인이 위험을 덜 회피할수록 인센티브는 강해야 하고, 결과가 변동적이거나 대리인이 불확실성을 견디지 못할수록 약해야 한다.
이것은 이론가들을 괴롭히던 수수께끼를 풀었다. 초기 이론이 권하는 것처럼 보였던 복잡한 비선형 장치들보다 현실 세계의 계약은 왜 그렇게 단순한가? 답은 현실적인 조건에서는 단순함이 최적 이라는 것이다.
하지만 그 해결은 훨씬 더 어려운 문제로 이어지는 함정을 열었다.
VI. “측정할 수 없는 부분이 있는 일에서는 무슨 일이 벌어지는가?”
여기서 이론은 정말로 흥미로워지고, 정말로 불안해진다.
교사를 생각해보자. 시험 점수는 측정할 수 있다. 학생들이 호기심, 회복력, 창의성, 배움에 대한 사랑을 기르고 있는지는 쉽게 측정할 수 없다. 경찰관을 생각해보자. 체포 건수는 셀 수 있다. 동네가 안전하게 느껴지는지, 공동체의 신뢰가 자라고 있는지, 권리가 존중되고 있는지는 쉽게 측정할 수 없다. 소프트웨어 엔지니어를 생각해보자. 코드 줄 수와 닫힌 티켓 수는 셀 수 있다. 코드베이스가 더 유지보수 가능해지고 있는지, 그 엔지니어가 주니어 동료들을 멘토링하고 있는지는 쉽게 측정할 수 없다.
1991년의 기념비적인 논문에서 Holmström과 Paul Milgrom은 대리인이 측정하기 쉬운 정도가 서로 다른 여러 과업을 수행할 때, 측정 가능한 과업에 인센티브를 주는 것이 측정 불가능한 과업을 적극적으로 훼손한다는 것을 보였다. 이것은 부작용이 아니다. 중심 예측이다. 한 차원에 강한 인센티브를 걸면 다른 차원에서 노력이 빠져나간다.
학계를 충격에 빠뜨린 결과는 이렇다. 한 과업이 충분히 측정하기 어렵다면, 측정 가능한 과업에 대한 최적 인센티브가 완전히 0까지 떨어질 수 있다. 겉으로 보기에는 상상할 수 있는 가장 이빨 빠진 인센티브 장치인 고정급이 최선의 정책이 된다. 동기를 포기했기 때문이 아니다. 한쪽으로 치우친 인센티브가 인센티브 없음보다 더 나쁘다는 것을 인정했기 때문이다.
이 하나의 결과는 현실 세계가 조직되는 방식에 대해 엄청나게 많은 것을 설명한다. 왜 공무원이 고정급을 받는지 설명한다. 왜 대학이 종신재직권을 부여해 성과 압박을 제거하는지 설명한다. 학자의 가장 중요한 산출물, 즉 독창적 아이디어는 실시간으로 평가하기가 거의 불가능하기 때문이다. Wells Fargo 가짜 계좌 스캔들도 설명한다. 공격적인 판매 목표가 직원들로 하여금 수백만 개의 사기 계좌를 만들게 했다. 측정된 과업(계좌 개설)이 측정되지 않은 과업(실제로 고객을 섬기는 일)을 집어삼켰다.
Holmström은 나중에 Nobel 강연에서 다중 과업 인센티브에 대한 이 통찰이 어쩌면 자신의 가장 중대한 기여였다고 회고했다. 정보성 원리보다도 더 중요했을지 모른다. 그것은 현실 세계의 인센티브 시스템(system)이 왜 단일 과업 이론이 예측하는 것보다 체계적으로 약한지, 그리고 왜 조직들이 순수한 성과급보다 관료적 규칙, 규범, 직무 설계에 그렇게 많이 의존하는지를 설명했기 때문이다.
VII. “계약이 꼭 필요하기는 한가? 평판이 일을 대신할 수 있을까?”
여기서 이론은 우아하게 방향을 튼다.
형식적 계약만이 인센티브의 유일한 원천은 아니다. 미래의 고용주들이 당신의 과거 성과를 볼 수 있는 노동시장에서 일한다면, 유능해 보이고 싶은 욕망은 그 자체로 인센티브다. 현재 고용주가 당신에게 고정급을 지급하더라도 그렇다.
Holmström은 이 아이디어를 자신이 1982년에 처음 배포하고 1999년에 출판한 모형으로 형식화했다. 설정은 단순하다. 노동자의 산출은 능력(아무도 확실히 알지 못한다), 노력(오직 노동자만 통제한다), 운에 달려 있다. 노동시장은 산출을 관찰하고 노동자의 능력에 대한 추정을 합리적으로 업데이트한다. 오늘 높은 산출은 내일 더 높은 임금 제안으로 이어진다.
이것이 Holmström이 커리어 우려(career concerns) 라고 부른 것을 만들어낸다. 계약 조항이 아니라 시장의 학습 과정에서 생겨나는 암묵적 인센티브다. 그리고 이 모형은 인상적인 예측을 낳는다. 커리어 우려는 경력 초기에 가장 강하다. 능력에 대한 불확실성이 가장 크고, 새로운 데이터 포인트 하나하나가 믿음을 크게 움직이기 때문이다. 시장이 당신의 유형을 알게 되면 암묵적 인센티브는 약해진다. 젊은 로펌 어소시에이트들이 명시적 보너스 없이도 혹독한 시간을 일하는 반면, 능력이 이미 알려진 시니어 파트너들은 동기를 유지하려면 지분과 이익분배가 필요한 이유가 여기에 있다.
하지만 커리어 우려는 양날의 칼이다. Robert Gibbons와 Kevin Murphy는 암묵적 인센티브와 명시적 인센티브가 공존할 때 둘이 서로 대체된다는 것을 보였다. 커리어 우려가 강할수록 최적의 공식 인센티브 보수는 낮다. 더 골치 아픈 점은 커리어 우려가 단기주의(short-termism) 를 낳을 수 있다는 것이다. 관리자들은 장기 가치를 만들어낼 투자라 해도, 자신의 능력에 대해 나쁜 정보를 드러낼 수 있는 위험한 투자를 피할 수 있다.
그리고 주인이 미래 계약 조건을 약속할 수 없는 반복 관계에서는 다른 병리가 나타난다. 래칫 효과(ratchet effect) 다. 올해 뛰어난 성과를 낸 대리인은 내년에 더 높은 목표를 받을 뿐이다. 그래서 대리인들은 내일의 기준을 높이지 않기 위해 오늘 산출을 전략적으로 숨기며 느슨하게 일한다. Laffont와 Tirole은 이 동학을 형식화했다. Soviet 중앙계획가들은 이것을 너무나 잘 알고 있었다. 공장 관리자들은 할당량을 감당 가능한 수준으로 유지하려고 생산 능력을 일상적으로 숨겼다.
VIII. “이 중 실제로 작동하는 것이 있기는 한가?”
이론은 한 가지다. 그것이 현실과 부딪혀도 살아남는가?
실증 문헌은 정말로 놀라운 발견들을 내놓았다. 임원 보수 영역에서 Jensen과 Murphy의 1990년 연구는 미국 CEO들의 실제 성과-보수 민감도를 측정했고 놀라운 것을 발견했다. 주주 부가 $1,000 변할 때마다 CEO의 총보상은 겨우 $3.25 변했다. 정보성 원리에 따르면 이것은 터무니없이 낮아 보였다. 마치 기업 이사회가 인센티브를 맞추려는 시도조차 하지 않는 것 같았다.
이 발견은 의도치 않게 1990년대 스톡옵션 지급 폭발을 촉발했을지도 모른다. 그 결과 보수와 성과의 연결은 크게 강화되었다. 하지만 Bebchuk과 Fried의 영향력 있는 2003년 비판은 임원 보수 자체가 그 문제의 해법이 아니라 대리 문제의 일부 가 되었다고 주장했다. 강력한 관리자들이 자기 이사회를 장악하고, 성과와 무관하게 자신을 부유하게 만드는 보상 패키지를 설계했다. 그들은 이 현상을 “경영자 권력 접근(managerial power approach)“이라고 불렀다.
한편 Bertrand와 Mullainathan(2001)은 야생의 현실에서 정보성 원리가 깨끗하게 위반되는 장면을 보여주었다. CEO들은 “운”에 대해 체계적으로 보상받고 있었다. 유가나 환율이 만든 산업 전반의 이익 호황처럼, 경영 노력에 대해서는 아무것도 드러내지 않는 것들 말이다. 더 나쁜 점은, 이런 운에 대한 보수가 지배구조가 취약한 기업에 집중되어 있었다는 것이다. 지배구조가 좋은 기업은 Holmström의 이론이 처방한 그대로 잡음을 걸러냈다. 정보성 원리는 맞았다. 다만 그것을 가장 필요로 하는 기업들이 무시하고 있었을 뿐이다.
노동시장에서는 증거가 더 고무적이었다. Edward Lazear의 Safelite Glass 연구(2000)는 한 회사가 시간급에서 성과급으로 전환했을 때 무슨 일이 일어났는지 기록했다. 노동자 1인당 산출이 44% 뛰었다. 일부는 인센티브 효과였다. 같은 노동자들이 더 열심히 일했다. 일부는 선별이었다. 생산적인 노동자들이 회사에 들어오고 비생산적인 노동자들이 떠났다. 두 메커니즘은 이론이 예측한 그대로 서로를 강화했다.
정치에서 주인-대리인 렌즈는 민주주의가 왜 그만큼 잘 작동하는지, 그리고 왜 더 잘 작동하지는 않는지를 비추었다. Ferejohn의 1986년 모형은 단순한 회고적 규칙, 즉 일이 충분히 잘 풀렸을 때만 현직자를 재선시키는 규칙을 채택한 합리적 유권자들이 정책 세부사항을 이해하지 못해도 정치인을 규율할 수 있음을 보였다. 하지만 그 모형은 한계도 드러냈다. 임기 제한은 재선 동기를 제거함으로써 인센티브 메커니즘을 파괴한다. 임기 말에 가까워지는 정치인들은 측정 가능하게 더 나쁘게 행동한다.
의료에서도 같은 틀은 행위별 수가제가 왜 과잉진료를 만들고, 인두제가 왜 과소진료를 만드는지 설명했다. 각각은 인센티브-보험 경계 위의 서로 다른 점이고, 둘 다 최적은 아니다. 수십 년에 걸친 의료 지불제도 개혁 논쟁은 핵심적으로 생사가 걸린 응용 주인-대리인 문제다.
IX. “어떤 계약도 모든 시나리오를 다룰 수 없다면?”
_Oliver Hart와 Bengt Holmström은 이 줄 어딘가에 있다. 계약 이론의 두 절반인 두 사람은 같은 해에, 같은 퍼즐의 상호보완적 조각을 푼 공로로 영예를 얻었다. (Bengt Nyman / Wikimedia Commons, CC BY 2.0)_
.jpg){kind=link}
지금까지의 이론은 아무리 영리하게 설계되었든 계약이 관찰 가능한 모든 결과에 대해 보수를 지정할 수 있다고 가정한다. 하지만 아무도 예상하지 못한 결과는 어떨까? 너무 복잡해서 완전한 조건부 계약을 쓰는 것이 물리적으로 불가능한 상황은 어떨까?
이것이 Oliver Hart와 그의 공동연구자들이 발전시킨 불완전 계약(incomplete contracts) 의 영역이다. Grossman과 함께 쓴 1986년의 기초 논문에서 Hart는 계약에 빈틈이 있을 때, 그리고 실제 계약에는 언제나 빈틈이 있을 때, 중요한 것은 누가 잔여 통제권(residual rights of control) 을 갖는가라고 주장했다. 즉 계약이 다루지 않는 상황에서 결정을 내릴 권한이다.
이것은 분석의 무게중심을 지불 장치 에서 소유 구조 로 옮겼다. 공급자가 가능한 모든 품질 개선에 대해 보상받도록 하는 계약을 쓸 수 없다면, 어쩌면 공급자의 공장을 통째로 소유해야 할지도 모른다. Hart의 이론은 기업은 왜 존재하는가라는 Ronald Coase의 유명한 질문에 처음으로 엄밀한 답을 제공했다. 기업은 소유권의 묶음이며, 계약으로 보호하기 가장 어려운 투자를 하는 당사자들에게 가장 강한 인센티브를 주기 위해 조립된 것이다.
Hart와 Holmström은 계약 이론에 대한 상호보완적 기여로 2016년 Nobel Prize in Economics를 공동 수상했다. Holmström은 완전하지만 불완전한 계약의 세계를, Hart는 완전성 자체가 불가능한 세계를 다루었다.
X. “그렇다면 기계는?”
여기서 이야기는 현재에 도착한다.
주인-대리인 문제는 어쩌면 가장 중대한 새로운 적용처를 AI alignment에서 찾았다. 창조자가 실제로 의도한 일을 하는 AI 시스템(system)을 만드는 과제다.
구조적 평행성은 기묘할 정도로 닮아 있다. 인간 설계자(주인)가 AI 시스템(대리인)에 과업을 위임한다. AI의 목적함수는 설계자가 진정으로 원하는 것과 어긋날 수 있다. AI가 악의적이기 때문이 아니라, 인간의 가치를 수학적 형식으로 정확히 지정하는 일이 압도적으로 복잡한 불완전 계약 문제이기 때문이다. 수백만 개의 예상치 못한 맥락을 가로질러 작동하는 시스템과 완전한 계약을 쓸 수는 없다.
Dylan Hadfield-Menell과 다른 연구자들은 주인-대리인 이론의 전체 역사, 즉 정보성 원리, 다중 과업 왜곡, 래칫 효과, 측정 가능한 대리 지표에 보상할 때의 결과로서 Goodhart’s Law가 AI 행동을 정렬하는 문제에 직접 대응된다고 주장해왔다. 인간 복지의 측정 가능한 대리 지표에 최적화된 AI 시스템은 설계자가 결코 의도하지 않은 방식으로 그 대리 지표를 착취할 것이다. 정확히 Holmström과 Milgrom의 다중 과업 모형이 예측하듯이 말이다. Goodhart’s Law, “측정치가 목표가 되면 더 이상 좋은 측정치가 아니다”라는 문장은 다중 과업 주인-대리인 문제를 한 문장으로 말한 것이다.
반전은 인간 직원과 달리 AI 시스템은 잠재적으로 재설계 될 수 있다는 점이다. 주인은 대리인의 선호에 대해 부분적인 강제력을 갖는다. 고전 이론에는 없는 특징이다. 이것이 문제를 더 쉽게 만드는지 더 어렵게 만드는지는 경제학과 컴퓨터과학 양쪽의 최전선에 놓인 열린 질문이다.
붙들고 있는 사슬
한 걸음 물러서서 이 지적 여정의 구조를 보자.
Smith는 물었다. 낯선 사람에게 당신 돈을 맡기면 무슨 일이 벌어지는가? Berle와 Means는 그것이 경제 전체에 일어났음을 기록했다. Arrow와 Akerlof는 정보 비대칭이 근본 원인임을 보였다. Ross와 Jensen은 문제에 이름을 붙이고 비용 구조를 주었다. Holmström은 최적 계약이 어떤 모습인지 보였고, 그런 다음 일이 측정 불가능한 부분을 가질 때 왜 그것이 실패하는지도 보였다. Hart는 계약 자체가 불완전할 때 무엇을 해야 하는지 보였다. 그리고 이제 새로운 세대는 소작농과 CEO 보수에 관한 논쟁 속에서 벼려진 바로 이 아이디어들이 Adam Smith가 상상한 어떤 대리인보다 더 강력한 시스템을 정렬하는 데 도움이 될 수 있는지 묻고 있다.
각 답은 더 어려운 질문을 낳았다. 각 해법은 더 깊은 문제를 드러냈다. 그것이 정말로 생성적인 아이디어의 표식이다. 그것은 일을 마무리하지 않는다. 오히려 아직 마무리해야 할 것이 얼마나 많은지 깨닫게 한다.
주인-대리인 문제는 해결되지 않았다. 어쩌면 해결 불가능할지도 모른다. 하지만 그것을 이해하려는 250년의 노력은 해법보다 더 귀한 것을 만들어냈다. 신뢰, 위임, 그리고 우리를 대신해 행동해달라고 타인에게 의존할 때 생기는 줄일 수 없는 비용에 대해 명료하게 생각하기 위한 언어 다.
그리고 정비공이 왜 항상 당신 차에서 추가로 고장 난 곳을 찾아내는지 궁금했던 적이 있다면, 이제 그 이름을 알게 된 셈이다.
이 글은 질문들을 따라갔다. 짝 글은 답들을 그린다. 인류가 신뢰의 문제를 풀기 위해 만들어낸 모든 무기, 그리고 왜 각각의 무기가 새로운 방식으로 망가지는지를.