기계가 아닌 인간의 지배: 법적 자동화의 한계점 (A RULE OF PERSONS, NOT MACHINES: The Limits of Legal Automation)

---

Frank Pasquale의 논문을 읽고 알기 쉽게 딱 5분 스피치 용으로 정리해둔 것이다. 아래 자료는 대학원에서 논문을 읽고 함께 논의하는 자리에서 발제를 하기 위해서 만든 것으로서, 나는 시각자료를 만들어서 제시하고 싶었다. 나는 아무래도 텍스트 중심으로 발제하는 것은 효과적이지 못한 부분이 있다고 생각하는 편이고, 이에 시각자료를 잘 활용하고자 하는 편이다. 또한 '읽기' 중심의 발제보다는 '말하기' 중심의 발제를 좋아하는 편이기도 하고. 어쨌든 그래서 토요일 아침의 꿀잠을 줄이고 아래와 같이 만들었다. 

---

1. 리걸 퓨처리스트들의 주된 목표: 변호사 업무의 자동화

 

먼저, Legal Futurists(리걸 퓨처리스트)라는 사람들이 나온다. 아마도 저자인 Frank Pasquale이 붙인 명칭이지 않을까 생각하는데, 단순히 미래지향적인 법조계 인사들이라고 볼 수만은 없고 인공지능(A.I)과 관련하여 법조실무(legal practice)를 묶어서 법적 자동화(legal automation)를 달성하려는 사람들을 두고 리걸 퓨처리스트라고 지칭하는 것이라고 본다. 나는 리걸 퓨처리스트를 우리말로 어떻게 번역을 할까 생각을 하다가 '법 미래주의자'라고 표현하기로 하였다. (하지만 내 입에는 리걸 퓨처리스트라는 말이 더 잘 붙으므로 앞으로 계속 리걸 퓨처리스트라고 부르겠다.)

 

리걸 퓨처리스트들은 법조실무와 법적자동화가 매우 연계되기 쉽다고 본다. 법조실무가 사실관계를 정리해서 그것에 적용될 수 있는 법규를 찾은 다음에 그에 따라 법적 판단을 내놓는 3단계의 구성을 취한다면, 법적 자동화란 그야말로 인풋(input)으로서의 데이터들이 있을 것이고 그 데이터들을 알고리즘에 적용함으로써 아웃풋(output)을 낸다는 것이다.

 

이때 리걸 퓨처리스트들의 견해에 따르면 인풋이 다양한 사실관계로, 법규가 알고리즘으로, 법적 판단이 아웃풋으로 각 대응된다는 도식이 나온다. 즉, 그들은 법규를 공식으로 만들어서 컴퓨터로 처리할 수 있는 알고리즘으로 형성함으로써 컴퓨터 코드로 만들 수 있다고 주장하는 것이다.

---

2. 미국에서 2019년 기준으로 적용되는 대체적 법적 기술과 그 한계점

 

리걸 퓨처리스트들이 제시하고 있는 대체적 법적 기술의 예시가 나온다. 조세납부의 측면에서의 'TurboTax', 법적 양식의 자동화 측면에서의 'LegalZoom', 그리고 주차위반 때 불복절차를 자동화하는 'DoNotPay'가 바로 그 예시들이다.

 

Legal Futurist들이 성공적인 법적 자동화(리걸 오토메이션)의 예시로 든 세 가지 사례

 

A. 세금신고를 도와주는 TurboTax와 그 한계점

https://turbotax.intuit.com/

Taxes Done Smarter With TurboTax #1 Best-Selling Tax Software

 

"Get your maximum refund from the comfort of home", 이것이 바로 TurboTax의 캐치프라이즈이다. TurboTax는 미국세법상 방대하게 요구되는 복잡한 질문을 알고리즘 화하여 세금을 납부할 수 있게 하는 서비스를 제공한다. 납세자들은 몇 가지 알고리즘만 선택하면 매우 간단하게 납세절차를 밟을 수 있다고 한다. 

 

그러나 Frank Pasquale은 이렇게 지적한다. TurboTax는 미국 시민들에게 납세절차를 간편하게 해줄 수 있는 서비스를 제공하는 것은 맞지만, 미국 입법자들에게 세법을 더욱 어렵고 복잡하게 만들어 달라는 '로비(lobby)'도 하고 있다는 것이다. 즉, 세법이 일반 시민들로서는 잘 이해하기 어려울 수록, 세무사 등을 찾아가서 처리를 하더라도 시간이 오래 걸릴수록 미국 시민들이 TurboTax와 같은 프로그램을 사용할 유인이 늘어난다는 것이다. 

 

B. 개인맞춤형 법적 정보를 제공하는 LegalZoom과 그 한계점

https://www.legalzoom.com/

LegalZoom | Start a Business, Protect Your Family: LLC Wills Trademark Incorporate & More Online

미국에도 맞춤형 법률서비스를 제공하고 그 서비스에 맞는 간단한 법적 서식을 작성할 수 있게 하는 서비스가 있는데, 그것이 바로 LegalZoom이라는 서비스이다. 이 서비스는 특히 법인 설립절차를 밟을 경우 특히 유용하다고 한다. (우리나라에도 맞춤형 법률서비스를 제공하며 간단한 서식을 자동화하여 작성할 수 있게 해주는 회사들이 있는 것으로 알고 있는데, 막상 변호사인 나는 2020. 6. 까지 그 서비스를 이용해본 사실은 없다. 간단한 서식은 내 지식과 노하우로 해결하는 것이 보다 편하기 때문이다. 다만 궁금해서 홈페이지에서 구경만 몇 번 해보고 나온 것이 전부이다.)

 

그렇다면 Frank Pasquale이 지적하는 LegalZoom의 한계는 무엇일까? 그 한계란 바로 법적 사안에 있어서 정확성을 보장하지 않는다는 것이다. 맞춤형 법률서비스를 제공한다고는 하지만 사실 그것이 정말 '맞춤형'인지 알 수가 없고, 그 내용이 정확한 것인지 알 수가 없다는 것이다. 이것은 마치 네이버 지식인에서 법률에 관한 질문을 하고 그것에 답변을 얻는 것과도 마찬가지일 수도 있다. 사안의 정체를 정확하게 파악하고 그것의 핵심에 따라 정확하게 처리하여야 하는 것이 법률실무라면, LegalZoom에서는 그 정도의 정확하고 정교한 서비스를 제공하지 못한다는 것이다. 

 

C. 주차위반단속에 걸렸을 때 사용하는 DoNotPay와 그 한계점

 https://donotpay.com/

DoNotPay - The World's First Robot Lawyer

 

주차위반단속에 걸렸을 때, 이른바 '딱지' 떼였을 때 DoNotPay(두 낫 페이)는 불복수단에 대한 자동화 서비스를 제공한다. '인간'인 경찰관으로서는 주차위반 단속에 있어서 '딱지'를 떼면 한 마디로 '법규위반'이라는 판단을 내린 것인데, 단속에 걸린 사람의 입장에서는 그것이 억울한 경우일 수도 있다. 이때 사용하는 것이 이른바 '로봇 변호사(as a "robot lawyer")'라고 하는 DoNotPay이다. 2019년 기준으로 뉴욕, 캠브리지, 매사추세츠, 시카고, 밀워키, 새크라멘토 등에서 주차단속에 대한 불복절차를 마련하고 있다고 한다(위키백과 참조).

 

그런데 Frank Pasquale은 DoNotPay와 같은 서비스는 구체적인 사실관계의 문제에 있어서 판단하기 어렵다는 점을 지적한다. 불복절차를 간소하게 하는 것은 좋지만 가령 도시 전체를 주차위반 감시카메라로 덮을 것도 아닌데 어떻게 사실관계를 DoNotPay라는 어플리케이션이 판단할 수 있겠느냐는 점이다. 또한 주차위반에 있어서 정말로 응급상황 등 면책사유도 있겠지만, DoNotPay를 사용할 경우 꾀병을 부리는 사람에 의하여 악용될 수 있다고 한다.

 

더 나아가 그는 DoNotPay 서비스는 이른바 '로봇 변호사(a robot lawyer)'라고 캐치프라이즈를 잡았지만, 실제로 변호사의 상담과 같은 서비스를 제공하지는 못한다고 한다. 이때 드러나는 문제점이 바로 부정확한 정보를 제공하는 것이다. 다시 말해 DoNotPay와 같은 서비스가 정확한 정보를 제공하지 못할 때, '그러한 부정확성에 의한 위험'은 DoNotPay에 가입하여 서비스를 제공받는 사람들이 져야 한다는 것을 의미한다. (물론 '인간인 변호사'라면 그러한 부정확성을 일차적으로 줄일 것이고, 설령 잘못된 정보를 제공하였다고 하더라도 '인간인 변호사'에게 책임을 물을 수 있음은 물론일 것이다. 그러니까 '인간인 변호사'에게 자격증(license)이 주어지는 것이고 말이다.)

 

---

3. 미래의 실질적 법적 자동화를 위한 계획

 

Frank Pasquale은 리걸 퓨처리스트들이 제시하는 법적 자동화(legal automation)은 주로 ⓐ 문제의 위험이 낮을 때, ⓑ 대안의 가능성이 낮을 때, ⓒ 정의에 대한 접근보다는 법적 비용의 최소화가 중요할 때 이루어질 수 있는 것이라고 지적한다. 다시 말해서, 문제의 위험이 높거나 다른 대안의 가능성이 있거나 법적 비용의 최소화보다는 정의에 대한 접근이 보다 중요할 때에는 법적 자동화를 논한다는 것 자체가 시기상조라는 의미이다. 이와 관련하여 네 가지 정도의 분야가 법적 자동화와 관련하여서 간추려진다. 아래는 Frank Pasquale의 논의를 정리한 것이다.

 

A. 개인정보

법적 자동화는 필연적으로 방대한 개인정보를 수반하므로, 자동화할 수 있는 개인정보와 자동화할 수 없는 개인정보를 구별하자는 것이다. 개인에게 개인정보를 읽어들일 수 있다는 점과 그 수집한 정보들을 활용할 수 있다는 가능성에 관하여 고지할 의무가 있다. 가령 HIPPA(Health Insurance Portability and Accountability Act)의 경우에는 개인의 건강정보 등에 관한 데이터를 전송할 경우 개인정보의 보호 범위에 관하여 논의하고 있다.

 

B. 스마트계약

스마트 계약은 표준화된 계약을 자동화한다는 것이다. 그런데 '비(非) 표준적 상황'에서는 자동화할 것이 아니라 여전히 인간에 의한 중재가 필요하다. 이때 예시를 드는 것이 바로 '설탕'과 '치킨'이다. 설탕은 어느 설탕 알갱이가 비표준적인 것일지 따질 필요 없이 하나의 포대 안에 담긴 설탕이라면 상대적으로 표준적이라고 할 수 있다. 그런데 치킨의 경우에는 반드시 그러하지 않다. 이것은 표준적인 계약인지 비표준적인 계약인지에 따라서 자동화를 할 수 있는지 여부에 관한 용이성이 달라진다는 점을 인정하자는 것이다.

 

금융거래계약에서는 공식화할 수 있을 만큼의 표준화되고 반복적인 거래계약이 있는 경우가 많다. 가령, 채무불이행이나 연체 이행 등 거래 상태를 표준적으로 정리할 수 있고, 마찬가지로 지급 여부나 만기일 도과 등에 대한 기록 또한 표준적으로 기록할 수 있다. 그런데 만약 계약조건 자체가 충족되지 못하는 경우라면 어떻게 되는 것일까? 예상 밖의 변수가 등장한 경우라면 아무리 금융거래계약이라고 하더라도 스마트 계약을 적용하지 못하는 것이다.

 

C. 블록체인

블록체인형 거래 역시도 법적 자동화의 대상으로 주목되고 있지만, 현실거래에서 문제가 발생할 수 있고 이에 따라서 여전히 인간의 개입이 필요하다. 가령, 자동차 소유권 이전을 블록체인형 거래로 한다고 생각해보자. 소유권을 비롯하여 자동차의 모든 이력에 관하여 정보를 블록체 인화하였다고 생각해보자. 그렇다고 하여 DMV(Department of Motor Vehicles; 미국의 자동차 관리국 정도로 해석하면 된다) 내지 은행 등이 필요 없어지는 것도 아니다. 블록체인상 거래가 일어남에도 불구하고 그것이 해커에 의한 거래가 될 위험도 있고, 설령 거래가 있었다고 하더라도 실제로 자동차가 양도되지 않는 등의 문제가 발생할 수도 있다. 이것은 인간에 의하여 보완되어야 할 부분이다.

 

D. 지배구조  

분산화된 자동화 조직체(DAO)를 예시로 들지만, 그럼에도 불구하고 여전히 인간의 협력이 필수적인 것은 당연하다. 기술을 맹목적으로 지지하는 사람들은 소프트웨어로 모든 것을 다 효율화할 수 있을 것이라고 유혹을 느낄 수도 있지만, 그러나 소프트웨어는 취약할 수도 있고 해킹당할 수도 있다. 그렇기 때문에 결국 누구를, 무엇을 위한 거래인지 여부에 관하여 판단해볼 필요가 있고, 이에 인간에 의한 통제와 지배구조 등에 관하여 대안적인 패러다임을 모색하여 보아야 할 필요가 있다.

 

4. 법적 자동화에 대한 보완책의 마련

 

Frank Pasquale은 법적 자동화에 대하여 보완책을 제시한다. 그 키워드로는 '지능 증강'(Intelligence Augmentation)과 '표준적 기준'이라는 두 가지를 제시한다.

 

A. 지능 증강(Intelligence Augmentation)

Frank Pasquale은 '인공지능(AI)'과 '지능 증강(IA)'를 비교한다. 먼저, 인공지능(Artificial Intelligence)란 '인간 노동을 대체'하는 개념으로 본다. 군대로 보자면 보병이나 경비병을 인공 지능화한다는 것은, 곧 인공지능이 군인을 대체한다는 것을 의미한다고 본다. 그러나 지능 증강(Intelligence Augmentation)은 '인간 노동을 보완'하는 개념으로 본다. 마찬가지로 군대에 비유하자면 보병이나 경비병을 지능 증강화한다는 것은, 곧 위험한 지역에 로봇을 파견하고 군인이 그 로봇을 다룸으로써 위험한 지역에서도 군인이 수행할 수 있는 역할을 보다 제대로 할 수 있게 도모한다는 것이다.

 

그렇기 때문에 지능이 증강된 로봇은 궁극적으로 인간을 대체할 수 있는 것은 아니고, 로봇은 오로지 인간을 위한 보조자적인 역할을 담당할 수 있다는 것이다. 불확정한 영역에서, 유연성과 융통성이 필요한 순간, 가치판단을 요구하는 영역에서는 로봇이란 여전히 인간의 두 번째 눈과 귀로서 기능을 한다. 이것이 바로 인공지능과는 구별되는 지능이 증강된 로봇이며, 여전히 인간에 의한 통제가 살아있는 영역에서 로봇을 발전시킬 수 있는 것이다.

 

B. 표준적 기준의 마련

Frank Pasquale은 앞으로 데이터에 의하여 무차별적으로 예측(측정)이 우려가 되는 시대에 있어서 명료하고도 표준적인 기준을 보존하여야 한다고 주장한다. 가령, 일기예보의 경우 예측 분석을 기반으로 하여 전문가 시스템과 머신러닝의 결합이 법적 자동화에 있어서 매우 진보적이다. 그러나 법적 영역에 있어서는 여전히 '설득력'과 '정당성'이 요구되고, 이것은 바로 질서와 가치의 측면에서 의미가 있다.

 

만약에 판사의 판결이 판사가 '점심을 먹기 전'과 '점심을 먹은 후'에 있어서 인용률과 기각률이 차이가 난다는 행동경제학적 데이터가 수집된다고 해보자. 이렇게 '판사의 배고픔 여부'란 매우 불안정한 요소이기는 하지만, 이것을 데이터를 통해서 발견할 수는 있되, 이러한 발견 자체가 인간의 의사결정을 궁극적으로 대신할 수는 없다는 것이다.

 

---

독후감

 

얼마 전에 읽었던 책이다. 리처드 서스킨드와 그의 아들 대니얼 서스킨드의 <4차 산업혁명 시대 전문직의 미래>라는 책이다. 나는 이 책을 읽으면서 여러 가지 생각이 들기는 했고 공감이 되는 부분도 있기도 했고, '서류 중심의 업무'인 변호사 업무에 대해서 어느 정도 이해가 된 바도 있기는 했으나, 그럼에도 불구하고 책을 덮고 나니 지금 한국의 서초동에서 일하는 변호사의 업무와는 상당히 거리감이 있다는 점을 느끼게 되었다. (만약 내가 뉴욕이나 보스턴 아니면 캘리포니아 실리콘 밸리의 한 복판에서 일하는 로펌 변호사라면 그 거리감을 느끼지 않았을지도 모른다.) 

 

참 재미있게도 나는 '4차 산업혁명'이라는 말을 들을 때마다, '나는 좀 더 인간다워져야지'라고 생각하는 편이었고, 이 논문을 읽고 난 다음 나의 생각은 '그래서 나는 어떻게 일하고 어떻게 살아갈 것인가?'라는 것이었다. 이 질문은 지금 현실에서는 시기상조인 질문일 수도 있고, 또한 나 스스로도 어떻게든 미래에서 어떻게 얼마큼 살아갈 수 있을지 잘 모르겠지만, 그럼에도 불구하고 나는 여전히 내가 변호사라는 직업을 가지고 있기 때문에 여전히 기계로 대체될 수 없는 영역이 있다고 생각한다. 

 

 

전문직의 미래에 관하여 낙관론과 비관론이 서로 엇갈리고 있다. 어쩌면 이것은 일반론적인 시각으로 '전문직이 유망하냐, 하지 않느냐'라는 생각일 수도 있다. 하지만 나는 이러한 시각에 대해 어느 정도 인정을 하면서도, 그럼에도 불구하고 사람이 하는 일이니 만큼 일률적으로 낙관적이라거나 비관적이라고 판단할 수는 없다고 본다.

 

결국 사람의 가치판단의 영역이 개입되는 영역이기도 하고, 또한 전문직 사람들은 하나의 알고리즘으로 요약될 수 있는 지식을 가지고 있는 것이 아니라 각기 처한 상황과 각기 담당한 사건에서 저마다의 지식수준은 비슷할지언정 그것을 관리하고 일을 처리해내는 방식이 완전히 다르다. 그것을 나는 영어로 '셀프 거버넌스'(self-governance)라는 단어로 표현할 수 있다고 생각한다. 셀프 거버넌스(self-governance)라는 말, 물론 우리말로 표현하면 '자기 통치력'이라는 표현도 할 수 있겠지만, 나는 일단 이 셀프 거버넌스라는 말을 좋아한다.

 

적어도 나는 변호사로서 내 사건을 처리할 때에는 '이 사건을 대한민국 어느 사람도 나 보다 이 사건을 잘 아는 사람은 당사자 이외에는 없다'라는 생각을 가지고 수행한다. 아니, 어쩌면 당사자보다는 내가 이 사건을 가장 잘 알고 있는 사람 중에 유일할 수도 있다고 생각한다. 그것은 어떻게 사실관계를 파악하고, 그 사실관계 중에서 법리적으로 다투어야 하는 부분이 무엇인지를 판단하고, 그 의뢰인의 삶을 위하여 무엇이 최선일지 여부에 대해서 판단하는 것인데, 그것은 곧 그 사람의 인생과 현재 처한 상황에 대한 나의 '가치판단'으로 인하여 비로소 '사건의 틀'이 형성된다는 것을 의미한다. 그리고 그 틀 속에서 나는 싸우게 된다. 그렇기 때문에 그 틀 속에서는 나는 '셀프 거버넌스'를 펼치고 있는 것이다. 이것이 내가 '전문직으로서의 변호사'의 일을 하면서 느끼는 보람이기도, 앞으로서 변호사로서의 내가 쌓아갈 업무역량이라는 생각을 가지고 있다.

 

서류처리 업무나 혹은 서식 작성 등의 업무 등은 대체될 수 있다. 그러나 그 업무가 이 직업의 본질이 아니라는 것은 너무나도 자명한 일이다. 그것이 사람인 '비서'나 '직원'이 '손'으로 처리해줄 수 있는 일에서 '스마트한 로봇'이 처리해줄 수 있는 일이라는 점에서 차이가 있을 뿐이다. 그리고 설령 '정말로 판사의 배고픔 여부와 판결의 인용률과 기각률을 비교해줄 수 있는 빅데이터'들이 수집될 수 있다고 하더라도, 그것이 변호사의 직업의 본질에 영향을 미칠 수 있는 것은 아니라고 본다. 그러한 데이터들을 분석하는 것 또한 변호사의 몫이기도 하고, (물론 일개 개인 변호사가 그것을 분석할 수도 없고, 분석한 것을 활용하는 것은 한계가 있을 것이다) 결국 사람의 판단을 요하는 것이기 때문이다.

 

 

한편으로는 로봇을 통해 인간의 판단이 증강될 수 있는 법적 분야는 무엇일까? 특히 비정형적인 상황에서 인간의 재량과 협상에 의한 가치판단이 요구되는 분야에서 로봇을 통해 보완될 수 있는 영역은 무엇일까. 나는 이 분야에 대한 궁금증이 생겼고, 그다음의 읽기 자료로는 염두에 두고 있는 부분이 있지만, 그것은 다음 페이퍼를 작성한 다음 밝히기로 한다.

 

---

 

함께 읽을 포스트

https://yukyungseo.com/entry/논문읽기-프랭크-파스칼의-기계의-지배가-아닌-인간의-지배-법적-자동화의-한계-A-RULE-OF-PERSONS-NOT-MACHINES-THE-LIMITS-OF-LEGAL-AUTOMATION

프랭크 파스칼의 "기계의 지배가 아닌 인간의 지배: 법적 자동화의 한계" (A RULE OF PERSONS, NOT MACHINE

 

---

 

서유경 (Yukyung Seo)
변호사, 변리사

디자이너와 스타트업 경험 후 
변호사, 변리사로 일하고 있습니다.
예술, 기술, 기업과 법의 접점에 대한 글을 씁니다.

이메일: yk.seo.kr@gmail.com
웹사이트: yukyungseo.com