챗GPT, 尹 모르면서 거짓말…이 AI는 ‘거짓말 탐지기’ 달았다

━

법조계 혁신하는 AI, 뜯어보니

■ 경제+

“인용한 세 사건 중 실제 사건이 하나도 없다.”

지난해 말 뉴욕남부지방법원 제이 퍼먼 판사 법정. 퍼먼 판사는 도널드 트럼프 전 대통령 측근이자 변호사였던 마이클 코언에게 철저한 설명을 요구했다. 코언이 정치자금 관련 법 위반 혐의로 자신이 기소된 사건에서 법원에 제출한 판례 3건이 모두 다 가짜였다. 알고보니 코언은 구글의 생성 인공지능(AI) 바드로 판례를 찾아 제출했다. 베테랑 법조인인 코언도 그의 변호인도 AI의 할루시네이션(환각·그럴싸한 거짓말)에 속아 넘어갔다.

법률AI

1. 모르면 거짓말 하는 ‘환각’…‘RAG 기술’로 검증 가능

법률 분야는 정확성이 생명이다. 개인과 기업의 사회적 명운을 건 분쟁에 대해 판단해야 해서다. 1년 전 챗GPT 출시 이후 사회 전 분야에 생성AI가 퍼질 때, 대다수 법조인이 법률 분야 생성 AI 활용에 대해 반신반의한 것도 같은 맥락이다. 하지만 최근 이 흐름에도 큰 변화가 생겼다. 리걸테크(legal tech·법률+기술) 기업이 챗GPT나 바드 같은 범용 AI 보다 더 정확한 ‘법률 AI’를 속속 선보여서다. 법률 AI는 인간 변호사를 보조하는 패러리걸(paralegal·법률보조원)로 성장할 수 있을까.

◆줄줄 나온다 ‘법률용 챗GPT’= ‘만물박사 AI’ 대신, 법률 분야 한 우물을 파서 정확도를 높인 AI가 속속 등장하고 있다.

글로벌 리걸테크 투톱, 렉시스넥시스(LexisNexis)와 톰슨로이터(Thomson Reuters)가 생성 법률 AI 솔루션을 잇달아 내놨다. 지난해 10월 렉시스넥시스는 미국 판례와 연방 법조문 등 미국법 데이터 기반 생성 AI인 ‘렉시스 플러스 AI(Lexis+ AI)’를 출시했다. 판례검색과 법률 문서 요약 같은 기존 소프트웨어(SW) 기능을 AI와 대화를 통해 이용할 수 있게 만든 것. 일종의 ‘챗GPT 법률 판’이다. 11월에는 톰슨로이터가 자사 법률 SW인 ‘웨스트로’에 생성AI 비서 기능을 결합한 ‘웨스트로 프리시전(Westlaw Precision)’을 발표했다.

생성 AI의 천연덕스러운 거짓말에 속은 변호사, 한둘이 아니다. 이 문제를 해결하기 위해 리걸 테크 기업은 인용과 검증 기능을 생성AI에 장착했다. 렉시스+ AI는 AI가 판례 등 답을 내놓을 때 출처를 함께 제시하고, 잘못됐다면 사용자가 신고해 피드백을 받을 수 있게 했다. 웨스트로 프리시전 역시, AI가 생성한 콘텐트의 근거문헌 링크를 포함해 답변한다.

◆2024 한국, ‘각종법+AI’ 전성시대=한국 법조계에도 리걸테크 발(發) 생성 AI 혁명, 시동이 걸렸다.

렉시스+ AI와 웨스트로 프리시전은 곧 한국에 상륙한다. 인수합병(M&A) 등 미국법 수요가 큰 한국 대기업 법무 시장을 노리고 있다. 한국 내 미국 변호사가 이들 법률 SW를 이미 쓰고 있기 때문에 확장 가능성이 크다는 계산이다. 렉시스넥시스코리아 측은 “1분기 내에 렉시스+ AI를 한국에도 정식 출시한다”며 “한국에 출시되면 바로 구독하겠다는 기업이 많다”고 밝혔다.

변호사 매칭 서비스 등을 하는 국내 스타트업 로앤굿은 지난해 말 선거법 AI 검색챗봇을 출시했다. 챗GPT에게 하듯이 ‘선거 현수막은 언제부터 달 수 있어?’라고 질문하면 답을 준다. 근거가 되는 법 조항이나 판례도 함께 제시. 중앙선거관리위원회에 등록된 질의응답 1만여 건과 선거법 판례 3000여 건을 학습했다. 현재 선거법 AI는 무료 서비스다.

2. 글로벌 투톱, 새 생성 AI…한국, 선거·학폭 등 챗봇

국내 스타트업 인텔리콘은 생성AI 기반 학교폭력 법률상담 시스템을 개발했다. 학교폭력 사건이 발생하면 교사에게는 적법한 처리 과정을, 피해·가해 학생·학부모에겐 법률 정보와 상담을 제공하는 대화형 AI다. 임영익 인텔리콘 대표 “지난해 10월 서울시와 협약을 맺은 후 개발했고, 현재 1차 결과물이 완성됐다”며 “‘학생이 교사를 모욕한 경우 대처방안’, ‘학폭 처리 절차’ 등에 대한 답변을 효과적으로 제공할 수 있다”고 말했다.

신재민 기자

◆요새 리걸테크 AI, 다 ‘근거 있는 검색’ 한다던데?= GPT 같은 거대언어모델(LLM)은 한 단어 다음에 올 확률이 높은 단어를 제시하는 방식으로 그럴듯한(개연성) 답변을 내놓는다. 이 때문에 생기는 게 환각이다. 최근 나온 생성 법률 AI 서비스들은 출처확인 외 방법으로도 환각 문제를 해결하고 있다.

메타·구글·오픈AI·아마존·엔비디아 등, 글로벌 테크 기업이 모두 주목하는 AI 기술이 있다. RAG(Retrieval Augmented Generation), ‘검색 증강 생성’ 기술이다. 쉽게 말해 ‘외부에서 가져온 사실로 생성 AI 모델의 정확도, 신뢰도를 향상시키는 기술’이다. GPT 같은 LLM은 데이터를 학습한 시점 이후 정보는 모른다. 예컨대 GPT3.5는 2021년 데이터까지 학습했기에 한국 20대 대통령(2022년 선출)이 누구인지 모른다. 문제는 몰라도 답변을 지어낸다는 것. RAG는 LLM이 없는 정보를 지어내는 대신 외부 데이터를 가져와 정확한 최신 정보로 답하게 하는 기술이다.

RAG는 법률 AI의 유통기한도 확장한다. 최신 판례도 바로바로 찾아줄 수 있어서다. 민명기 로앤굿 대표는 중앙일보에 “RAG 기술은 오류가 용납되지 않는 법률·규제 분야 ‘정확한 AI’를 구현할 수 있는 열쇠”라면서 “법률이나 규제 정보로 별도 데이터베이스(DB)를 만든 뒤, AI 모델이 그 DB에서만 검색하도록 하는 것”이라고 말했다. AI에게 ‘이걸 바탕으로 답변하라’라고 거대한 참고서를 쥐여주는 셈이다.

RAG가 주목받는 또 다른 이유는 저렴한 비용이다. LLM을 학습·재학습 시키려면 매개변수(파라미터) 수에 따라 천문학적 비용이 들지만, RAG는 모델을 다시 학습시킬 필요 없이 프롬프트 엔지니어링(AI가 정확한 답변을 하도록 유도하는 기술)만으로 가능하다.

3. 신 기술 막는 ‘변호사법’…109조 바꿔야 시장 커져

◆법률 AI, 적이냐 아군이냐= 2015년 3월 서울지방변호사회 고발로 시작된 로톡 사태는 법조계 기술혁신이 얼마나 어려운지 보여주는 상징적 사건이었다. 8년여간 로톡은 변호사법 위반에 대해 수차례 무혐의 판정을 받았지만, 가입 변호사가 대한변협 징계까지 받아 사업에 큰 타격을 입었다. 갈등은 법무부가 지난해 9월 변협 징계를 취소하며 일단락됐다. 로톡 이후 제도권 법조계, 법률 AI는 받아들일 수 있을까.

렉시스넥시스가 지난해 3~7월 미국과 유럽 변호사 3700명과 법대생 1200명을 설문조사한 결과, 응답자 43%는 법률업무용으로 생성 AI를 써봤거나 쓸 계획이 있다고 답했다. 변호사 92%는 생성 AI가 법률 업무에 영향이 있다고 했고. 47%는 법률업무를 중대하게 바꿔놓을 거라고 했다.

국내에서 광고 플랫폼이 아닌 AI를 활용한 리걸테크는 이제 걸음마 수준이다. 이병준 고려대 법학연구원 리걸테크센터장(법학전문대학원 교수)은 “미국처럼 실무에 활발히 적용하기 위해서는 변호사법 109조 문제가 해결되어야 한다”고 지적했다. 변호사법 109조는 ‘변호사가 아닌 자’의 유상 법률 상담 및 법률문서 작성을 금지한다.

■ 혁신의 최전선에서 비즈니스의 미래를 봅니다. 첨단 산업의 '미래검증 보고서' 더중플에서 더 빨리 확인하세요.

경제+

AI기업 날려버린 챗GPT 시대, K스타트업의 ‘생존 필살기’

https://www.joongang.co.kr/article/25218955

환갑 아빠도 10원씩 모은다…“토스 켜” 그 버튼의 유혹

https://www.joongang.co.kr/article/25226243

간병 지옥 대신 싸워드립니다…老老케어 시대, 이런 스타트업

https://www.joongang.co.kr/article/25222882#home

15초 만에 3명 실업자 됐다…CES서 목격한 ‘두려운 AI’

https://www.joongang.co.kr/article/25221295

여성국·심서현·김지아 기자 yu.sungkuk@joongang.co.kr

▶ 중앙일보 / '페이스북' 친구추가

▶ 넌 뉴스를 찾아봐? 난 뉴스가 찾아와!

ⓒ중앙일보(https://www.joongang.co.kr), 무단 전재 및 재배포 금지