[정관용의 시사본부] 판사도 속이려는 AI / 거짓 판례 활개

🖼️ 인포그래픽

🖼️ 4컷 인포그래픽

💡 한 줄 결론

AI로 위조한 증명서와 거짓 판례가 법원의 판단까지 흔들고 있어, 사건 번호 조회를 넘어 원문과 인용 내용의 검증이 필요하다.

📌 핵심 요점

1. 방송은 실제 잔액이 23원인 잔고증명서를 AI로 9억원대로 바꿔 제출해 구속영장 기각에 영향을 준 사례를 소개한다. 문서의 외관만으로 진위를 판단하기 어려워졌다는 문제다.
2. AI가 만들어낸 허위 판례에는 존재하지 않는 사건 번호뿐 아니라, 실제 사건 번호에 엉뚱한 내용을 붙인 경우도 있다. 번호가 검색된다는 사실만으로 인용의 정확성을 보장할 수 없다.
3. 기자가 확인한 판결 네 건에는 경력 27년의 변호사가 대리한 사건도 포함됐다. 나머지 세 건은 본인 소송으로 보인다고 설명해, 전문가와 일반 이용자 모두에게 검증 문제가 있음을 보여준다.
4. 법원행정처 설문에는 판사 360명이 응답했다. 민사·가사·행정 사건 담당 응답자의 약 80%가 허위이거나 존재하지 않는 판례를 인용한 서면을 받아봤다고 답했다는 내용이다.
5. 방송 시점에는 허위 판례 인용에 대한 국내 제재 근거가 충분하지 않고, 관련 법안도 심의되지 않은 상태로 소개된다. 당장의 대응은 제출 전 판결문 원문과 인용 취지를 직접 확인하는 것이다.

🧩 배경과 문제 정의

방송은 정치 현안을 다룬 도입부를 거쳐, AI가 만든 위조 증명서와 허위 판례가 실제 재판에 제출되는 문제를 집중적으로 다룬다. 판례는 주장을 뒷받침하는 근거로 쓰이고 사건 번호는 해당 판결을 찾는 식별자이지만, 그럴듯한 문장이나 실제 번호가 인용 내용의 진실성까지 보장하지는 않는다.

핵심 문제는 생성과 검증 사이의 격차다. AI로 정교한 문서나 판례 설명을 쉽게 만들 수 있는 반면, 오류를 확인하려면 누군가 원본과 판결문을 직접 살펴봐야 한다. 방송은 이 부담이 재판부와 당사자에게 돌아가는 상황에서 검색 기능, 제재 근거, 변호사 지침과 입법 대응이 충분한지 묻는다.

🕒 시간순 섹션별 상세정리

1. 정치 현안 도입과 법률 AI 문제 제기

• 진행자는 여야 대립과 대통령의 SNS 발언을 소개하고, 관련 정치 토론을 뒤 순서에서 다루겠다고 예고한다. [01:16]
• KBS 기자와의 시사 포커스로 넘어가며 AI가 판사까지 속이는 사례를 살펴보겠다고 주제를 제시한다. [01:54]

2. 23원 잔고가 9억원대 증명서로 바뀐 사례

• 사기 혐의 남성이 변제 능력을 주장하며 9억원대 잔고증명서를 제출했고, 판사가 이를 보고 구속영장을 기각했다고 보여준다. 실제 잔액은 23원이었다. [02:26]
• 진짜 잔고증명서 파일을 AI에 올리고 잔액 변경을 지시해 정교한 위조 문서를 만들었다는 경위를 보여준다. [03:12]
• 검찰은 육안으로 식별하기 어려울 정도의 위조 자료가 일반인뿐 아니라 판사까지 기망했다고 밝혔다고 전해진다. [03:25]

3. 존재하지 않는 판례가 소송 서면에 들어오는 경로

• 판례와 사건 번호의 역할을 설명하고, AI가 지어낸 번호와 판결이 실제 재판에 제출되고 있다고 지적한다. 서울동부지법이 허위 판례 인용을 강하게 비판한 판결문도 보여준다. [04:37]
• 특허법원 사건에서는 기업이 제시한 판례 상당수가 존재하지 않는 것으로 판결문에 적혔다고 전해진다. 경력 27년의 변호사가 대리한 사건이어서 전문가의 검증 소홀 문제도 드러난다. [05:29]
• 기자가 확인한 네 건 가운데 변호사가 있었던 사건은 한 건이고, 나머지 세 건은 본인 소송으로 보인다고 보여준다. AI에 의존하는 일반 당사자의 판례 검증 어려움도 짚어 본다. [06:01]

4. 사건 번호 확인만으로는 부족한 이유

• 수원지법 사례에서는 인용된 대법원 사건 번호를 검색하자 존재하지 않는다는 경고가 나타났다고 보여준다. 허위 여부는 누군가 직접 조회해야 드러난다는 점을 강조한다. [06:49]
• 서울북부지법 사례에서는 번호는 실제로 존재했지만, 인용된 판결의 내용이 해당 소송과 무관한 미국 경주마 매매 분쟁이었다고 전해진다. [07:21]
• 번호 조회에 더해 판결문을 읽고 내용까지 대조해야 하며, 법원도 허위 인용에 따른 재판 지연과 업무 부담을 지적했다고 보여준다. [07:42]

5. 판사 설문과 국내 대응의 한계

• 법원행정처 설문에 판사 360명이 응답했고, 민사·가사·행정 담당 응답자의 약 80%가 허위 또는 부존재 판례를 인용한 서면을 받아봤다고 전해진다. 당사자와 변호사 작성 서류 모두에서 발견됐으며 응답은 중복될 수 있다. [08:36]
• 올해 2월 도입된 대법원 사이트의 허위 사건 번호 확인 기능은 번호의 존재 여부를 알려주지만, 실제 번호에 엉뚱한 내용을 붙인 인용까지 판별하지는 못한다고 보여준다. [09:12]
• 문서 위조와 달리 허위 판례 인용만을 제재할 규정은 마땅치 않다고 지적한다. 법원 TF의 대응은 재판부 재량에 맡겨져 있고, 대한변협이 작성 중인 AI 가이드라인도 강제와 징계에 한계가 있다고 전해진다. [10:36]

6. 해외 제재와 국내 법안의 진행 상황

• 미국 뉴욕 연방법원의 2023년 벌금 5,000달러 사례와 영국의 감독기관 회부·추가 처벌 경고를 보여준다. 미국 벌금의 원화 환산액은 방송 중 약 650만원으로 바로잡는다. [11:21]
• 올해 7월 이성윤 의원이 발의한 법안은 허위·왜곡 인용에 500만원 이하 과태료를 부과할 수 있도록 하는 내용이라고 보여준다. 8월 정진욱 의원 법안은 AI로 소송 서류를 작성한 사실의 표시 의무도 담았다고 전해진다. [12:09]
• 두 법안 모두 국회 법제사법위원회로 넘어간 뒤 방송 시점까지 안건으로 다뤄지지 않았다고 지적한다. [12:18]

7. 원문 검증 권고와 방송 마무리

• AI가 알려준 판례라도 제출 전에 판결문 원문을 직접 확인하라고 권고한다. 비공개·유료 판결과 불편한 검색 서비스가 검증을 어렵게 한다는 점도 짚어 본다. [12:47]
• 사건 번호가 존재한다는 이유만으로 믿으면 속을 수 있다는 경고와 입법을 서둘러야 한다는 진행자의 발언으로 대담을 마친다. [12:59]
• 기자와 인사를 나눈 뒤 프로그램은 교통정보 순서로 넘어간다. [13:11]

🧾 결론

• 위조 증거와 허위 판례는 서로 다른 문제다. 방송은 문서 위조에 대한 처벌 가능성과 허위 판례 인용에 대한 제재 공백을 구분한다.
• 판례 검증은 사건의 존재 확인에서 끝나지 않는다. 실제 판결의 사실관계와 판단 내용이 제출하려는 주장에 부합하는지 읽어야 한다.
• 허위 인용을 찾아내는 작업은 재판부와 소송 당사자의 부담을 늘리고 재판 지연으로 이어질 수 있다.
• 검색 접근성 개선, 이용자의 검증 책임, 제재와 공개 의무에 관한 제도 논의가 함께 필요하다는 것이 방송의 문제의식이다.

📈 투자·시사 포인트

• 법률 AI를 평가할 때는 답변의 유창함과 함께 판결문 원문에 접근하고 인용을 대조할 수 있는지를 살펴볼 필요가 있다. 방송 사례는 검증 기능의 중요성을 보여준다.
• AI가 서류 작성 시간을 줄여도 결과물 검증에 추가 비용과 시간이 들 수 있다. 업무 효율을 판단할 때 검토 부담까지 포함해야 한다는 시사점이 있다.
• AI 사용 사실의 표시와 허위 인용 제재를 담은 법안은 법률 서비스의 운영 기준에 영향을 줄 수 있는 관찰 대상이다. 방송에서 소개한 내용은 시행 중인 의무가 아닌 입법 제안이다.
• 영상에는 특정 기업의 실적이나 자산 가격을 판단할 자료가 없다. 투자 관점에서 읽을 수 있는 범위는 법률 AI의 신뢰성과 제도 변화에 관한 쟁점까지다.

⚠️ 불확실하거나 확인이 필요한 부분

• 전사에는 기관명·법률 용어·금액의 오인식이 섞여 있다. 위조 잔고증명서의 정확한 표시 금액과 개별 사건의 세부 사항은 원문 자료로 확인필요가 있다.
• 미국 제재 사례의 원화 환산액은 방송 중 정정됐다. 최종 설명은 벌금 5,000달러, 당시 약 650만원이며 앞서 나온 ‘650억원’을 인용하면 안 된다.
• 약 80%라는 수치는 민사·가사·행정 사건을 담당한 설문 응답자의 경험 비율이다. 전체 판사나 전체 소송의 허위 인용 발생률로 확대할 수 없으며, 영상에는 표본 구성과 응답률이 제시되지 않는다.
• 자막 기반 정리: 타임스탬프가 있는 자막을 기준으로 정리했으며, 고유명사·수치·인용은 원문 확인 필요 시 별도 검증한다.
• 영상 속 주장: 발표자의 해석·전망·비교는 확인된 외부 사실이 아니라 영상 속 주장으로 분리해 읽는다.
• 검증 필요: 수치, 기업 실적, 정책·시장 전망은 발행 전 최신 자료로 별도 검증이 필요하다.

✅ 액션 아이템

• AI가 제시한 판례를 제출하기 전에 법원 사이트에서 사건 번호의 존재 여부를 조회한다.
• 판결문 원문을 열어 사건의 사실관계, 판단 내용, 인용하려는 취지가 실제 주장과 맞는지 대조한다.
• 원문을 확보하지 못했거나 내용이 일치하지 않는 판례는 검증된 근거처럼 사용하지 않는다.
• 잔고증명서 같은 증빙은 겉모습만으로 신뢰하지 말고 원본과 발급 사실을 확인할 방법을 점검한다.

❓ 열린 질문

• 실제 사건 번호에 허위 내용을 결합한 인용을 제출 전에 걸러내려면 어떤 검증 절차가 필요한가?
• 고의적 허위 인용과 검증 소홀을 어떻게 구분하고, 각각 어떤 책임을 부과해야 하는가?
• 비공개·유료 판결문과 불편한 검색 환경 속에서 본인 소송 당사자의 검증 접근성을 어떻게 높일 수 있는가?