재판판 필리버스터보다 더 위험한 것은, 인공지능이 생성한 가짜 증거를 재판부가 걸러낼 수단이 사실상 없다는 점이다. 딥페이크 CCTV 영상, AI가 작성한 허위 문서, 조작된 음성 파일이 증거로 제출될 때, 현재 우리 사법 시스템은 이를 검증할 기술도, 절차도, 예산도 가지고 있지 않다.
‘더 캡쳐’가 보여주는 딥페이크의 위험
영국 드라마 ‘더 캡쳐(The Capture)’는 딥페이크 시대의 사법 시스템을 다룬다. 드라마 속 국가 보안기관은 ‘교정(Correction)’이라는 이름의 딥페이크 기술로 CCTV 영상을 실시간으로 조작하여, 무고한 전직 군인을 폭행범으로 만든다. 피고인은 “나는 그런 일을 하지 않았다”고 주장하지만, CCTV 영상이라는 ‘객관적 증거’ 앞에서 그의 기억은 무력해진다.
이것은 허구가 아니다. ‘더 캡쳐’는 현실이 되어가고 있다. 드라마가 경고하듯이, 딥페이크 기술은 이미 개인의 눈으로 분간하기 불가능한 수준에 도달했고, ‘객관적 증거’로 여겼지던 CCTV와 음성 녹취, 문서 자료는 더 이상 그 자체로 신뢰할 수 없는 시대가 왔다.
이미 현실이 된 가짜 증거 사건들
2023년 테슬라 사고 재판: 일론 머스크의 변호인단은 원고가 제출한 음성 증거를 두고 “딥페이크일 가능성이 있다”고 주장했다. 머스크처럼 유명한 인물은 딥페이크의 대상이 되기 쉽다며, 기록된 발언을 부인하고 책임을 회피할 수 있다는 선례를 만들려 했다.
2024년 국내 챙GPT 가짜 탄원서 사건: 마약사범이 챙GPT로 “고양시 청년위원장”으로 활동했다는 허위 내용의 탄원서를 작성해 검찰과 법원에 제출했다. AI 악용으로 증거를 조작하고 허위 문서를 제출한 국내 첫 사례로, 검찰은 사문서위조 혐의로 추가 기소했다.
2020년 미 의회 폭동 사건: 체포된 폭동 참여자 2명은 자신들이 현장에 나온 영상이 “AI가 만든 딥페이크”라고 주장했다. 당시에는 기각됐지만, 전문가들은 “앞으로 모든 증거에 대해 ‘이건 딥페이크다’라는 반론이 쏟아질 것”이라고 경고했다.
사법부의 무방비 상태: 검증 시스템의 부재
현재 우리 사법부는 이러한 위협에 실질적으로 무방비하다. 딥페이크 CCTV 영상이 증거로 제출되더라도, 이를 검증할 기술적 인프라가 없다. 변호사가 유사 사이트나 정치적 편향이 담긴 기사를 인용하더라도, 그 출처의 정확성을 검증할 시스템이 없다.
판사와 검사들은 여전히 “눈으로 보고 판단”하는 방식으로 증거를 검토한다. AI가 생성한 허위 판례를 인용해도, 일일이 원문을 확인해야 한다. 문제는 방대한 자료와 불분명한 출처를 검증하는 데 드는 비용과 시간이다. 이 부담은 전적으로 재판부와 검찰에게 집중된다.
생중계된 재판이 만드는 오염과 편견
내란 재판처럼 주요 정치 사건이 TV로 생중계될 경우, 문제는 더욱 심각해진다. 딥페이크 CCTV나 조작된 증거가 법정에서 제출되고 이것이 실시간 방송될 경우, 시청자들은 그것을 ‘사실’로 받아들일 수 있다. 설령 나중에 거짓으로 밝혀지더라도, 이미 대중의 인식에 각인된 편견과 오염은 지우기 어렵다.
이는 단순히 한 재판의 공정성 문제를 넘어, 사회 전체에 잘못된 정보를 확산시키고 여론을 조작하는 도구로 악용될 수 있다. AI가 만든 가짜 증거가 생중계로 전국민에게 퍼져나가는 순간, 그것은 사법 폐해를 넘어 정치적 무기가 된다.
시급한 사법 시스템 개혁
재판판 필리버스터처럼 시간 제한 없는 무제한 변론에 속수무책이듯이, AI 조작 증거에도 우리 사법부는 준비되어 있지 않다. 시급히 다음과 같은 조치가 필요하다.
1. 딥페이크 검증 기술 도입: 법원과 검찰은 영상·음성·문서의 진위를 분석하는 AI 포렌식 도구를 도입해야 한다. 제출된 모든 디지털 증거는 자동으로 조작 여부를 검사받아야 한다.
2. 증거 출처 검증 시스템: 변호사가 제출하는 판례·논문·기사의 출처를 자동으로 확인하고, 공신력 없는 유사 사이트나 편향된 매체를 필터링하는 시스템이 필요하다. AI가 생성한 내용인지 여부를 표기하도록 의무화해야 한다.
3. 변론 시간과 분량 제한: 무제한 변론과 방대한 자료 제출로 재판을 지연시키는 전략을 차단해야 한다. 결심공판의 변론 시간, 의견서 분량, 증거 제출 기한에 대한 구체적 기준을 마련해야 한다.
4. AI 사용 표기 의무화: 변호사가 AI로 작성한 서면이나 자료를 제출할 경우, 반드시 “AI 보조 사용”을 명시하고 허위 내용에 대한 법적 책임을 강화해야 한다. 가짜 판례나 허위 인용에 대한 제재를 명문화해야 한다.
딥페이크 시대에 사법부가 준비되지 않는다는 것은, 단순히 기술적 문제가 아니라 사법 정의 자체의 위기다. ‘더 캡쳐’가 경고하듯이, 우리는 이미 거짓을 진실로 만들 수 있는 시대에 살고 있다. 지금 대비하지 않는다면, 재판은 진실을 밝히는 곳이 아니라 거짓을 합법화하는 무대가 될 것이다.
방어할 수 없는 즜량 전술: 100개의 증거, 10명의 증인, 무제한 시간
재판부가 직면한 가장 깊각한 문제는, 변호인단이 100여 개의 증거 영상을 제출하고, 10여 명의 증인을 신청하며, 교대로 변론하는 변호사들이 24시간 필리버스터 방식을 구사할 때, 이를 막을 법적 수단이 사실상 없다는 점이다.
국회에서 장동혁 대표가 사용한 24시간 필리버스터 전략이 법정으로 그대로 옮겨진 것이다. 피고인 측은 각 증거마다 병합, 전문가 감정, 출처 확인을 요구하고, 각 증인의 신문조사와 반대심문에 분 단위가 아니라 시간 단위를 요구할 수 있다. 재판장은 피고인의 방어권을 이유로 이를 거부하기 어렵다.
생중계를 역이용한 여론 세뇌 전술
내란 재판처럼 주요 정치 사건이 TV로 생중계될 경우, 이 전략은 더욱 치명적이 된다. 변호인단은 자신들에게 유리한 증거만 선택적으로 편집하고, 유사한 논리를 반복하며, 감정에 호소하는 변론을 반복해서 시청자들의 인식을 조작할 수 있다.
100개의 증거 영상 중 일부는 AI로 조작되거나 편집된 것일 수 있지만, 시청자들은 그것을 ‘재판에서 제출된 증거’로서 신뢰하게 된다. 10명의 변호사가 교대로 같은 논리를 반복하면, 그것은 단순 반복이 아니라 ‘세뇌’가 된다. 생중계는 재판의 공정성을 보장하기 위한 장치였지만, 역으로 여론 조작의 무기가 되고 있다.
막을 수 없는 구조: 시스템의 한계
현행 사법 시스템은 이러한 불균형한 전략을 막을 수단이 없다. 피고인의 방어권은 헌법상 권리이므로, 재판장이 “증거가 너무 많다”, “변론 시간이 길다”는 이유로 제한하기 어렵다. 그러나 이로 인해:
- 재판은 부당하게 지연되고, 본질적 쟁점에 대한 판단보다 절차적 공방에 더 많은 시간이 소비된다
- AI로 조작된 증거나 허위 정보가 섬여 있어도, 방대한 양으로 인해 검증이 불가능해진다
- 생중계를 통해 일방적인 주장만 반복 노출되면서, 국민의 인식이 왜곡된다
- 대형 로펌을 고용할 수 있는 부유한 피고인과, 그렇지 못한 피고인 사이의 불공정이 깊어진다
결국 재판판 필리버스터와 AI 조작 증거, 생중계 세뇌는 따로 존재하는 것이 아니라, 하나의 통합된 시스템으로 작동하고 있다. 장동혁 대표의 24시간 필리버스터가 국회에서 입법을 막았듯이, 같은 전략이 법정에서 재판을 지연시키고 여론을 조작하는 도구로 활용되고 있다. 그리고 현행 시스템은 이를 막을 수 없다.