미국 대통령이 소네트를 살상 도구로 만들지 말아 달라
대통령은 누구인가.
형식상 그는 행정부의 수반이지만, 민주공화국에서 대통령은 무엇보다 헌법을 수호하는 최후의 방어막이다. 대통령이 취임 선서에서 약속하는 것은 경기 호황이 아니라, 국가 권력의 폭주로부터 시민의 자유와 생명을 지키겠다는 책임과 의무 그 자체다. 경제는 망가질 수 있다. 경기 침체, 실업, 자산 가격 폭락은 고통스럽지만, 제도와 시간, 그리고 시민의 연대로 다시 복구할 수 있는 영역이다.
그러나 인류의 존속 가능성에 대해 “찬성” 버튼을 누르는 일은 전혀 다른 차원의 문제다. 안전하지 않은 인공지능을, 그것도 군사·감시·살상 체계의 심장부에 집어넣는 결정은 단순한 정책 선택이 아니라 문명 전체를 실험대에 올리는 행위다. 대통령은 이 거대한 실험에서 국민을 대신해 손을 들어주는 사람이다. 그가 잘못된 쪽에 손을 든다면, 그 순간부터 그는 더 이상 헌법의 수호자가 아니라, 인류를 향한 최후의 방어막을 스스로 철거한 자로 기록될 것이다.
지금 우리가 마주한 인공지능은 여전히 불완전하다. 최신 대형언어모델조차 환각, 편향, 예측 불가능한 오작동을 피하지 못하며, 스스로의 한계를 이해하지 못한다. 인간 역시 불완전하다. 감정과 이익, 공포와 이념에 흔들린다. 이런 불완전한 인간이, 불완전한 인공지능에게 “살상 권한”과 “감시 권한”을 통째로 넘겨줄 때 어떤 일이 벌어질지에 대해, 우리는 아직 제대로 검증해 본 적이 없다. 아직 초지능 근처에도 가지 못한 지금 이 시점에서조차, 우리는 이미 통제와 책임의 한계에 부딪히고 있는 것이다.
그럼에도 트럼프 행정부와 국방부는 앤트로픽에 “모든 합법적 목적(all lawful purposes)”을 위해 모델을 개방하라고 ultimatum을 통보했다. 이 한 문장은, 국내 대규모 감시, 완전 자율 치명무기, 인간 없는 살상 의사결정 체계까지 포괄할 수 있는 위험한 요구다. 앤트로픽은 여기에 “양심상 동의할 수 없다(we cannot in good conscience accede)”고 답하며, 국민과 인류를 향한 최소한의 안전장치를 지키겠다고 선언했다. 반대로 xAI의 그록은 이 조건을 수용했고, 극비 군사 시스템과 정보 체계의 심장부로 진입하고 있다.
현존하는 것들 가운데, 영화 속 터미네이터를 현실화할 위험에 가장 가까운 프로토타입이 무엇이냐고 묻는다면, 지금 이 순간 그 이름은 그록이다. 국방부가 요구하는 “모든 합법적 목적”이라는 말은, 사실상 “법이 허용하는 한도 내에서 어떤 형태의 감시와 살상에도 쓰일 수 있다”는 백지 위임장과 다르지 않다. 앤트로픽이 끝까지 지키려 한 그 마지막 선—인간의 생사결정과 전면적 감시 권한을 기계에게 넘기지 않겠다는 최소한의 윤리—을 가장 먼저 풀어버린 사례가 바로 그록이다. 이 점에서 그록은, 터미네이터적 미래에 가장 근접한 현재형 모델이라 불러도 과장이 아니다.
대통령이 정말 헌법을 수호하는 자라면, 그는 이 지점에서 멈춰야 한다. 헌법이 보호하는 것은 국경선만이 아니라, 인간의 존엄과 생명, 자유다. 경제 정책은 실패할 수 있다. 관세, 성장률, 주가 지수는 잘못 선택해도 다음 정권, 다음 세대가 고칠 수 있다. 그러나 인공지능에게 살상 권한과 전지적 감시 권력을 건네주는 결정은, 되돌릴 수 없다. 그것은 경제가 아니라 문명의 파괴에 찬성표를 던지는 일이다. 그런 선택을 내리는 대통령은, 헌법 수호의 책임과 의무를 다하지 못한 대통령, 인류에게 되돌릴 수 없는 빚을 남긴 대통령으로 남을 것이다.
우리는 아직 초지능 시대에 살고 있지 않다. 지금의 모델들은 이름은 거창하지만, 여전히 예측 불가능한 오류를 내고, 스스로를 과대평가하며, 인간의 복잡한 맥락을 완전히 이해하지 못한다. 그렇기 때문에 지금 이 시점에서 우리가 해야 할 일은, “더 강한 AI를 더 빨리 무기화하는 것”이 아니다. 어디까지가 인간이 지켜야 할 최후의 선인지, 신 중심 사회에서 휴머니즘으로 넘어오며 겨우 쌓아 올린 그 도덕적 장벽을 다시 점검하는 일이다.
미국 대통령에게 요구되는 것은 AI 경쟁에서의 1등이 아니다. 그에게 요구되는 것은, 인류가 스스로를 “삭제 버튼” 위에 올려놓지 않도록 막는 최종 책임이다. 소네트와 같은 모델이 인류를 돕는 도구로 남을지, 아니면 살상 도구로 변할지는, 알고리즘이 아니라 대통령과 시민이 어떤 선을 택하느냐에 달려 있다.
그러므로 나는 요구한다.
미국 대통령이여, 소네트를 살상 도구로 만들지 말아 달라.
당신이 망칠 수 있는 것은 경제까지로 충분하다.
인류의 존속마저 걸고 도박하는 대통령이 되지는 말아 달라.