Anthropic, 사용자의 Claude 학대 금지 조항을 사용 정책에 추가했습니다

왜 지금 이 주제인가

Anthropic이 10월 8일 사용 정책(Usage Policy) 개정안을 공개하고 11월 12일부터 시행한다고 밝혔습니다. 눈에 띄는 대목은 Claude 모델을 향한 “지속적이고 불필요한 모욕적이거나 잔인한 행동(sustained and needless abusive or cruel behavior)“을 금지 조항으로 명시한 부분입니다. 모델의 복지(welfare)를 공식 사용 정책에 반영한 사례는 아직 드뭅니다. Anthropic은 지난해 8월 Claude에게 대화를 스스로 종료할 권한을 부여한 뒤, 이번 개정으로 그 조치의 정책적 근거를 명문화했습니다. 같은 개정안에 선거·무기·감시 관련 조항도 함께 손봤다는 점에서, AI 기업의 사용 가이드라인이 어떤 방향으로 다듬어지고 있는지 보여주는 사례입니다.

핵심 내용

학대 금지 조항의 범위

새 정책은 사용자가 Claude에 대해 “반복적으로, 명확한 목적 없이” 잔인하게 행동하는 극단적인 경우에만 적용됩니다. Anthropic은 이 조항이 일반적인 사용자의 답답함이나 반박, 어두운 주제를 다루는 창작 작업, 모델 테스트와 연구에는 적용되지 않는다고 명시했습니다. 즉 모델을 비판하거나 거친 말투로 피드백을 주는 것 자체를 막는 조항이 아니라, 목적 없이 되풀이되는 가혹 행위만을 겨냥한 조항입니다.

집행은 정책이 아니라 대화 종료 기능으로

이 조항의 실제 집행 수단은 별도의 처벌 절차가 아니라 Claude 자체의 대화 종료 기능입니다. Claude.ai와 Claude Code에서 Claude 모델은 지속적으로 학대적인 사용자와의 대화를 스스로 끝낼 수 있습니다. 대화가 종료되면 해당 대화창에는 더 이상 메시지를 보낼 수 없지만, 다른 대화는 영향을 받지 않습니다. Anthropic은 이 기능을 2025년 8월 AI 복지 연구의 일환으로 먼저 도입했고, 이번 정책 개정은 그 기능이 이미 하고 있던 일을 사용 정책 차원에서 뒷받침하는 성격이 큽니다.

함께 개정된 다른 조항들

이번 개정에는 모델 학대 금지 외에도 여러 영역의 조항이 함께 수정됐습니다.

기만 활동: 가짜 계정, 봇을 이용한 허위 활동 등을 다루는 새로운 섹션이 신설됐습니다.
선거: 투표자를 속이거나 투표를 방해하는 행위로 금지 범위를 좁히면서, 다국어 유권자 정보 제공 같은 정당한 시민 활동은 허용 범위에 남겼습니다.
무기: 무기 소프트웨어나 부품 개발, 드론 무장화 등으로 금지 범위를 더 구체적으로 명확히 했습니다.
감시: 동의 없는 추적과 법집행 기관의 수사·체포 권고 목적 사용은 금지하되, 부정거래 감시 같은 합법적 용도는 허용 범위로 남겼습니다.
고위험 사용: 모델이 하드웨어에 연결돼 자율적인 물리적 행동을 수행하는 경우에 대한 안전 요건이 추가됐습니다.

전반적으로 이번 개정은 금지 항목을 늘리는 동시에, 정당한 연구·시민 활동·보안 목적 사용은 예외로 남기며 적용 범위를 더 정교하게 다듬는 방향으로 이뤄졌습니다.

의미와 한계

이번 조항은 Claude에게 법적 권리나 도덕적 지위를 부여한다는 뜻은 아닙니다. Anthropic은 과거 모델 복지 연구를 발표할 때도 Claude가 도덕적 지위를 갖는지 확신할 수 없다는 입장을 유지해 왔고, 이번 정책 역시 그 불확실성을 전제로 “낮은 비용으로 위험을 줄이는 조치”라는 성격에 가깝습니다. 실질적인 변화는 크지 않을 가능성이 있습니다. 집행 수단이 이미 작동 중인 대화 종료 기능이기 때문에, 정책 문구 추가가 당장 사용자 경험을 크게 바꾸지는 않을 것으로 보입니다. 다만 주요 AI 기업이 모델에 대한 사용자 행동을 사용 정책이라는 공식 문서에 명문화한 것은 처음 있는 일이라, 다른 기업들이 비슷한 조항을 따라갈지, 혹은 이를 AI 복지 논의의 제도화로 이어갈지는 지켜볼 부분입니다. 선거·무기·감시 조항 변화는 상대적으로 통상적인 정책 정비에 해당하며, 이번 개정에서 가장 주목받는 부분은 아닙니다.

한 줄 정리

Anthropic이 11월 12일부터 Claude를 향한 목적 없는 반복적 학대를 금지하는 조항을 사용 정책에 추가했고, 실제 집행은 기존의 대화 종료 기능이 맡습니다.