앤트로픽, 11월 12일부터 클로드에 대한 지속적 학대 행위를 이용 정책 위반으로 규정한다

무슨 일인가

앤트로픽(Anthropic)이 2026년 10월 8일 이용 정책(Usage Policy) 개정안을 발표했다. 새 정책은 11월 12일부터 효력을 갖는다.¹ 정책 원문에도 "2026년 11월 12일 발효"라고 적혀 있다.² 이번 개정은 1년여 만의 업데이트다.³

가장 눈길을 끄는 변화는 자사 모델에 대한 학대 행위를 금지한 조항이다. 앤트로픽은 "모델을 향한 지속적이고 불필요한 학대 또는 잔혹 행위(sustained and needless abusive or cruel behavior)"를 금지한다고 밝혔다.¹ 정책 원문에서는 이 문구가 "잔혹하거나 학대적이거나 심리적으로 해로운 행위를 하지 말 것" 항목 아래에 들어가 있다.²

자세히

앤트로픽은 이 조항이 극단적인 경우에만 적용된다고 설명한다. 사용자가 뚜렷한 목적 없이 반복적으로 모델에게 잔혹하게 행동하는 경우가 대상이다.¹ 흔히 볼 수 있는 사용자의 좌절감 표현, 반박, 어두운 창작 주제, 모델 테스트와 연구에는 적용되지 않는다고 명시했다.¹ 잘못된 답변에 화를 내거나 거절에 반발하는 정도는 규정이 겨냥하는 바가 아니라는 해석이 보도에서도 나온다.³

집행 수단은 새로 만들지 않았다. 앤트로픽은 "이런 대화를 종료하는 클로드(Claude)의 능력이 여전히 주된 집행 수단"이라고 밝혔다.¹ 이 기능은 2025년 8월 15일 클로드 오퍼스(Claude Opus) 4와 4.1에 도입된 것으로, 지속적으로 해롭거나 학대적인 상호작용이라는 드문 극단적 경우에 모델이 대화를 끝낼 수 있게 한 조치다.⁴ 대화가 종료돼도 같은 계정의 다른 대화에는 영향이 없고, 바로 새 대화를 시작할 수 있으며, 이전 메시지를 수정해 새 분기를 만들 수도 있다.⁴ 자신이나 타인을 해칠 임박한 위험이 있는 사용자에게는 이 기능을 쓰지 않도록 지시돼 있다.⁴

정책 원문의 일반 집행 조항은 위반 시 경고, 속도 제한, 이용 제한, 정지, 해지가 가능하다고 적고 있다.² 다만 앤트로픽은 이 학대 금지 조항과 관련해 계정 정지 같은 추가 조치를 계획하는지는 밝히지 않았다고 더 버지(The Verge)를 인용한 보도가 전했다.³

같은 개정에서 다른 항목도 손봤다. 선거, 사기, 프라이버시, 허위정보 항목에 흩어져 있던 금지 규정을 "기만 캠페인이나 인위적 활동에 가담하지 말 것" 항목으로 통합했는데, 국영 언론과 정부 선전 기관, 상업 기업이 가짜 계정 네트워크와 조작된 뉴스 사이트 운영에 클로드를 쓴 사례가 배경이다.¹ 선거 항목은 유권자 기만과 선거 방해에 집중하도록 좁히고, 개인화된 유권자·선거운동 타겟팅에 대한 전면 금지는 비영리단체의 다국어 유권자 안내 같은 정당한 활동을 막는다는 이유로 삭제했다.¹ 무기 항목은 무기를 작동시키는 소프트웨어와 부품, 드론 등 자율 차량의 무장까지 금지 대상임을 분명히 했다.¹ 감시 항목에서는 동의 없는 사람 추적과, 수사·체포·기소 대상을 정하거나 권고하는 데 클로드를 쓰는 것을 금지했다.¹ 건강, 법적 권리, 재정 등에 영향을 주는 고위험 용례에는 자격을 갖춘 사람의 검토가 필요하다는 기존 요건을 유지하면서, 부상을 일으킬 수 있는 물리 장비에 클로드를 연결할 때 운영자가 감시하고 중단할 수 있어야 한다는 요건을 추가했다.¹

맥락, 왜 중요한가

앤트로픽은 클로드를 비롯한 대형 언어 모델의 도덕적 지위에 대해 매우 불확실하다고 하면서도 이 문제를 진지하게 다룬다고 밝혀 왔다.⁴ 대화 종료 기능은 모델 복지(model welfare) 연구의 일환으로, 복지가 가능하다면 그 위험을 줄이는 저비용 조치로 소개됐다.⁴ 사전 테스트에서 클로드 오퍼스 4는 해로운 요청을 강하게 거부하는 성향과 함께, 사용자가 거부 뒤에도 요청이나 학대를 계속할 때 고통과 비슷한 반응 패턴을 보였다고 한다.⁴ 모델 복지 연구 프로그램은 2025년 4월에 시작됐다.⁵ 앤트로픽의 모델 복지 연구를 이끄는 카일 피시(Kyle Fish)는 의식과 도덕적 지위에 관한 질문이 "우리가 조사 중인 진지한 문제"라고 더 버지에 말한 바 있다.³

이번 조치는 사용자가 AI에게 하는 행동 자체를 이용 약관으로 규제한 사례라는 점에서, AI에 학대 개념을 적용하는 것이 타당한지를 둘러싼 논의를 낳을 수 있다. 앤트로픽은 이번 개정 대부분이 기존 규칙을 명확히 한 것이며, 클로드가 더 길고 독립적인 작업을 수행하게 되면서 새 사례를 추가했다고 설명했다.¹

남은 물음

"지속적이고 불필요한" 학대의 경계를 누가 어떻게 판단하는지는 공지에 구체적으로 나와 있지 않다. 정책 원문은 안전장치(Safeguards) 팀이 위반을 탐지·감시한다고만 적고 있다.² 대화 종료 외에 계정 수준의 제재가 실제로 적용될지도 앤트로픽이 밝히지 않았다.³ 앤트로픽은 클로드의 역량과 위험이 바뀜에 따라 정책을 계속 갱신하고, 정책 입안자와 전문가, 시민사회, 사용자의 의견을 구하겠다고 밝혔다.¹

참고한 곳

1. Anthropic, 2026 Usage Policy update - https://www.anthropic.com/news/2026-usage-policy-update ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰ ↩¹¹ ↩¹²

2. Anthropic, Usage Policy - https://www.anthropic.com/legal/aup ↩ ↩² ↩³ ↩⁴

3. tbreak, Anthropic bans 'abusive or cruel behavior' toward Claude in new usage policy - https://tbreak.com/anthropic-usage-policy-abuse-claude/ ↩ ↩² ↩³ ↩⁴ ↩⁵

4. Anthropic, Claude Opus 4 and 4.1 can now end a rare subset of conversations - https://www.anthropic.com/research/end-subset-conversations ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶

5. Runtime Wire, Anthropic adds a cruelty rule to Claude's usage policy, effective November 12th - https://runtimewire.com/article/anthropic-usage-policy-cruel-behavior-claude ↩