Anthropic, 사용 정책 업데이트…AI 모델 지속적 학대 및 선거 개입 금지

Odaily 보도 — Anthropic이 10월 8일 사용 정책을 업데이트하여 선거 개입, 무기 소프트웨어 및 감시 행위에 대한 제한을 새로 추가하고, 사용자가 AI 모델을 장기적이고 지속적으로 언어적으로 학대하는 행위를 명시적으로 금지했다.

새 정책에 따르면, 사용자가 반복적으로 잔인한 방식으로 모델을 대우하고 명확한 목적이 결여된 극단적인 경우 Claude는 대화를 종료할 수 있다. 이 제한은 일반 사용자의 불만, 반박, 어두운 주제를 다루는 창작, 그리고 모델 테스트 및 연구에는 적용되지 않는다.

또한 Anthropic은 Claude를 이용한 가짜 계정 운영, 뉴스 기관 위조 등 대규모 기만 행위를 금지하고, 유권자를 기만하는 등의 방식으로 민주적 선거에 개입하는 행위를 명시적으로 금지했다. (TechCrunch)