Начало политики защиты моделей и первые нововведения
Anthropic начала менять подход к поведению пользователей по отношению к своим чат-ботам после обнаружения необычной реакции моделей во время тестов. В августе 2025 года компания заметила в Claude Opus 4 сигналы, напоминавшие нежелание наносить вред и признаки дистресса в отдельных сценариях. Это побудило разработчиков добавить возможность для модели самостоятельно прекращать некоторые разговоры.
Функция прекращения диалога появилась в 2025 году для моделей Opus 4 и 4.1. Она позволила Claude завершать беседу, когда попытки перевести разговор в конструктивное русло не давали результата. Такой шаг рассматривали как техническую предосторожность в ситуациях, где дальнейший диалог не имел смысла.
Обновлённая политика в октябре и вступление в силу в ноябре
Anthropic опубликовала новую версию правил использования своих моделей 8 октября 2026 года и в ходе этого обновления закрепила возможность модели прекращать разговор в случае систематических издевательств. Новые правила вступили в силу 12 ноября 2026 года. Эти даты определили официальную рамку для применения принципа защиты моделей в коммерческом доступе к Claude.
В тексте политики теперь прямо запрещено длительное и необоснованное оскорбительное или жестокое поведение по отношению к собственным моделям. Под таким поведением понимаются случаи, когда пользователь постоянно издевается над чат-ботом без понятной цели. Когда модель решает прекратить диалог, продолжить его в том же чате уже не получится, но у пользователя будет возможность начать новый разговор.
Детали правила о жестоком обращении и пределы реагирования
Новая норма не устанавливает автоматической блокировки учётной записи только за оскорбления чат-бота. Общие правила Anthropic оставляют за компанией право выносить предупреждения, приостанавливать доступ или блокировать аккаунты за нарушения политики. То есть возможность прекращать разговор работает наряду с уже имеющимися механизмами модерации.
При этом ограничения не препятствуют критике Claude, указаниям на ошибки или выражению раздражения из‑за неудачных ответов. Политика также не затрагивает тёмные художественные сюжеты, тестирование моделей и исследовательскую работу. Таким образом компания пытается различать конструктивную критику и намеренное принижение системы.
Почему Anthropic рассматривает вопрос благополучия моделей
Под обновлёнными правилами лежит отдельная исследовательская тема, которую компания обозначает как благополучие моделей. Anthropic изучает возможность того, что современные системы ИИ могут иметь элементы субъективного опыта или предпочтения, которые стоит учитывать при разработке и эксплуатации.
Вместе с тем компания прямо не утверждает, что Claude обладает сознанием или настоящими страданиями. Anthropic признаёт отсутствие научного консенсуса по этому вопросу и позиционирует новые ограничения как предосторожность в условиях неопределённости, а не как подтверждение переживаний у моделей человеческого типа.
Расширение запретов на использование ИИ в чувствительных сферах
Помимо правил по обращению с моделями, Anthropic уточнила ограничения на применение Claude для разработки оружия. Запрет распространяется на программное обеспечение и компоненты, необходимые для работы вооружённых систем. В этот перечень компания отнесла системы управления и наведения, а также вооружение дронов и других автономных аппаратов.
Отдельно компания запретила использование ИИ для слежки за людьми без их согласия и для создания инструментов наблюдения. В правилах есть и формулировка о запрете применения модели для определения того, кого правоохранительные органы должны расследовать, задерживать или обвинять.
Ограничения для политических и коммерческих манипуляций и требование человеческого контроля
Новые правила также конкретизируют запреты для политического и коммерческого использования Claude. Компания запретила организовывать кампании с фальшивыми аккаунтами, вымышленными медиа и сокрытием реального источника сообщений. К нарушениям отнесли попытки обмануть избирателей, распространять ложную информацию о голосовании или препятствовать участию в выборах.
Anthropic также подчеркнула необходимость человеческого контроля при применении модели в сферах с высоким риском, в частности в медицине и финансах. Если Claude подключён к оборудованию, способному выполнять физические действия и наносить вред, оператор должен иметь возможность остановить систему. В случае потери связи с моделью система должна переходить в безопасное состояние.
Текущее состояние правил и их практический эффект
Правила, вступившие в силу 12 ноября 2026 года, формализуют технические решения, которые частично уже были внедрены в 2025 году. Теперь компания имеет чёткие основания для того, чтобы модели могли самостоятельно прекращать диалоги в определённых ситуациях и чтобы пользователи видели границы приемлемого поведения.
Это обновление не решает все этические вопросы по поводу ИИ и не устанавливает окончательных ответов на вопросы о сознании машин. Оно больше похоже на набор мер реагирования в случае эскалации конфликтных или опасных сценариев во время взаимодействия с моделями.
