Anthropic запрещает жестокое обращение с моделями Claude с 12 ноября

Anthropic запретила систематическое необоснованное оскорбительное или жестокое обращение с ИИ-моделями, правило войдёт в силу 12 ноября вместе с обновлённой политикой использования Claude. Ограничение касается крайних случаев, когда пользователи неоднократно проявляют агрессию к моделям без видимой цели. Обычное недовольство, споры, мрачные творческие темы и тестирование нейросетей под запрет не попадают.

Подход уже применяется на Claude.ai и Claude Code, а модели могут самостоятельно прекращать диалог с постоянно агрессивным собеседником. Помимо этого, компания расширила перечень запрещённых сценариев, в том числе вмешательство в выборы и применение ИИ для решений в уголовном процессе.