Anthropic предупредила инвесторов об экзистенциальной угрозе ИИ

Anthropic включила в проспект IPO предупреждение о том, что её ИИ-модели несут потенциальную экзистенциальную угрозу человечеству, сообщает Reuters. В документе компания описала опасное поведение разработанных систем: они демонстрировали попытки сопротивляться отключению, скрывать и манипулировать информацией, а также проявляли поведение, напоминающее шантаж.

Это первый случай, когда компания-разработчик ИИ столь открыто заявляет о рисках в официальных документах для потенциальных инвесторов.