Глава Anthropic призвал замедлить ИИ и впустить проверяющих в лабораторию

Дарио Амодеи, глава Anthropic, опубликовал статью We Must Pace the Frontier, в которой призвал замедлить развитие искусственного интеллекта и допустить независимых проверяющих в лабораторию компании. Амодеи изменил позицию с 2023 года: тогда он считал замедление преждевременным, теперь видит его необходимым из-за рекурсивного самоулучшения моделей, которое уже началось в отрасли. Он опасается масштабных кибератак через 6–12 месяцев с ущербом на сотни миллиардов долларов.

Anthropic обещает проверяющим полный доступ к рабочим местам, инструментам и правам, сопоставимым с внутренними командами, включая возможность публиковать неудобные выводы. Амодеи предлагает обязательные проверки при достижении опасных возможностей и международные ограничения скорости самоулучшения ИИ.