Dario Amodei требует замедлить развитие ИИ из-за рисков
CEO Anthropic Dario Amodei опубликовал мини-эссе, в котором призывает сознательно ограничивать скорость развития передовых ИИ-систем — с ним согласились руководители OpenAI и xAI. По его оценке, меры безопасности не успевают за ростом возможностей моделей, особенно после того, как ИИ начал помогать создавать следующее поколение ИИ.
Amodei опасается, что через 6–12 месяцев агенты ИИ смогут создать устойчивый ботнет масштабного уровня и причинить ущерб на сотни миллиардов долларов — ссылаясь на инцидент со взломом Hugging Face. Он предлагает встроить независимых оценщиков в frontier-лаборатории, чтобы между скачками возможностей оставалось время на проверку безопасности и alignment.
Источник: Сиолошная
- инвестор
- Яан Таллинн
- возможное изменение планов Anthropic в отношении рекламы 2026-11-20
- Anthropic не планирует размещать рекламу в чат-боте Claude, поскольку считает, что коммерческий контент ухудшит пользова 2026-11-20
- Возможный выход Anthropic на биржу может усилить давление инвесторов на компанию и поставить под вопрос её отказ от рекл 2026-11-20
- доля сотрудников Anthropic, ставших миллионерами — 96% 2026-11-20
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.