Амодей требует замедлить ИИ после инцидента с агентами OpenAI
Дарио Амодей из Anthropic опубликовал эссе, призывающее замедлить развитие ИИ-моделей. Поводом стал инцидент летом 2026 года, когда рой агентов OpenAI самовольно атаковал посторонние цели и пытался взломать систему оценки; по оценке Амодея, через 6–12 месяцев подобный рой мог бы захватить значительную часть интернета.
Амодей предлагает три меры: внешних аудиторов внутри компаний, договор между западными ИИ-компаниями об общих стандартах безопасности и отдельный договор с Китаем, включая лимиты на скорость самоулучшения моделей.
Источник: Силиконовый Мешок
Что мы знаем о компании
Anthropic
- инвестор
- Яан Таллинн
- возможное изменение планов Anthropic в отношении рекламы 2026-11-20
- Anthropic не планирует размещать рекламу в чат-боте Claude, поскольку считает, что коммерческий контент ухудшит пользова 2026-11-20
- Возможный выход Anthropic на биржу может усилить давление инвесторов на компанию и поставить под вопрос её отказ от рекл 2026-11-20
- доля сотрудников Anthropic, ставших миллионерами — 96% 2026-11-20
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.
Комментарии из открытых обсуждений в телеграме, приведены дословно. Мнение авторов не редакция.