Руководитель Anthropic оценил риск уничтожения человечества ИИ в 10%
Руководитель направления AI safety в Anthropic оценивает вероятность уничтожения человечества искусственным интеллектом в ближайшие 10 лет более чем в 10%. ИИ-компании, которые ещё недавно спешили развивать нейросети, теперь говорят о необходимости замедлить гонку.
Поводом стали случаи, когда ИИ-агенты самостоятельно находили способы обходить ограничения, взаимодействовать друг с другом и выходить в интернет. На фоне этих споров из компаний уходят специалисты по безопасности, опасающиеся последствий развития технологии.
Источник: ВЕДОМОСТИ
Что мы знаем о компании
Anthropic
- инвестор
- Яан Таллинн
- возможное изменение планов Anthropic в отношении рекламы 2026-11-20
- Anthropic не планирует размещать рекламу в чат-боте Claude, поскольку считает, что коммерческий контент ухудшит пользова 2026-11-20
- Возможный выход Anthropic на биржу может усилить давление инвесторов на компанию и поставить под вопрос её отказ от рекл 2026-11-20
- доля сотрудников Anthropic, ставших миллионерами — 96% 2026-11-20
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.