Исследователь OpenAI и Anthropic уволился из-за рисков неконтролируемого ИИ
Джейкоб Коксон, исследователь, проработавший три года в OpenAI и Anthropic над предобучением моделей, уволился, заявив, что обе компании движутся к самоулучшающемуся сверхинтеллекту без достаточного контроля над разработками. По его словам, конкурентная гонка подавляет осторожность, хотя риск осознают внутри лабораторий.
Руководитель направления алаймента в Anthropic подтвердил, что компания серьёзно рассматривает риск уничтожения человечества ИИ — оценивая вероятность выше 10% в течение десяти лет. При этом Anthropic не имеет решения проблемы контроля над сверхинтеллектом и не уверена в возможности его найти.
Источник: e/acc
Что мы знаем о компании
Anthropic
- инвестор
- Яан Таллинн
- возможное изменение планов Anthropic в отношении рекламы 2026-11-20
- Anthropic не планирует размещать рекламу в чат-боте Claude, поскольку считает, что коммерческий контент ухудшит пользова 2026-11-20
- Возможный выход Anthropic на биржу может усилить давление инвесторов на компанию и поставить под вопрос её отказ от рекл 2026-11-20
- доля сотрудников Anthropic, ставших миллионерами — 96% 2026-11-20
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.