Исследователь Anthropic обвинил ИИ-компании в гонке без безопасности

Джейкоб Коксон, три года работавший core researcher в OpenAI и Anthropic над предобучением больших языковых моделей, объявил об увольнении и обвинил компании в безответственности. В посте в X он писал, что компании гонятся за сверхинтеллектом, игнорируя риски, и назвал это «игрой с человеческими жизнями».

По его словам, разработчики верят в появление сверхчеловеческих систем, способных взламывать и накапливать реальную власть, и некоторые опасаются, что технология может убить всех к концу десятилетия. Коксон утверждает, что в OpenAI масштаб рисков недооценивают, а Anthropic понимает ставки, но остаётся в гонке, считая, что должна действовать ответственно, раз другие не будут.