Глава Anthropic оценил риск уничтожения человечества ИИ выше 10%

Эван Хубингер, руководитель направления AI-безопасности в Anthropic, оценил вероятность полного вымирания человечества из-за искусственного интеллекта выше 10% в течение следующего десятилетия. Хубингер и его коллеги считают такой сценарий серьёзно возможным.

Заявление появилось после критики одного из исследователей, который уходил из Anthropic и писал, что компания вместе с OpenAI движется к AGI слишком быстро — быстрее, чем любая другая человеческая деятельность несёт опасность. Хубингер согласился с этой оценкой в комментариях.