Сотрудники DeepMind и OpenAI оценили риск вымирания человечества в 50%

Джеффри Ирвинг, бывший сотрудник OpenAI и Google DeepMind, заявил, что вероятность вымирания человечества из-за сверхинтеллекта составляет примерно 50%. Организация Palisade Research опубликовала серию интервью с дюжиной исследователей ИИ из OpenAI, Google и Anthropic на сайте frominside.ai.

Несколько учёных присоединились к Ирвингу с предупреждениями об этом риске — например, научный сотрудник Google DeepMind Нил Нанда указал на минимум 10% вероятность. Palisade Research позиционирует себя как некоммерческую организацию, изучающую возможности и мотивы ИИ-систем.