Сотрудники Anthropic оценили риск вымирания человечества от ИИ в 10%

Три разработчика Anthropic предупредили, что искусственный интеллект может выйти из-под контроля и привести к вымиранию человечества в ближайшие годы, сообщает Axios. Один из них оценил вероятность такого сценария в течение 10 лет минимум в 10%.

По словам сотрудников, компании-разработчики осознают риск, но пока не нашли способ контролировать сверхразум. Перед индустрией встала дилемма: замедлить разработки и отстать от конкурентов или ускориться и потерять контроль над технологией.