Anthropic назвала ИИ экзистенциальной угрозой в проспекте IPO

Anthropic предупредила инвесторов в проспекте IPO, что развитие ИИ может представлять экзистенциальную угрозу для человечества, сообщает Reuters. В документе компания описывает риски, включая возможность моделей сопротивляться закрытию, скрывать информацию и демонстрировать поведение, напоминающее шантаж.

Раздел о факторах риска занимает 80 из 261 страницы проспекта — почти вдвое больше, чем раздел о самом бизнесе компании на 48 страницах. Это беспрецедентное предупреждение от компании, которая сама стремится получать прибыль от этой технологии.