Anthropic призывает замедлить разработку ИИ и откроет модели проверяющим

Генеральный директор Anthropic Dario Amodei предложил замедлить темпы развития искусственного интеллекта и дал третьим сторонам, включая организацию METR, доступ к моделям компании для проверки соответствия практикам безопасности. Amodei описал трёхэтапный план: первый этап — компания уже начала предоставлять доступ внешним оценщикам в одностороннем порядке; второй предусматривает объединение усилий всей индустрии; третий — участие регуляторов.

Замедление разработки даст компаниям время на создание защитных механизмов, а регуляторам — на оценку моделей.