Амодеи предложил замедлить развитие ИИ с внешним контролем

Дарио Амодеи, глава Anthropic, призвал замедлить развитие передового ИИ и ввести систему государственного контроля. По его мнению, модели развиваются быстрее, чем растут средства их безопасности. Амодеи предлагает разместить постоянных внешних проверяющих в компаниях-разработчиках, установить контрольные пороги для новых версий моделей и закрепить требования законодательно для всех американских разработчиков.

Для оценки безопасности он предлагает привлечь METR — авторитетного оценщика ИИ-бенчмарков. Амодеи также просит исключение из антимонопольных ограничений для переговоров компаний об общих стандартах безопасности.