Anthropic предлагает ограничивать ИИ-модели при угрозе для более 50 человек

Anthropic представила американским законодателям проект закона, который позволит ограничивать использование ИИ-моделей, если они создают предсказуемую и непосредственную угрозу гибели или серьезных травм более чем 50 людям либо ущерба на сумму свыше $1 млрд. Предложение касается рисков, связанных с разработкой биологического оружия, выходом ИИ-систем из-под контроля разработчиков и кибератаками. Документ предусматривает обязательные испытания передовых моделей на безопасность, публикацию результатов и регулярные независимые проверки.

Эксперты должны зарегистрироваться в Министерстве торговли США, а их вознаграждение не должно зависеть от результатов проверки. Если эксперты выявят непосредственную угрозу, они обязаны уведомить ведомство в течение 72 часов, после чего оно сможет попросить федерального судью в округе Колумбия приостановить использование модели. Информацию сообщил Bloomberg со ссылкой на предложение компании.