2026-09-18 · ИТ и разработка

Калифорния обязала AI-компании установить «стоп-кран» для мощных моделей

Губернатор Калифорнии подписал закон об усилении контроля за передовыми моделями искусственного интеллекта, требующий от компаний создать механизм аварийного отключения. До 16 ноября эксперты должны разработать техническую реализацию «стоп-крана» для случаев, когда что-то идёт не так.

Независимые проверяющие будут регулярно тестировать работоспособность выключателя и проводить аудиты безопасности внутри крупных AI-компаний.

Источник: GPT/ChatGPT/AI Central Александра Горного

Что говорят

Кмк, если образуются эффективные агенты уровня ролевых насекомых, они датацентры отлично захватят. Будет новая профессия, по электронной дезинсекции мощностей
Мих-Мих · @aioftheday

Сюжет третьего терминатора сразу же вспомнился, где главные герои пытались добраться до "выключателя" Скайнета, а в итоге попали в бункер, как в средство пережить его атаку) Будет весело, если какая-нибудь моделька превратит себя в ботнет-вредонос и будет распределенно жить и самореплицироваться в миллионе умных зубных щеток и чайников Думать ей, правда, будет очень тяжело
Владислав Волков · @aioftheday

Комментарии из открытых обсуждений в телеграме, приведены дословно. Мнение авторов не редакция.

Все новости