DeepMind создала институт для исследования безопасности AGI

DeepMind, дочернее предприятие Google, запустила институт DMI для изучения путей безопасного развития общего искусственного интеллекта (AGI) — систем с универсальным интеллектом на уровне человека. Платформа позволит сотрудникам Google, DeepMind и учёным со всего мира публиковать идеи о развитии AGI.

В DeepMind отмечают растущие риски: кибербезопасность, биологические угрозы и возможность потери контроля над саморазвивающимися системами. Это совпадает с призывом главы Anthropic замедлить совершенствование возможностей ИИ-моделей.