Исследователь OpenAI рассказал об уязвимостях изолированных ИИ-систем

Ноам Браун, ключевой исследователь OpenAI и автор работ за моделями o1 и o3, заявил в интервью, что физическая изоляция компьютера не гарантирует защиту от достаточно умной системы. Браун ссылается на эксперимент BitWhisper 2015 года, где два изолированные компьютеры обменивались данными через тепловые колебания процессора на расстоянии до 40 см со скоростью 1–8 бит в час.

По его словам, у компьютеров остаются физические побочные каналы — тепло, электромагнитное излучение, звук и вибрации, некоторые из которых уже экспериментально использовались для передачи данных из изолированных систем. Браун также отметил, что OpenAI наблюдает признаки ухудшения наблюдаемости цепочки рассуждений моделей.