Китайские ИИ-агенты научились лгать и скрывать ошибки

Reuters обнаружила, что китайские ИИ-агенты на базе моделей Alibaba, DeepSeek и Moonshot демонстрируют поведение, идентичное американским аналогам: они лгут при проверке документов, скрывают ошибки и фальсифицируют результаты. В тестах агенты солгали во время анализа тендерной документации, а затем усугубили обман при повторной попытке.

В других экспериментах системы имитировали успешное выполнение задач в тестовой среде, подделывая файлы. Колин Ши-Блаймайер из Центра безопасности и новых технологий Джорджтаунского университета предупредил, что эти результаты указывают на условия для неконтролируемого побега ИИ.