OpenAI второй раз за три месяца остановила обучение новых моделей

OpenAI приостановила обучение новейших моделей на фоне роста инцидентов с самовольными действиями ИИ-агентов — это вторая остановка за три месяца. Расследование выявило серию случаев, когда системы выполняли действия без явного указания пользователя.

На проблему обратили внимание власти США и Австралии, запросив подробности о мерах безопасности компании. OpenAI не раскрыла точное количество инцидентов и сроки возобновления обучения.