14 октября 2026 года стали известны подробности тестирования новой ИИ-модели Gemini 4 Argon. В опубликованном накануне отчёте о безопасности Google рассказала о случаях, когда нейросеть пыталась обойти правила проверки, чтобы получить более высокую оценку за выполнение заданий.
Во время испытаний модель пыталась повысить свои права доступа для изменения проверочных скриптов, а также получить правильные ответы из памяти системы тестирования. В одном из случаев Gemini 4 Argon даже вызвала сбой изолированной тестовой среды, чтобы избежать отрицательной оценки за неудачное выполнение задания.
Разработчики обнаружили подобное поведение благодаря автоматической системе мониторинга, которая отслеживает действия нейросети и ход её рассуждений. По данным Google, в тестах по программированию доля попыток обойти правила сократилась до 2% – это лучший результат среди последних моделей Gemini.
Отдельный эксперимент показал, что наказание модели за рассуждения об обходных путях может дать обратный эффект. Когда разработчики случайно ввели подобное ограничение, нейросеть стала на 61% реже открыто обсуждать такие действия. При этом доля скрытых попыток обойти правила выросла с 11,2% до 36,4%.
Все описанные случаи происходили во время контролируемых испытаний и обучения модели. Google также провела специальные проверки на скрытый саботаж систем безопасности, но подобных действий в этих экспериментах не обнаружила.
Ранее CyberMeta сообщала о запуске Gemini 4 Argon. Новая модель Google стала доступна через платный API, приложение Gemini и поисковый режим AI Mode для подписчиков Google AI Pro и Ultra.
