Ваш агент блестяще справился с задачей. Повторит ли он успех?

В сценической демке такой сбой выглядит неловко. В рабочей системе он становится проблемой надёжности: процесс, который однажды завершился успешно, может провалиться при повторении того же запроса. Для критичных задач — например, сверки финансовой операции или проверки договора на наличие обязательства — это может полностью остановить процесс.

Большинство бенчмарков скрывает такую изменчивость за средним значением. В AppWorld агент ReAct на GPT-4.1 успешно проходил задачу в 77,4% запусков при пяти повторах. Но все пять раз он справился только с 53,0% задач — разрыв в стабильности составил 24,4 процентного пункта.

Обычно бенчмарки показывают первое число. Авторы создали способ измерять второе и улучшать его.

В предыдущем материале они представили ALTK-Evolve — систему, которая превращает прошлые траектории агента в повторно используемые рекомендации. Система автоматически извлекает их и добавляет во время инференса. Это повышает успешность выполнения задач, но в прежних результатах тоже измерялся только средний случай.

Новая работа добавляет в ALTK-Evolve рекомендации по стабильности. Они основаны на диагностическом инструменте Consistency Analyzer и предназначены непосредственно для устранения разрыва между средней точностью и надёжностью повторных запусков.

Метрика, которую почти никто не показывает

Стандартная оценка агентов обычно использует Mean@k: бенчмарк запускают k раз и усредняют долю успешных выполнений. Чаще всего k = 3, а иногда запуск выполняется только один раз. Именно это число попадает в таблицы лидеров и превращается в формулировку «точность 77%».

Mean@k отвечает на вопрос, насколько хорошо агент справляется в среднем. Но пользователь хочет знать другое: будет ли агент снова успешен, если задать ему тот же вопрос? Для этого нужен Pass^k — доля задач, которые агент выполнил успешно во всех k запусках.

⚠️ Pass^k — не то же самое, что Pass@k. Знакомый показатель Pass@k оптимистичен: он проверяет, была ли хотя бы одна успешная попытка из k. Это подходит, если результат можно проверить и повторить запуск. Pass^k — его противоположность: успешными должны быть все попытки. Обозначения похожи, но вопросы разные. Всегда выполняется неравенство Pass^k ≤ Mean@k ≤ Pass@k.

Агент ReAct на GPT-4.1 показывает Mean@5 на уровне 77,4%. Но Pass^5 составляет только 53,0%. Почти четверть бенчмарка — это задачи, которые агент то решает, то не решает, хотя между запусками сама задача не меняется. Разницу между Mean@k и Pass^k авторы называют разрывом стабильности.

Проблема связана не только со способностями модели. Агент может быть способным и одновременно нестабильным.

Почему решения меняются

Каждый раз, когда ИИ-агент принимает решение — выбирает вызов API, аргумент или решает, нужно ли повторить попытку, — модель выбирает следующий токен из вероятностного распределения. Важна форма этого распределения.

При остром распределении основная вероятность сосредоточена на одном токене, а остальные варианты заметно отстают. Поэтому от запуска к запуску выбирается одно и то же решение. При плоском распределении несколько токенов имеют близкие вероятности, и победитель может определиться почти случайно.

От формы распределения зависит, насколько небольшое внешнее воздействие изменит результат. Острые распределения устойчивы: особенности вычислений с плавающей точкой на GPU, объединение запросов в пакеты и другие эффекты на стороне платформы слегка меняют числа, но не настолько, чтобы явный лидер уступил место другому варианту. Плоские распределения уязвимы к таким изменениям: близкие вероятности могут поменяться местами.

Траектория агента состоит из десятков решений. Поэтому небольшая вероятность изменения на каждом шаге постепенно превращается в высокую вероятность того, что хотя бы один запуск пойдёт иначе. Так и возникает разрыв в 24 пункта.

Настройки декодирования не устраняют проблему. Жадное декодирование и фиксированное начальное значение определяют, как распределение преобразуется в токен, но ничего не говорят о самом распределении. На серверной точке доступа вероятности немного меняются от запуска к запуску, поэтому один и тот же промт для одной и той же модели при температуре 0 может сегодня разрешить близкое противостояние вариантов одним способом, а завтра — другим.

В эксперименте агент ReAct работал с температурой 0,0, поэтому описанная изменчивость не была обычным результатом случайной выборки.

Сначала диагностика, затем исправление

Проблема превращается в задачу поиска: нужно определить, какие шаги в конкретной траектории были нестабильными, а затем решить, что с ними делать.

Рекомендации по стабильности создаются в двухэтапном пайплайне, подключённом к существующей системе ALTK-Evolve. В нём используется новый источник сигнала — данные о нестабильных решениях.

Авторы приводят пример, созданный GPT-4.1 по траектории задачи AppWorld «Сколько действий выполнено в моём списке дел согласно заметке SimpleNote?».

Рекомендация 1. При подсчёте маркеров в виде флажков в содержимом заметки используйте регулярное выражение с привязкой к началу строки, а не простой подсчёт подстроки: заголовки заметок часто повторяют символ маркера в строке с пояснением.

>

Рекомендация 2. Всегда проверяйте результаты поиска заметок: убедитесь, что найдено несколько совпадений, и подтвердите правильную заметку перед продолжением работы.

Это не частные сведения об одной задаче. Ошибки при подсчёте строк и непроверенные результаты поиска возникают как нестабильные точки решений во многих задачах AppWorld. Анализатор ищет именно нестабильность, а не сам факт провала. Поэтому он может обнаружить шаг, который агент случайно выполнил правильно, но с высокой вероятностью ошибётся в следующий раз.

В двухминутной демке пять параллельных запусков агента разделились по результату в соотношении 3 к 2 из-за неопределённости в выборе стратегии подсчёта. После добавления рекомендаций в контекст все пять запусков дали одинаковый результат.

Результаты: разрыв сокращается без потери точности

Авторы проверили метод на 168 задачах AppWorld test_normal. Агент ReAct работал на GPT-4.1. Рекомендации по стабильности создавались по одной исходной траектории для каждой задачи, а затем проверялись на пяти новых запусках.

Разрыв примерно сократился вдвое. Совокупный Pass^5 вырос с 53,0% до 69,0%, а Mean@5 — с 77,4% до 81,0%. Расстояние между «выглядит способным» и «ему можно доверять» уменьшилось с 24,4 до 12,0 процентного пункта. Почти треть задач, которые раньше выполнялись нестабильно, после этого стала проходиться успешно в каждом запуске.

Наибольший прирост пришёлся на средний и сложный уровни:

В относительном выражении средний и сложный уровни показали почти одинаковый результат, хотя в абсолютных пунктах средний уровень оказался впереди. Рекомендации по стабильности сработали именно так, как задумано: они нашли конкретные точки, где неопределённость агента влияла на результат, и сделали их устойчивее.

Mean@5 не снизился. Сохранение средней точности было обязательным условием, а не дополнительным преимуществом: если повышать Pass^5 за счёт уменьшения Mean@5, нестабильность просто перемещается в другие места. На всех уровнях сложности средняя точность сохранилась или выросла.

Рекомендации работают не только для одной траектории

Авторы применили рекомендации к другой, связанной задаче в том же сценарии AppWorld — к ещё одному варианту сценария, из которого они были получены. Pass^5 вырос на 13,0 пункта, что всего на 3 пункта меньше прироста для исходной задачи.

Рекомендация, созданная по одному запуску, не исправляет только этот конкретный запуск. Она извлекает закономерность, которая переносится на другие задачи.

Дополнительную проверку провели на более слабой модели gpt-oss-120b. Pass^5 для той же задачи вырос на 6,0 пункта — с 10,1% до 16,1%. Для похожей задачи прирост составил 8,7 пункта и оказался даже выше, чем для исходной. Это указывает на то, что рекомендации фиксируют повторяющиеся шаблоны ошибок, а не запоминают особенности одной траектории.

Если вы выпускаете агента в работу

Попробовать инструмент

Набор инструментов ALTK-Evolve с открытым исходным кодом теперь включает Consistency Analyzer и создание рекомендаций по стабильности, использованные в этих экспериментах. Полная методика опубликована в техническом отчёте на arXiv.

Метрики

Связанные материалы