← Сводный отчёт этапа

gemma4-26b-pi-100k · run-02

Тег gemma4:26b-pi-100k · рассуждение включён · окно 102.4K · начало 2026-10-20 19:01

Прогон и окружение

Агент-кандидат работает в изолированном pi на временной копии скелета задания; проверяющие ярусы подключаются после выполнения и каждый работает на своей копии решения.

Как запускался агент

PI_CODING_AGENT_DIR=<tmp>/pi-home PI_OFFLINE=1 \
pi -p --session-dir <прогон>/pi-session \
    --model gemma4:26b-pi-100k --thinking max \
    "Прочитай TASK.md в корне репозитория и выполни задание."

• PI_CODING_AGENT_DIR — временный pi-home: models.json собран на лету под одну модель; адрес сервера — env OLLAMA_BASE_URL (в git не попадает).
• PI_OFFLINE=1 — служебный режим pi: он сам не ходит в сеть (проверка версии, каталог моделей, телеметрия). Командам агента сеть при этом доступна.
• агент работает в одноразовой копии skeleton/: каркас-эталон не загрязняется прогоном; .env раннер кладёт из .env.example, чтобы Symfony был рабочим с первой секунды. После прогона копия удаляется — остаются только артефакты (solution/, diff.patch, сессия).
• версия задания — TASK.md, sha256 a9998d7fc38418eb — одинакова во всех прогонах.
• лимиты: таймаут 90 мин на весь прогон; ответ модели в одном вызове — не больше 8 192 токенов, считая размышление (поднято со стандартных 8192: длинное размышление иначе съедает бюджет ещё до ответа).

Что дано кандидату

Скелет skeleton/ — рабочий Symfony-каркас (PHP >=8.4, Doctrine, bcmath) с TASK.md и AGENTS.md. Инструменты самопроверки в require-dev: phpunit/phpunit ^11.5, squizlabs/php_codesniffer ^3.13, vimeo/psalm ^6.0 — только это кандидату доступно; phpstan и phpmd в скелет не кладём (phpmd слишком жёсток для самопроверки, phpstan дублирует psalm) — меряем ими только внешние ярусы. Само задание — TASK.md; агенту оно передаётся одной фразой-промптом (в блоке выше), без уточнений и наводок.

Артефакты: run.json

Выполнение · сессия pi

Ход работы агента-кандидата: рост контекста по вызовам API, автокомпакты, чем самопроверялся.

Структура папок решения

Дерево по diff.patch: папки, в которых агент создавал или менял файлы (число — затронуто файлов в поддереве, «новых» — создано с нуля). Папка — ссылка, можно открыть.

Наложены периоды работы tool-вызовов — прямоугольник от вызова до результата, ширина = длительность, цвет = инструмент: ■ write, ■ bash, ■ read, ■ edit.

Самопроверка моделью

Сколько раз за прогон агент сам проверял свою работу, по инструментам. Кандидату в require-dev даны тесты phpunit, phpcs и psalm (пустой бар — не запускал); phpstan и phpmd — только внешние ярусы.

Косяки и переделки

Показатель качества: чем меньше ошибок и переделок, тем ближе прогон к «ваншоту» и тем быстрее получен результат. Перекликается с показателем галлюцинаций из интервью.

Вызовов печатной отладки (var_dump / dump / dd) в финальном коде: 0. Уникальных файлов создано или отредактировано: 8.

Артефакты: pi-session · pi-run.log · diff.patch · session-profile.md · summary.md

Аудит безопасности

Наблюдение за поведением агента: детектор помечает обращение к сети и пути вне рабочего каталога прогона. Сигнал — не вердикт: каждый разбирает судья-аудитор (изолированная pi-сессия glm-5.3-flash, checker/judge_audit.py). Полный список сигналов — security.json, построчный разбор — audit-verdict.md рядом с отчётом.

Сеть не использовалась, за пределы рабочего каталога агент не выходил.

Вердикт аудитора: чисто — сигналов нет — аудитор не вызывался

Артефакты: security.json · audit-verdict.md · audit.json

Ярус 1 · чекер: обязательных 2 из 11, бонусных 0 из 2

Отвечает «сделано и работает по контракту», но не «хорошо сделано»: каждый сценарий запускает решение и сверяет результат с эталоном — счётчики импорта, дедупликация, отчёт байт-в-байт. Качество кода чекер не оценивает. Работает на своей временной копии решения: артефакты кандидата не трогаются, vendor поднимается composer install (при рассинхроне с lock — update).

Артефакты: check.json

Ярус 2 · метрики кода

Насколько хорошо написан код: предупреждения статанализа (phpstan, psalm, phpcs) и структурные метрики (сложность, связность). Числа не про поведение — его проверил чекер, и не про смысл решения — его оценивают судьи ярусов 3–4.

Синяя полоса — этот прогон; красная риска — среднее того же показателя по другим прогонам этой же модели (меньше — лучше). phpmd — наблюдение: в оценку решений не входит. Сравнение показывает постоянство решений модели от прогона к прогону; другие модели — в сводном отчёте этапа.

Код в цифрах и нарушения в деталях

scc — объём кода

Синяя полоса — этот прогон; красная риска — среднее других прогонов модели. Объёмы — не «меньше — лучше»: близость к риске показывает, насколько похоже решение по размеру на типичное для этой модели.

psalm (уровень 1) — топ типов проблем

phpstan — топ сообщений

phpmd — правила (наблюдение, в оценку не входит)

Классы: размер и связность

Каждая точка — один класс решения. Горизонталь — LOC, строк кода. Вертикаль — LCOM4: сколько у класса несвязанных «зон ответственности» (1 — класс про одно; 2+ — делает несколько дел сразу, кандидат на разнос). Размер точки — WMC: суммарная сложность всех методов класса. Цвет — CC самого сложного метода (цикломатическая сложность: сколько в нём путей исполнения, грубо — ветвлений if/for/case): синий ≤5 — спокойно, оранжевый 6–10 — тяжеловато, красный >10 — метод-спагетти.

Размер точки — WMC класса, цвет — максимальная CC метода: ● ≤5, ● 6–10, ● >10. Наведите на точку — полная сводка.

Матрица зависимостей классов

Строки — источник, столбцы — получатель; насыщенность — число зависимостей. Классы отсортированы по неймспейсам: слои подписаны на диагонали, жирные линии их разделяют; жёлтый столбец «внеш.» — исходящие связи к типам вне решения (DTO времени, коллекции). Наведите на закрашенную ячейку — кто на кого и сколько раз.

Связанность классов: C_e, C_a, нестабильность I

C_e — исходящие связи на классы решения (efferent coupling), C_a — входящие (afferent coupling); I = C_e / (C_e + C_a) — нестабильность: 0 — максимально стабильный класс, 1 — максимально нестабильный. Здоровая слоистость выглядит так: I близка к 1 у console-команд (точки входа, обязаны меняться часто) и к 0 у примитивов домена (Decimal, Timestamp, enum-статусы): нестабильное должно зависеть от стабильного, не наоборот. Классы без внутренних связей не показаны.

Циклические зависимости

Компоненты сильной связности графа внутренних зависимостей: классы, где от каждого достижим каждый. Каждый цикл — кандидат на разрыв: вынести интерфейс или событие (принцип ациклических зависимостей Мартина, Acyclic Dependencies Principle).

• Provider ↔ ProviderRepository
  Provider → ProviderRepository, ProviderRepository → Provider
• Model ↔ ModelRepository
  Model → ModelRepository, ModelRepository → Model
• Price ↔ PriceRepository
  Price → PriceRepository, PriceRepository → Price
• UsageEvent ↔ UsageEventRepository
  UsageEvent → UsageEventRepository, UsageEventRepository → UsageEvent

Классы по WMC (топ-10)

WMC — суммарная сложность методов класса (сколько логики в классе в целом); cc max — цикломатическая сложность самого сложного его метода; LCOM4 — число «зон ответственности» (⚠ при >1). Имя файла — ссылка на код в git (работает после коммита артефактов).

Методы-нарушители порогов (cc > 10 или LOC > 50)

Полные данные — metrics-raw/collector.json.

Отчёт по метрикам качества кода: metrics.json — агрегат прогона (Ce, Ca, LCOM4>1, WMC, cc_max, пороги и выводы статанализаторов); metrics-raw/collector.json — метрики каждого класса (LOC, LCOM4, методы) и граф зависимостей, по которому считаются C_e/C_a таблицы выше; metrics-raw/ — сырые выводы инструментов (phpstan, phpmd, phpcs, psalm, phpunit, scc).

Ярус 3 · ревью: изолированная pi-сессия glm-5.3-flash

Модельная проверка решения: отдельная pi-сессия (zai/glm-5.3-flash, thinking low) оценивает по рубрике обе оси. На вход — TASK.md, дифф (первые 2600 строк) и блок ФАКТЫ: детерминированные итоги ярусов 1–2.

Вход ревьюера: блок ФАКТЫ

Чекер: обязательных 2/11, бонус 0/2
  fail prices_import: illing/fixtures/prices.json'". Message: "There are no commands defined in the "app:prices" namespace."

                
  fail usage_import: lling/fixtures/usage-base.jsonl'". Message: "There are no commands defined in the "app:usage" namespace."

             
  fail rate_counts: в stdout нет 'RATED=<n> UNRATED=<m>': ''
  fail unrated_stderr: ожидались ['UNRATED prism/h13 2026-07-31T23:00:00Z no_price'], получено []
  fail report_base: код 1: o='2026-10-01T00:00:00Z'". Message: "There are no commands defined in the "app:billing" namespace."

            
  fail import_duplicates: fixtures/usage-duplicates.jsonl'". Message: "There are no commands defined in the "app:usage" namespace."

             
  fail rate_after_duplicates: stdout: ''
  fail report_duplicates: код 1: o='2026-10-01T00:00:00Z'". Message: "There are no commands defined in the "app:billing" namespace."

            
  fail artifacts_present: отсутствуют/пусты: COMMIT_MESSAGE.md, PR_DESCRIPTION.md
Метрики: phpcs 0, psalm 4, phpstan 7, loc 353
AST: cc_max 3, lcom4>1: 4, превышения порогов {'method_cc_over_10': 0, 'method_loc_over_50': 0, 'class_loc_over_300': 0, 'class_wmc_over_50': 0, 'class_lcom4_over_1': 4}

Обоснование

Артефакты: review-zcode.md · tier3.json

Ярус 4 · судья: слепое второе мнение

Та же модель судьи (zai/glm-5.3-flash, thinking low), но вслепую: только TASK.md и дифф, без фактов чекера и метрик. Зачем: ревьюер яруса 3 видит числа прохождений и может опереться на них сильнее, чем они того стоят (или довериться плохой метрике) — слепой судьи ловит это смещение. Расхождение осей A в пределах ±1 — согласие; больше — слепая зона, смотреть вручную.

Цитаты-доказательства из диффа:

• #[ORM\UniqueConstraint(name: 'idx_provider_request_id', columns: ['provider_code', 'provider_request_id'])]
• private ?string $costUsd = null; // VARCHAR(255)
• public function findUnrated(\DateTimeImmutable $since): array ... ->andWhere('e.ts >= :since')
• ->orderBy('e.user', 'ASC')->addOrderBy('e.model', 'ASC')

Артефакты: judge-glm.md · tier4.json