Datasets:
Contribute benchmark observation bb-pi-agent-luna-low-full-20260915-113809
Запуск на пустом bb / pi через подписку openai на модели luna low
| Тип токенов | Количество | Тариф RouterAI за 1M | Стоимость |
|---|---|---|---|
| Input, без кэша | 344 704 | 21 ₽ | 7,2388 ₽ |
| Cached input | 1 695 744 | 2,19 ₽ | 3,7137 ₽ |
| Output | 8 048 | 131 ₽ | 1,0543 ₽ |
| Итого | 2 048 496 | — | 12,0068 ₽ |
Округлённая оценка полного benchmark:
≈ 12,01 ₽
Дополнительные показатели
- Pi-сессий: 226
- Модельных раундов с recovery: 268
- Максимально использованный контекст одной сессии: 30 519 токенов
- Доля cached среди всех входящих токенов: 83,1%
- Средняя стоимость одной задачи: ≈ 0,053 ₽
- Среднее на одну Pi-сессию:
- input: ≈ 1 525
- cached: ≈ 7 503
- output: ≈ 36
Конфигурация:
BB 0.43.1 → Pi 0.85.1 → agent-proxy/gpt-5.6-luna → low
Concurrency: 1
Oracle recoveries: 5
Timeout: 900 секунд
| Метрика | Результат |
|---|---|
| Всего задач | 226 |
| First exact | 206/226 — 91,2% |
| Final exact | 222/226 — 98,2% |
| Восстановлено Oracle recovery | 16 |
| Не восстановлено | 4 |
| Раундов модели | 268 |
| Tool calls | 801 |
| Timeout | 0 |
| Суммарное process time | ~2 ч 5 мин |
| Токены | 3 253 003 |
| Ориентировочный Score | 92,9% |
Николай, спасибо за оба PR. Поддержку общего bb-сервера из GitHub PR #9 проверили и смёржили — полный набор тестов прошёл. При проверке Dataset PR обнаружили, что verifier hash отличается только из-за окончаний строк: Windows checkout с CRLF дал b8530ac6…, а тот же официальный verifier с LF — 8bd4be15…. Проверяющий код и результаты прогона при этом одинаковые. Мы исправили вычисление hash: теперь перед SHA-256 окончания строк нормализуются, regression-тест для LF/CRLF добавлен, исправление смёржено в GitHub PR #10. Сам модельный прогон повторять не стали. Существующий нормализованный run переэкспортировали с каноническим verifier hash в Dataset PR #34; сейчас идёт финальная проверка и acceptance. Старый PR #33 закрыли как заменённый. Спасибо за фикс и за подробную статистику.