ИИ‑агент не должен получать больше автономности только потому, что выглядит компетентным. Автономность должна расти тогда, когда система вокруг агента умеет надежно обнаруживать его ошибки.
Рубрика «Evals»
Сколько автономности должно быть у ИИ‑агента
2026-08-20 в 12:52, admin, рубрики: AI safety, Evals, Автономность ии, автономные агенты, верификация ИИ, ии-агентыОК или НеОК: как мы строили LLM‑судью и дважды меняли формулу вердикта
2026-08-18 в 15:00, admin, рубрики: ai-агенты, Evals, golden set, LLM Judge, production AI, rag, tool calling, каппа Коэна, оценка AI-системУ нашего AI‑агента поддержки было десять метрик и ноль ответов на главный вопрос: какую долю обращений он решает?
Судья, который читал только текст диалога, ставил 18/20, а проверка по реальным вызовам инструментов давала 8/20. Текстовые проверки считали правдоподобный ответ верным и не могли отличить его от подтвержденного. Самодельный «процент фантомных эскалаций» оказался измерением того, насколько слова бота согласованы с его же внутренними флагами. Каждая метрика что‑то измеряла, и ничего продуктового
Что перестаёт работать в тестировании, когда приходит LLM
2026-06-19 в 9:15, admin, рубрики: ai-агенты, Evals, llm, llm testing, qa, qa lead, STT, TTS
Как тестировать LLM-фичи: пишем автоэвалы и гоняем их в CI
2026-06-15 в 12:17, admin, рубрики: AI, engineer, Evals, llm, Автоэвалы, тестированиеПривет! У нас в проде живёт бот, который отвечает на вопросы по документации продукта — обычный RAG. Первые месяца три мы катили его, как все: поправил промпт, прогнал пяток вопросов руками, поставил в голове галочку «вроде стало лучше» и выкатил. Закончилось это предсказуемо. Коллега подкрутил промпт ретривера под свой кейс и по дороге сломал мой, причём заметили мы это через две недели по жалобе пользователя. А когда обновились на свежую версию модели, часть ответов просто уехала непонятно куда, и никто не мог сказать, стало в среднем лучше или хуже. Потому что «лучше» жило у нас в головах и мерялось настроением.
AgentKit от OpenAI: как закончилась эпоха хаоса в мире ИИ-агентов
2025-10-06 в 19:50, admin, рубрики: Agent Builder, AgentKit, chatgpt, chatgpt api, ChatKit, Connector Registry, Evals, OpenAI, OpenAI Agent BuilderДо сегодняшнего дня сборка и запуск AI-агентов напоминала джунгли. Разработчики метались между десятками несовместимых SDK, кастомных пайплайнов и ручных интеграций. Построить надёжного агента значило неделями клеить код, чинить баги в оркестрации и постоянно балансировать между скоростью и качеством. Теперь OpenAI предлагает другой путь — AgentKit, набор инструментов, который объединяет в себе всё, что раньше требовало десятков фреймворков и недель настройки.