Цель статьи — показать не абcтрактный пример как можно извлечь пользу из собственного RAG локально (если вдруг кто‑то ещё этого не сделал), и заодно посмотреть, какие основные параметры тут вообще доступны. Часто сидя на звонках я слышал от коллег: «вот хорошо бы сделать собственный RAG для Confluence», «вот бы развернуть у себя». И как будто бы навайбкодить такое решение — дело пары вечеров, но часто дальше разговоров дело не двигается.
Рубрика «rag»
Собственный RAG над Confluence на Java
2026-08-19 в 15:26, admin, рубрики: confluence, rag, spring aiОК или НеОК: как мы строили LLM‑судью и дважды меняли формулу вердикта
2026-08-18 в 15:00, admin, рубрики: ai-агенты, Evals, golden set, LLM Judge, production AI, rag, tool calling, каппа Коэна, оценка AI-системУ нашего AI‑агента поддержки было десять метрик и ноль ответов на главный вопрос: какую долю обращений он решает?
Судья, который читал только текст диалога, ставил 18/20, а проверка по реальным вызовам инструментов давала 8/20. Текстовые проверки считали правдоподобный ответ верным и не могли отличить его от подтвержденного. Самодельный «процент фантомных эскалаций» оказался измерением того, насколько слова бота согласованы с его же внутренними флагами. Каждая метрика что‑то измеряла, и ничего продуктового
Память агента без вектор-БД: 363 markdown-файла вместо эмбеддингов
2026-08-18 в 8:08, admin, рубрики: llm, markdown, rag, zero-infra, агентная память, архитектура памяти, векторная база, память llm-агентаУ меня восемь агентов с постоянной памятью, и на всех вместе больше 360 файлов, около 1,4 МБ текста. Векторной базы нет ни одной: эмбеддинги я не считаю вообще.
И это не “руки не дошли”. Схема работает с мая 2026 года: сначала на одном агенте, с июня централизованно на всех восьми. За это время вопрос про вектор-БД я поднимал трижды, каждый раз с конкретным кандидатом на внедрение, и каждый раз закрывал его отказом. Ниже разберу, как это устроено, какими числами живет и в какой момент перестанет работать.
Рефлекс, от которого я отказался
От капстоуна к продакшену: fail‑fast, structured logs, Prometheus и Docker‑образ 8.15GB → 1.35GB
2026-08-17 в 11:21, admin, рубрики: docker image size, fastapi, Grafana, mlops, ONNX, prometheus, rag, sentence-transformers, structlogУ меня есть RAG‑сервис: проверяет фактологические утверждения в бизнес‑отчётах против реальных источников — SEC EDGAR, World Bank, FRED, Wikipedia. Это капстоун LLM Zoomcamp (DataTalksClub). Курс закончился, оценку поставили (peer review, 42/42), а я решил дотянуть проект до состояния «не стыдно показать на собеседовании как рабочий код», а не просто «закрыл критерии оценки курса».
Критерии оценки курса не требуют production‑паттернов — они про RAG‑пайплайн: retrieval, evaluation, orchestration. На собеседовании про RAG спрашивают другое — то, что курс не проверяет:
-
что будет, если сервису подсунут неправильные переменные окружения при деплое;
Правильный код мы отклоняем — и так задумано
2026-08-16 в 6:26, admin, рубрики: llm, llm-судьи, MAPIE, pydantic, rag, валидация, галлюцинации, конформное предсказание, надежность, пайплайнРаботаю в компании «Сибинтек-Софт», занимаюсь поддержкой корпоративных информационных систем. Имею сертификат DevOps-инженера, в рамках задач отдела внедряю ИИ в рабочие процессы.
Как-то мой валидатор забраковал ответ, сославшись на статью, которой не существует.Читать полностью »
Агентный RAG, бенчмарк TRuST и при чём здесь Нафаня?
2026-08-05 в 14:56, admin, рубрики: rag, агенты, нафаня, поиск, языковые моделиВсем привет! Меня зовут Николай.
Сначала отвечу на вопрос из заголовка. Нафаня - это агентный RAG-помощник по нормативно-технической документации, связанной со строительством и ценообразованием (методики Минстроя, ГОСТы, СНиПы, СП и профильные законы).
Эта статья о том, как устроен Нафаня, как прошла его проверка на сложном бенчмарке и как архитектура менялась шаг за шагом, чтобы преодолеть потолок метрик.
Железо, ограничения и почему архитектура именно такая
В моём распоряжении домашняя рабочая станция с двумя RTX 4070 по 16 ГБ и одной RTX 5060 на 16 ГБЧитать полностью »
Как я делал базу знаний для ИИ‑агента и тестировал её на собственных медицинских анализах
2026-08-05 в 8:25, admin, рубрики: ai-ассистент, LLM-агенты, rag, базы знаний, Поиск по документам, эмбеддингиРезультаты годового чекапа пришли в пятницу вечером. Семь документов в личном кабинете лаборатории, в половине строк звёздочки «выше нормы» и «ниже нормы», запись к эндокринологу через две недели. Кто сдавал, тот знает этот вечер: гуглишь каждый показатель по отдельности, находишь ужасы, и нигде не написано, что все эти цифры значат вместе.
Работаю бэкендером, делаю базу знаний в Искре. Поэтому вместо поисковика открыл свой же продукт: загрузил туда все семь файлов и начал спрашивать.
Архитектурный паттерн «LangGraph, гибридный RAG + Сигнатурный движок»: универсальный граф для потоковых данных
2026-07-27 в 13:33, admin, рубрики: ai-агенты, analysis, cybersecurity, langgraph, llm, pipeline, python, rag, SoCВ чем проблема?
При обработке больших потоков неструктурированного текста разработчики обычно выбирают один из двух путей:
-
Первый — использовать детерминированные методы. Регулярки, сигнатуры, и подобные инструменты работают быстро. Вот только никак не поймают новые, ранее не описанные паттерны.
-
Путь второй — скармливать сырые данные в ЛЛМ напрямую. В реальности этот подход быстро умирает. Отправлять огромные объемы нефильтрованного текста в языковые модели слишком дорого и медленно.
Наш ИИ-агент не закрыл ни одной боевой задачи. И это лучшее, что с ним случилось
2026-07-22 в 9:12, admin, рубрики: llm, openrouter, rag, tree-sitter, автоматизация разработки, аналитика, база знаний, управление разработкойНаши аналитики почти перестали писать SQL руками и ходить к разработчикам с вопросом «а как работает эта фича». Сделал это инструмент, который мы строили для другого: он должен был сам закрывать задачи разработки. С исходной целью он провалился, и провалился интересно. Расскажу, где именно.