Рубрика «llm» - 32

RLM-Toolkit: Полное руководство по обработке 10M+ токенов

2026-01-18 в 11:01, admin, рубрики: AI Security, embeddings, InfiniRetri, LangChain, llm, python, rag, RLM, контекст, токены

От теории до production — архитектура, алгоритмы, безопасность

Привет!

Это исчерпывающее руководство по RLM-Toolkit — open-source библиотеке для работы с контекстами произвольной длины.

Что рассмотрю:

Формальная теория RLM (State Machine, рекурсия)
InfiniRetri: математика attention-based retrieval
H-MEM: когнитивная архитектура памяти
RAG vs KAG vs GraphRAG vs InfiniRetri
Security: CIRCLE compliance, sandbox escape prevention
Реальные примеры с логами выполнения
Troubleshooting и best practices

Уровень: от middle до PhD-level исследований.

🚀 Читать полностью »

Технологическая сингулярность. От 2 месяцев до 2 дней — Claude и n8n сократили разработку в промышленной IoT

2026-01-17 в 17:17, admin, рубрики: AI, claude, IoT, llm, MCP, n8n, автоматизация, валидация, мнемосхема, промышленная автоматизация

Писать надо только тогда, когда не можешь не писать (С) Л.Н. Толстой

На самом деле я работал над статьей о Claude Code, но тут пальцы сами открыли ноут на начали набивать буквы. Извините!

Приквел

Начну издалека, с темы, максимально далекой от предмета статьи. У меня есть друг, который постоянно норовит втянуть меня в свои хобби. За десятилетие я попробовал стать фанатом ножей, огнестрельного и пневматического оружия, охоты, выживания в БП, полетах на самолетах. Ни одно хобби не зашло.

Читать полностью »

Log Analyzer Pro 2.0: Добавляем AI-поиск на естественном языке

2026-01-16 в 12:47, admin, рубрики: AI, DevTools, llm, llm-агент, Rust, vscode

В предыдущей статье я рассказывал, как сделал производительный просмотрщик логов для VS Code с Rust и mmap. Расширение открывает файлы по 10 ГБ без лагов.

Но оставалась проблема: чтобы найти нужное, приходилось писать regex. А regex — это боль. Особенно когда искать нужно "все ошибки подключения к БД" или "таймауты в сервисе auth".

Решение: пусть AI пишет regex за меня.

Что получилось

Нажимаешь "AI", пишешь на человеческом языке — получаешь фильтр:

Запрос	Результат
"все ошибки"	`ERROR`
Читать полностью »

Агентные системы для продакшена

2026-01-16 в 4:31, admin, рубрики: llm, llm-агент, агентные системы

Всем привет! Сегодня разберём, как проектировать агента, который доезжает до продакшена и приносит пользу бизнесу: от вопросов на старте до стека и практик, без которых он развалится в эксплуатации.

Меня зовут Владимир, на данный момент работаю ML-инженером и разрабатываю мультиагентные системы. К сожалению, пока не могу похвастаться тем, что сократил 20 процентов сотрудников, но достижения имеются...

Читать полностью »

Как я делал свою языковую модель: история эксперимента

2026-01-15 в 11:04, admin, рубрики: AI, llm, llm-архитектура, llm-модели, искусственный интеллект, языковые модели

Уже больше года назад у меня зародилась идея создать свою архитектуру языковой модели. Традиционные модели, "думающие" на уровне токенов мне решительно не нравились. Колоссальный вычислительный бюджет на то, чтобы просто предсказать один токен. Логичным мне казалось оторвать мышление модели от токенов, перенеся его в латентное пространство. Примерно полгода назад я начал первые практические эксперименты и сейчас получил первые практические результаты. Поскольку уровень подготовки читателей очень сильно различается, в статье не будет глубоких технических разборов, а скорее история эксперимента.

Читать полностью »

LLM нельзя внедрить сверху. Снизу тоже. А как можно?

2026-01-15 в 5:33, admin, рубрики: chatgpt, claude, llm, автоматизация, внедрение ai, конфликт интересов, продуктивность, рынок труда, трудовые отношения, эффективность

«Когда один программист заменяет пятерых, четверо начинают искать работу, а пятый — хорошего юриста»

Каждая вторая статья на Хабре сейчас — про LLM. Одни кричат о революции, другие — о пузыре. Тем временем в реальности происходит кое-что интересное.

Цифры впечатляют. Инвестиции в дата-центры в 2025 году превысили $60 миллиардов. Nvidia отчитывается о квартальной выручке в $57 миллиардов — больше годовой прибыли большинства компаний из Fortune 500. Big Tech планирует потратить около $330 миллиардов на инфраструктуру только в этом году. Прогнозы обещают $3-4 триллиона совокупных инвестиций в AI к 2030 году.

Читать полностью »

Тестирование LLM-приложений с DeepEval

2026-01-13 в 18:26, admin, рубрики: DeepEval, llm, LLM тестирование, llm-приложения, исскуственный интеллект

Всем привет! Меня зовут Максим. Я NLP‑инженер в red_mad_robot и автор Telegram‑канала Максим Максимов // IT, AI. В этой статье я расскажу о том, как тестировать приложения с использованием Large Language Model (LLM), на примере инструмента DeepEval.

Тестирование приложений, в которых используются LLM, отличается от тестирования других приложений. В частности, можно выделить 2 основные проблемы:

Недетерминированность. В связи со своей спецификой LLM могут давать разные ответы на одни и те же запросы, что создаёт сложности во время тестирования;
Работа с естественным языком.Читать полностью »

Claude Code изнутри: как устроены AI-агенты для разработки

2026-01-13 в 15:30, admin, рубрики: claude code, dev tools, llm, автоматизация, инструменты, Программирование

Команда AI for Devs подготовила перевод статьи о том, как на самом деле устроены AI-агенты для программирования. Автор шаг за шагом показывает, что за Claude Code не стоит магия: это последовательный агентный цикл, инструменты, контроль разрешений и работа с контекстом.

Что делает Claude Code мощным, на удивление просто: это цикл, который позволяет ИИ читать файлы, запускать команды и итеративно работать, пока задача не будет выполнена.

Сложность начинается там, где нужно разрулить пограничные случаи, сделать хороший UX и встроиться в реальные процессы разработки.

Читать полностью »

Как затащить AI в Java-Kotlin проект

2026-01-12 в 14:56, admin, рубрики: AI, Docling, embeddings, java, kotlin, llm, state graph, Vector DB, ИИ

Мир Enterprise-разработки на Java/Kotlin и мир нейронных сетей кажутся параллельными вселенными. С одной стороны - статическая типизация, многопоточность, Spring-контейнеры, а с другой - Python-скрипты, тензорные операции и эксперименты в Jupyter Notebook. Между ними - пропасть, через которую многие команды не решаются перешагнуть.

Читать полностью »