Рубрика «chromadb»

База из 2000 кейсов

Представьте: вы пришли на проект, а там около двух тысяч тест-кейсов. Часть проверок повторяется, часть написана несколько лет назад. Где-то нет предусловия, где-то ожидаемый результат нужно угадывать по шагам. При этом задачи уже в работе, релиз приближается, и времени спокойно перечитать всё нет.

Удалять старые кейсы на глаз нельзя. Переписывать каждый вручную — долго. Оставить как есть — значит снова идти в регресс с базой, которой не вполне доверяешь.

Читать полностью »

Это адаптированная версия моего исследования «Синтетическая эмпатия: эмоциональная привязанность к автономным LLM-агентам и коммерциализация одиночества». Здесь — техническая выжимка: разберём, как именно архитектура современных компаньон-агентов производит эмоциональную привязанность, и почему это не побочный эффект, а прямое следствие инженерных решений. Полная версия с приложением по железу и библиографией — в моём блоге.

От ELIZA к агентам: три этапа

Читать полностью »

Три месяца назад я наблюдал, как мой агент на Llama 3.1 8B в третий раз спрашивает, как меня зовут.

Я представился в первом сообщении. Двести сообщений назад...

Агент забыл. Не потому что тупой. Потому что контекст переполнился и начало разговора уехало в никуда.

Это был момент, когда я понял: мы неправильно думаем о памяти.

Почему большие контексты — это ловушка

Когда вышел Claude с контекстом на миллион токенов, казалось — проблема решена. Запихиваем всё в контекст, модель помнит всё. Красота.

Потом пришёл счёт за API.

Читать полностью »

🚀 Идея, Которая Важнее Кода

Мой отец — человек, переживший несколько сложнейших операций на сердце. Жизнь с хроническим заболеванием — это бесконечный поток анализов, заключений и схем приёма лекарств. Находясь далеко (я живу во Вьетнаме), я постоянно волновался: не забудет ли он про дозу, правильно ли понял назначение, задал ли все нужные вопросы врачу?

Мне нужен был не просто бот-напоминалка, а второй пилот — умный, конфиденциальный и мультимодальный AI-Кардиолог. Ассистент, который знает его анамнез наизусть, понимает голосовые команды и может "прочитать" фотографию свежего анализа.

Читать полностью »

Команда Python for Devs подготовила практическое руководство по сборке полноценной RAG-системы из пяти open source-инструментов. MarkItDown, LangChain, ChromaDB, Ollama и Gradio превращают разрозненные документы в умную базу знаний с потоковой генерацией ответов. Всё локально, без облаков и с открытым кодом — попробуйте собрать свой ChatGPT прямо у себя.


Бывало, вы тратили по полчаса, просматривая ветки Slack, вложения к письмам и общие диски, лишь чтобы найти ту самую техническую спецификацию, о которой коллега упоминал на прошлой неделе?

Читать полностью »

Затравочка

LLM-ки и LLM-агенты продолжают наводить шум. статьи про то как сделать очередной RAG или Агента продолжают клепаться (да блин даже мы одна из этих статей), huggingface выпускают smolagents, квантизация позволяет дойти LLM-кам до простых работяг и обывателей, давая им возможность в них потыкаться в той же LM studio или других приложениях.

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js