Рубрика «llm» - 5
Я не хочу читать то, чего вы не писали
2026-10-14 в 13:01, admin, рубрики: llm, ruvds_перевод, большие языковые модели, БЯМ, генерация текстов
Техно‑аквариум в стиле адской Обители: запускаем локальную LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта
2026-10-13 в 13:30, admin, рубрики: gtx 1660 super, lga2011, llm, Ollama, python, qwen 2.5, Веб-разработка, инди-разработка, локальные нейросети, сервер домаПролог. Зачем Создатель создает?
Сегодня уже никого не удивить нейросетью — из каждого утюга только о них и слышно. Хоть видео, текст, генерация кода. Уже приходится всматриваться в экран, чтобы понять: перед тобой настоящая фотография или работа ИИ. Народ и дома, и на работе вовсю позаводил себе локальные нейронки. Короче, решил и я не отставать.
А зачем? Потому что могу. Или хочу узнать смогу ли. Для какой‑то самореализации, интересно пройти этот путь.
AI-агент сказал «готово». Как проверить, что он действительно сделал работу
2026-10-13 в 7:28, admin, рубрики: ai-агенты, llm, автоматизация, оценка качества, тестированиеПривет 👋
Самая неприятная ошибка рабочего AI-агента — не странный ответ. Это убедительное «готово», после которого кто-то идёт проверять, переделывать и извиняться перед коллегами.
Ассистенту, который предлагает формулировки, можно простить неудачный абзац. Агенту, который меняет рабочие данные, этого уже мало. Мне интереснее обсуждать его приёмку: что именно должно произойти, чтобы задачу можно было считать закрытой.
Как я поставил дешёвую модель-фильтр перед Claude и что показали первые две недели
2026-10-12 в 16:28, admin, рубрики: claude, CloudFlare, jev, llm, typesafe, классификация, предфильтрУ меня есть небольшой конвейер, который я называю Лабораторией. Всё интересное за день (рилсы, посты, ссылки на репозитории) я сохраняю в Telegram. Раз в сутки скрипт забирает новое, и Claude Sonnet пишет по каждому материалу разбор-инструкцию. Потом второй проход в роли редактора решает, публиковать разбор или отправить в архив.
Беда в том, что сохраняю я всё подряд. В Избранном вперемешку лежат полезные гайды, мои рабочие сообщения, личное и картинки без единого слова. Когда я разметил 67 материалов, лишними для блога оказались 28. И на каждый такой Sonnet честно писал полный разбор, который редактор потом выкидывал.
Локально ≠ безопасно: как скачанные ИИ-модели и LoRA-адаптеры крадут пароли, ключи и деньги
2026-10-12 в 15:12, admin, рубрики: AI, cybersecurity, llm, loraПредисловие
Сейчас я работаю с локальными моделями и пишу мультимодальную ИИ-студию с распределённой сетью вычислений. В процессе я всё чаще сталкиваюсь с вопросами безопасности: чем больше моделей, адаптеров и узлов оказывается в контуре, тем меньше хочется доверять им «по умолчанию». Некоторые вещи, которые я увидел и о которых читал в исследованиях, касаются не абстрактных угроз, а вполне конкретных сценариев — кражи паролей, ключей, денег и данных. Я не претендую на исчерпывающий анализ, но хочу поделиться своими мыслями и напомнить, почему локальный запуск без изоляции — это риск.
Читать полностью »
Как устроен агент: архитектура поверх LLM
2026-10-12 в 14:26, admin, рубрики: ai-tutorial, ai-агенты, AI-разработка, llm, llm-агентПро архитектуру трансформеров написано уже немало, поэтому опишу работу LLM с прикладной точки зрения.
Контекст
На вход LLM подаётся блок текста, который называется контекстом. Размер контекста ограничен: когда всё начиналось, прорывом считались 32К, сейчас 1М — индустриальный стандарт.
На основе этого текста LLM генерирует его продолжение. Современные модели выдают логически законченный фрагмент (на уровне модели он завершается специальным токеном <stop>).
Контекст таким образом увеличивается: к нему можно дописать новый фрагмент — и всё повторяется заново.
Вызов инструментов
Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1
2026-10-09 в 15:30, admin, рубрики: ai-ускорители, fpga, llm, open source, qwen, risc-v, xilinx, Железо, инференсЯ хотел разработать собственный AI‑процессор, нашёл openTPU, взял FPGA за ~$50 с 4 ГБ оперативной памяти, подключил её к обычному мини‑ПК и запустил на ней большую языковую модель — и улетел в космос (в позитивном и дофаминовом смыслах).
Без NVIDIA. Без видеокарты. На открытой архитектуре, которая разработана при активном участии ИИ‑агентов.
openTPU — открытый AI‑ускоритель Felipe Sens Bonetto.
Мне стало интересно: а можно ли действительно взять такой проект с GitHub, загрузить его в физическую FPGA и запустить настоящий LLM‑инференс?
По замерам автора проекта на такой же плате:
Читать полностью »
Как скормить нейросети большой проект и не скормить лишнего: что я узнал, пока агенты читали мой код
2026-10-09 в 12:50, admin, рубрики: C#, claude code, llm, MCP, open source, Repomix, агенты, контекст, нейросетиГод назад я копировал файлы в чат с нейросетью по одному и каждый раз забывал какой‑нибудь интерфейс. Сейчас Claude Code и Codex читают проект сами, через MCP‑сервер, который я написал и выложил в открытый доступ. Эта статья не про сам инструмент, а про то, что выяснилось по дороге: почему текстовое дерево проекта обходится модели дороже JSON, почему папку build нельзя пропускать по имени, как спрятать пароль и не сломать код вокруг него, и что агент на самом деле делает с контекстом, когда его никто не контролирует. Последнее удивило меня сильнее всего.
RAG по 11 000 файлов: почему семантический поиск не находит по артикулу
2026-10-09 в 11:23, admin, рубрики: bge-m3, llm, qdrant, rag, RRF, sparse vectors, гибридный поиск, семантический поискПривет! Меня зовут Дмитрий, я работаю в компании Cortex IT и автоматизирую бизнес-процессы наших клиентов. Среди прочего мы строим RAG-ассистентов по внутренней документации.
На одном из проектов было много нестандартной технической документации на оборудование, и с настройками по умолчанию поиск отдавал не те чанки. Пришлось разбираться, почему так происходит.