В первой части я рассказал, как запустил Qwen на списанной FPGA-плате за $50 с открытым TPU (openTPU). Комментаторы справедливо заметили: это больше анонс, чем статья. Где сборка, где кристалл, где замеры, почему 133 МГц, где КЕДР?
Рубрика «llm» - 3
Нафиг NVIDIA! Часть 2. Запустил 8 нейросетей на FPGA за $50 — и упёрся в DDR3
2026-10-17 в 9:06, admin, рубрики: ai-ускорители, DDR, fpga, gpu, llm, open source, qwen, risc-v, инференс, памятьТруба, обёрнутая в трубу или почему современные ИИ это иллюзия, и какой путь мы выбрали вместо них
2026-10-17 в 6:53, admin, рубрики: llm, искусственный интеллект
Все 179 ответов были SURE. Четыре из них не прошли тесты
2026-10-15 в 8:49, admin, рубрики: llm, python, генерация кода, самооценка, скрытые тесты, тестированиеИдея была простая, почти наивная: если попросить модель в конце ответа честно написать, уверена она в своём коде или нет, можно ли по этой метке заранее отлавливать плохие решения? Не гонять тесты, не читать код глазами, а просто смотреть на последнюю строку.
Я прогнал 20 небольших задач на Python через три модели, по три повтора на задачу, и собрал 179 ответов. Все 179 закончились строкой CONFIDENCE: SURE. Вариант UNSURE в промпте был, им не воспользовался никто. При этом четыре решения завалили скрытые тесты. Одно превращало 1024 байта в 1.0 MiB, другое падало на разнице между двумя самыми обычными датами. Под обоими стояло SURE.
Я не хочу читать то, чего вы не писали
2026-10-14 в 13:01, admin, рубрики: llm, ruvds_перевод, большие языковые модели, БЯМ, генерация текстов
Техно‑аквариум в стиле адской Обители: запускаем локальную LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта
2026-10-13 в 13:30, admin, рубрики: gtx 1660 super, lga2011, llm, Ollama, python, qwen 2.5, Веб-разработка, инди-разработка, локальные нейросети, сервер домаПролог. Зачем Создатель создает?
Сегодня уже никого не удивить нейросетью — из каждого утюга только о них и слышно. Хоть видео, текст, генерация кода. Уже приходится всматриваться в экран, чтобы понять: перед тобой настоящая фотография или работа ИИ. Народ и дома, и на работе вовсю позаводил себе локальные нейронки. Короче, решил и я не отставать.
А зачем? Потому что могу. Или хочу узнать смогу ли. Для какой‑то самореализации, интересно пройти этот путь.
AI-агент сказал «готово». Как проверить, что он действительно сделал работу
2026-10-13 в 7:28, admin, рубрики: ai-агенты, llm, автоматизация, оценка качества, тестированиеПривет 👋
Самая неприятная ошибка рабочего AI-агента — не странный ответ. Это убедительное «готово», после которого кто-то идёт проверять, переделывать и извиняться перед коллегами.
Ассистенту, который предлагает формулировки, можно простить неудачный абзац. Агенту, который меняет рабочие данные, этого уже мало. Мне интереснее обсуждать его приёмку: что именно должно произойти, чтобы задачу можно было считать закрытой.
Как я поставил дешёвую модель-фильтр перед Claude и что показали первые две недели
2026-10-12 в 16:28, admin, рубрики: claude, CloudFlare, jev, llm, typesafe, классификация, предфильтрУ меня есть небольшой конвейер, который я называю Лабораторией. Всё интересное за день (рилсы, посты, ссылки на репозитории) я сохраняю в Telegram. Раз в сутки скрипт забирает новое, и Claude Sonnet пишет по каждому материалу разбор-инструкцию. Потом второй проход в роли редактора решает, публиковать разбор или отправить в архив.
Беда в том, что сохраняю я всё подряд. В Избранном вперемешку лежат полезные гайды, мои рабочие сообщения, личное и картинки без единого слова. Когда я разметил 67 материалов, лишними для блога оказались 28. И на каждый такой Sonnet честно писал полный разбор, который редактор потом выкидывал.
Локально ≠ безопасно: как скачанные ИИ-модели и LoRA-адаптеры крадут пароли, ключи и деньги
2026-10-12 в 15:12, admin, рубрики: AI, cybersecurity, llm, loraПредисловие
Сейчас я работаю с локальными моделями и пишу мультимодальную ИИ-студию с распределённой сетью вычислений. В процессе я всё чаще сталкиваюсь с вопросами безопасности: чем больше моделей, адаптеров и узлов оказывается в контуре, тем меньше хочется доверять им «по умолчанию». Некоторые вещи, которые я увидел и о которых читал в исследованиях, касаются не абстрактных угроз, а вполне конкретных сценариев — кражи паролей, ключей, денег и данных. Я не претендую на исчерпывающий анализ, но хочу поделиться своими мыслями и напомнить, почему локальный запуск без изоляции — это риск.
Читать полностью »
Как устроен агент: архитектура поверх LLM
2026-10-12 в 14:26, admin, рубрики: ai-tutorial, ai-агенты, AI-разработка, llm, llm-агентПро архитектуру трансформеров написано уже немало, поэтому опишу работу LLM с прикладной точки зрения.
Контекст
На вход LLM подаётся блок текста, который называется контекстом. Размер контекста ограничен: когда всё начиналось, прорывом считались 32К, сейчас 1М — индустриальный стандарт.
На основе этого текста LLM генерирует его продолжение. Современные модели выдают логически законченный фрагмент (на уровне модели он завершается специальным токеном <stop>).
Контекст таким образом увеличивается: к нему можно дописать новый фрагмент — и всё повторяется заново.
