В прошлой статье я рассказывал, как устроено ядро нашего поиска: триграммы, crc32, словарь болей и два сита. В конце был короткий раздел «А где же нейросеть?», и он заслуживает отдельного разговора. Сегодня про то, как модель встроена сверху и почему мы с самого начала исходили из того, что она когда-нибудь подведёт.
Рубрика «deepseek»
Языковая модель в поиске магазина: как подключить её так, чтобы её падение никто не заметил
2026-10-07 в 7:08, admin, рубрики: claude, deepseek, fallback, json, llm, python, reasoning, отказоустойчивость, умный поиск, языковые моделиМеханизмы внимания в современных LLM
2026-10-06 в 10:16, admin, рубрики: attention, deepseek, GQA, inference, kv-cache, linear attention, llm, MLA, qwen, sparse attentionПрежде чем разбирать оптимизации, зафиксируем базовые понятия:
Токен — минимальный фрагмент последовательности, с которым работает модель. Из hidden state каждого токена attention строит query, key и value. Query отвечает на вопрос «что я ищу»,
Key — “что я содержу”,
PPU Zhenwu 810E от Alibaba: как китайский AI-ускоритель справляется с LLM
2026-10-06 в 8:00, admin, рубрики: AI, ai-ускорители, Alibaba Cloud, deepseek, gpu, ml, mlops, ppu, selectel
Русский текст в Claude Opus 5 стоит в 3,9 раза дороже, чем в GPT-5.5, при одинаковой цене за токен
2026-10-01 в 12:41, admin, рубрики: claude, deepseek, GigaChat, gpt, llm, yandexgpt, русский язык, стоимость api, токенизатор, токенизацияЦены на API языковых моделей публикуют за миллион токенов, и по этой цифре модели обычно сравнивают. Но «токен» у каждой модели свой. Я прогнал один и тот же русский текст через Claude Opus 5 и GPT-5.5: Opus 5 насчитал в нём в 3,9 раза больше токенов. Значит, при одинаковой цене за токен обработка русского текста на Opus 5 обойдётся почти вчетверо дороже, чем на GPT-5.5, — и это не зависит от того, у кого вы покупаете доступ.
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL
2026-09-28 в 8:34, admin, рубрики: deepseek, llm, Ollama, pandas, python, sql, windows, локальные модели, локальный AI
Полгода назад мне понадобился личный AI помощник (знаю...звучит слишком пафосно и мне самому это словосочетание не нравится) для работы на своем ноутбуке на Windows.
Читать полностью »
Вайбкодинг всерьёз: деньги на токены и очень неоднозначные ощущения
2026-09-25 в 9:55, admin, рубрики: claude code, codex, deepseek, vibecoding, Агент, агентное программирование LLM, вайбкодинг, контекст-инжиниринг, опыт использованияМой код работает. Он собирается, проходит тесты и делает ровно то, что задумывалось. Проблема в другом: я не могу с уверенностью сказать, что именно внутри него происходит, и это напрямую угрожало добавлением новых фишек.
Первую версию проекта мы с другом писали почти руками, зато каждый коммит был понятен до последней строки. Потом я остался один, подключил AI‑агентов, и темп вырос настолько, что моё понимание перестало успевать за строчками. Итог четырёх месяцевЧитать полностью »
Grok 4.7, GPT-6 Astra, Claude и китайские модели, кто эффективнее?
2026-09-25 в 7:17, admin, рубрики: Claude Fable, claude opus, deepseek, GPT-6 Astra, Grok 4.7, kimi, llm, qwen, бенчмаркиВчера SpaceXAI выложила Grok 4.7. За три недели до этого OpenAI выпустила GPT-6 Astra, Anthropic — Claude Fable 5.1. Ещё в июле рядом встал Claude Opus 5: сама Anthropic пишет, что для большинства задач включать надо его, а Fable доставать, когда Opus уже не тянет ваши замеры.
Китайские лаборатории в этой компании больше не «дешёвый запасной аэродром». Qwen3.8 Max стоит те же $2 и $6 за миллион токенов, что и Grok, и на общем индексе отстаёт на один балл. Kimi K3 на суточных инженерных задачах сидит в том же коридоре, что и свежий Grok.
Распознавание текста по фото: 8 программ и нейросетей
2026-09-23 в 7:00, admin, рубрики: Bothub, chatgpt, claude, deepseek, OpenAI, openai api, документы ии, ии сканирование, сканирование документовПризнайтесь, было такое, что вам необходимо вытащить текст из сканированного отчёта на 50 страниц, разгадать рукописные записи коллеги или перенести таблицу из PDF в табличку Excel, а вместо этого вы тратите полвечера на перепечатывание вручную Египетских иероглифов от коллеги или сложных научных формул.
С развитием нейросетей про этот круг ада можно смело забыть!Читать полностью »
Почему умные NPC SkyrimNet ведут себя как попугаи? Эксперименты с ролеплейным ИИ
2026-09-20 в 15:02, admin, рубрики: AI, deepseek, gamedesign, Gamedev, skyrim, skyrimnet, ии-модель, промптыЯ пытался сделать NPC более реалистичными. Получился местами несмешной анекдот, а местами — психологический триллер. Я издевался над NPC, они издевались надо мной. Я запрещал им «думать о белой обезьяне», они меня газлайтили и давили моралью. Если готовы к большому тексту — добро пожаловать.
***
Тест DeepSeek, Qwen, GLM и прочих LLM на продвинутом пользовательском железе
2026-09-09 в 11:59, admin, рубрики: deepseek, DSpark, exllamav3, FreeToken, glm, mtp, NInfer, Ornith, qwen, rtx 5090Привет! Еще чуть больше года назад ваш покорный слуга наконец решился обновить комп, приобретя ПК с RTX 5090 и 96Gb RAM, которые, как я тогда думал, окажутся ультимативным решением для запуска всего, что может когда‑либо хотеться запустить. Но с выходом DeepSeek V4 Flash в апреле понял, что оказался в своеобразном «лимбо» — суммарных 128Gb VRAM+RAM хватало либо на запуск модельки в квантеЧитать полностью »