Рубрика «VRAM»

Как я выбирал локальную модель для кодинга на 16 ГБ VRAM — и трижды менял победителя

2026-09-17 в 14:12, admin, рубрики: llama.cpp, opencode, qwen3-coder, VRAM, WordPress-разработка, агентское программирование, квантование моделей, локальные llm, локальные нейросети, модели для программирования

Сначала я выбрал модель, которая отлично писала код. Подключил её к OpenCode и выяснил, что создавать файлы на диске она просто не умеет. Взял другую — та уверенно работала с файлами, но полностью поплыла на русском языке.

В итоге победила модель, которую я поначалу оставил «для экспериментов»: слишком большая, на грани по квантованию и, казалось, сплошной компромисс.

Ниже — о том, как я подбирал рабочую лошадку под WordPress и фронтенд на видеокарте с 16 ГБ памяти. Со скоростями, квантами и неожиданным экзаменом по русскому языку.

Для каких задач я её искал

Читать полностью »

Давай немного потроттлим

2026-02-02 в 9:16, admin, рубрики: LibreHardwareMonitor, Nvidia, python, Topaz Video AI, VRAM, видеопамять, нейросети, охлаждение ноутбука, перегрев, троттлинг

В 2026 году ваш ноут — не просто гаджет, а рискованная инвестиция, которая может буквально расплавиться из-за одной нейросети. Пока вы апскейлите видео, ваше железо пашет на износ. А заводские системы охлаждения часто «слепнут»: они просто не видят, как видеопамять (VRAM) раскаляется до критических 105°C, пока графическое ядро, вроде как, холодное. И всё это на фоне того, что TSMC опять задрала цены, а чипы памяти взлетели из-за AI-бума. Любая ошибка — финансовая катастрофа. Дефицит запчастей пр��вращает ремонт в квест, а замена впаянного GPU сегодня стоит как крыло самолёта.

Читать полностью »

Сколько VRAM нужно для нейросетей?

2025-12-21 в 16:16, admin, рубрики: ComfyUI, memory bandwidth, neural networks, quantization, VRAM, Видеокарты, генеративные модели, нейросеть для генерации изображений, нейросеть локально

Этот пост будет полезен людям, кто хочет разобраться в локальных моделях, особенно использующим их, как инструмент в создании контента, арта и дизайна (контекст нейросетей - image и video). Так же поговорим о выборе видеокарты и параметрах влияющих на генеративные workflow.

VRAM requirements

Для начала - график с оптимальными и минимальными значениями VRAM для image и video моделей.

Читать полностью »

Как я экономлю на инференсе LLM-модели в облаке и не теряю в качестве

2025-10-23 в 15:30, admin, рубрики: gpu, kv-cache, llm, vllm, VRAM, большие языковые модели, веса, инференс моделей, квантовые модели

Если вы читаете этот текст, скорее всего, вы уже пробовали запустить LLM самостоятельно и, вполне вероятно, столкнулись с одной из типичных проблем:

«Заказал GPU, загрузил модель, а она не влезла, хотя по расчетам памяти должно было хватить».

«Платим за A100, а реально используем лишь 30% ее мощности».

Привет, на связи Павел, ML-инженер в Cloud.ru. Я прошел через эти проблемы сам, поэтому не понаслышке знаю, как это может раздражать.

Читать полностью »

Кому нужны игровые видеокарты NVIDIA с 48 ГБ VRAM и почему их до сих пор нет

2025-10-23 в 6:06, admin, рубрики: 5090, gpu, Nvidia, VRAM, Видеокарты, видеомонтаж, видеопамять, ИИ, нейросети, технологии

Геймеры, играющие в 4К-игры, энтузиасты генеративного ИИ и все, кто работает с крупными LLM-моделями, всё чаще сталкиваются с серьезным ограничением — недостаточным объемом видеопамяти. Даже топовые потребительские видеокарты с 24 ГБ или 32Gb VRAM не всегда справляются с тяжелыми задачами. Например, для профессионального видеомонтажа 8K-материала в DaVinci Resolve с применением сложных эффектов и многослойной композиции 24 ГБ видеопамяти часто оказывается недостаточно.

Читать полностью »

Почему видеокарты до сих пор не получили модульную память?

2025-02-18 в 5:56, admin, рубрики: gpu, VRAM, Видеокарты, Железо, технологии

Представьте, что вы купили видеокарту с 8 ГБ VRAM, а через год игры или иференсы модели стали требовать 32 ГБ. Не проще ли было бы докупить модуль памяти, как с оперативкой? Увы, это невозможно. Почему же производители десятилетиями игнорируют модульность видеопамяти? Давайте разбираться.