Рубрика «Видеокарты» - 3

Что умеет RTX 4090 в 2025 году и как ее использовать для облачного рендеринга анимаций - 1

RTX™ 4090 — не новинка, но одна из самых сбалансированных карт по цене и производительности. Под катом — не просто обзор железа. Показываем, как 4090 раскрывается в задачах 3D и рендеринга, включая специфичный, но показательный кейс по headless-визуализации с трассировкой лучей и сборкой видео через FFmpeg.Читать полностью »

Китайцы готовы представить новые процессоры? Самые интересные новости из мира железа за май - 1

Китайские производитель процессоров Hygon готовит 128-ядерный серверный CPU C86-5G с SMT4 (512 потоков) и 16-канальной DDR5. Официального анонса еще не было, но ожидается, что у новинки будет рекордная многопоточность. Но это не все новинки от производителей в мае.

Привет! Меня зовут Сергей Ковалёв, я менеджер выделенных серверов в Selectel. В новом дайджесте собрал новости о свежих процессорах, вилдеокартах, дисках и серверах. Изучайте и делитесь мнением в комментариях. Подробности под катом!Читать полностью »

В последнее время большие языковые модели (LLM) становятся все более популярными, но для их эффективного запуска требуется значительная вычислительная мощность. Один из способов запуска LLM локально - использование библиотеки Llama.cpp. В этой статье мы рассмотрим, как тестировать производительность видеокарт для LLM с использованием инструмента llama-bench, входящего в состав Llama.cpp.

Дисклеймер: Почему Llama.cpp, а не Ollama?

Читать полностью »

Об авторе

Меня зовут Андросов Михаил — DevOps/MLOps-инженер. Последние два года сопровождаю ML-кластера Kubernetes с интенсивной нагрузкой на GPU.

Аппаратные характеристики

Наш типовой bare-metal-узел — сервер с 10 × NVIDIA RTX 4090 (24 GB). GPU enterprise уровня тоже есть, но мы предпочитаем использовать пользовательские GPU: такие карты проще приобрести и эксплуатировать.

Основные проблемы

В процессе запуска бесчисленных ML экспериментов, встали следующие проблемы:

  1. Недоиспользование памяти. Большинство ML задач занимает лишь часть памяти RTX 4090, из-за чего GPU простаивает.

  2. Взаимоблокировки.Читать полностью »

«Светлые планы на будущее»: новые RISC-V процессоры, GPU и СХД - 1

Всем привет! Меня зовут Сергей Ковалёв, я менеджер по развитию выделенных серверов. В этом теплом майском дайджесте собрал новинки серверного железа и другие новости из мира технологий. В апреле производители хоть и не очень нас баловали, зато охотно делились планами на будущее. Подробности под катом!Читать полностью »

Если закон пройдёт, видеокарты буквально смогут следить за вами

Если закон пройдёт, видеокарты буквально смогут следить за вами

Когда вы покупаете новую видеокарту, вы можете ожидать всего от прироста FPS в играх до – не дай бог – Читать полностью »

Совсем недавно, исправляя уязвимости в ядре, я столкнулся с тем, что у меня слетели драйвера NVIDIA. Вот прям совсем, даже nvidia-smi не отрабатывала. На тот момент я еще не подозревал, что впереди меня ждет приключение на несколько часов.

В этой статье я хочу поделиться опытом решения данной проблемы, но ни в коем случае не настаиваю, что мой способ/мнение - единственно верное. И буду очень рад, если вы поделитесь своим опытом выхода из подобной ситуации!

Читать полностью »
Для каких типов обучений нейросетевых моделей подходят ускорители AMD - 1

Введение

Привет! В прошлом материале мы рассказывали про графические ускорители для ЦОДЧитать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js