Привет! Меня зовут Александр Подмосковный, я работаю в Московском кредитном банке и, как многие, увлёкся темой искусственного интеллекта. Когда модель DeepSeek R1 стала широко обсуждаться в сообществе, я заинтересовался, можно ли эффективно использовать её и другие крупные модели в домашних условиях, не прибегая к дорогостоящим облачным сервисам. Так как DevOps и инфраструктурой я увлекаюсь уже несколько лет, за это время у меня постепенно сформировалась домашняя лаборатория, на которой я и решил проверить эту идею.
Рубрика «gpu» - 10
Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes
2025-05-12 в 8:35, admin, рубрики: AI, deckhouse kubernetes platform, gpu, kubernetes, llm, ml, pci passthrough, proxmoxОт «ламповых» серверов до облачных гигантов: 35 лет истории коммерческого хостинга в одной статье
2025-05-07 в 13:01, admin, рубрики: gpu, ruvds_статьи, SaaS, vps, web2, Веб, виртуализация, интернет, облака, сайт, серверы, трафик, хостинг
В начале 90-х интернетом пользовались единицы, а хостинг был скорее экзотикой — сайты хранились на университетских или «домашних» серверах энтузиастов. Первые коммерческие дата-центры появились примерно к середине десятилетия, а к его концу уже возникли техногиганты. За следующие 35 лет отрасль выросла в глобальную экосистему со своими правилами и локальными историями. Вспомним, как всё развивалось — в мире и у нас, и чем это в итоге обернулось. Напомним, что технологии хостинга мы рассмотрели ранее. Читать полностью »
10 лучших процессоров по соотношению цена-качество, которые можно купить весной 2025 года
2025-04-30 в 10:49, admin, рубрики: cpu, gpu, intel, xcom-shop
Для каких типов обучений нейросетевых моделей подходят ускорители AMD
2025-04-28 в 13:04, admin, рубрики: amd, fplus, gpu, Nvidia, Видеокарты, видеокарты AMD, обучение моделей, обучение нейросетевых моделей, сравнение видеокарт, ускорители AMD
Введение
Привет! В прошлом материале мы рассказывали про графические ускорители для ЦОДЧитать полностью »
Забытые технологии хостинга: 10 решений, которые когда-то были основой интернета
2025-04-07 в 13:01, admin, рубрики: gpu, ruvds_статьи, SaaS, vps, web2, Веб, виртуализация, интернет, облака, сайт, серверы, трафик, хостинг
Когда мы говорим о современном хостинге, на ум приходят облачные сервисы, контейнеризация и serverless-архитектура. Но ещё 10-20 лет назад ИТ-индустрия задавала те же вопросы: как сделать хостинг дешевле, быстрее и удобнее. Одни технологии тогда казались революцией, но исчезли, не выдержав конкуренции. Другие, наоборот, получили вторую жизнь в обновлённом формате. Вспомним самые популярные, но ныне забытые технологии хостинга и разберёмся, какие идеи пережили крах и возвращаются в новом обличье.Читать полностью »
Ведущий разработчик ChatGPT и его новый проект — Безопасный Сверхинтеллект
2025-04-07 в 9:01, admin, рубрики: 10x engineer, alexnet, AlphaGo, chatgpt, CUDA, DNNResearch, few-shot learning, Google Brain, gpgpu, gpt, gpu, Ilya Sutskever, ImageNet, lenet, Nvidia GTX 580, OpenAI, ruvds_статьи, Safe Superintelligence, seq2seq, TensorFlow, word2vec, Алекс Крижевски, Джеффри Хинтон, илья суцкевер, Компьютерное зрение, машина Больцмана, неокогнитрон, сверхинтеллект, Томаш Миколов
Многие знают об Илье Суцкевере только то, что он выдающийся учёный и программист, родился в СССР, соосновал OpenAI и входит в число тех, кто в 2023 году изгнал из компании менеджера Сэма Альтмана. А когда того вернули, Суцкевер уволился по собственному желанию в новый стартап Safe Superintelligence («Безопасный Сверхинтеллект»).
Илья Суцкевер действительно организовал OpenAI вместе с Маском, Брокманом, Альтманом и другими единомышленниками, причём был главным техническим гением в компании. Ведущий учёный OpenAI сыграл ключевую роль в разработке ChatGPT и других продуктов. Сейчас Илье всего 38 лет — совсем немного для звезды мировой величины.Читать полностью »
Виноград, Фурье и немного наивности: 4 подхода к реализации сверток с простыми примерами
2025-04-03 в 11:45, admin, рубрики: c++, convolution, gpuПривет! Меня зовут Кирилл Колодяжный, я работаю в YADRO и продолжаю изучать машинное обучение на С++. Я уже писал, как реализовать модели для распознавания лиц на фото и для поиска объекта в пространстве с помощью computer vision. Ссылки на материалы ищите в конце статьи.
Сегодня затрону «математическую» тему и расскажу о реализации сверток: что это за операция и какие есть алгоритмы для вычисления. Приведу простые примеры с кодом, чтобы вы могли опробовать решения.
Бэктестинг торговых стратегий на Python с помощью Numba. Когда перевод расчетов на GPU действительно оправдан?
2025-03-24 в 9:24, admin, рубрики: backtesting, CUDA, gpu, numba, python, производительностьВведение
Бэктестинг — ключевой процесс в алгоритмической торговле. Он позволяет проверить стратегию на исторических данных, прежде чем запускать её в реальной торговле. Однако, чем больше данных и сложнее логика стратегии, тем дольше времени занимают вычисления. Особенно если стратегия анализирует тиковые данные и требуется протестировать множество комбинаций гиперпараметров стратегии, время вычислений может расти экспоненциально.
В этой статье мы разберем, как реализовать бэктестинг на чистом Python, посмотрим сколько времени могут занимать вычисления, а также попробуем найти разные способы оптимизации.
Февральские апдейты: быстрые серверы для 1С, новые конфигурации и курс для администраторов
2025-03-14 в 8:05, admin, рубрики: DBaaS, gpu, k8s, kubernetes, Managed Kubernetes, selectel, базы данных, выделенные серверы, облако, облачные серверы, серверы, хранение данных
Привет! Я — Дима, технический писатель в Selectel. В новом дайджесте рассказываю, как ускорить 1С-приложения, сократить расходы в ML-проектах и какие новые серверы появились в феврале. В конце — афиша событий марта.Читать полностью »
BareMetal 2.0: разбираемся, какие GPU выбрать
2025-03-10 в 11:20, admin, рубрики: Baremetal, gpu, гибридное облако, ртк-цод
Недавно мы обновили BareMetal 2.0 в составе нашего «Публичного облака». Теперь в инфраструктуре есть выделенные физические серверы с высокопроизводительными GPU-картами. Они позволяют работать с задачами, где критична скорость вычислений.
Расскажем, что именно изменилось и какие задачи можно теперь решать быстрее. Но сначала небольшая справка.