Рубрика «kubernetes» - 6
DevOps в локальных облаках: как строить высоконагруженные системы с CI-CD, Kubernetes и Grafana
2025-06-26 в 18:07, admin, рубрики: CICD, devops, docker, gitlab, Grafana, kubernetes, postgresql, prometheus, thanos, VaultЭффективное использование GPU в Kubernetes: Настройка и использование Volcano Scheduler + Volcano vGPU Device Plugin
2025-05-27 в 18:29, admin, рубрики: gpu, helm, kubernetes, linux, Nvidia, NVIDIA GPU, vgpu, ВидеокартыОб авторе
Меня зовут Андросов Михаил — DevOps/MLOps-инженер. Последние два года сопровождаю ML-кластера Kubernetes с интенсивной нагрузкой на GPU.
Аппаратные характеристики
Наш типовой bare-metal-узел — сервер с 10 × NVIDIA RTX 4090 (24 GB). GPU enterprise уровня тоже есть, но мы предпочитаем использовать пользовательские GPU: такие карты проще приобрести и эксплуатировать.
Основные проблемы
В процессе запуска бесчисленных ML экспериментов, встали следующие проблемы:
-
Недоиспользование памяти. Большинство ML задач занимает лишь часть памяти RTX 4090, из-за чего GPU простаивает.
-
Взаимоблокировки.Читать полностью »
Лечим проблемы Kubernetes на лету по мере масштабирования проекта: опыт команды VK Cloud
2025-05-22 в 9:43, admin, рубрики: etcd, highload, k8s, kubernetes, ontico, vk cloud, vk tech, конференции, онтико
Апрельские обновления в продуктах и услугах Selectel
2025-05-16 в 8:00, admin, рубрики: gpu, iOS, kubernetes, s3, selectel, выделенные серверы, облачные серверы
Привет! С вами снова Саша из Selectel. В этом дайджесте рассказываю, как обновились наши продукты в апреле. Под катом — серверы с SelectOS, iOS в мобильной ферме, RTX 6000 Ada в облаке, версионирование в S3, обновления в Managed Kubernetes и другие апдейты апреля.Читать полностью »
Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes
2025-05-12 в 8:35, admin, рубрики: AI, deckhouse kubernetes platform, gpu, kubernetes, llm, ml, pci passthrough, proxmoxПривет! Меня зовут Александр Подмосковный, я работаю в Московском кредитном банке и, как многие, увлёкся темой искусственного интеллекта. Когда модель DeepSeek R1 стала широко обсуждаться в сообществе, я заинтересовался, можно ли эффективно использовать её и другие крупные модели в домашних условиях, не прибегая к дорогостоящим облачным сервисам. Так как DevOps и инфраструктурой я увлекаюсь уже несколько лет, за это время у меня постепенно сформировалась домашняя лаборатория, на которой я и решил проверить эту идею.
Как я настраивал свой односерверный локальный кластер Kubernetes
2025-04-28 в 9:16, admin, рубрики: docker, gitlab, gitlab-ee, k3s, kubernetesВсё началось с того, что в 2024 году мне в руки попал интересный экземпляр — мини-ПК ( Характеристики: Процессор Intel N100 / RAM 16 GB / SSD 500 GB.) решив, что раз уж основная рабочая лошадка у меня уже есть, этот мики-ПК предстоит переделать в мини-сервер и приспособить к мои pet-проектам. Заказал себе 1Гбит интернет, белый IP адрес и ушел творить.
DevOps инфраструктура для стартапов ч.1
2025-04-24 в 22:46, admin, рубрики: devops, docker, docker swarm, kubernetes, Portainer, SSL, traefik, инфраструктура, стартапЭто первая часть из цикла статей посвященных инфраструктуре для стартапов. Всего их будет три, поделенные, по-моему мнению, на логически законченные блоки.
Часть первая. Настройка окружения
Часть вторая. CI/CD и советы
Для кого эта статья
Эта статья будет полезна, если вы:
-
Запускаете стартап или пет-проект и хотите минимальными усилиями и затратами настроить инфраструктуру
-
Уже немного разбираетесь в Docker и хотите что-то посерьёзнее, но без оверинженеринга
-
Ищете альтернативу Kubernetes, которую можно легко развернуть и поддерживать без отдельного DevOps-инженера
Недостатки Istio по сравнению с Cilium: подробное объяснение
2025-04-23 в 16:15, admin, рубрики: cilium, Istio, kubernetesВ этой статье мы разберём основные недостатки Istio в сравнении с Cilium Service Mesh, чтобы даже начинающий разработчик мог понять, в чём разница и почему некоторые команды выбирают Cilium вместо Istio.
1. Архитектура и производительность
Istio использует архитектуру с sidecar-прокси (Envoy), которые разворачиваются рядом с каждым приложением (pod). Это значит, что для каждого пода запускается дополнительный контейнер, который перехватывает и обрабатывает весь сетевой трафик.
-
Проблема:Читать полностью »
Даже не влезайте в Kubernetes без этого
2025-04-21 в 7:00, admin, рубрики: kubernetes, виртуализация, контейнеризация, контейнеры, хостинг
Главный прикол с k8s: поднять базовый кластер займёт всего 15 минут. А вот чтобы он реально заработал, ответить на все вопросы перед установкой, всё спланировать — на это нужны дни, реально дни мозгового штурма и планирования. Ну или потом придётся разбирать и делать ещё раз. Несколько раз.
Кубер унижает человеческое достоинство разными способами и на разных этапах. Это часть опыта от пользования продуктом. Так задумано.
И вот про эти самые вопросы мы сейчас и поговорим, потому что там целое волшебное поле грабель.
Начнём с простых вещей, например, выбора дистрибутива, выбора способа хранения данных (и динамического выделения места), а также того, куда складывать пароли к критичным ресурсам. На этих трёх выборах ломается примерно 50 % админов.
Поехали в ад! Читать полностью »
Цифровой двойник: не просто копия, а твой персональный баг-репорт реального мира
2025-04-16 в 13:15, admin, рубрики: IoT, kubernetes, python, scada, виртуализация, графовые базы данных, моделирование, предиктивная аналитика, симуляция, цифровой двойникПока одни обсуждают метавселенные и ИИ, инженеры и разработчики уже строят цифровых двойников — виртуальных клонов реальных объектов, систем и людей. Эта статья — попытка разобраться без прикрас и с примерами, как устроена такая технология, какие инструменты сейчас в ходу, с чем сталкиваются разработчики, и где всё это реально применяется — от предсказания отказов турбин до мониторинга состояния коров в Новой Зеландии.