Рубрика «ml»
Как раздобыть Nvidia Tesla за копейки и не поселиться в психушке: хардкор-гайд от выжившего
2025-11-30 в 15:16, admin, рубрики: AI, china, devops, ml, Nvidia, nvidia cuda, nvidia tesla, nvidia tesla h100, pytorchПривет! Сегодня расскажу вам сагу о том, как мы искали дешёвые AI-мощности для своего проекта и чуть не сошли с ума. Спойлер: спас нас Китай, но эта помощь стоила нам седых волос и нескольких лет жизни. Делюсь опытом, чтобы вы прошли этот путь быстрее.
Меня зовут Михаил, я работаю в компании VizoGEN на позиции CTO и вся история ниже - наш путь.
Пролог: Скромные запросы и растущие аппетиты
Всё начиналось невинно. Как и у многих, наш стек AI-инструментов (полный список — военная тайна, сорян, NDA) на этапе гипотез скромно кушал с 3080 TI. Потом пошло-поехало: 4080, а там и до 4090 TI рукой подать.
Привет! Это моя первая статья на Хабре, а к ее созданию меня подтолкнуло решение кейсов для отбора на стажировку от Т-Банка - я проделывал большой объем работ, но фидбека по кейсу не получал, лишь сухое "Спасибо за участие! К сожалению..." и т.д. Подобная фраза никак не помогала мне прогрессировать, находить точки роста и выявлять ошибки в моем решении, поэтому я решил выложить результат работы здесь в надежде на обратную связь от читателей - было бы очень приятно и познавательно услышать, что можно улучшить или доработать. Приятного чтения!
Задача кейса
Эпоха универсальных CPU закончилась: как выбрать между P- и E-ядрами Xeon 6
2025-11-26 в 8:00, admin, рубрики: amx, AVX-512, HPC, intel, ml, selectel, xeon, xeon 6
Привет! На связи Максим Башмаков. Мы в Selectel производим, собираем и внедряем в продакшен серверы на Intel®Читать полностью »
Оценка эффективности внедрения искусственного интеллекта
2025-11-22 в 11:35, admin, рубрики: AI, IT компании, ml, внедрение ии, ИИ, оценка эффективности, трудоемкость, эффективностьЗаканчивается 2025 год, повсюду цели и лозунги о внедрении ИИ. Каждый месяц мы видим очередную новость о том, что AI технологии совершили прорыв и наша жизнь уже не станет прежней. Но действительно ли ИИ повышает производительность IT-специалистов? Без объективных метрик сложно понять - приносит ИИ пользу и сокращает трудоемкость, или создает новые проблемы - усложняет процесс, увеличивает технический долг и снижает качества кода.
Джейн — AI-ассистент преподавателя урбанистики: как мы создали помощника для ИТМО за 10 дней
2025-11-19 в 13:00, admin, рубрики: llm, ml, rag, ассистент, ИИ, искусственный интеллект, образование, университет, урабанистика, хакатонПривет! Мы — команда StreetCode. На хакатоне AI Product Hack [AI]ducation мы решили проверить, может ли AI не просто помогать студентам, а понимать контекст академической дисциплины. Так появился Джейн — AI-ассистент преподавателя урбанистики, созданный для Университета ИТМО.
За десять дней мы прошли путь от идеи до работающего прототипа: сформулировали гипотезу, построили RAG-архитектуру, внедрили систему проверки безопасности и протестировали бота на реальных студенческих работах.
В этой статье расскажем, какую проблему мы решали, как устроен ассистент изнутри и что показали на финале хакатона.
«Золотая рыбка, хочу LLM без GPU»: как собрать Inference-сервер на CPU
2025-11-14 в 7:00, admin, рубрики: cpu, gpu, llm, ml, selectel, большие языковые модели, инференс, машинное обучение, Процессоры
Как мы собрали ML-платформу на Kubernetes и не утонули в YAML
2025-11-13 в 13:44, admin, рубрики: AI, kubernetes, ml, orion soft, искусственный интеллект, машинное обучение, разработка
Как я создал торговую алго-платформу без опыта или почему для одних ИИ — гений, а для других — идиот
2025-11-11 в 20:06, admin, рубрики: AI, gemini, ml, SaaS, vibecoding, алгоритмическая торговля, разработка, трейдинговый бот, финтехТехнический разбор процесса разработки торговой платформы с использованием Gemini, Claude и ChatGPT. С настоящими постановками задач, архитектурными проблемами и выводами.
Всем привет! Меня зовут Артём, и последние 6 месяцев я создавал полноценную веб-платформу для алготрейдинга. Около 95% кода было сгенерировано c использованием современных LLM, большая часть с помощью Gemini 2.5 Pro, ручные правки составили менее 5%.
Как я запустил локальную LLM на Raspberry Pi 5
2025-11-09 в 17:32, admin, рубрики: AI, llm, llm-модели, mlПоследние пару лет я много экспериментировал с LLM на разных железках от GPU-кластеров в облаке до маленьких Raspberry Pi. И вот одна из любимых задачек-провокаций: «А можно ли запустить модель на Pi 4, 5?» Если коротко: можно попробовать, но физика тут сильнее хайпа. У платы есть 8-16 ГБ памяти, у модели десятки гигабайт даже в самых «жестких» квантовках. В лоб это не работает, но зато эксперимент дает интересный результат: мы понимаем, где проходят границы устройства и какие архитектурные схемы реально полезны.