Локально запустить LLM сегодня можно за десять минут — например, с помощью LM Studio. Но как только модели нужно дать доступ команде, подключить RAG или встроить ее в сервис — такого подхода зачастую недостаточно.
Рубрика «lmstudio»
Поднимаем Llama 3 в облаке: Ollama и Open WebUI
2026-05-27 в 13:17, admin, рубрики: AI, llm, llm-модели, lmstudio, ml, Ollama, selectel, self-hostedДружба Linux и Windows, или как поиграться с ИИ-моделями на втором компьютере без видеокарты
2026-04-18 в 10:15, admin, рубрики: Linux Mint, lmstudio, windows, локальный ИИ, паранойя mode on
Приветствую в рассказе о запуске моделей в слегка изолированном окружении, без ИИ-картинок, нейрослопа, ботов и прочего телеграма.
Локальный запуск ИИ-моделей (Читать полностью »
Локальный инференс на бюджетных ноутбуках
2025-12-09 в 9:45, admin, рубрики: AI, gpt, lmstudio, self-hosted, ИИ, инференсВ середине 2025 года приобрел себе для работы ноутбук Lenovo Thinkbook 14+. После выхода моделей gpt-oss протестировал локальный инференс младшей модели и результаты для меня были весьма удивительными. Затем я провел тесты еще на двух своих ноутбуках, а совсем недавно на работе собрал заинтересованных ребят и появились результаты еще 5 ноутбуков.
Предисловие. Я тут работаю с lmstusio сервером и мне нужно было приложение на andriod которое бы с ним работало быстро и без всяких дополнительных танцев с бубном. Сделав его я подумал почему бы не предложить другим может кому то же надо. Выглядит он так
Как заменить GitHub Copilot на полностью офлайн‑Continue Plugin
2025-08-18 в 4:31, admin, рубрики: copilot, idea, java, llm, lmstudio, автодополнение, генерация кодаВ этом посте я покажу, как использовать Continue Plugin вместо GitHub Copilot, подключив к нему собственную локальную модель LLM без доступа к интернету. Такой подход обеспечивает максимальную конфиденциальность: ни IDE, ни LM Studio не имеют возможности передавать ваши файлы в облако.
Никакой сети – всё работает только в вашем компьютере.
Что такое Continue и зачем он нужен
|
Плагин |
Функции |
Как работает |
|---|---|---|
|
Continue |
Генерация кода, исправление ошибок, чат‑режим по коду |
Генерируем commit message на базе шаблона при помощи локальной (и не только) LLM в консоле и без IDE
2025-06-24 в 18:16, admin, рубрики: aichat, commit, Git, lazygit, llm, lmstudioПредыстория
Как-то пару месяцев назад пришел ко мне в гости в коворкинг поработать удаленно мой давний приятель. Он пишет на Java и использует в своей работе IntelliJ IDEA. Помню, он долго восхищался новой на тот момент фичей встроенного AI Assistant - умением генерировать commit message.
Telegram-бот с интеграцией AnythingLLM + LM Studio
2025-06-22 в 20:15, admin, рубрики: anythingllm, lmstudio, rag, telegrambot
Как запустить локальную LLM (AI) в Android Studio
2025-04-26 в 12:16, admin, рубрики: android studio, continue.dev, kotlin, lmstudio, local llmПривет! Если вы мобильный разработчик и следите за AI-трендами, наверняка задумывались о том, как интегрировать языковые модели (LLM) в свои приложения прямо из Android Studio. В этой статье я расскажу, как это можно сделать быстро и просто, не полагаясь на внешние API и облачные решения.
🚀 О чём буду рассказывать
Я поделюсь пошаговой инструкцией о запуске локальной LLM на вашем компьютере и интеграции её в Android Studio. Мы разберёмся, как выбрать модель, подготовить окружение и как использовать.
🛠️ Пошаговый гайд
-
Выбор и загрузка модели
-
Требования к железу
-
Cohere Command — революция, которую мы пропустили
2025-03-21 в 16:56, admin, рубрики: cohere, javascript, llm, lmstudio, Ollama, OpenAI, python, TypeScript, искусственный интеллект, машинное обучениеИсходный код, разобранный в данной статье, опубликован в этом репозитории
Длительный промежуток времени я искал модель, специально заточенную под вызов инструментов для внешних интегираций. Критерием поиска являлось минамальное колличество галлюцинаций при использовании железа с потребительского рынка
