Рубрика «LibreChat»
Мой путь к «умному» LibreChat: боль, радость и 20 тестовых вопросов к RAG
2025-10-18 в 9:07, admin, рубрики: chatgpt o3-mini, gemini 2.5 pro, LibreChat, pg_vector, postgresql, rag, rag_api
Как скачать все нейросети на компьютер: 9 лучших программ для Win11-Linux-macOS
2025-10-07 в 14:48, admin, рубрики: Bothub, chatbox, chatmcp, cherry studio, kaas, LibreChat, msty, Open WebUI, tome, агрегаторы нейросетей
Установка LLM на скромном VPS
2024-07-24 в 9:00, admin, рубрики: Chat Arena, CopilotKit, Cosmopolitan Libc, huggingface, LibreChat, llama.cpp, llamafile, llm, Ollama, OpenCompass, ruvds_статьи, Tabby, vps, языковые модели
«Я тебя завалю, если ещё раз упомянешь AI», — писал автор нашумевшей статьи. В самом деле, хайп вокруг ИИ всем надоел. Но мы всё-таки рискнём поговорить о том, какую LLM поставить на своём сервере и зачем.
Сразу упомянем, что на серверах RUVDS установлены видеокарты NVIDIA Quadro P4000 (на фото). Карты довольно слабенькие, так что подойдут скорее для проектов в образовательных целях и т. д. Тем более что под VPS выделяется максимум 1 ГБ видеопамяти. Но даже в таких спартанских условиях можно запустить LLM.
Кстати, о VPS с видеокартой. Несколько лет назад мы уже писали о сферах их применения и даже проводили тесты. Всё это можно найти здесь.Читать полностью »