Temper 0.5B — моя небольшая модель, дообученная на базе Qwen2.5-Coder-0.5B‑Instruct, упор которой сделан на языке Rust. Узкая специализация позволила ей обойти модели крупнее, вплоть до x3 по параметрам. Целью дообучения было проверить возможности крошечной модели в узкой задаче, сравнить с общими того же размера и выше.
Рубрика «малые языковые модели»
Сколько Rust помещается в 0.5B
2026-10-07 в 7:47, admin, рубрики: Fine-tuning, hugging face, llm, qwen, Rust, генерация кода, дистилляция, малые языковые модели, обучение с подкреплением
Как выбрать лучшую модель для кодирования: использование SLM и локальных LLM
2024-12-12 в 16:30, admin, рубрики: llm, SLM, большие языковые модели, локально размещённые LLM, малые языковые модели
Привет, на связи Юлия Рогозина, аналитик бизнес-процессов Шерпа Роботикс. Сегодня я перевела для вас статью, посвященную использованию SLM и локальных LLM. Читать полностью »