Рубрика «llm-модели»
Контроль против гибкости: два подхода к созданию AI-агентов
2025-11-14 в 17:15, admin, рубрики: AI, llm, llm-модели, llm-приложения, агенты, архитектура, ИИ, мультиагентные системы, подход к разработке, системы
Как я запустил локальную LLM на Raspberry Pi 5
2025-11-09 в 17:32, admin, рубрики: AI, llm, llm-модели, mlПоследние пару лет я много экспериментировал с LLM на разных железках от GPU-кластеров в облаке до маленьких Raspberry Pi. И вот одна из любимых задачек-провокаций: «А можно ли запустить модель на Pi 4, 5?» Если коротко: можно попробовать, но физика тут сильнее хайпа. У платы есть 8-16 ГБ памяти, у модели десятки гигабайт даже в самых «жестких» квантовках. В лоб это не работает, но зато эксперимент дает интересный результат: мы понимаем, где проходят границы устройства и какие архитектурные схемы реально полезны.
«Золотая» профессия — инженер внедрения AI-решений
2025-11-08 в 12:16, admin, рубрики: AI, llm-модели, ИИ, инженерияНедавно наткнулся на статью с классическим кликбейтным заголовком в духе:
«В ИИ появилась новая “золотая” профессия: спрос на неё вырос на 800% за год».
И нет — это не вольная интерпретация, а дословная копипаста. Ссылку добавлять не буду — по названию при желании легко найдёте. Материал, к слову, оказался локализацией новости от Financial Times. От светлого AGI мы пока далеки, но если верить интернету — айтишники снова лутают МиллионМиллиардов за наносекунду, запивая это миндальным смузи.
Маршрутизация LLM: оптимизация путей обработки языка
2025-11-06 в 11:30, admin, рубрики: AI, artificial intelligence, data augmentation, latency, llm, llm-модели, MTBench, маршрутизация запросовПовышение эффективности и производительности через инновационные стратегии маршрутизации.
Что такое LLM Routing?
-
В стремительно развивающемся мире искусственного интеллекта большие языковые модели (LLM)Читать полностью »
Как мы в Авито сделали свою LLM — A-vibe
2025-10-27 в 14:17, admin, рубрики: DS, llm, llm-модели, ml, nlpВсем привет! Меня зовут Анастасия Рысьмятова, я руковожу юнитом LLM в Авито.
В этой статье я расскажу, как мы с командой создали и адаптировали нашу большую языковую модель A-vibe: зачем решили развивать собственную LLM, как построили токенизатор, собрали датасеты, провели SFT и RL и что получили в итоге. Поделюсь основными экспериментами и покажу наши результаты.
Сегодня мы выпустили в опенсорс свое семейство генеративных моделей – A-Vibe и A-Vision, статья приурочена к этому событию.
Что именно ИИ-чатботы делают «под капотом»
2025-10-21 в 17:09, admin, рубрики: llm-модели, нейросети, обработка естественного языка, токены, чат-ботСреди друзей я пользуюсь репутацией «ты ж программист», поэтому у меня нередко интересуются, как именно работают «под капотом» такие известные инструменты как ChatGPT, Claude, Grok или DeepSeek. Со временем я отточил ответ на этот вопрос — и потому, что нашёл способы лучше на него отвечать, и потому, что научился сам создавать большую языковую модель с нуля. Поэтому и сам понимать большие языковые модели я стал гораздо лучше.
HumanDynamics: как мы построили цифровой мир, жители которого пошли в банк и взяли кредит
2025-10-16 в 9:34, admin, рубрики: ai-модель, data science, HumanDynamics, llm-агент, llm-модели, Neoflex— Нам нужны люди.
— Какие?
— Которых не существует. Но которые живут.
— ?!
Статья Елизаветы Курочкиной, старшего специалиста по Data Science, компании Neoflex, посвящена рассказу о том, как простая задача генерации синтетических данных для банка переросла в создание фреймворка симуляции цифровой цивилизации под названием HumanDynamics.
Зачем вообще понадобилось что-то симулировать?
Одна из ключевых проблем, с которой сталкивается банковская сфера, — данныеЧитать полностью »
LLM в роли «судьи» vs. человеческая оценка: почему вместе — лучше
2025-10-14 в 11:00, admin, рубрики: AI, ai agent, genai, human in the loop, llm, llm-модели, rag, ИИ, ии-агенты, оценка моделейВ гонке за следующей волной «умных» систем большие языковые модели берут на себя неожиданные роли. Одна из самых интересных — использовать такие модели как «судей» для оценки других моделей. Подход уже экономит командам массу ручной работы, но остаются вопросы: способен ли LLM уловить каждую тонкую ошибку? Что происходит в ситуациях, где критичны человеческая интуиция или глубокая предметная экспертиза?
Я «уволил» LLM с должности «мозга» проекта. И его производительность взлетела
2025-10-08 в 19:03, admin, рубрики: AI, ai-агенты, ai-ассистент, AI-инструменты, AI-разработка, llm, llm-агент, llm-архитектура, llm-модели