Недавно мы провели первую на российском диджитал-рынке GEO-прожарку. Формат не новый, но вот продукт… Новый, непонятный и мало исследованный — поэтому мы взяли на вооружение и углубились в него.
Рубрика «llm-модели»
Бизнесы и их сайты пока не готовы к тому, что уже происходит с поисковой выдачей: AI SEO (GEO) как новая реальность
2025-12-06 в 14:15, admin, рубрики: ai search, geo, llm-модели, генеративный ии, ИИ, маркетинг, поисковая оптимизацияInfoFlood: как информационная перегрузка превращается в универсальный джейлбрейк для LLM
2025-12-03 в 9:16, admin, рубрики: llm-модели, информационная безопасностьВ июне этого года на arXiv вышла работа «InfoFlood: Jailbreaking Large Language Models with Information Overload»
В исследовании авторы обнаружили новую уязвимость в системах безопасности больших языковых моделей: когда вредоносный запрос перегружается сложной лингвистической структурой, фильтры безопасности перестают его распознавать, хотя сама модель продолжает понимать суть и выдаёт вредоносный ответ.
Апокалипсис контента? Взгляд юриста и разбор LLM
2025-11-16 в 11:13, admin, рубрики: llm-модели, transformer, авторегрессия, апокалипсис контента, вероятностная генерация, генерация текста, механизм внимания, нейросети, токенизацияНа днях наткнулся на статью, опубликованную в телеграм-канале Habr, под названием «Тихий апокалипсис контента: почему все устали от сгенерированных статей». В ней автор выражает озабоченность количеством сгенерированного контента, который набирает просмотры и вытесняет из выдачи авторские статьи. Статья автора натолкнула меня на идею порассуждать на эту тему, провести небольшие исследования, сравнить процесс генерации текста ИИ и человеком и просто поделиться своим «экспертным» мнением.
Задачи для себя при написании статьи я ставлю следующие:
Контроль против гибкости: два подхода к созданию AI-агентов
2025-11-14 в 17:15, admin, рубрики: AI, llm, llm-модели, llm-приложения, агенты, архитектура, ИИ, мультиагентные системы, подход к разработке, системы
Как я запустил локальную LLM на Raspberry Pi 5
2025-11-09 в 17:32, admin, рубрики: AI, llm, llm-модели, mlПоследние пару лет я много экспериментировал с LLM на разных железках от GPU-кластеров в облаке до маленьких Raspberry Pi. И вот одна из любимых задачек-провокаций: «А можно ли запустить модель на Pi 4, 5?» Если коротко: можно попробовать, но физика тут сильнее хайпа. У платы есть 8-16 ГБ памяти, у модели десятки гигабайт даже в самых «жестких» квантовках. В лоб это не работает, но зато эксперимент дает интересный результат: мы понимаем, где проходят границы устройства и какие архитектурные схемы реально полезны.
«Золотая» профессия — инженер внедрения AI-решений
2025-11-08 в 12:16, admin, рубрики: AI, llm-модели, ИИ, инженерияНедавно наткнулся на статью с классическим кликбейтным заголовком в духе:
«В ИИ появилась новая “золотая” профессия: спрос на неё вырос на 800% за год».
И нет — это не вольная интерпретация, а дословная копипаста. Ссылку добавлять не буду — по названию при желании легко найдёте. Материал, к слову, оказался локализацией новости от Financial Times. От светлого AGI мы пока далеки, но если верить интернету — айтишники снова лутают МиллионМиллиардов за наносекунду, запивая это миндальным смузи.
Маршрутизация LLM: оптимизация путей обработки языка
2025-11-06 в 11:30, admin, рубрики: AI, artificial intelligence, data augmentation, latency, llm, llm-модели, MTBench, маршрутизация запросовПовышение эффективности и производительности через инновационные стратегии маршрутизации.
Что такое LLM Routing?
-
В стремительно развивающемся мире искусственного интеллекта большие языковые модели (LLM)Читать полностью »
Как мы в Авито сделали свою LLM — A-vibe
2025-10-27 в 14:17, admin, рубрики: DS, llm, llm-модели, ml, nlpВсем привет! Меня зовут Анастасия Рысьмятова, я руковожу юнитом LLM в Авито.
В этой статье я расскажу, как мы с командой создали и адаптировали нашу большую языковую модель A-vibe: зачем решили развивать собственную LLM, как построили токенизатор, собрали датасеты, провели SFT и RL и что получили в итоге. Поделюсь основными экспериментами и покажу наши результаты.
Сегодня мы выпустили в опенсорс свое семейство генеративных моделей – A-Vibe и A-Vision, статья приурочена к этому событию.