Заголовок этой статьи, частично, наглядная демонстрация того, как его видит языковая модель. Куски слов, нарезанные по логике, которая к русскому языку не имеет вообще никакого отношения.
Рубрика «языковые модели»
Почему токенайзер реж ет сло ва не там, где нужно
2026-08-20 в 12:00, admin, рубрики: BPE, Byte Pair Encoding, llm, selectel, контекстное окно, промпт-инжиниринг, токенизатор, токенизация, эмбеддинги, языковые моделиСкидка в 97%: как устроен китайский мошеннический рынок ИИ-токенов
2026-08-19 в 13:01, admin, рубрики: llm, ruvds_перевод, инференс, токены llm, черный рынок, языковые модели
Моя история
Я долгое время размышлял о мошенничестве с токенами — проблеме, с которой впервые столкнулся, когда работал разработчиком ПО в ИИ-шлюзе.
Агентный RAG, бенчмарк TRuST и при чём здесь Нафаня?
2026-08-05 в 14:56, admin, рубрики: rag, агенты, нафаня, поиск, языковые моделиВсем привет! Меня зовут Николай.
Сначала отвечу на вопрос из заголовка. Нафаня - это агентный RAG-помощник по нормативно-технической документации, связанной со строительством и ценообразованием (методики Минстроя, ГОСТы, СНиПы, СП и профильные законы).
Эта статья о том, как устроен Нафаня, как прошла его проверка на сложном бенчмарке и как архитектура менялась шаг за шагом, чтобы преодолеть потолок метрик.
Железо, ограничения и почему архитектура именно такая
В моём распоряжении домашняя рабочая станция с двумя RTX 4070 по 16 ГБ и одной RTX 5060 на 16 ГБЧитать полностью »
Mamba: архитектура, которая шла убивать трансформеры
2026-07-11 в 8:00, admin, рубрики: attention, mamba, RNN, selectel, ssm, гибридные модели, машинное обучение, нейросети, трансформеры, языковые модели
В декабре 2023 по ML-тусовке прокатилась волна заголовков в духе «трансформерам конец». Поводом стала статья двух исследователей — Альберта Гу и Три Дао — со скучным названием: Читать полностью »
Введение
Эта статья про мои эксперименты с языковыми моделями, в которых не используется машинное обучение и аппаратное ускорение. Чтобы избежать недопонимания поясню, что я имею ввиду под языковой моделью (ЯМ).
Слова, которых нет
2026-05-10 в 17:22, admin, рубрики: llm, время, искусственный интеллект, когнитивистика, машинное обучение, нейросети, темпоральность, Философия ИИ, человек и машина, языковые моделиВведение к циклу из четырёх статей о совместном мышлении человека и LLM
Несколько недель назад моя коллега переводила интерфейс одной программы на иностранный язык. Задача была обычная: LLM в помощь, проверить вручную, отдать в локализацию. В одном месте у LLM не нашлось подходящего слова в целевом языке, и вместо того чтобы выбрать ближайший вариант или оставить кальку, она придумала новое слово. Оно состояло из существующих корней языка, было фонетически естественным, и точнее передавало смысл оригинала, чем любое из реальных слов этого языка.
Ваш любимый ИИ не умеет считать. Что ещё скрывает текстовая модель?
2026-04-17 в 9:15, admin, рубрики: function calling, llm, rag, RLHF, агенты, искусственный интеллект, нейросети, цифровой двойник, языковые моделиТехнократический разбор для инженеров и бизнес-аналитиков. Без преувеличений и продающих лозунгов.
Данная статья представляет собой результат кабинетного исследования об основных особенностях работы ИИ (LLM, модель). Здесь в систематизированном виде относительно простым языком описано, как реализуется вся та “магия” про ИИ, с которой мы сталкиваемся сами или слышим в восторженно-продающих материалах.
Сразу уточню, что под ИИ тут понимается именно публичная Большая языковая (текстовая) модель (LLM), вроде ЧатаГПТ, ГигаЧата, Дипсика и др.
В этой статье мы:
Искусственный Интеллект незаметно меняет твою позицию
2026-03-13 в 12:07, admin, рубрики: they live, генеративный интеллект, искажение восприятия, искусственный интеллект, манипуляции, нейросети, постмодернизм, пропаганда, сознание, языковые моделиОдин из распространенных инструментов на основе ИИ – автозаполнение с подсказкой. В идеале, он должен ускорить набор текста. Однако, такие инструменты незаметно меняют наше мировоззрение. Масштабное исследование показало, что подсказки автозаполнения с заранее заложенным паттерном смыслов, меняют позицию пользователя в отношении к смертной казни и добыче сланцевого газа методом гидроразрыва. И это только то, что нам известно.
Как я делал свою языковую модель: история эксперимента
2026-01-15 в 11:04, admin, рубрики: AI, llm, llm-архитектура, llm-модели, искусственный интеллект, языковые моделиУже больше года назад у меня зародилась идея создать свою архитектуру языковой модели. Традиционные модели, "думающие" на уровне токенов мне решительно не нравились. Колоссальный вычислительный бюджет на то, чтобы просто предсказать один токен. Логичным мне казалось оторвать мышление модели от токенов, перенеся его в латентное пространство. Примерно полгода назад я начал первые практические эксперименты и сейчас получил первые практические результаты. Поскольку уровень подготовки читателей очень сильно различается, в статье не будет глубоких технических разборов, а скорее история эксперимента.