Цены на API языковых моделей публикуют за миллион токенов, и по этой цифре модели обычно сравнивают. Но «токен» у каждой модели свой. Я прогнал один и тот же русский текст через Claude Opus 5 и GPT-5.5: Opus 5 насчитал в нём в 3,9 раза больше токенов. Значит, при одинаковой цене за токен обработка русского текста на Opus 5 обойдётся почти вчетверо дороже, чем на GPT-5.5, — и это не зависит от того, у кого вы покупаете доступ.
Рубрика «токенизатор»
Русский текст в Claude Opus 5 стоит в 3,9 раза дороже, чем в GPT-5.5, при одинаковой цене за токен
2026-10-01 в 12:41, admin, рубрики: claude, deepseek, GigaChat, gpt, llm, yandexgpt, русский язык, стоимость api, токенизатор, токенизацияПочему токенайзер реж ет сло ва не там, где нужно
2026-08-20 в 12:00, admin, рубрики: BPE, Byte Pair Encoding, llm, selectel, контекстное окно, промпт-инжиниринг, токенизатор, токенизация, эмбеддинги, языковые модели
Заголовок этой статьи, частично, наглядная демонстрация того, как его видит языковая модель. Куски слов, нарезанные по логике, которая к русскому языку не имеет вообще никакого отношения.