Я много работаю с кодинг‑агентами в Claude Code. В какой‑то момент поймал себя на том, что не представляю, на что уходят токены. Счёт в конце месяца есть, а из чего он складывается, непонятно. Написал небольшую утилиту, которая читает то, что Claude Code и так пишет на диск, и раскладывает расходы по статьям. То, что она показала, мне не понравилось.
Рубрика «токены»
89% моих трат на AI‑агентов — это кэш, а не генерация. Написал CLI, чтобы увидеть
2026-07-14 в 9:02, admin, рубрики: ai-агенты, claude, claude code, cli, llm, open source, TypeScript, кэширование, оптимизация затрат, токеныП維чему нейро考ети дел思ют так
2026-06-11 в 8:00, admin, рубрики: grokking, llm, selectel, векторное пространство, машинное обучение, нейросети, токены, эмбеддинги
Если вы хоть раз тестировали локальную модель (да и нелокальную тоже) и замечали, как она посреди нормального текста вдруг выдает иероглиф, то заголовок статьи вам не покажется странным. И к концу будет ясно, что именно происходит когда ИИ-шка вам подсовывает иероглифы.
PII-Shield: режем персональные данные в логах до того, как они доехали до ELK
2026-06-09 в 10:22, admin, рубрики: DevSecOps, Go, kubernetes, kubernetes operator, PII, sidecar, маскирование логов, персональные данные, секреты, токеныИзначально идея была грубее: взять логовую строку, посчитать энтропию у подозрительных кусков и скрывать всё, что похоже на случайный секрет.
PII здесь — это personally identifiable information, то есть персонально идентифицируемая информация: email, телефон, адрес, паспортные данные, номера карт, токены доступа и другие значения, которые не должны свободно гулять по логам.
На бумаге звучало неплохо. Многие токены, ключи и сессионные строки действительно выглядят как шум:
x9VdQp2Mz_La77kPq0
sk_live_51Nx...
eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9...
Но быстро выяснилось, что одной энтропией нормальный фильтр не собрать.
JWT авторизация в FastAPI: от теории до работающего кода
2026-03-26 в 5:22, admin, рубрики: access token, api, fastapi, JSON Web Token, python, авторизация, аутентификация, бэкенд, разработка, токеныПри разработке современных веб-приложений и API вопрос безопасности и аутентификации пользователей встаёт одним из первых. Как сделать так, чтобы пользователь мог войти один раз и получать доступ к защищённым ресурсам без постоянного ввода пароля? Как организовать систему, которая легко масштабируется и не требует хранения состояния сессии на сервере?
Как я писал сервис авторизации на Rust…
2026-03-22 в 13:16, admin, рубрики: Rust, авторизация, аутентификация, информационная безопасность, информационные технологии, криптография, Программирование, производительность, разработка, токеныРаботая над одним своим проектом я задумался о необходимости авторизации для его публичного запуска. В самом проекте я всем этим заниматься не стал, а решил разработать отдельный сервис авторизации на Rust, который в дальнейшем можно будет "прикручивать" к разным проектам с небольшими доработками. Для удобства доработок мне в дальнейшем пришла идея создания абстракций для подходящих под них модулей.
Краткий экскурс
Куда и почему уходят бабки на нейросети
2026-01-30 в 15:19, admin, рубрики: attention, chatgpt, claude, CUDA, gpu, inference, kv-cache, llm, transformer, токеныМалоизвестный среди обычных людей факт: у нейросетей нет никаких "разговоров". Ты смотришь в веб-интерфейсе на "диалог" - но это обман, красивый фокус.
Каждый раз, когда ты пишешь новое сообщение, все старые сообщения обрабатываются заново. У нейросетей по-настоящему многоразовых задач не существует. Если результат немного поменялся — тебе просто не покажут в веб-интерфейсе изменившиеся сообщения.
Архитектура дизайн-токенов: подход, который спасает от хаоса и сохраняет нервы
2025-12-07 в 3:16, admin, рубрики: figma, токеныКаждый дизайнер хотя бы раз в жизни открывал Figma Variables чужого проекта и переживал existential crisis. Где-то там рядом с red-1-final-new, gray_main_2_copy и button-blue-maybe лежала судьба дизайн-системы.
Каждый дизайнер видит структуру токенов по-своему, и поэтому разбирать чужую дизайн-систему довольно сложно.
У кого-то токены живут по уровням.
У кого-то по темам.
У третьих всё перемешано: цвета, состояния, компоненты, темы — всё в одной папке.
Например, есть ДС, где в одной коллекции живут сразу surface-1, fill-3, border-1, disabled, а рядом — 200+ токенов с цветами вроде colors/alpha/light/900 или colors/pink/300.
Читать полностью »
Prompt Caching в Claude: Как мы снизили затраты на AI в 2 раза
2025-11-10 в 23:17, admin, рубрики: AI, Anthropic, claude, fastapi, llm, токеныPrompt Caching в Claude: Как мы снизили затраты на AI в 2 раза
Кейс по оптимизации затрат на Claude API в проекте по автоматизации поиска работы. AI анализировал вакансии и генерировал сопроводительные письма. При 100 пользователях затраты достигали $180/месяц. Решение: Prompt Caching от Anthropic. Экономия 52% ($0.51 → $0.245 за batch из 50 вакансий). Теперь можно делать в 2 раза больше AI-вызовов с тем же бюджетом.
Кому полезно: всем, кто работает с LLM API и хочет оптимизировать затраты.
История: Когда AI начал съедать бюджет
Что именно ИИ-чатботы делают «под капотом»
2025-10-21 в 17:09, admin, рубрики: llm-модели, нейросети, обработка естественного языка, токены, чат-ботСреди друзей я пользуюсь репутацией «ты ж программист», поэтому у меня нередко интересуются, как именно работают «под капотом» такие известные инструменты как ChatGPT, Claude, Grok или DeepSeek. Со временем я отточил ответ на этот вопрос — и потому, что нашёл способы лучше на него отвечать, и потому, что научился сам создавать большую языковую модель с нуля. Поэтому и сам понимать большие языковые модели я стал гораздо лучше.