
Цены пошли на спад. 22 сентября Anthropic и OpenAI с разницей примерно в полтора часа выпустили модели дешевле своих предшественников, а DeepSeek отдала кэшированный вход по 0,003$ за миллион токенов.

Цены пошли на спад. 22 сентября Anthropic и OpenAI с разницей примерно в полтора часа выпустили модели дешевле своих предшественников, а DeepSeek отдала кэшированный вход по 0,003$ за миллион токенов.
if roc_auc < 0.85: exit 1Читать полностью »

Большую языковую модель можно скачать с Hugging Face, развернуть на сервере с GPU и отправить ей первый запрос. Технически LLM уже работает: получает текст на вход и генерирует ответ. Но до готового бизнес-сервиса еще далеко.
У меня есть RAG‑сервис: проверяет фактологические утверждения в бизнес‑отчётах против реальных источников — SEC EDGAR, World Bank, FRED, Wikipedia. Это капстоун LLM Zoomcamp (DataTalksClub). Курс закончился, оценку поставили (peer review, 42/42), а я решил дотянуть проект до состояния «не стыдно показать на собеседовании как рабочий код», а не просто «закрыл критерии оценки курса».
Критерии оценки курса не требуют production‑паттернов — они про RAG‑пайплайн: retrieval, evaluation, orchestration. На собеседовании про RAG спрашивают другое — то, что курс не проверяет:
что будет, если сервису подсунут неправильные переменные окружения при деплое;

Лучший способ сжечь бюджет компании на инфраструктуру — запуск LLM в продакшене. Но только если вы не знаете, какой бэкенд использовать и как его настраивать.
В последнее время я часто работал с разными ML-проектами в GitLab. В каждом был свой .gitlab-ci.ymlЧитать полностью »
Когда мы обучаем модели машинного обучения, почти всегда возникает один и тот же вопрос:
Что именно происходит во время обучения?
Обычно мы смотрим на графики метрик и пытаемся вручную интерпретировать происходящее:
Модель недообучена
Модель переобучена
Имбаланс датасета.
Сильно шумные данные.
Можно посмотреть на learning curves и понять, что происходит: