Рубрика «llm» - 17

Внутренние объекты, нейронные ансамбли, призраки и люди, которых мы носим внутри

Примерно половина людей не замечает, если посреди разговора собеседника подменить другим человеком. Это не фигура речи и не мысленный эксперимент, это результат полевого исследования, к которому я вернусь через абзац.

Читать полностью »

Я просто ковырялся с нейросетями. Делал для себя небольшое приложение, собирал агентов в n8n и пытался понять, насколько далеко можно зайти, если описывать желаемый результат словами, а код поручить модели.

Потом несколько случайных вещей совпали. Меня достало вручную менять промпты в n8n. Другу понадобилась напоминалка в Telegram. Я впервые попробовал Telegram Mini Apps. А Gemini за минуту сделала мне простую HTML-игру, и я подумал: стоп, а ведь теперь я могу собирать то, что раньше даже не рискнул бы начать.

Читать полностью »

Привет. Мы выпускаем GigaChat 3.5 Reasoning, первую модель GigaChat с полноценным рассуждением, обученную на технологии online RL. Веса и код запуска на huggingface, также модель можно попробовать в giga.chat.

Главное, что изменилось в обучении: после SFT модель целиком прошла через online RL. Не один домен и не одна финальная стадия, а шесть отдельных экспертов (математика, код, агенты, и другие), каждый со своей наградой, которые потом собрали обратно в одну модель. Как это устроено и на чём мы набили шишки, рассказываем ниже.

Читать полностью »

В какой‑то момент я посмотрел на 13 ГБ весов LLaMA-7B и подумал: а почему, собственно, они должны занимать именно столько? Что, если не делать маленькую модель, не учить её заново и не заставлять копировать большую, а просто найти более короткую запись тех же «мозгов»?

Здравый человек, вероятно, скачал бы готовую квантизацию и пошёл заниматься своими делами. Я вместо этого поставил цель ужать модель сначала до 2 ГБ, а в идеале — до одного. Без дообучения, дистилляции, pruning и изменения архитектуры. Только математика над уже готовыми весами и небольшая выборка текстов для калибровки.

Читать полностью »

Недавно я обновил свою видеокарту до RTX-5060-TI 16GB. Получив новую карту я решил исследовать, что можно на ней запустить из нейросетей. Традиционно пишут, что нормальные ИИ модели начинаются с rtx3090 и выше, что ниже 24GB VRAM жизни нет. В этой статье я постараюсь развеять этот миф.

нарисовано моделью из статьи

нарисовано моделью из статьиЧитать полностью »

Экранный OCR-переводчик для macOS: читаем статьи и смотрим видео без переключения окон

При чтении технической литературы, англоязычных статей или просмотре видео с субтитрами я постоянно спотыкался об одну и ту же проблему.

Встречаешь незнакомый термин или редкое слово и начинается возня: выделить мышкой, скопировать в буфер, переключиться в браузер, вставить в переводчик, прочитать значение, вернуться обратно к чтению.

Читать полностью »

В начале сентября знакомые разработчики стали жаловаться на одно и то же: Cursor перестал работать, показывает not available in your region, у части пользователей отменились платные подписки. Первый совет, который разошёлся по чатам, звучал разумно: «в настройках есть поле для своего ключа OpenAI и переопределение базового адреса — подставьте туда любой доступный эндпоинт, и всё заработает».

Не работает. И причина этого интереснее самой новости, потому что она объясняет, какие инструменты вообще устойчивы к таким событиям, а какие нет.

Читать полностью »

Qwen3.8-Flash-Next - открытая 125B-модель на архитектуре, которая станет основой Qwen4. По опубликованным Qwen результатам она конкурирует с закрытыми frontier-моделями в задачах программирования, работы с агентами и computer use.

Мы запустили полный checkpoint Qwen/Qwen3.8-Flash-Next на одной RTX 4090. Пиковое потребление VRAM составило 5,95 ГБ, без 4-битной квантизации и дистилляции. Использовался полный checkpoint в bf16, который генерировал обычные токены.

По сравнению с Opus 4.6 Max, согласно собственным данным Qwen:

Читать полностью »
Архитектура современных ИИ-агентов: собираем прототип за один вечер - 1

За последние полгода вышли сотни материалов об ИИ-агентах. Особенно много говорят про OpenClaw и Hermes. Я изучил, пожалуй, добрую половину из них, протестировал сам и хочу поделиться выводами.

Читать полностью »

Привет! Меня зовут Владислав Козлов, я тимлид аналитиков Business Security в Авито. Хочу поделиться с вами интересным опытом взаимодействия с LLM, который позволил мне дёшево и быстро проверить свою идею. А заодно — рассказать об интересном алгоритме кластеризации, который мы с моделью придумали и реализовали в виде библиотеки.

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js