Рубрика «llm» - 4

Я хотел разработать собственный AI‑процессор, нашёл openTPU, взял FPGA за ~$50 с 4 ГБ оперативной памяти, подключил её к обычному мини‑ПК и запустил на ней большую языковую модель — и улетел в космос (в позитивном и дофаминовом смыслах).

Без NVIDIA. Без видеокарты. На открытой архитектуре, которая разработана при активном участии ИИ‑агентов.

openTPU — открытый AI‑ускоритель Felipe Sens Bonetto.

Мне стало интересно: а можно ли действительно взять такой проект с GitHub, загрузить его в физическую FPGA и запустить настоящий LLM‑инференс?

По замерам автора проекта на такой же плате:
Читать полностью »

Год назад я копировал файлы в чат с нейросетью по одному и каждый раз забывал какой‑нибудь интерфейс. Сейчас Claude Code и Codex читают проект сами, через MCP‑сервер, который я написал и выложил в открытый доступ. Эта статья не про сам инструмент, а про то, что выяснилось по дороге: почему текстовое дерево проекта обходится модели дороже JSON, почему папку build нельзя пропускать по имени, как спрятать пароль и не сломать код вокруг него, и что агент на самом деле делает с контекстом, когда его никто не контролирует. Последнее удивило меня сильнее всего.

Читать полностью »

Привет! Меня зовут Дмитрий, я работаю в компании Cortex IT и автоматизирую бизнес-процессы наших клиентов. Среди прочего мы строим RAG-ассистентов по внутренней документации.

На одном из проектов было много нестандартной технической документации на оборудование, и с настройками по умолчанию поиск отдавал не те чанки. Пришлось разбираться, почему так происходит.

Читать полностью »

Игровая индустрия прошла максимально сложный путь развития: от чего-то максимально локального до мейнстрима у всех возрастов, по пути успев чуть не умереть в 1983 году и возродиться руками одной компании. И всегда этот путь сопровождался эволюцией средств разработки.

В наше время максимально часто поднимается вопрос этичности в вопросах использования ИИ для создания игр, кое-где на этой почве вспыхивают скандалы. В последние месяцы с помощью вайбкодинга и немного ручного труда создаются какие-то совсем невероятные вещи.

Читать полностью »

В начале сентября Сбер неожиданно выложил открытые веса своей модели GigaChat 3.5 432B. Таким образом, любая компания в России может развернуть эту модель на своем сервере(при наличии мощного железа). И казалось бы, это может в корне переломить ситуацию с суверенными моделями в России, так как эта модель думающая. И у меня возник вопрос: а возможно ли использовать эту модель для создания ИИ‑агентов?

Приготовьтесь, в статье будет много скриншотов по нашим результатам на боевом сервере.

Читать полностью »

Скиллы для Claude Code и Codex сейчас ставят пачками. У самых популярных сотни тысяч звёзд на GitHub, а в README встречаются конкретные цифры: «на 65% меньше токенов», «примерно на 20% дешевле». Мне захотелось проверить их так, как проверяют лекарства: против плацебо. Ниже рассказываю, как я это устроил и что получилось, включая ошибку, которую нашёл у себя в день публикации.

Почему «со скиллом и без» мало что доказывает

Читать полностью »

С чего всё началось

Пожалуй, начну с того, что расскажу о себе

Я человек, который каким‑то образом попал в ИТ. Я не программист, я не инженер. Мой опыт исключительно вокруг проектов и продуктов. Я долго работал в одном из вендоров ПО и повидал, как надо и, самое главное, как не надо делать проекты, причем в различных видах бизнеса.
Еще я музыкант, регулярно выступаю со своим материалом, и до января 2026 года я выступал с уже собранным, откалиброванным и изученным сетапом из железных синтезаторов.
Это так называемый Dawless‑формат, когда создаёшь музыку без использования компьютера.

Мой сетап выглядел так:

Читать полностью »

Скрытый текст

Всем привет! Меня зовут Владлен Бабкин, и я практикующий управленец в медицине. В этой статье мой личный взгляд изнутри операционной реальности медицинской организации, а не обзор технологий. Под БФМ (большими фундаментальными моделями) я понимаю класс моделей, к которому относятся и большие языковые модели вроде тех, что лежат в основе ChatGPT.

Фантастика, которая случилась буднично

Читать полностью »

Я б в ИИ-шечку пошёл, пусть меня научат - 1

Привет! В эфире руководитель проектов компьютерной редакции издательства «БХВ» @Holmogorov и сегодня я хотел бы поговорить о будущем, вернее о том, какие направления стоило бы изучать современным молодым специалистам.

Читать полностью »

Temper 0.5B — моя небольшая модель, дообученная на базе Qwen2.5-Coder-0.5B‑Instruct, упор которой сделан на языке Rust. Узкая специализация позволила ей обойти модели крупнее, вплоть до x3 по параметрам. Целью дообучения было проверить возможности крошечной модели в узкой задаче, сравнить с общими того же размера и выше.

Первая версия Temper

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js