Рубрика «llm» - 48

Часть 1. Детерминированный движок рассуждения на конечной таблице операции (в перспективе — замена LLM)

Когда речь заходит о больших языковых моделях, все сразу отмечают их талант к сочинению и пересказу текстов. Но вот встроить такую модель в реальный продукт — задача куда более каверзная, чем кажется на первый взгляд. На практике вылезают три системных «подводных камня», из‑за которых работать с ними бывает откровенно неудобно.

Читать полностью »

Команда AI for Devs подготовила перевод статьи о том, как использовать OpenCode вместе с Docker Model Runner для локальной разработки с LLM. В центре внимания — контроль над кодом, данными и затратами: модели запускаются локально, контекст не уходит во внешние сервисы, а ИИ-ассистент становится частью вашей инфраструктуры, а не сторонним SaaS. Практический разбор для тех, кто хочет использовать ИИ в разработке без компромиссов по безопасности и стоимости.


Читать полностью »

Спойлер

Может показаться что я рекламирую Claude - нет, у ChatGPT есть такая же штука.

Захочется наброситься со словами - да это же очевидно, открыл Америку! - жгите слогом.

Нейроскептики скажут - опять доверили стохастическому генератору ответственное дело, куда катится мир! - ОПС, ребята

Тут как в FPV - если есть 10 лет опыта, то технологии настолько быстро меняются, что последний год всегда перечеркивает весь предыдущий опыт.

О предметной области

У меня есть продуктовая компания, которая производит и продает контроллеры, позволяющие управлять освещением. Это тысячи электронных плат в год.

Читать полностью »

В основе этого материала лежит вопрос о природе коммуникации. В чем суть природы общения между людьми, как не передача ценного опта, мнения или обсуждения идеи? Общий интерес и мотив как к познанию другого человека, таки попытка донести свою мысль. Параллельно с этим общение можно рассмотреть, как акт развлечения. И отсюда вопрос: если искусственный интеллект возьмет на себя управление нашим общением, значит ли это, что мы разучимся доносить свои смыслы? Или внезапно обнаружим, что в разуме конкретного человека или нас самих никогда и не было того, что можно назвать «смыслом»?

Читать полностью »

Это уже четвертая часть статей по разработке AGI, и в предыдущих частях мы обсуждали теоретические и философские аспекты тех или иных вопросов, с ними всегда можно ознакомиться здесь. Сегодня же речь пойдёт о практике.

Что получилось в иоге

Что получилось в иоге

А зачем?

Читать полностью »

Команда AI for Devs подготовила перевод статьи о том, как выжать максимум из маленьких языковых моделей. Автор показывает, что даже очень компактные LLM могут быть полезны в реальных задачах — если правильно работать с контекстом, embeddings и RAG.


Читать полностью »

Использование ИИ-инструментов в программировании ожидаемо оказывается сопряжено со сложностями: LLM-модели игнорируют тесты, рекомендуют фейковые пакеты и в целом требуют повышенного внимания и аудита. Чтобы у нейросетей было меньше шансов оказать разработчикам медвежью услугу, некоторые исследователи предлагают использовать специализированные ЯП. В идеале они должны ограничивать бурную фантазию ИИ-ассистентов и направлять её в мирное русло. Мы в Beeline Cloud решили рассмотреть несколько таких экспериментальных проектов.

Читать полностью »

Для тех, кто предпочитает чтению смотреть и слушать – видео, в котором всё то же самое и чуть больше (25 минут):

Продолжаем обучать Ивана Ивановича Воякс (он же Woyax) особенностям работы программистом MS Dynamics AX 2012 (и любые версии, включая D365 FO).

Начало тут:

Читать полностью »

Если вы когда-нибудь грузили в LLM список и просили выбрать лучшее или отсортировать — вы, скорее всего, получали посредственный результат. Я проверил это на 164 постах своего телеграм-канала, сравнив пять разных методов сортировки. Оказалось, что разница между «дёшево и плохо» и «дёшево и хорошо» — в правильном алгоритме, а не в модели.

В этой статье разберём, почему наивные подходы не работают, как алгоритм из Xbox Live помогает ранжировать контент, и какой метод даёт лучшую корреляцию с реальными данными.

Постановка задачи

Читать полностью »

Можно ли доверить важные документы open-source LLM: эксперимент Рег.облака и Raft - 1

Привет! На связи команды Рег.облака и Raft.

Читать полностью »


https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js