За последние несколько лет обвязка вокруг LLM‑модели выросла из чатика и файла с правилами в редакторе до самостоятельного технологического слоя — харнеса — со своими протоколами, стандартами и фундаментом, а привязка клиента у вендоров сместилась с уровня конкретной LLM‑модели на уровень этого харнеса.
Определения:
1. Модель — LLM, нейросеть, генерирующая текст по запросу. Сама по себе stateless (не помнит предыдущие вызовы), не имеет доступа к внешнему миру и не способна к действию — только к порождению следующего токена или в итоге вероятного набора фраз по входному контексту.
