В прошлой публикации я кратко описал своё представление о наиболее важных ограничениях Моделей (LLM):
-
работа только с текстом: вход и выход - текстовые файлы;
-
ограниченность контекстного окна;
-
все входные данные и все результаты одного диалога размещаются в рамках одного контекстного окна;
-
расширяющийся контекст (вход меньше выхода) - признак "творческой" работы Модели, сужающийся - признак "инженерной" работы (повторяемой);
-
противоречивые (или просто лишние) данные приводят к размыванию контекста и снижению повторяемости;


