Почему агент ошибается без контекста
Агент ошибается не из-за глупости, а из-за пустого контекста. Урок объясняет три причины: окно, отсутствие памяти и угадывание.
Контекстное окно, отсутствие памяти между сессиями и угадывание: три причины типичных ошибок агента и общее лекарство от них.
Агент не знает твоего проекта
Агент открывает папку проекта впервые. Он умный, но о тебе, твоём бизнесе и правилах знает ровно столько, сколько лежит в файлах и сказано в задаче. Дальше везде учебный проект: кофейня «Зерно» в Алматы, один зал, кофе с собой, зёрна на вынос, Instagram, WhatsApp и небольшой сайт. Цифры в примерах выдуманные.
Нейросеть, которая читает текст и продолжает его. Она обучена на огромном количестве текстов, но не знает ни твою кофейню, ни её договорённости. Всё о проекте ей приходится брать из того, что ты дал.
ПримерМодель знает, что такое капучино, но не знает, что в «Зерне» его подают в картонном стакане с рисунком зерна.
Модель, которой выдали инструменты: читать и писать файлы, запускать команды. Он сам решает, какие файлы открыть, чтобы выполнить задачу.
ПримерТы просишь обновить меню на сайте. Агент сам находит нужный файл, правит и показывает изменения.
Окно, которое заполняется
Предел того, сколько текста модель удерживает в голове одновременно: твоя задача, прочитанные файлы, ход разговора. Когда окно заполнено, старое вытесняется или сжимается. Нужно знать про него, чтобы не тратить окно на лишнее.
ПримерЕсли агент читает папку целиком, то на сами задачи остаётся меньше места.
Единица, в которой модель считает текст. Примерно кусок слова. Окно измеряют токенами, а не страницами или словами.
ПримерКороткий прайс «Зерна» занимает около 1 500 токенов. Тяжёлый PDF с меню и фото может занять 25 000.
- Допустим, окно вмещает 100 000 токенов (число условное, у разных моделей оно своё)
- Агент без подсказок открыл три тяжёлых PDF с меню по 25 000 токенов: 3 × 25 000 = 75 000
- Плюс прайс в 5 000. Всего использовано 80 000
- Свободно 100 000 − 80 000 = 20 000 токенов на саму задачу, переписку и ответ
Задача может не поместиться, или агент начнёт терять начало разговора. Поэтому в правилах проекта пишут, какие файлы читать в первую очередь и какие не читать вовсе.
Нет памяти между сессиями
Один непрерывный рабочий сеанс с агентом: от запуска до закрытия. Всё, что он узнал внутри сессии, он держит в контексте. Закрыл, и контекст пропал.
ПримерВ понедельник вы с агентом выяснили, что у «Зерна» два номера WhatsApp. В среду открыли новую сессию, и агент об этом ничего не знает.
Начало новой сессии, в которой агент не помнит ничего, кроме того, что лежит в файлах. Хороший проект выдерживает холодный старт: агент читает несколько файлов и входит в курс дела за минуты.
ПримерАгент открыл проект «Зерна» с нуля, прочитал паспорт, правила и последнюю запись о состоянии и продолжил с нужного места.
Память агента в проекте только та, которую ты записал. Это не недостаток, а условие игры. Её можно построить так, чтобы холодный старт был безболезненным.
Угадывание вместо вопроса
Правдоподобный ответ, не подкреплённый данными. Агент получил задачу, фактов не хватает, и он достраивает недостающее, потому что так устроена модель. Она не говорит «не знаю», пока её не научили.
ПримерЗадача «допиши в меню цену зёрен». Прайса нет, и агент пишет «4 200 ₸ за 250 г». Цена выдумана, но выглядит как настоящая.
Файл, который агент читает в начале работы: паспорт проекта, правила. Это способ положить в окно нужные факты заранее, а не надеяться, что агент найдёт сам.
ПримерPROJECT.md и CLAUDE.md в корне проекта «Зерна».
Как выглядит ошибка
- Правка не в том файле. Агент не знал, что у прайса единый источник, и поправил копию на сайте
- Нарушено правило, о котором не сказали. Агент написал в рекламе «лучший кофе в городе», а проект обещаний без подтверждения не даёт
- Прочитано лишнее. Агент потратил окно на тяжёлые папки и потерял детали задачи
- Выдумана цифра. Нет данных, и агент подставил свою
- Забыто вчерашнее. Договорились в понедельник, в среду начинай заново
Все пять ошибок одного происхождения: нужный факт лежал у тебя в голове, а не в файле.
Что с этим делать
Курс строится вокруг одной идеи: агент должен находить всё необходимое в файлах проекта. В следующих уроках разберём, какие файлы для этого нужны и что в них писать: паспорт, правила, модули правил, решения и хендоффы. Последним уроком проверим, что агент действительно понял проект.
- Объясняют проект агенту голосом в каждой сессии вместо того, чтобы записать один раз
- Считают, что агент помнит вчерашний разговор
- Не говорят, где брать факты, и агент достраивает их сам
- Кладут в проект тяжёлые файлы и не запрещают их читать
- Ругают агента за ошибку вместо того, чтобы дописать правило, которое её предотвратит
- Могу объяснить, что такое контекстное окно и почему оно конечно
- Знаю, что новая сессия начинается без памяти о прошлой
- Могу назвать пять типичных ошибок агента без контекста
- Понимаю, что лекарство для всех пяти одно: записать нужное в файлы
Если факта нет в файлах, агента он не касается. Хороший контекст означает, что нужное записано, а лишнее не мешает.