Короткий ответ
Три шага: дать ему доступ к точным данным вместо общих знаний, прописать в инструкции, что при отсутствии данных нужно передать задачу человеку, и добавить в эталонный набор случаи, где правильный ответ — «не знаю». Полностью убрать выдумки нельзя, поэтому проверка человеком там, где цена ошибки высока, остаётся.
Что проверить на практике
- Агент собирается из пяти частей: модели, инструкции, инструментов, данных и ограничений. Слабое звено в любой из них обнуляет остальные.
- Визуальный конструктор подходит для прототипа и простых цепочек, программная разработка — когда нужны нестандартные доступы и контроль над ошибками.
- Главный этап, который пропускают, — набор эталонных примеров с правильными ответами: без него нельзя честно сказать, работает агент или нет.
