Короткий ответ
Три шага: дать ему доступ к точным данным вместо общих знаний, прописать в инструкции, что при отсутствии данных нужно передать задачу человеку, и добавить в эталонный набор случаи, где правильный ответ — «не знаю». Полностью убрать выдумки нельзя, поэтому проверка человеком там, где цена ошибки высока, остаётся.
Пять частей, из которых собирается агент
Инструкция. Описание роли, цели, порядка действий и формата результата. Это не одна фраза, а документ: что делать, чего не делать, как поступать в спорных случаях.
Инструменты. То, чем агент действует: поиск по документам, чтение таблицы, запись в систему учёта, отправка черновика на проверку. Без инструментов это просто собеседник.
Контекст из материала «Как создать ИИ-агента: из каких частей он собирается и в каком порядке его делают». Полный порядок действий — в исходном разборе.
Как проверять качество до запуска
Рабочий способ — эталонный набор. Берёте сто реальных случаев из прошлого, для каждого записываете правильный результат и прогоняете через агента. Дальше считаете три цифры.
Доля опасных ошибок. Выдуманный факт, неверная цифра, действие не по инструкции. Это главный показатель: даже небольшая доля таких ошибок может сделать агента непригодным для работы без проверки.
Контекст из материала «Как создать ИИ-агента: из каких частей он собирается и в каком порядке его делают». Полный порядок действий — в исходном разборе.
Чек-лист перед изменениями
Начните с конкретного сценария: что человек хочет выбрать или уточнить и какая информация ему мешает. Запишите исходную ситуацию, действие и способ проверки, чтобы не подменять решение общими улучшениями.
Отметки нужны только для самопроверки. Они не отправляются и не сохраняются после перезагрузки.
