Ошибки и границы: надёжность, дрейф, безопасность

Надёжность на длинной дистанции: ошибки компаундятся, а агент без задачи начинает «выдумывать» (дрейф с цели). Лечится чекпоинтами, верификацией (агенты проверяют работу друг друга) и очередью задач вместо бесконечного спина.

Суждение в неоднозначном, дорогом и новом — пока территория человека. Как и продажи-доверие: люди покупают у людей, автономный аутрич упирается в потолок и в закон.

Безопасность и деньги: автономная петля «ищи прибыль» без ограждений — это слив бюджета, баны по правилам сервисов, юридические и репутационные риски. Обязательны: лимит трат, человек на воротах (деньги, внешние действия), всё в git + лог, «стоп-кран», обезличивание приватных данных.

Вывод: сила не в том, чтобы убрать человека, а в том, чтобы поставить его в 3–4 правильные точки и дать петле крутить остальное.

Запомнить

• →Ошибки компаундятся, агент без задачи дрейфует — нужны чекпоинты и верификация
• →Суждение, продажи, деньги — пока за человеком
• →Обязательны: лимит бюджета, ворота, git+лог, стоп-кран