LLM предлагает, код исполняет: как разделить reasoning и side effects в production‑пайплайне
#LLM #AIAgents #DotNet
✅
Модель имеет право предлагать, код — делать, а между ними всегда остаётся строка в логе, понятная инженеру через месяц без самой модели.
📈
Вынос side effects из agent loop за typed proposal и явные гейты даёт проверяемую границу ответственности при разборе инцидентов.
🔁 Timeout сам по себе не разрешает retry: его делят минимум на четыре исхода, и при «ответ потерян» / «частичный ответ отдан» слепой повтор запрещён даже с idempotency key — сначала read‑back или reconciliation.
📊 Порог confidence калибруют на размеченных данных: в их детекторе 0,2 давал precision 1,0, а 0,5 терял около половины recall — переносить это число нельзя.
Читаем:
Внутри — код гейтов handle_refund, полная state machine записи с состоянием outcome_unknown, разбор четырёх контуров (offline eval / release gate / runtime gate / monitoring) и провальные итерации вроде инспектора tool‑call, блокировавшего вызовы по имени инструмента.
https://habr.com/ru/companies/agima/articles/1086332/
@aStateOfNet
#LLM #AIAgents #DotNet
✅
Модель имеет право предлагать, код — делать, а между ними всегда остаётся строка в логе, понятная инженеру через месяц без самой модели.
📈
Вынос side effects из agent loop за typed proposal и явные гейты даёт проверяемую границу ответственности при разборе инцидентов.
🔁 Timeout сам по себе не разрешает retry: его делят минимум на четыре исхода, и при «ответ потерян» / «частичный ответ отдан» слепой повтор запрещён даже с idempotency key — сначала read‑back или reconciliation.
📊 Порог confidence калибруют на размеченных данных: в их детекторе 0,2 давал precision 1,0, а 0,5 терял около половины recall — переносить это число нельзя.
Читаем:
Внутри — код гейтов handle_refund, полная state machine записи с состоянием outcome_unknown, разбор четырёх контуров (offline eval / release gate / runtime gate / monitoring) и провальные итерации вроде инспектора tool‑call, блокировавшего вызовы по имени инструмента.
https://habr.com/ru/companies/agima/articles/1086332/
@aStateOfNet