AI Agent 工作流中的幻觉检测方法指南

针对 AI Agent 工作流，可按幻觉类型分层部署检测：事实性、上下文性、虚构与自相矛盾四类失败模式各需不同检查。忠实度与接地性检查可借助 DeepEval 自动评分，自一致性检查通过多次生成比对答案，语义熵则衡量模型对答案的不确定程度。这些信号只反映答案稳定性而非事实正确性，需结合来源核验、置信度阈值与人工介入分层处理。