跳到主要内容

Advisors and Middleware

Advisors 是围绕模型调用的中间件层。使用它们在应用中统一应用行为:安全策略、上下文注入、缓存和可观测性钩子。

属于此层的内容

  • 提示词/策略塑造(系统策略、格式约束、安全护栏)。
  • 上下文增强(RAG 上下文注入、用户画像、会话上下文)。
  • 工具调用策略(允许哪些工具、错误如何处理)。
  • 横切关注点(日志、链路追踪、缓存)。

权衡

  • 集中式 Advisors 提高一致性,但在缺乏强约定时可能变成"魔法"。
  • 按功能定制提高控制力,但会导致行为分散。

即将推出

  • 推荐的 Advisor 堆栈和排序策略。
  • "策略即代码"的变更管理模式。