description: "面向用户与维护者的共享模型标题生成策略说明,用于配置标题提供方或排查辅助 LLM 请求。"
English | 中文
dsh-session-title-llm 使用一致的模型请求策略,根据选中的用户消息生成简洁的会话标题。调用方选择每次修订包含哪些消息,以及成对提供 provider/model 路由,还是使用当前会话记录的路由。必填上限约束封装后的输入、生成输出与端到端时长,调用方取消在整个流式处理期间持续生效。无效、空、迟到、包含工具调用或其他非纯文本的结果会在替换标题前被拒绝。
作为部署方,通过首消息或全消息提供方插件配置此策略。作为提供方作者,通过共享辅助函数注册,而不是手写生成逻辑。
提供方插件调用 registerSessionTitleLlmProvider(ctx, config, id, automatic, selectMessages);辅助函数验证共享配置、在 ctx.sessionTitle 上注册提供方,并让每次生成都经过共享策略。两个随附插件以各自的 first-prompt 与 all-prompts 节奏和消息选择器注册;服务上的第二次注册会立即抛出。
provider 与 model 覆盖项都是可选的,但必须同时作为非空字符串提供。如果没有这一对取值,辅助函数使用当前会话已记录 request/header 中捕获的确切提供方/模型路由,因此在任何路由出现前显式刷新时必须提供覆盖项。辅助函数在记录或分发前,依据 maxInputBytes 检查最终 JSON 封装用户提示词的大小,而不是将其截断,并在消费流期间与完成后重新检查超时与调用方取消,因此即使拦截器或适配器忽略 abort,也不能接受迟到的成功结果。格式错误或空输出、工具调用与非 stop 结束原因都会拒绝;会话标题服务决定该拒绝属于自动警告还是显式调用方失败。
除成对的路由覆盖项外,每个字段都必填;库不提供默认值。
| 键 | 默认值 | 含义 |
|---|---|---|
targetWords |
必填 | 非 CJK 标题的目标词数 |
targetCjkCharacters |
必填 | 中文、日文或韩文标题的目标字符数 |
maxInputBytes |
必填 | 最终 JSON 封装用户提示词的 UTF-8 字节上限 |
maxOutputTokens |
必填 | 辅助生成的 token 上限 |
timeoutMs |
必填 | 运行时定时器限制内的端到端时限 |
provider, model |
可选 | 显式路由;二者同时提供或同时省略 |
当生成策略不够用时阅读以下页面。它们从它所插入的服务逐步进入消费它的提供方插件。
标题模型会收到固定系统指令,要求以输入语言返回一个简洁且无装饰的标题;该指令包含所配置的词数与 CJK 字符数目标。它唯一的用户消息包含一个 JSON 数组,其中是精确选中的用户消息及其 seq。
辅助请求根据所选输入大小与 maxOutputTokens 消耗 token。它与主 agent 请求相互独立,不会向 agent 历史增加标题文本或封装内容。DeepSeek 标题调用会关闭思考;主对话保留自身配置的思考模式。
不会使主请求的 KV Cache 失效。辅助缓存复用由提供方决定;固定指令可复用,而 JSON 消息数组会随每次修订变化。
这些限制定义被接受的生成形态。它们是当前包约束。
运行时不变式: 不发布伴生入口。这个无状态 helper 会在 dispatch 前校验并冻结每个辅助请求;deadline、stream、message seq、provider 与 model 由同步检查和测试覆盖。