概览
@zhourenke/dsh-agent-rate-limit
Agent loop rate limiter — prevents TPM/RPM limit violations by intercepting the LLM streaming pipeline and adding adaptive delays between requests
README / ZH
插件文档
目录摘要
Agent loop rate limiter — prevents TPM/RPM limit violations by intercepting the LLM streaming pipeline and adding adaptive delays between requests
dsh.pub 核对固定版本的组合包契约、运行时事实与分发语义；完整 README 请查看源仓库。
在 GitHub 阅读完整 READMELIMITATIONS
已知限制
- **按进程独立计数**：窗口状态存在 DSH 进程内，多个 DSH 实例互不共享——同时跑多个 profile 时，每个实例都按完整配额独立计算，合计仍可能超限。 - **配置对 provider 是全局的**：一份配置作用于该插件实例下的所有 provider，无法给不同 provider 设不同限额。 - **首次请求只能估算**：窗口为空时没有历史数据，输入令牌数交给 DSH 自己的估算器计价（固定 4 字符/令牌，中文会偏低）；之后改用最近 3 次 API 实际值的平均。 - **旁路调用照样占窗口**：上下文压缩、会话标题这类调用也计入窗口，只是不参与输入长度的估算。 - **单次超大请求无法拆分**：如果一次请求本身就接近配额，插件只能等它滑出窗口，不能把它切开。 - **不保证不撞限速**：插件的目标是大幅降低概率，而不是数学保证。配额被其它程序同时消耗时仍可能触发 429——那部分由 DSH 内置的重试机制接管。