Overview
@zhourenke/dsh-agent-rate-limit
Agent loop rate limiter — prevents TPM/RPM limit violations by intercepting the LLM streaming pipeline and adding adaptive delays between requests
README / EN
Package documentation
Registry summary
Agent loop rate limiter — prevents TPM/RPM limit violations by intercepting the LLM streaming pipeline and adding adaptive delays between requests
dsh.pub verifies the pinned bundle contract, runtime facts, and distribution semantics. The complete README remains in the source repository.
Read the full README on GitHubLIMITATIONS
Known limitations
- **按进程独立计数**：窗口状态存在 DSH 进程内，多个 DSH 实例互不共享——同时跑多个 profile 时，每个实例都按完整配额独立计算，合计仍可能超限。 - **配置对 provider 是全局的**：一份配置作用于该插件实例下的所有 provider，无法给不同 provider 设不同限额。 - **首次请求只能估算**：窗口为空时没有历史数据，输入令牌数交给 DSH 自己的估算器计价（固定 4 字符/令牌，中文会偏低）；之后改用最近 3 次 API 实际值的平均。 - **旁路调用照样占窗口**：上下文压缩、会话标题这类调用也计入窗口，只是不参与输入长度的估算。 - **单次超大请求无法拆分**：如果一次请求本身就接近配额，插件只能等它滑出窗口，不能把它切开。 - **不保证不撞限速**：插件的目标是大幅降低概率，而不是数学保证。配额被其它程序同时消耗时仍可能触发 429——那部分由 DSH 内置的重试机制接管。