Agent 与工作流dsh-plugin

dsh-rate-limiter

DeepSeek Harness(dsh)的主动式限流插件:在模型请求发出前,按提供商以令牌桶控制请求速率;超出限制时延迟排队而非直接失败,以避免上游 429。文档说明它与负责失败后重试退避的 dsh-llm-retry 互补。

Stars
3
Forks
4
Open Issues
1
最近 Push
2026年9月12日
最新版本
—
24h Growth
+0
7d Growth
+0

安装

dsh plugin --profile web add @xidong-ai/dsh-rate-limiter

概览

DeepSeek Harness(dsh)的主动式限流插件:在模型请求发出前,按提供商以令牌桶控制请求速率;超出限制时延迟排队而非直接失败,以避免上游 429。文档说明它与负责失败后重试退避的 dsh-llm-retry 互补。

  • 按提供商配置令牌桶,在请求发出前即执行限流(主动预防)
  • 超过限制的请求延迟排队而非被拒绝,避免上游 429
  • 未配置的提供商不受限流,请求原样通过(零侵入)
  • 排队等待遵循 abort 信号:用户停止操作会立即中断等待
  • 手写的基于预约的令牌桶,文档称其并发安全,且不依赖任何第三方限流库
  • 挂载在 agent/request,可与挂载于 agent/request-error 的 dsh-llm-retry 自然共存
  • 文档说明它不修改请求内容、不改变路由、不吞掉错误,只控制请求发出的时机
  • 按提供商配置 rate(令牌/秒)与 burst(桶容量);enabled: false 可完全关闭插件

相关插件