Help us shape the future of Go! Take the 2026 Go Developer Survey

concurrency

module
v0.3.0 Latest Latest
Warning

This package is not in the latest version of its module.

Go to latest
Published: Oct 16, 2026 License: MIT

README

concurrency

并发与流控原语——GoSafe safe-go/协程池/重试/键控闸门/令牌桶/滑动窗口统计/自适应熔断/CPU 自适应降载

🌐 项目主页:https://oekit.github.io/ · 名称由来:Open Easy Kit(开源 · 易用 · 工具集合) 🤖 AI Agent:本仓规范与硬规则见 AGENTS.md;机器可读索引见 llms.txt(接口签名以源码为准)。

安装

go get github.com/oekit/concurrency@v0.2.0

这个仓库做什么

concurrency 是并发与流控原语集:把 Go 并发开发里最容易出事的部分—— 裸 goroutine 的 panic、无界重试、无界并发、限流、并发去重——封装成开箱即用且经过生产验证的原语。

核心能力

包 做什么
async GoSafe 系列 safe-go:GoSafe/GoSafeWithErr/GoWithContext/GoSafeWithContext/GoSafeWithErrChannel,panic 自动 recover + 可注入 panic 上报。全矩阵禁止裸 go func 的替代品
gopool 自适应协程池:惰性拉起 worker、队列满回退直接 go(不丢任务)、空闲按 WorkerMaxAge 老化退出、Close(ctx) 优雅排空。高频突发任务的并发数软上限(v0.2.0 吸收自 cloudwego/gopkg)
retry Do(ctx, cfg, fn) 重试/轮询:次数、退避、可重试判定
syncx 键控闸门(同一 key 串行)、扇出控制
ratelimit 令牌桶限流
window 滑动窗口统计容器(v0.3.0 移植自 go-zero collection.RollingWindow):泛型桶 BucketInterface + 默认 Bucket{Sum, Count}、惰性重置、Reduce 聚合、IgnoreCurrentBucket;时间源可注入 WithWindowClock——熔断/降载的数据源
breaker 自适应熔断(v0.3.0 移植自 go-zero googleBreaker):Google SRE 概率式丢弃、无状态机,40×250ms 窗口 + 强制探活自愈,panic 记失败后 re-panic;ErrCircuitOpen 全库规范哨兵(httpx/nns-endpoint 别名共用)——下游保护的执行件
shedding CPU 自适应降载(v0.3.0 移植自 go-zero adaptiveshedder):maxPass×minRt 的 Little's Law 并发上限、CPU 过载因子夹 [0.1,1]、avgFlying 滞后 EMA、1s 冷却期;CPU 采样纯标准库(/proc/stat + cgroup v1/v2 配额感知),非 linux 自动禁用全放行;ErrServiceOverloaded 哨兵——本机过载保护的入口件
singleflight 并发去重(同 key 合并为一次调用)
group 并发分组编排
progress 多阶段进度追踪

快速使用

import (
    "github.com/oekit/concurrency/async"
    "github.com/oekit/concurrency/gopool"
    "github.com/oekit/concurrency/retry"
)

// 替代裸 go func:panic 被 recover,可注入 panic 上报
async.GoSafe(func() { serve() })

// 高频突发任务走池:worker 数软上限,panic 汇入 logx
gopool.SetPanicHandler(func(ctx context.Context, r any, stack []byte) {
    logx.Error("gopool panic", "error", r, "stack", string(stack))
})
gopool.Go(func() { process(item) })

p := gopool.NewPool("ingest", gopool.PoolOption{MaxIdleWorkers: 64})
p.CtxGo(ctx, func() { handle(req) })
defer p.Close(ctx) // 优雅排空

// 带重试的调用
err := retry.Do(ctx, retry.Config{}, func(attempt int) error {
    return callDownstream()
})

边界

  • 需要日志记录 panic → 配合 logx 的 SetPanicHandler
  • 需要进程内缓存/去重合并的高级组合 → data
  • 本仓为 L0 基础件:零矩阵内依赖(第三方仅 golang.org/x/time)

矩阵总览(23 活跃模块,自动生成)

模块 内容 矩阵内依赖
pkg 微工具集 18 合 1(errors/validator/stringx/slicex/enumx/convert/encoding/jsonrepair/httpjson/mathx/pathx/pagination/ptrx/timex/uidgen/cache/bufiox/strmap) —
concurrency 并发与流控原语(async/breaker/gopool/group/singleflight/progress/syncx/ratelimit/retry/shedding/window) —
logx 统一日志门面(多后端可替换 + Sink + caller 归属)+ 优雅关停 —
core 应用基建件(governance 治理 schema / config 配置加载 / lifecycle 契约 / network IP 工具 / version) logx
istio Istio Proxyless——Kitex xDS 动态熔断 —
metrics Prometheus 门面 + 弹性指标族 core
tracing OpenTelemetry 追踪 + trace_id 真相源 logx
registry 注册发现核心 + Nacos 实现 + Nacos 配置源 + sdbridge core、logx
data 缓存检查器(TTL/failTTL/inflight 合并)+ LocalCache concurrency、logx
gorm SQL/GORM 全家——连接池增强、框架无关 CRUD Service、仓储 logx、pkg
redis Redis 全家——客户端封装、缓存后端、分布式锁 concurrency、data、logx
httpx HTTP 客户端 + 负载均衡——服务发现/熔断/重试/指标/OTel 透传 concurrency、core、logx、metrics、registry、tracing
network 轻量网络客户端——WebSocket/NATS/MQ 抽象、连接与流工具、Octopus 推送 concurrency、logx、tracing
timertask 分片定时任务(FNV-1a、心跳续约) concurrency、logx
middleware Hertz 自研标准中间件栈 + contrib 桥接 + hmw concurrency、core、logx、metrics、pkg、registry、tracing
nns NNS 服务治理客户端——provider 无关发现/配置/实例缓存 concurrency、core、logx、registry
nns-endpoint NNS 端点工厂——per-service 熔断、换实例重试、gRPC 池 concurrency、core、httpx、logx、metrics、nns、registry
bootstrap 应用生命周期引导——bootstrap.Run 骨架 + healthz concurrency、logx
handler HTTP handler 层——通用 CRUD Handler、参数绑定、版本端点 concurrency、core、gorm、logx、metrics、middleware、pkg、registry、tracing
hertz Hertz 运行时集成——日志桥接、生命周期、SSE/health/metrics、适配器、OTel bootstrap、concurrency、core、logx、metrics、nns、registry、tracing
kitex Kitex 生态——日志桥接、治理热更、生命周期、BizError 桥接、kitexotel bootstrap、concurrency、core、logx、metrics、nns、pkg、registry
workflow 组合式流程编排——串行/并行/异步/条件分支 + Hook AOP concurrency、logx
kitex-examples Kitex echo 示例——client/server + IDL + 治理配置 bootstrap、concurrency、core、kitex、logx、metrics、nns、pkg、registry、tracing

依赖严格自底向上;微库已合并为 pkg,旧微库仓已删除。

本仓在矩阵中的位置与依赖见上表「矩阵内依赖」列。历史沿革:源自 ekit 单体库 (git.enjoye.top/enjoydream/ekit v0.34.0,冻结维护),2026-10 拆分为独立 module。

License

MIT — 见 LICENSE

Directories

Path Synopsis
Package async 提供安全的 goroutine 启动工具。
Package async 提供安全的 goroutine 启动工具。
Package breaker 提供 Google SRE 概率式自适应熔断(移植 go-zero core/breaker 的 googleBreaker,算法忠实上游)。
Package breaker 提供 Google SRE 概率式自适应熔断(移植 go-zero core/breaker 的 googleBreaker,算法忠实上游)。
Package gopool 自适应 goroutine 池:任务入队后按需惰性拉起 worker, 队列积压时扩容、空闲 worker 按 WorkerMaxAge 老化退出、队列满时回退为 直接 `go`(不阻塞调用方、不丢任务),全程 panic 被 recover。
Package gopool 自适应 goroutine 池:任务入队后按需惰性拉起 worker, 队列积压时扩容、空闲 worker 按 WorkerMaxAge 老化退出、队列满时回退为 直接 `go`(不阻塞调用方、不丢任务),全程 panic 被 recover。
Package group 提供并发 Actor 生命周期管理和 WaitGroup 封装。
Package group 提供并发 Actor 生命周期管理和 WaitGroup 封装。
Package progress 提供多阶段工作流的进度追踪模型。
Package progress 提供多阶段工作流的进度追踪模型。
Package ratelimit 提供通用限流器实现。
Package ratelimit 提供通用限流器实现。
Package retry 可取消的重试与轮询原语(stdlib-only):带退避的动作重试 + 到 deadline 为止的条件轮询。
Package retry 可取消的重试与轮询原语(stdlib-only):带退避的动作重试 + 到 deadline 为止的条件轮询。
Package shedding 提供 CPU 自适应降载(移植 go-zero core/load 的 adaptiveshedder,算法忠实上游)。
Package shedding 提供 CPU 自适应降载(移植 go-zero core/load 的 adaptiveshedder,算法忠实上游)。
Package singleflight 提供并发请求合并(防击穿)工具。
Package singleflight 提供并发请求合并(防击穿)工具。
Package syncx 并发编排原语(stdlib-only):按键在飞闸门 + 按序扇出收集。
Package syncx 并发编排原语(stdlib-only):按键在飞闸门 + 按序扇出收集。
Package window 提供滑动窗口统计容器(移植 go-zero collection.RollingWindow)。
Package window 提供滑动窗口统计容器(移植 go-zero collection.RollingWindow)。

Jump to

Keyboard shortcuts

? : This menu
/ : Search site
f or F : Jump to
y or Y : Canonical URL