learning_tools

module
v1.0.1 Latest Latest
Warning

This package is not in the latest version of its module.

Go to latest
Published: Sep 21, 2022 License: Apache-2.0

README

LEARNING_TOOLS

博客: hwholiday

  • 🤪 golang 基础,微服务,架构,web,k8s,DDD 各种工具任君取用
  • 📫 contact me: WECHAT HW_loner
  • 📫 contact me: QQ 3355168235

go-kit 微服务实践,从入门到精通

go-kit 系列文章归档地址 (详细介绍)

1: v1 go-kit 微服务 基础使用 (HTTP)
2: v2 go-kit 微服务 添加日志(user/zap ,并为每个请求添加UUID)
3: v3 go-kit 微服务 身份认证 (JWT)
4: v4 go-kit 微服务 限流 (uber/ratelimit 和 golang/rate 实现)
5: v5 go-kit 微服务 使用GRPC(并为每个请求添加UUID)
6: v6 go-kit 微服务 服务注册与发现(etcd实现)
7: v7 go-kit 微服务 服务监控(prometheus 实现)
8: v8 go-kit 微服务 服务熔断(hystrix-go 实现)
9: v9 go-kit 微服务 服务链路追踪(jaeger 实现)(1)
10: v10 go-kit 微服务 服务链路追踪(jaeger 实现)(2)
11: v11 go-kit 微服务 日志分析管理 (ELK + Filebeat)

gRPC负载均衡(自定义负载均衡策略--etcd 实现)

hlb-grpc (gRPC负载均衡(自定义负载均衡策略--etcd 实现)
实现基于版本(version)的grpc负载均衡器,了解过程后可自己实现更多的负载均衡功能
详细介绍
  • 注册中心
    • Etcd Lease 是一种检测客户端存活状况的机制。 群集授予具有生存时间的租约。 如果etcd 群集在给定的TTL 时间内未收到keepAlive,则租约到期。 为了将租约绑定到键值存储中,每个key 最多可以附加一个租约
  • 服务注册 (注册服务)
    • 定时把本地服务(APP)地址,版本等信息注册到服务器
  • 服务发现 (客户端发起服务解析请求(APP))
    • 查询注册中心(APP)下有那些服务
    • 并向所有的服务建立HTTP2长链接
    • 通过Etcd watch 监听服务(APP),通过变化更新链接
  • 负载均衡 (客户端发起请求(APP))
    • 负载均衡选择合适的服务(APP HTTP2长链接)
    • 发起调用
├── discovery
│   ├── customize_balancer.go
│   ├── discovery.go
│   └── options.go
├── example
│   ├── api
│   │   └── api.pb.go
│   ├── api.proto
│   ├── client_test.go
│   └── server.go
└── register
    ├── options.go
    ├── register.go
    └── register_test.go

仿微信 auth2 授权登陆 DDD(领域设计驱动)+ 六边形架构

OAuth 2.0-授权码模式(authorization code)仿微信设计(战略篇)
OAuth 2.0-授权码模式(authorization code)仿微信设计(战术篇)
AUTH2 代码地址

Golang DDD 的项目分层结构(六边形架构)

DDD (DDD 项目分层结构)
├── cmd 存放 main.go 等
├── adapter
│   ├── grpc
│   └── http
│   └── facade  引用其他微服务(接口防腐层)
├── application 
│   ├── assembler   负责将内部领域模型转化为可对外的DTO
│   └── cqe Command、Query和Event --  入参
│   └── dto Application层的所有接口返回值为DTO -- 出参
│   └── service 负责业务流程的编排,但本身不负责任何业务逻辑
├── domain
│   ├── aggregate 聚合
│   ├── entity 实体
│   ├── event 事件
│   │   ├── publish
│   │   └── subsctibe
│   ├── repo 接口
│   │   └── specification 统一封装查询
│   ├── service 领域服务
│   └── vo 值对象
└── infrastructure
│   ├── config 配置文件
│   ├── pkg 常用工具类封装(DB,log,tool等)
│   └── repository
│   ├── converter domain内对象转化 do {互转}
│   └── do 数据库映射对象
└── types 封装自定义的参数类型,例如 phone 自校验参数        

封装 zap 日志注入 trace 信息 Trace Id(内含 gin 例子)

hlog (源码地址)
  • 实现自动切割文件 (基于 lumberjack 实现)
  • 实现可传递 trace 信息 (基于 Context 实现)
{"level":"info","ts":1639453661.4718382,"caller":"example/main.go:36","msg":"hconf example success"}
{"level":"info","ts":1639453664.7402327,"caller":"example/main.go:19","msg":"AddTraceId success","traceId":"68867b89-c949-45a4-b325-86866c9f869a"}
{"level":"info","ts":1639453664.7402515,"caller":"example/main.go:32","msg":"test","traceId":"68867b89-c949-45a4-b325-86866c9f869a"}
{"level":"debug","ts":1639453664.7402549,"caller":"example/main.go:33","msg":"test","traceId":"68867b89-c949-45a4-b325-86866c9f869a"}
hconfig 插拔式配置读取工具可动态加载
  • 支持 etcd
  • 支持 kubernetes
  • 支持 apollo
使用文档
hconfig 配置不同的源
//etcd
cli, err := clientv3.New(clientv3.Config{
	Endpoints: []string{"127.0.0.1:2379"},})
	
c, err := etcd.NewEtcdConfig(cli,
	etcd.WithRoot("/hconf"),
	etcd.WithPaths("app", "mysql"))

//kubernetes
cli, err := kubernetes.NewK8sClientset(
     kubernetes.KubeConfigPath("/home/app/conf/kube_config/local_kube.yaml"))
     
c, err := kubernetes.NewKubernetesConfig(cli, 
	kubernetes.WithNamespace("im"),
	kubernetes.WithPaths("im-test-conf", "im-test-conf2"))
	
//apollo
c, err := apollo.NewApolloConfig(
    apollo.WithAppid("test"),
    apollo.WithNamespace("test.yaml"),
    apollo.WithAddr("http://127.0.0.1:32001"),
    apollo.WithCluster("dev"),
    )
hconfig 使用
conf, err := NewHConfig(
	WithDataSource(c),//c 不同的源
)

// 加载配置
conf.Load() 

//读取配置
val, err := conf.Get("test.yaml")
t.Logf("val %+v\n", val.String())

//监听配置变化
conf.Watch(func(path string, v HVal) {
	t.Logf("path %s val %+v\n", path, v.String())
})

go_push 一个实用的消息推送服务

go_push (推送服务)
```base
├── gateway // 长连接网关服务器
│   ├── push_job.go    // 分发任务
│   ├── room.go        // 房间,可作为某一类型的推送管理中心
│   ├── room_manage.go // 房间管理
│   ├── ws_conn.go     // 简单封装的websocket方法
│   ├── ws_handle.go   // 处理websocket协议方法
│   └── ws_server.go   // websocket服务
├── logic  //逻辑服务器    
│   ├── http_handle.go // 推送,房间相关
│   └── http_server.go // http服务
└── main.go
```
HConf (基于etcd与viper的高可用配置中心)
  • 可使用远程与本地模式
  • 本地有的配置远程没有会自动把本地配置传到远程(基于key)
  • 远程有的配置本地没有也会写一份到本地(退出程序会把远程配置写一份到本地)
  • 远程模式配置可以动态加载
  • 如远程连接不上会使用本地配置启动作为兜底
var conf = Conf{}
r, err := NewHConf(
	SetWatchRootName([]string{"/gs/conf"}),
)
if err != nil {
	t.Error(err)
	return
}
t.Log(r.ConfByKey("/gs/conf/net", &conf.Net))
t.Log(r.ConfByKey("/gs/conf/net2222", &conf.Net2))
t.Log(r.ConfByKey("/gs/conf/net3333", &conf.Net3))
if err := r.Run(); err != nil {
	t.Error(err)
	return
}
t.Log(conf)
t.Log(r.Close())
HEvent (基于channel )
1: 基于channel的简单事件订阅发布
micro_agent (micro微服务)
1: base 基础方法
2: conf 配置文件
3:handler 对外处理方法
4:model 数据格式
5:proto protobuf 文件
all_packaged_library 里面封装了一些常用的库,有详细的介绍,持续更新
1: base 里面封装mysql,redis,mgo,minio文件储存库S3协议,雪花算法,退出程序方法,redis全局锁,日志库等(插件形式可单独引用)
2: logtool uber_zap日志库封装,可自动切分日志文件,压缩文件
3: perf ppoof小插件
4: push 集成苹果推送,google推送,华为推送
5: quit 优雅的退出程序
6: registrySelector 基于etcd实现的服务注册,发现,负载均衡
docker (为你的服务插上docker_compose翅膀)
 1: docker 为你的服务插上docker_compose翅膀   
kafka (分布式消息发布订阅系统)
1: main 消息队列
NATS_streaming (分布式消息发布订阅系统--是由NATS驱动的数据流系统)
1: main 消息队列
nsq (分布式实时消息平台)
1: main 消息队列
grpc (grpc学习)
1: bidirectional_streaming_rpc 双向流grpc
2: server_side_streaming_rpc 服务端流grpc,也可以写成客户端流grpc
3: simple_rpc 简单grpc
rpc (rpc学习)
1: main rpc学习
prometheus (监控报警系统)
1: server Prometheus监控报警系统
jaeger (jaeger分布式链路追踪)
1: main jaeger分布式链路追踪
service_load_balancing (负载均衡)
1: fisher_yates_test  添加fisher-yates算法 负载均衡节点
hystrix (熔断)
1: hystrix 学习并使用熔断(Hystrix)
req_limit (限流)
1: main 使用带缓存的channel实现限流
2: uber_ratelimit 使用uber_ratelimit实现限流       
ini (配置文件库)
1: main 配置文件ini的读取,以及自动匹配到结构体里面
minio (对象存储服务)
1: minio 对象存储服务使用
mysql (mysql服务器)
1: main 简单的mysql使用
redis (redis相关)
1: bloom_filter redis 实现BloomFilter过滤器
2: lock redis实现全局锁
3: pipeline redis事务
4: subscription redis发布订阅    
mongodb (mongodb服务器)
1: mgo.v2  mgo.v2库的基础使用学习
2: mongo-go-driver  官方库的demo,以及事务提交(不能是单节点)
gin (web框架gin学习)
1: mvc 模式,swagger文档 可作为基础学习gin
jwt (JSON WEB TOKEN)
1: jwt 学习使用   
snow_flake (雪花算法)
1: main 雪花算法    
encryption_algorithm (双棘轮算法, KDF链,迪菲-赫尔曼棘轮,x3dh)
1: aes ase-(cfb,cbc,ecb)-(128,192,256)加解密方法
2: curve25519 椭圆曲线算法
3: 3curve25519 双棘轮算法,KDF链
LRU (缓存淘汰算法)
1: list lru 缓存淘汰算法 
tcp (tcp协议实现)
1: 实现网络库,封包,解包 len+tag+data 模式
websocket (websocket协议实现)
1: 实现网络库
binary_conversion (进制转换)
1: 10to36 10进制转36进制
2: 10to62 10进制转62进制
3: 10to76 10进制转76进制
4: binary 用一个int64来描述开关(用户设置很多建议使用)       
job_worker_mode (job_worker模式)
1: worker job_worker模式,可提高系统吞吐量
filewatch (监控文件变化)
1: main 监控文件变化 可实现自动构建
prometheus (普罗米修斯)
1: main 普罗米修斯    
goquery (网页解析工具)
1: main 可以作为爬虫解析网页使用
active_object (并发设计模式)
1: active_object Go并发设计模式之Active Object
heap (优先级队列)
1: heap 利用heap创建一个优先级队列
cli (go命令行交互)
1: main go命令行交互
context (context包学习)
1: main context包学习 
err (error 相关)
1: main golang 1.13 error 相关
interface (interface包学习)
1: main interface包学习
2: middleware Golang 基于interface 实现中间件
syncPool (syncPool包学习)
1: main syncPool包学习
reflect (reflect包学习)
1: main reflect包学习

Directories

Path Synopsis
all_packaged_library
base/tool
* @Author: howie * @Date: 2019-07-02 11:38:19 * @Last Modified by: holiday * @Last Modified time: 2019-07-02 13:19:17
* @Author: howie * @Date: 2019-07-02 11:38:19 * @Last Modified by: holiday * @Last Modified time: 2019-07-02 13:19:17
container
ddd-auth2-example
cmd
etcd
game
elo
geo
mgo
gin
go-kit
v1
v2
v3
v4
grpc
hlb-grpc
src
istio
api
jwt
k8s
proto/user
Package user_agent is a generated protocol buffer package.
Package user_agent is a generated protocol buffer package.
old
mongodb
proxy
redis
tcp
tool
websocket
cmd
pb

Jump to

Keyboard shortcuts

? : This menu
/ : Search site
f or F : Jump to
y or Y : Canonical URL