chao
4 months ago
committed by
GitHub
commit
a315570e44
@ -1,9 +1,13 @@
|
|||||||
secret: openIM123
|
secret: openIM123
|
||||||
|
|
||||||
imAdminUserID: [ imAdmin ]
|
imAdminUserID: [imAdmin]
|
||||||
|
|
||||||
# 1: For Android, iOS, Windows, Mac, and web platforms, only one instance can be online at a time
|
# 1: For Android, iOS, Windows, Mac, and web platforms, only one instance can be online at a time
|
||||||
multiLogin:
|
multiLogin:
|
||||||
policy: 1
|
policy: 1
|
||||||
# max num of tokens in one end
|
# max num of tokens in one end
|
||||||
maxNumOneEnd: 30
|
maxNumOneEnd: 30
|
||||||
|
|
||||||
|
rpcMaxBodySize:
|
||||||
|
requestMaxBodySize: 8388608
|
||||||
|
responseMaxBodySize: 8388608
|
||||||
|
|||||||
@ -0,0 +1,10 @@
|
|||||||
|
package cachekey
|
||||||
|
|
||||||
|
const ClientConfig = "CLIENT_CONFIG"
|
||||||
|
|
||||||
|
func GetClientConfigKey(userID string) string {
|
||||||
|
if userID == "" {
|
||||||
|
return ClientConfig
|
||||||
|
}
|
||||||
|
return ClientConfig + ":" + userID
|
||||||
|
}
|
||||||
@ -0,0 +1,8 @@
|
|||||||
|
package cache
|
||||||
|
|
||||||
|
import "context"
|
||||||
|
|
||||||
|
type ClientConfigCache interface {
|
||||||
|
DeleteUserCache(ctx context.Context, userIDs []string) error
|
||||||
|
GetUserConfig(ctx context.Context, userID string) (map[string]string, error)
|
||||||
|
}
|
||||||
@ -0,0 +1,166 @@
|
|||||||
|
package mcache
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
"fmt"
|
||||||
|
"strconv"
|
||||||
|
"strings"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/cache"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/cache/cachekey"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/database"
|
||||||
|
"github.com/openimsdk/tools/errs"
|
||||||
|
"github.com/openimsdk/tools/log"
|
||||||
|
)
|
||||||
|
|
||||||
|
func NewTokenCacheModel(cache database.Cache, accessExpire int64) cache.TokenModel {
|
||||||
|
c := &tokenCache{cache: cache}
|
||||||
|
c.accessExpire = c.getExpireTime(accessExpire)
|
||||||
|
return c
|
||||||
|
}
|
||||||
|
|
||||||
|
type tokenCache struct {
|
||||||
|
cache database.Cache
|
||||||
|
accessExpire time.Duration
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) getTokenKey(userID string, platformID int, token string) string {
|
||||||
|
return cachekey.GetTokenKey(userID, platformID) + ":" + token
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) SetTokenFlag(ctx context.Context, userID string, platformID int, token string, flag int) error {
|
||||||
|
return x.cache.Set(ctx, x.getTokenKey(userID, platformID, token), strconv.Itoa(flag), x.accessExpire)
|
||||||
|
}
|
||||||
|
|
||||||
|
// SetTokenFlagEx set token and flag with expire time
|
||||||
|
func (x *tokenCache) SetTokenFlagEx(ctx context.Context, userID string, platformID int, token string, flag int) error {
|
||||||
|
return x.SetTokenFlag(ctx, userID, platformID, token, flag)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) GetTokensWithoutError(ctx context.Context, userID string, platformID int) (map[string]int, error) {
|
||||||
|
prefix := x.getTokenKey(userID, platformID, "")
|
||||||
|
m, err := x.cache.Prefix(ctx, prefix)
|
||||||
|
if err != nil {
|
||||||
|
return nil, errs.Wrap(err)
|
||||||
|
}
|
||||||
|
mm := make(map[string]int)
|
||||||
|
for k, v := range m {
|
||||||
|
state, err := strconv.Atoi(v)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "token value is not int", err, "value", v, "userID", userID, "platformID", platformID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
mm[strings.TrimPrefix(k, prefix)] = state
|
||||||
|
}
|
||||||
|
return mm, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) HasTemporaryToken(ctx context.Context, userID string, platformID int, token string) error {
|
||||||
|
key := cachekey.GetTemporaryTokenKey(userID, platformID, token)
|
||||||
|
if _, err := x.cache.Get(ctx, []string{key}); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) GetAllTokensWithoutError(ctx context.Context, userID string) (map[int]map[string]int, error) {
|
||||||
|
prefix := cachekey.UidPidToken + userID + ":"
|
||||||
|
tokens, err := x.cache.Prefix(ctx, prefix)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
res := make(map[int]map[string]int)
|
||||||
|
for key, flagStr := range tokens {
|
||||||
|
flag, err := strconv.Atoi(flagStr)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "token value is not int", err, "key", key, "value", flagStr, "userID", userID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
arr := strings.SplitN(strings.TrimPrefix(key, prefix), ":", 2)
|
||||||
|
if len(arr) != 2 {
|
||||||
|
log.ZError(ctx, "token value is not int", err, "key", key, "value", flagStr, "userID", userID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
platformID, err := strconv.Atoi(arr[0])
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "token value is not int", err, "key", key, "value", flagStr, "userID", userID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
token := arr[1]
|
||||||
|
if token == "" {
|
||||||
|
log.ZError(ctx, "token value is not int", err, "key", key, "value", flagStr, "userID", userID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
tk, ok := res[platformID]
|
||||||
|
if !ok {
|
||||||
|
tk = make(map[string]int)
|
||||||
|
res[platformID] = tk
|
||||||
|
}
|
||||||
|
tk[token] = flag
|
||||||
|
}
|
||||||
|
return res, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) SetTokenMapByUidPid(ctx context.Context, userID string, platformID int, m map[string]int) error {
|
||||||
|
for token, flag := range m {
|
||||||
|
err := x.SetTokenFlag(ctx, userID, platformID, token, flag)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) BatchSetTokenMapByUidPid(ctx context.Context, tokens map[string]map[string]any) error {
|
||||||
|
for prefix, tokenFlag := range tokens {
|
||||||
|
for token, flag := range tokenFlag {
|
||||||
|
flagStr := fmt.Sprintf("%v", flag)
|
||||||
|
if err := x.cache.Set(ctx, prefix+":"+token, flagStr, x.accessExpire); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) DeleteTokenByUidPid(ctx context.Context, userID string, platformID int, fields []string) error {
|
||||||
|
keys := make([]string, 0, len(fields))
|
||||||
|
for _, token := range fields {
|
||||||
|
keys = append(keys, x.getTokenKey(userID, platformID, token))
|
||||||
|
}
|
||||||
|
return x.cache.Del(ctx, keys)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) getExpireTime(t int64) time.Duration {
|
||||||
|
return time.Hour * 24 * time.Duration(t)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) DeleteTokenByTokenMap(ctx context.Context, userID string, tokens map[int][]string) error {
|
||||||
|
keys := make([]string, 0, len(tokens))
|
||||||
|
for platformID, ts := range tokens {
|
||||||
|
for _, t := range ts {
|
||||||
|
keys = append(keys, x.getTokenKey(userID, platformID, t))
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return x.cache.Del(ctx, keys)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *tokenCache) DeleteAndSetTemporary(ctx context.Context, userID string, platformID int, fields []string) error {
|
||||||
|
keys := make([]string, 0, len(fields))
|
||||||
|
for _, f := range fields {
|
||||||
|
keys = append(keys, x.getTokenKey(userID, platformID, f))
|
||||||
|
}
|
||||||
|
if err := x.cache.Del(ctx, keys); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, f := range fields {
|
||||||
|
k := cachekey.GetTemporaryTokenKey(userID, platformID, f)
|
||||||
|
if err := x.cache.Set(ctx, k, "", time.Minute*5); err != nil {
|
||||||
|
return errs.Wrap(err)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
@ -0,0 +1,69 @@
|
|||||||
|
package redis
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/cache"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/cache/cachekey"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/database"
|
||||||
|
"github.com/redis/go-redis/v9"
|
||||||
|
)
|
||||||
|
|
||||||
|
func NewClientConfigCache(rdb redis.UniversalClient, mgo database.ClientConfig) cache.ClientConfigCache {
|
||||||
|
rc := newRocksCacheClient(rdb)
|
||||||
|
return &ClientConfigCache{
|
||||||
|
mgo: mgo,
|
||||||
|
rcClient: rc,
|
||||||
|
delete: rc.GetBatchDeleter(),
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
type ClientConfigCache struct {
|
||||||
|
mgo database.ClientConfig
|
||||||
|
rcClient *rocksCacheClient
|
||||||
|
delete cache.BatchDeleter
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfigCache) getExpireTime(userID string) time.Duration {
|
||||||
|
if userID == "" {
|
||||||
|
return time.Hour * 24
|
||||||
|
} else {
|
||||||
|
return time.Hour
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfigCache) getClientConfigKey(userID string) string {
|
||||||
|
return cachekey.GetClientConfigKey(userID)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfigCache) GetConfig(ctx context.Context, userID string) (map[string]string, error) {
|
||||||
|
return getCache(ctx, x.rcClient, x.getClientConfigKey(userID), x.getExpireTime(userID), func(ctx context.Context) (map[string]string, error) {
|
||||||
|
return x.mgo.Get(ctx, userID)
|
||||||
|
})
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfigCache) DeleteUserCache(ctx context.Context, userIDs []string) error {
|
||||||
|
keys := make([]string, 0, len(userIDs))
|
||||||
|
for _, userID := range userIDs {
|
||||||
|
keys = append(keys, x.getClientConfigKey(userID))
|
||||||
|
}
|
||||||
|
return x.delete.ExecDelWithKeys(ctx, keys)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfigCache) GetUserConfig(ctx context.Context, userID string) (map[string]string, error) {
|
||||||
|
config, err := x.GetConfig(ctx, "")
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
if userID != "" {
|
||||||
|
userConfig, err := x.GetConfig(ctx, userID)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
for k, v := range userConfig {
|
||||||
|
config[k] = v
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return config, nil
|
||||||
|
}
|
||||||
@ -0,0 +1,58 @@
|
|||||||
|
package controller
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/cache"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/database"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/model"
|
||||||
|
"github.com/openimsdk/tools/db/pagination"
|
||||||
|
"github.com/openimsdk/tools/db/tx"
|
||||||
|
)
|
||||||
|
|
||||||
|
type ClientConfigDatabase interface {
|
||||||
|
SetUserConfig(ctx context.Context, userID string, config map[string]string) error
|
||||||
|
GetUserConfig(ctx context.Context, userID string) (map[string]string, error)
|
||||||
|
DelUserConfig(ctx context.Context, userID string, keys []string) error
|
||||||
|
GetUserConfigPage(ctx context.Context, userID string, key string, pagination pagination.Pagination) (int64, []*model.ClientConfig, error)
|
||||||
|
}
|
||||||
|
|
||||||
|
func NewClientConfigDatabase(db database.ClientConfig, cache cache.ClientConfigCache, tx tx.Tx) ClientConfigDatabase {
|
||||||
|
return &clientConfigDatabase{
|
||||||
|
tx: tx,
|
||||||
|
db: db,
|
||||||
|
cache: cache,
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
type clientConfigDatabase struct {
|
||||||
|
tx tx.Tx
|
||||||
|
db database.ClientConfig
|
||||||
|
cache cache.ClientConfigCache
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *clientConfigDatabase) SetUserConfig(ctx context.Context, userID string, config map[string]string) error {
|
||||||
|
return x.tx.Transaction(ctx, func(ctx context.Context) error {
|
||||||
|
if err := x.db.Set(ctx, userID, config); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return x.cache.DeleteUserCache(ctx, []string{userID})
|
||||||
|
})
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *clientConfigDatabase) GetUserConfig(ctx context.Context, userID string) (map[string]string, error) {
|
||||||
|
return x.cache.GetUserConfig(ctx, userID)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *clientConfigDatabase) DelUserConfig(ctx context.Context, userID string, keys []string) error {
|
||||||
|
return x.tx.Transaction(ctx, func(ctx context.Context) error {
|
||||||
|
if err := x.db.Del(ctx, userID, keys); err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
return x.cache.DeleteUserCache(ctx, []string{userID})
|
||||||
|
})
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *clientConfigDatabase) GetUserConfigPage(ctx context.Context, userID string, key string, pagination pagination.Pagination) (int64, []*model.ClientConfig, error) {
|
||||||
|
return x.db.GetPage(ctx, userID, key, pagination)
|
||||||
|
}
|
||||||
@ -0,0 +1,15 @@
|
|||||||
|
package database
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/model"
|
||||||
|
"github.com/openimsdk/tools/db/pagination"
|
||||||
|
)
|
||||||
|
|
||||||
|
type ClientConfig interface {
|
||||||
|
Set(ctx context.Context, userID string, config map[string]string) error
|
||||||
|
Get(ctx context.Context, userID string) (map[string]string, error)
|
||||||
|
Del(ctx context.Context, userID string, keys []string) error
|
||||||
|
GetPage(ctx context.Context, userID string, key string, pagination pagination.Pagination) (int64, []*model.ClientConfig, error)
|
||||||
|
}
|
||||||
@ -0,0 +1,183 @@
|
|||||||
|
package mgo
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
"strconv"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/google/uuid"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/database"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/model"
|
||||||
|
"github.com/openimsdk/tools/db/mongoutil"
|
||||||
|
"github.com/openimsdk/tools/errs"
|
||||||
|
"go.mongodb.org/mongo-driver/bson"
|
||||||
|
"go.mongodb.org/mongo-driver/mongo"
|
||||||
|
"go.mongodb.org/mongo-driver/mongo/options"
|
||||||
|
)
|
||||||
|
|
||||||
|
func NewCacheMgo(db *mongo.Database) (*CacheMgo, error) {
|
||||||
|
coll := db.Collection(database.CacheName)
|
||||||
|
_, err := coll.Indexes().CreateMany(context.Background(), []mongo.IndexModel{
|
||||||
|
{
|
||||||
|
Keys: bson.D{
|
||||||
|
{Key: "key", Value: 1},
|
||||||
|
},
|
||||||
|
Options: options.Index().SetUnique(true),
|
||||||
|
},
|
||||||
|
{
|
||||||
|
Keys: bson.D{
|
||||||
|
{Key: "expire_at", Value: 1},
|
||||||
|
},
|
||||||
|
Options: options.Index().SetExpireAfterSeconds(0),
|
||||||
|
},
|
||||||
|
})
|
||||||
|
if err != nil {
|
||||||
|
return nil, errs.Wrap(err)
|
||||||
|
}
|
||||||
|
return &CacheMgo{coll: coll}, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
type CacheMgo struct {
|
||||||
|
coll *mongo.Collection
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) findToMap(res []model.Cache, now time.Time) map[string]string {
|
||||||
|
kv := make(map[string]string)
|
||||||
|
for _, re := range res {
|
||||||
|
if re.ExpireAt != nil && re.ExpireAt.Before(now) {
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
kv[re.Key] = re.Value
|
||||||
|
}
|
||||||
|
return kv
|
||||||
|
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Get(ctx context.Context, key []string) (map[string]string, error) {
|
||||||
|
if len(key) == 0 {
|
||||||
|
return nil, nil
|
||||||
|
}
|
||||||
|
now := time.Now()
|
||||||
|
res, err := mongoutil.Find[model.Cache](ctx, x.coll, bson.M{
|
||||||
|
"key": bson.M{"$in": key},
|
||||||
|
"$or": []bson.M{
|
||||||
|
{"expire_at": bson.M{"$gt": now}},
|
||||||
|
{"expire_at": nil},
|
||||||
|
},
|
||||||
|
})
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
return x.findToMap(res, now), nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Prefix(ctx context.Context, prefix string) (map[string]string, error) {
|
||||||
|
now := time.Now()
|
||||||
|
res, err := mongoutil.Find[model.Cache](ctx, x.coll, bson.M{
|
||||||
|
"key": bson.M{"$regex": "^" + prefix},
|
||||||
|
"$or": []bson.M{
|
||||||
|
{"expire_at": bson.M{"$gt": now}},
|
||||||
|
{"expire_at": nil},
|
||||||
|
},
|
||||||
|
})
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
return x.findToMap(res, now), nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Set(ctx context.Context, key string, value string, expireAt time.Duration) error {
|
||||||
|
cv := &model.Cache{
|
||||||
|
Key: key,
|
||||||
|
Value: value,
|
||||||
|
}
|
||||||
|
if expireAt > 0 {
|
||||||
|
now := time.Now().Add(expireAt)
|
||||||
|
cv.ExpireAt = &now
|
||||||
|
}
|
||||||
|
opt := options.Update().SetUpsert(true)
|
||||||
|
return mongoutil.UpdateOne(ctx, x.coll, bson.M{"key": key}, bson.M{"$set": cv}, false, opt)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Incr(ctx context.Context, key string, value int) (int, error) {
|
||||||
|
pipeline := mongo.Pipeline{
|
||||||
|
{
|
||||||
|
{"$set", bson.M{
|
||||||
|
"value": bson.M{
|
||||||
|
"$toString": bson.M{
|
||||||
|
"$add": bson.A{
|
||||||
|
bson.M{"$toInt": "$value"},
|
||||||
|
value,
|
||||||
|
},
|
||||||
|
},
|
||||||
|
},
|
||||||
|
}},
|
||||||
|
},
|
||||||
|
}
|
||||||
|
opt := options.FindOneAndUpdate().SetReturnDocument(options.After)
|
||||||
|
res, err := mongoutil.FindOneAndUpdate[model.Cache](ctx, x.coll, bson.M{"key": key}, pipeline, opt)
|
||||||
|
if err != nil {
|
||||||
|
return 0, err
|
||||||
|
}
|
||||||
|
return strconv.Atoi(res.Value)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Del(ctx context.Context, key []string) error {
|
||||||
|
if len(key) == 0 {
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
_, err := x.coll.DeleteMany(ctx, bson.M{"key": bson.M{"$in": key}})
|
||||||
|
return errs.Wrap(err)
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) lockKey(key string) string {
|
||||||
|
return "LOCK_" + key
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Lock(ctx context.Context, key string, duration time.Duration) (string, error) {
|
||||||
|
tmp, err := uuid.NewUUID()
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
if duration <= 0 || duration > time.Minute*10 {
|
||||||
|
duration = time.Minute * 10
|
||||||
|
}
|
||||||
|
cv := &model.Cache{
|
||||||
|
Key: x.lockKey(key),
|
||||||
|
Value: tmp.String(),
|
||||||
|
ExpireAt: nil,
|
||||||
|
}
|
||||||
|
ctx, cancel := context.WithTimeout(ctx, time.Second*30)
|
||||||
|
defer cancel()
|
||||||
|
wait := func() error {
|
||||||
|
timeout := time.NewTimer(time.Millisecond * 100)
|
||||||
|
defer timeout.Stop()
|
||||||
|
select {
|
||||||
|
case <-ctx.Done():
|
||||||
|
return ctx.Err()
|
||||||
|
case <-timeout.C:
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
}
|
||||||
|
for {
|
||||||
|
if err := mongoutil.DeleteOne(ctx, x.coll, bson.M{"key": key, "expire_at": bson.M{"$lt": time.Now()}}); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
expireAt := time.Now().Add(duration)
|
||||||
|
cv.ExpireAt = &expireAt
|
||||||
|
if err := mongoutil.InsertMany[*model.Cache](ctx, x.coll, []*model.Cache{cv}); err != nil {
|
||||||
|
if mongo.IsDuplicateKeyError(err) {
|
||||||
|
if err := wait(); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
return cv.Value, nil
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *CacheMgo) Unlock(ctx context.Context, key string, value string) error {
|
||||||
|
return mongoutil.DeleteOne(ctx, x.coll, bson.M{"key": x.lockKey(key), "value": value})
|
||||||
|
}
|
||||||
@ -0,0 +1,99 @@
|
|||||||
|
// Copyright © 2023 OpenIM open source community. All rights reserved.
|
||||||
|
//
|
||||||
|
// Licensed under the Apache License, Version 2.0 (the "License");
|
||||||
|
// you may not use this file except in compliance with the License.
|
||||||
|
// You may obtain a copy of the License at
|
||||||
|
//
|
||||||
|
// http://www.apache.org/licenses/LICENSE-2.0
|
||||||
|
//
|
||||||
|
// Unless required by applicable law or agreed to in writing, software
|
||||||
|
// distributed under the License is distributed on an "AS IS" BASIS,
|
||||||
|
// WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
|
||||||
|
// See the License for the specific language governing permissions and
|
||||||
|
// limitations under the License.
|
||||||
|
|
||||||
|
package mgo
|
||||||
|
|
||||||
|
import (
|
||||||
|
"context"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/database"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/storage/model"
|
||||||
|
"github.com/openimsdk/tools/db/mongoutil"
|
||||||
|
"github.com/openimsdk/tools/db/pagination"
|
||||||
|
"go.mongodb.org/mongo-driver/bson"
|
||||||
|
"go.mongodb.org/mongo-driver/mongo"
|
||||||
|
"go.mongodb.org/mongo-driver/mongo/options"
|
||||||
|
|
||||||
|
"github.com/openimsdk/tools/errs"
|
||||||
|
)
|
||||||
|
|
||||||
|
func NewClientConfig(db *mongo.Database) (database.ClientConfig, error) {
|
||||||
|
coll := db.Collection("config")
|
||||||
|
_, err := coll.Indexes().CreateMany(context.Background(), []mongo.IndexModel{
|
||||||
|
{
|
||||||
|
Keys: bson.D{
|
||||||
|
{Key: "key", Value: 1},
|
||||||
|
{Key: "user_id", Value: 1},
|
||||||
|
},
|
||||||
|
Options: options.Index().SetUnique(true),
|
||||||
|
},
|
||||||
|
})
|
||||||
|
if err != nil {
|
||||||
|
return nil, errs.Wrap(err)
|
||||||
|
}
|
||||||
|
return &ClientConfig{
|
||||||
|
coll: coll,
|
||||||
|
}, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
type ClientConfig struct {
|
||||||
|
coll *mongo.Collection
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfig) Set(ctx context.Context, userID string, config map[string]string) error {
|
||||||
|
if len(config) == 0 {
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
for key, value := range config {
|
||||||
|
filter := bson.M{"key": key, "user_id": userID}
|
||||||
|
update := bson.M{
|
||||||
|
"value": value,
|
||||||
|
}
|
||||||
|
err := mongoutil.UpdateOne(ctx, x.coll, filter, bson.M{"$set": update}, false, options.Update().SetUpsert(true))
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
}
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfig) Get(ctx context.Context, userID string) (map[string]string, error) {
|
||||||
|
cs, err := mongoutil.Find[*model.ClientConfig](ctx, x.coll, bson.M{"user_id": userID})
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
cm := make(map[string]string)
|
||||||
|
for _, config := range cs {
|
||||||
|
cm[config.Key] = config.Value
|
||||||
|
}
|
||||||
|
return cm, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfig) Del(ctx context.Context, userID string, keys []string) error {
|
||||||
|
if len(keys) == 0 {
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
return mongoutil.DeleteMany(ctx, x.coll, bson.M{"key": bson.M{"$in": keys}, "user_id": userID})
|
||||||
|
}
|
||||||
|
|
||||||
|
func (x *ClientConfig) GetPage(ctx context.Context, userID string, key string, pagination pagination.Pagination) (int64, []*model.ClientConfig, error) {
|
||||||
|
filter := bson.M{}
|
||||||
|
if userID != "" {
|
||||||
|
filter["user_id"] = userID
|
||||||
|
}
|
||||||
|
if key != "" {
|
||||||
|
filter["key"] = key
|
||||||
|
}
|
||||||
|
return mongoutil.FindPage[*model.ClientConfig](ctx, x.coll, filter, pagination)
|
||||||
|
}
|
||||||
@ -0,0 +1,7 @@
|
|||||||
|
package model
|
||||||
|
|
||||||
|
type ClientConfig struct {
|
||||||
|
Key string `bson:"key"`
|
||||||
|
UserID string `bson:"user_id"`
|
||||||
|
Value string `bson:"value"`
|
||||||
|
}
|
||||||
@ -0,0 +1,19 @@
|
|||||||
|
# Stress Test V2
|
||||||
|
|
||||||
|
## Usage
|
||||||
|
|
||||||
|
You need set `TestTargetUserList` variables.
|
||||||
|
|
||||||
|
### Build
|
||||||
|
|
||||||
|
```bash
|
||||||
|
|
||||||
|
go build -o test/stress-test-v2/stress-test-v2 test/stress-test-v2/main.go
|
||||||
|
```
|
||||||
|
|
||||||
|
### Excute
|
||||||
|
|
||||||
|
```bash
|
||||||
|
|
||||||
|
tools/stress-test-v2/stress-test-v2 -c config/
|
||||||
|
```
|
||||||
@ -0,0 +1,759 @@
|
|||||||
|
package main
|
||||||
|
|
||||||
|
import (
|
||||||
|
"bytes"
|
||||||
|
"context"
|
||||||
|
"encoding/json"
|
||||||
|
"flag"
|
||||||
|
"fmt"
|
||||||
|
"io"
|
||||||
|
"net/http"
|
||||||
|
"os"
|
||||||
|
"os/signal"
|
||||||
|
"sync"
|
||||||
|
"syscall"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/apistruct"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/config"
|
||||||
|
"github.com/openimsdk/protocol/auth"
|
||||||
|
"github.com/openimsdk/protocol/constant"
|
||||||
|
"github.com/openimsdk/protocol/group"
|
||||||
|
"github.com/openimsdk/protocol/sdkws"
|
||||||
|
pbuser "github.com/openimsdk/protocol/user"
|
||||||
|
"github.com/openimsdk/tools/log"
|
||||||
|
"github.com/openimsdk/tools/system/program"
|
||||||
|
)
|
||||||
|
|
||||||
|
// 1. Create 100K New Users
|
||||||
|
// 2. Create 100 100K Groups
|
||||||
|
// 3. Create 1000 999 Groups
|
||||||
|
// 4. Send message to 100K Groups every second
|
||||||
|
// 5. Send message to 999 Groups every minute
|
||||||
|
|
||||||
|
var (
|
||||||
|
// Use default userIDs List for testing, need to be created.
|
||||||
|
TestTargetUserList = []string{
|
||||||
|
// "<need-update-it>",
|
||||||
|
}
|
||||||
|
// DefaultGroupID = "<need-update-it>" // Use default group ID for testing, need to be created.
|
||||||
|
)
|
||||||
|
|
||||||
|
var (
|
||||||
|
ApiAddress string
|
||||||
|
|
||||||
|
// API method
|
||||||
|
GetAdminToken = "/auth/get_admin_token"
|
||||||
|
UserCheck = "/user/account_check"
|
||||||
|
CreateUser = "/user/user_register"
|
||||||
|
ImportFriend = "/friend/import_friend"
|
||||||
|
InviteToGroup = "/group/invite_user_to_group"
|
||||||
|
GetGroupMemberInfo = "/group/get_group_members_info"
|
||||||
|
SendMsg = "/msg/send_msg"
|
||||||
|
CreateGroup = "/group/create_group"
|
||||||
|
GetUserToken = "/auth/user_token"
|
||||||
|
)
|
||||||
|
|
||||||
|
const (
|
||||||
|
MaxUser = 100000
|
||||||
|
Max1kUser = 1000
|
||||||
|
Max100KGroup = 100
|
||||||
|
Max999Group = 1000
|
||||||
|
MaxInviteUserLimit = 999
|
||||||
|
|
||||||
|
CreateUserTicker = 1 * time.Second
|
||||||
|
CreateGroupTicker = 1 * time.Second
|
||||||
|
Create100KGroupTicker = 1 * time.Second
|
||||||
|
Create999GroupTicker = 1 * time.Second
|
||||||
|
SendMsgTo100KGroupTicker = 1 * time.Second
|
||||||
|
SendMsgTo999GroupTicker = 1 * time.Minute
|
||||||
|
)
|
||||||
|
|
||||||
|
type BaseResp struct {
|
||||||
|
ErrCode int `json:"errCode"`
|
||||||
|
ErrMsg string `json:"errMsg"`
|
||||||
|
Data json.RawMessage `json:"data"`
|
||||||
|
}
|
||||||
|
|
||||||
|
type StressTest struct {
|
||||||
|
Conf *conf
|
||||||
|
AdminUserID string
|
||||||
|
AdminToken string
|
||||||
|
DefaultGroupID string
|
||||||
|
DefaultUserID string
|
||||||
|
UserCounter int
|
||||||
|
CreateUserCounter int
|
||||||
|
Create100kGroupCounter int
|
||||||
|
Create999GroupCounter int
|
||||||
|
MsgCounter int
|
||||||
|
CreatedUsers []string
|
||||||
|
CreatedGroups []string
|
||||||
|
Mutex sync.Mutex
|
||||||
|
Ctx context.Context
|
||||||
|
Cancel context.CancelFunc
|
||||||
|
HttpClient *http.Client
|
||||||
|
Wg sync.WaitGroup
|
||||||
|
Once sync.Once
|
||||||
|
}
|
||||||
|
|
||||||
|
type conf struct {
|
||||||
|
Share config.Share
|
||||||
|
Api config.API
|
||||||
|
}
|
||||||
|
|
||||||
|
func initConfig(configDir string) (*config.Share, *config.API, error) {
|
||||||
|
var (
|
||||||
|
share = &config.Share{}
|
||||||
|
apiConfig = &config.API{}
|
||||||
|
)
|
||||||
|
|
||||||
|
err := config.Load(configDir, config.ShareFileName, config.EnvPrefixMap[config.ShareFileName], share)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
err = config.Load(configDir, config.OpenIMAPICfgFileName, config.EnvPrefixMap[config.OpenIMAPICfgFileName], apiConfig)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return share, apiConfig, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Post Request
|
||||||
|
func (st *StressTest) PostRequest(ctx context.Context, url string, reqbody any) ([]byte, error) {
|
||||||
|
// Marshal body
|
||||||
|
jsonBody, err := json.Marshal(reqbody)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to marshal request body", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(jsonBody))
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
req.Header.Set("Content-Type", "application/json")
|
||||||
|
req.Header.Set("operationID", st.AdminUserID)
|
||||||
|
if st.AdminToken != "" {
|
||||||
|
req.Header.Set("token", st.AdminToken)
|
||||||
|
}
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Header info is ", "Content-Type", "application/json", "operationID", st.AdminUserID, "token", st.AdminToken)
|
||||||
|
|
||||||
|
resp, err := st.HttpClient.Do(req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
defer resp.Body.Close()
|
||||||
|
|
||||||
|
respBody, err := io.ReadAll(resp.Body)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to read response body", err, "url", url)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
var baseResp BaseResp
|
||||||
|
if err := json.Unmarshal(respBody, &baseResp); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to unmarshal response body", err, "url", url, "respBody", string(respBody))
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
if baseResp.ErrCode != 0 {
|
||||||
|
err = fmt.Errorf(baseResp.ErrMsg)
|
||||||
|
// log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody, "resp", baseResp)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return baseResp.Data, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetAdminToken(ctx context.Context) (string, error) {
|
||||||
|
req := auth.GetAdminTokenReq{
|
||||||
|
Secret: st.Conf.Share.Secret,
|
||||||
|
UserID: st.AdminUserID,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetAdminToken, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &auth.GetAdminTokenResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
return data.Token, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CheckUser(ctx context.Context, userIDs []string) ([]string, error) {
|
||||||
|
req := pbuser.AccountCheckReq{
|
||||||
|
CheckUserIDs: userIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+UserCheck, &req)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &pbuser.AccountCheckResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
unRegisteredUserIDs := make([]string, 0)
|
||||||
|
|
||||||
|
for _, res := range data.Results {
|
||||||
|
if res.AccountStatus == constant.UnRegistered {
|
||||||
|
unRegisteredUserIDs = append(unRegisteredUserIDs, res.UserID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return unRegisteredUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUser(ctx context.Context, userID string) (string, error) {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: []*sdkws.UserInfo{user},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter++
|
||||||
|
return userID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUserBatch(ctx context.Context, userIDs []string) error {
|
||||||
|
// The method can import a large number of users at once.
|
||||||
|
var userList []*sdkws.UserInfo
|
||||||
|
|
||||||
|
defer st.Once.Do(
|
||||||
|
func() {
|
||||||
|
st.DefaultUserID = userIDs[0]
|
||||||
|
fmt.Println("Default Send User Created ID:", st.DefaultUserID)
|
||||||
|
})
|
||||||
|
|
||||||
|
needUserIDs, err := st.CheckUser(ctx, userIDs)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range needUserIDs {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
userList = append(userList, user)
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: userList,
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err = st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter += len(userList)
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetGroupMembersInfo(ctx context.Context, groupID string, userIDs []string) ([]string, error) {
|
||||||
|
needInviteUserIDs := make([]string, 0)
|
||||||
|
|
||||||
|
const maxBatchSize = 500
|
||||||
|
if len(userIDs) > maxBatchSize {
|
||||||
|
for i := 0; i < len(userIDs); i += maxBatchSize {
|
||||||
|
end := min(i+maxBatchSize, len(userIDs))
|
||||||
|
batchUserIDs := userIDs[i:end]
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Processing group members batch", "groupID", groupID, "batch", i/maxBatchSize+1,
|
||||||
|
// "batchUserCount", len(batchUserIDs))
|
||||||
|
|
||||||
|
// Process a single batch
|
||||||
|
batchReq := group.GetGroupMembersInfoReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
UserIDs: batchUserIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetGroupMemberInfo, &batchReq)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Batch query failed", err, "batch", i/maxBatchSize+1)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &group.GetGroupMembersInfoResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to parse batch response", err, "batch", i/maxBatchSize+1)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Process the batch results
|
||||||
|
existingMembers := make(map[string]bool)
|
||||||
|
for _, member := range data.Members {
|
||||||
|
existingMembers[member.UserID] = true
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range batchUserIDs {
|
||||||
|
if !existingMembers[userID] {
|
||||||
|
needInviteUserIDs = append(needInviteUserIDs, userID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return needInviteUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.GetGroupMembersInfoReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
UserIDs: userIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetGroupMemberInfo, &req)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &group.GetGroupMembersInfoResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
existingMembers := make(map[string]bool)
|
||||||
|
for _, member := range data.Members {
|
||||||
|
existingMembers[member.UserID] = true
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range userIDs {
|
||||||
|
if !existingMembers[userID] {
|
||||||
|
needInviteUserIDs = append(needInviteUserIDs, userID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return needInviteUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) InviteToGroup(ctx context.Context, groupID string, userIDs []string) error {
|
||||||
|
req := group.InviteUserToGroupReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
InvitedUserIDs: userIDs,
|
||||||
|
}
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+InviteToGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) SendMsg(ctx context.Context, userID string, groupID string) error {
|
||||||
|
contentObj := map[string]any{
|
||||||
|
// "content": fmt.Sprintf("index %d. The current time is %s", st.MsgCounter, time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
"content": fmt.Sprintf("The current time is %s", time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
}
|
||||||
|
|
||||||
|
req := &apistruct.SendMsgReq{
|
||||||
|
SendMsg: apistruct.SendMsg{
|
||||||
|
SendID: userID,
|
||||||
|
SenderNickname: userID,
|
||||||
|
GroupID: groupID,
|
||||||
|
ContentType: constant.Text,
|
||||||
|
SessionType: constant.ReadGroupChatType,
|
||||||
|
Content: contentObj,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+SendMsg, &req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send message", err, "userID", userID, "req", &req)
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.MsgCounter++
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Max userIDs number is 1000
|
||||||
|
func (st *StressTest) CreateGroup(ctx context.Context, groupID string, userID string, userIDsList []string) (string, error) {
|
||||||
|
groupInfo := &sdkws.GroupInfo{
|
||||||
|
GroupID: groupID,
|
||||||
|
GroupName: groupID,
|
||||||
|
GroupType: constant.WorkingGroup,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.CreateGroupReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
MemberUserIDs: userIDsList,
|
||||||
|
GroupInfo: groupInfo,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp := group.CreateGroupResp{}
|
||||||
|
|
||||||
|
response, err := st.PostRequest(ctx, ApiAddress+CreateGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
if err := json.Unmarshal(response, &resp); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
// st.GroupCounter++
|
||||||
|
|
||||||
|
return resp.GroupInfo.GroupID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func main() {
|
||||||
|
var configPath string
|
||||||
|
// defaultConfigDir := filepath.Join("..", "..", "..", "..", "..", "config")
|
||||||
|
// flag.StringVar(&configPath, "c", defaultConfigDir, "config path")
|
||||||
|
flag.StringVar(&configPath, "c", "", "config path")
|
||||||
|
flag.Parse()
|
||||||
|
|
||||||
|
if configPath == "" {
|
||||||
|
_, _ = fmt.Fprintln(os.Stderr, "config path is empty")
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
fmt.Printf(" Config Path: %s\n", configPath)
|
||||||
|
|
||||||
|
share, apiConfig, err := initConfig(configPath)
|
||||||
|
if err != nil {
|
||||||
|
program.ExitWithError(err)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
ApiAddress = fmt.Sprintf("http://%s:%s", "127.0.0.1", fmt.Sprint(apiConfig.Api.Ports[0]))
|
||||||
|
|
||||||
|
ctx, cancel := context.WithCancel(context.Background())
|
||||||
|
// ch := make(chan struct{})
|
||||||
|
|
||||||
|
st := &StressTest{
|
||||||
|
Conf: &conf{
|
||||||
|
Share: *share,
|
||||||
|
Api: *apiConfig,
|
||||||
|
},
|
||||||
|
AdminUserID: share.IMAdminUserID[0],
|
||||||
|
Ctx: ctx,
|
||||||
|
Cancel: cancel,
|
||||||
|
HttpClient: &http.Client{
|
||||||
|
Timeout: 50 * time.Second,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
c := make(chan os.Signal, 1)
|
||||||
|
signal.Notify(c, os.Interrupt, syscall.SIGTERM)
|
||||||
|
go func() {
|
||||||
|
<-c
|
||||||
|
fmt.Println("\nReceived stop signal, stopping...")
|
||||||
|
|
||||||
|
go func() {
|
||||||
|
// time.Sleep(5 * time.Second)
|
||||||
|
fmt.Println("Force exit")
|
||||||
|
os.Exit(0)
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Cancel()
|
||||||
|
}()
|
||||||
|
|
||||||
|
token, err := st.GetAdminToken(st.Ctx)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Get Admin Token failed.", err, "AdminUserID", st.AdminUserID)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.AdminToken = token
|
||||||
|
fmt.Println("Admin Token:", st.AdminToken)
|
||||||
|
fmt.Println("ApiAddress:", ApiAddress)
|
||||||
|
|
||||||
|
for i := range MaxUser {
|
||||||
|
userID := fmt.Sprintf("v2_StressTest_User_%d", i)
|
||||||
|
st.CreatedUsers = append(st.CreatedUsers, userID)
|
||||||
|
st.CreateUserCounter++
|
||||||
|
}
|
||||||
|
|
||||||
|
// err = st.CreateUserBatch(st.Ctx, st.CreatedUsers)
|
||||||
|
// if err != nil {
|
||||||
|
// log.ZError(ctx, "Create user failed.", err)
|
||||||
|
// }
|
||||||
|
|
||||||
|
const batchSize = 1000
|
||||||
|
totalUsers := len(st.CreatedUsers)
|
||||||
|
successCount := 0
|
||||||
|
|
||||||
|
if st.DefaultUserID == "" && len(st.CreatedUsers) > 0 {
|
||||||
|
st.DefaultUserID = st.CreatedUsers[0]
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := 0; i < totalUsers; i += batchSize {
|
||||||
|
end := min(i+batchSize, totalUsers)
|
||||||
|
|
||||||
|
userBatch := st.CreatedUsers[i:end]
|
||||||
|
log.ZInfo(st.Ctx, "Creating user batch", "batch", i/batchSize+1, "count", len(userBatch))
|
||||||
|
|
||||||
|
err = st.CreateUserBatch(st.Ctx, userBatch)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Batch user creation failed", err, "batch", i/batchSize+1)
|
||||||
|
} else {
|
||||||
|
successCount += len(userBatch)
|
||||||
|
log.ZInfo(st.Ctx, "Batch user creation succeeded", "batch", i/batchSize+1,
|
||||||
|
"progress", fmt.Sprintf("%d/%d", successCount, totalUsers))
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
// Execute create 100k group
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
create100kGroupTicker := time.NewTicker(Create100KGroupTicker)
|
||||||
|
defer create100kGroupTicker.Stop()
|
||||||
|
|
||||||
|
for i := range Max100KGroup {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create 100K Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-create100kGroupTicker.C:
|
||||||
|
// Create 100K groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func(idx int) {
|
||||||
|
startTime := time.Now()
|
||||||
|
defer func() {
|
||||||
|
elapsedTime := time.Since(startTime)
|
||||||
|
log.ZInfo(st.Ctx, "100K group creation completed",
|
||||||
|
"groupID", fmt.Sprintf("v2_StressTest_Group_100K_%d", idx),
|
||||||
|
"index", idx,
|
||||||
|
"duration", elapsedTime.String())
|
||||||
|
}()
|
||||||
|
|
||||||
|
defer st.Wg.Done()
|
||||||
|
defer func() {
|
||||||
|
st.Mutex.Lock()
|
||||||
|
st.Create100kGroupCounter++
|
||||||
|
st.Mutex.Unlock()
|
||||||
|
}()
|
||||||
|
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_100K_%d", idx)
|
||||||
|
|
||||||
|
if _, err = st.CreateGroup(st.Ctx, groupID, st.DefaultUserID, TestTargetUserList); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create group failed.", err)
|
||||||
|
// continue
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := 0; i <= MaxUser/MaxInviteUserLimit; i++ {
|
||||||
|
InviteUserIDs := make([]string, 0)
|
||||||
|
// ensure TargetUserList is in group
|
||||||
|
InviteUserIDs = append(InviteUserIDs, TestTargetUserList...)
|
||||||
|
|
||||||
|
startIdx := max(i*MaxInviteUserLimit, 1)
|
||||||
|
endIdx := min((i+1)*MaxInviteUserLimit, MaxUser)
|
||||||
|
|
||||||
|
for j := startIdx; j < endIdx; j++ {
|
||||||
|
userCreatedID := fmt.Sprintf("v2_StressTest_User_%d", j)
|
||||||
|
InviteUserIDs = append(InviteUserIDs, userCreatedID)
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
// log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
InviteUserIDs, err := st.GetGroupMembersInfo(ctx, groupID, InviteUserIDs)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "GetGroupMembersInfo failed.", err, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
// log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, groupID, InviteUserIDs); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", InviteUserIDs)
|
||||||
|
continue
|
||||||
|
// os.Exit(1)
|
||||||
|
// return
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}(i)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// create 999 groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
create999GroupTicker := time.NewTicker(Create999GroupTicker)
|
||||||
|
defer create999GroupTicker.Stop()
|
||||||
|
|
||||||
|
for i := range Max999Group {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create 999 Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-create999GroupTicker.C:
|
||||||
|
// Create 999 groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func(idx int) {
|
||||||
|
startTime := time.Now()
|
||||||
|
defer func() {
|
||||||
|
elapsedTime := time.Since(startTime)
|
||||||
|
log.ZInfo(st.Ctx, "999 group creation completed",
|
||||||
|
"groupID", fmt.Sprintf("v2_StressTest_Group_1K_%d", idx),
|
||||||
|
"index", idx,
|
||||||
|
"duration", elapsedTime.String())
|
||||||
|
}()
|
||||||
|
|
||||||
|
defer st.Wg.Done()
|
||||||
|
defer func() {
|
||||||
|
st.Mutex.Lock()
|
||||||
|
st.Create999GroupCounter++
|
||||||
|
st.Mutex.Unlock()
|
||||||
|
}()
|
||||||
|
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_1K_%d", idx)
|
||||||
|
|
||||||
|
if _, err = st.CreateGroup(st.Ctx, groupID, st.DefaultUserID, TestTargetUserList); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create group failed.", err)
|
||||||
|
// continue
|
||||||
|
}
|
||||||
|
for i := 0; i <= Max1kUser/MaxInviteUserLimit; i++ {
|
||||||
|
InviteUserIDs := make([]string, 0)
|
||||||
|
// ensure TargetUserList is in group
|
||||||
|
InviteUserIDs = append(InviteUserIDs, TestTargetUserList...)
|
||||||
|
|
||||||
|
startIdx := max(i*MaxInviteUserLimit, 1)
|
||||||
|
endIdx := min((i+1)*MaxInviteUserLimit, Max1kUser)
|
||||||
|
|
||||||
|
for j := startIdx; j < endIdx; j++ {
|
||||||
|
userCreatedID := fmt.Sprintf("v2_StressTest_User_%d", j)
|
||||||
|
InviteUserIDs = append(InviteUserIDs, userCreatedID)
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
// log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
InviteUserIDs, err := st.GetGroupMembersInfo(ctx, groupID, InviteUserIDs)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "GetGroupMembersInfo failed.", err, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
// log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, groupID, InviteUserIDs); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", InviteUserIDs)
|
||||||
|
continue
|
||||||
|
// os.Exit(1)
|
||||||
|
// return
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}(i)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// Send message to 100K groups
|
||||||
|
st.Wg.Wait()
|
||||||
|
fmt.Println("All groups created successfully, starting to send messages...")
|
||||||
|
log.ZInfo(ctx, "All groups created successfully, starting to send messages...")
|
||||||
|
|
||||||
|
var groups100K []string
|
||||||
|
var groups999 []string
|
||||||
|
|
||||||
|
for i := range Max100KGroup {
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_100K_%d", i)
|
||||||
|
groups100K = append(groups100K, groupID)
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := range Max999Group {
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_1K_%d", i)
|
||||||
|
groups999 = append(groups999, groupID)
|
||||||
|
}
|
||||||
|
|
||||||
|
send100kGroupLimiter := make(chan struct{}, 20)
|
||||||
|
send999GroupLimiter := make(chan struct{}, 100)
|
||||||
|
|
||||||
|
// execute Send message to 100K groups
|
||||||
|
go func() {
|
||||||
|
ticker := time.NewTicker(SendMsgTo100KGroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send Message to 100K Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send message to 100K groups
|
||||||
|
for _, groupID := range groups100K {
|
||||||
|
send100kGroupLimiter <- struct{}{}
|
||||||
|
go func(groupID string) {
|
||||||
|
defer func() { <-send100kGroupLimiter }()
|
||||||
|
if err := st.SendMsg(st.Ctx, st.DefaultUserID, groupID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send message to 100K group failed.", err)
|
||||||
|
}
|
||||||
|
}(groupID)
|
||||||
|
}
|
||||||
|
// log.ZInfo(st.Ctx, "Send message to 100K groups successfully.")
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// execute Send message to 999 groups
|
||||||
|
go func() {
|
||||||
|
ticker := time.NewTicker(SendMsgTo999GroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send Message to 999 Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send message to 999 groups
|
||||||
|
for _, groupID := range groups999 {
|
||||||
|
send999GroupLimiter <- struct{}{}
|
||||||
|
go func(groupID string) {
|
||||||
|
defer func() { <-send999GroupLimiter }()
|
||||||
|
|
||||||
|
if err := st.SendMsg(st.Ctx, st.DefaultUserID, groupID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send message to 999 group failed.", err)
|
||||||
|
}
|
||||||
|
}(groupID)
|
||||||
|
}
|
||||||
|
// log.ZInfo(st.Ctx, "Send message to 999 groups successfully.")
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
<-st.Ctx.Done()
|
||||||
|
fmt.Println("Received signal to exit, shutting down...")
|
||||||
|
}
|
||||||
@ -0,0 +1,19 @@
|
|||||||
|
# Stress Test
|
||||||
|
|
||||||
|
## Usage
|
||||||
|
|
||||||
|
You need set `TestTargetUserList` and `DefaultGroupID` variables.
|
||||||
|
|
||||||
|
### Build
|
||||||
|
|
||||||
|
```bash
|
||||||
|
|
||||||
|
go build -o test/stress-test/stress-test test/stress-test/main.go
|
||||||
|
```
|
||||||
|
|
||||||
|
### Excute
|
||||||
|
|
||||||
|
```bash
|
||||||
|
|
||||||
|
tools/stress-test/stress-test -c config/
|
||||||
|
```
|
||||||
@ -0,0 +1,458 @@
|
|||||||
|
package main
|
||||||
|
|
||||||
|
import (
|
||||||
|
"bytes"
|
||||||
|
"context"
|
||||||
|
"encoding/json"
|
||||||
|
"flag"
|
||||||
|
"fmt"
|
||||||
|
"io"
|
||||||
|
"net/http"
|
||||||
|
"os"
|
||||||
|
"os/signal"
|
||||||
|
"sync"
|
||||||
|
"syscall"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/apistruct"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/config"
|
||||||
|
"github.com/openimsdk/protocol/auth"
|
||||||
|
"github.com/openimsdk/protocol/constant"
|
||||||
|
"github.com/openimsdk/protocol/group"
|
||||||
|
"github.com/openimsdk/protocol/relation"
|
||||||
|
"github.com/openimsdk/protocol/sdkws"
|
||||||
|
pbuser "github.com/openimsdk/protocol/user"
|
||||||
|
"github.com/openimsdk/tools/log"
|
||||||
|
"github.com/openimsdk/tools/system/program"
|
||||||
|
)
|
||||||
|
|
||||||
|
/*
|
||||||
|
1. Create one user every minute
|
||||||
|
2. Import target users as friends
|
||||||
|
3. Add users to the default group
|
||||||
|
4. Send a message to the default group every second, containing index and current timestamp
|
||||||
|
5. Create a new group every minute and invite target users to join
|
||||||
|
*/
|
||||||
|
|
||||||
|
// !!! ATTENTION: This variable is must be added!
|
||||||
|
var (
|
||||||
|
// Use default userIDs List for testing, need to be created.
|
||||||
|
TestTargetUserList = []string{
|
||||||
|
"<need-update-it>",
|
||||||
|
}
|
||||||
|
DefaultGroupID = "<need-update-it>" // Use default group ID for testing, need to be created.
|
||||||
|
)
|
||||||
|
|
||||||
|
var (
|
||||||
|
ApiAddress string
|
||||||
|
|
||||||
|
// API method
|
||||||
|
GetAdminToken = "/auth/get_admin_token"
|
||||||
|
CreateUser = "/user/user_register"
|
||||||
|
ImportFriend = "/friend/import_friend"
|
||||||
|
InviteToGroup = "/group/invite_user_to_group"
|
||||||
|
SendMsg = "/msg/send_msg"
|
||||||
|
CreateGroup = "/group/create_group"
|
||||||
|
GetUserToken = "/auth/user_token"
|
||||||
|
)
|
||||||
|
|
||||||
|
const (
|
||||||
|
MaxUser = 10000
|
||||||
|
MaxGroup = 1000
|
||||||
|
|
||||||
|
CreateUserTicker = 1 * time.Minute // Ticker is 1min in create user
|
||||||
|
SendMessageTicker = 1 * time.Second // Ticker is 1s in send message
|
||||||
|
CreateGroupTicker = 1 * time.Minute
|
||||||
|
)
|
||||||
|
|
||||||
|
type BaseResp struct {
|
||||||
|
ErrCode int `json:"errCode"`
|
||||||
|
ErrMsg string `json:"errMsg"`
|
||||||
|
Data json.RawMessage `json:"data"`
|
||||||
|
}
|
||||||
|
|
||||||
|
type StressTest struct {
|
||||||
|
Conf *conf
|
||||||
|
AdminUserID string
|
||||||
|
AdminToken string
|
||||||
|
DefaultGroupID string
|
||||||
|
DefaultUserID string
|
||||||
|
UserCounter int
|
||||||
|
GroupCounter int
|
||||||
|
MsgCounter int
|
||||||
|
CreatedUsers []string
|
||||||
|
CreatedGroups []string
|
||||||
|
Mutex sync.Mutex
|
||||||
|
Ctx context.Context
|
||||||
|
Cancel context.CancelFunc
|
||||||
|
HttpClient *http.Client
|
||||||
|
Wg sync.WaitGroup
|
||||||
|
Once sync.Once
|
||||||
|
}
|
||||||
|
|
||||||
|
type conf struct {
|
||||||
|
Share config.Share
|
||||||
|
Api config.API
|
||||||
|
}
|
||||||
|
|
||||||
|
func initConfig(configDir string) (*config.Share, *config.API, error) {
|
||||||
|
var (
|
||||||
|
share = &config.Share{}
|
||||||
|
apiConfig = &config.API{}
|
||||||
|
)
|
||||||
|
|
||||||
|
err := config.Load(configDir, config.ShareFileName, config.EnvPrefixMap[config.ShareFileName], share)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
err = config.Load(configDir, config.OpenIMAPICfgFileName, config.EnvPrefixMap[config.OpenIMAPICfgFileName], apiConfig)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return share, apiConfig, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Post Request
|
||||||
|
func (st *StressTest) PostRequest(ctx context.Context, url string, reqbody any) ([]byte, error) {
|
||||||
|
// Marshal body
|
||||||
|
jsonBody, err := json.Marshal(reqbody)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to marshal request body", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(jsonBody))
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
req.Header.Set("Content-Type", "application/json")
|
||||||
|
req.Header.Set("operationID", st.AdminUserID)
|
||||||
|
if st.AdminToken != "" {
|
||||||
|
req.Header.Set("token", st.AdminToken)
|
||||||
|
}
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Header info is ", "Content-Type", "application/json", "operationID", st.AdminUserID, "token", st.AdminToken)
|
||||||
|
|
||||||
|
resp, err := st.HttpClient.Do(req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
defer resp.Body.Close()
|
||||||
|
|
||||||
|
respBody, err := io.ReadAll(resp.Body)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to read response body", err, "url", url)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
var baseResp BaseResp
|
||||||
|
if err := json.Unmarshal(respBody, &baseResp); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to unmarshal response body", err, "url", url, "respBody", string(respBody))
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
if baseResp.ErrCode != 0 {
|
||||||
|
err = fmt.Errorf(baseResp.ErrMsg)
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody, "resp", baseResp)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return baseResp.Data, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetAdminToken(ctx context.Context) (string, error) {
|
||||||
|
req := auth.GetAdminTokenReq{
|
||||||
|
Secret: st.Conf.Share.Secret,
|
||||||
|
UserID: st.AdminUserID,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetAdminToken, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &auth.GetAdminTokenResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
return data.Token, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUser(ctx context.Context, userID string) (string, error) {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: []*sdkws.UserInfo{user},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter++
|
||||||
|
return userID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) ImportFriend(ctx context.Context, userID string) error {
|
||||||
|
req := relation.ImportFriendReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
FriendUserIDs: TestTargetUserList,
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+ImportFriend, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) InviteToGroup(ctx context.Context, userID string) error {
|
||||||
|
req := group.InviteUserToGroupReq{
|
||||||
|
GroupID: st.DefaultGroupID,
|
||||||
|
InvitedUserIDs: []string{userID},
|
||||||
|
}
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+InviteToGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) SendMsg(ctx context.Context, userID string) error {
|
||||||
|
contentObj := map[string]any{
|
||||||
|
"content": fmt.Sprintf("index %d. The current time is %s", st.MsgCounter, time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
}
|
||||||
|
|
||||||
|
req := &apistruct.SendMsgReq{
|
||||||
|
SendMsg: apistruct.SendMsg{
|
||||||
|
SendID: userID,
|
||||||
|
SenderNickname: userID,
|
||||||
|
GroupID: st.DefaultGroupID,
|
||||||
|
ContentType: constant.Text,
|
||||||
|
SessionType: constant.ReadGroupChatType,
|
||||||
|
Content: contentObj,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+SendMsg, &req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send message", err, "userID", userID, "req", &req)
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.MsgCounter++
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateGroup(ctx context.Context, userID string) (string, error) {
|
||||||
|
groupID := fmt.Sprintf("StressTestGroup_%d_%s", st.GroupCounter, time.Now().Format("20060102150405"))
|
||||||
|
|
||||||
|
groupInfo := &sdkws.GroupInfo{
|
||||||
|
GroupID: groupID,
|
||||||
|
GroupName: groupID,
|
||||||
|
GroupType: constant.WorkingGroup,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.CreateGroupReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
MemberUserIDs: TestTargetUserList,
|
||||||
|
GroupInfo: groupInfo,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp := group.CreateGroupResp{}
|
||||||
|
|
||||||
|
response, err := st.PostRequest(ctx, ApiAddress+CreateGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
if err := json.Unmarshal(response, &resp); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.GroupCounter++
|
||||||
|
|
||||||
|
return resp.GroupInfo.GroupID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func main() {
|
||||||
|
var configPath string
|
||||||
|
// defaultConfigDir := filepath.Join("..", "..", "..", "..", "..", "config")
|
||||||
|
// flag.StringVar(&configPath, "c", defaultConfigDir, "config path")
|
||||||
|
flag.StringVar(&configPath, "c", "", "config path")
|
||||||
|
flag.Parse()
|
||||||
|
|
||||||
|
if configPath == "" {
|
||||||
|
_, _ = fmt.Fprintln(os.Stderr, "config path is empty")
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
fmt.Printf(" Config Path: %s\n", configPath)
|
||||||
|
|
||||||
|
share, apiConfig, err := initConfig(configPath)
|
||||||
|
if err != nil {
|
||||||
|
program.ExitWithError(err)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
ApiAddress = fmt.Sprintf("http://%s:%s", "127.0.0.1", fmt.Sprint(apiConfig.Api.Ports[0]))
|
||||||
|
|
||||||
|
ctx, cancel := context.WithCancel(context.Background())
|
||||||
|
ch := make(chan struct{})
|
||||||
|
|
||||||
|
defer cancel()
|
||||||
|
|
||||||
|
st := &StressTest{
|
||||||
|
Conf: &conf{
|
||||||
|
Share: *share,
|
||||||
|
Api: *apiConfig,
|
||||||
|
},
|
||||||
|
AdminUserID: share.IMAdminUserID[0],
|
||||||
|
Ctx: ctx,
|
||||||
|
Cancel: cancel,
|
||||||
|
HttpClient: &http.Client{
|
||||||
|
Timeout: 50 * time.Second,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
c := make(chan os.Signal, 1)
|
||||||
|
signal.Notify(c, os.Interrupt, syscall.SIGTERM)
|
||||||
|
go func() {
|
||||||
|
<-c
|
||||||
|
fmt.Println("\nReceived stop signal, stopping...")
|
||||||
|
|
||||||
|
select {
|
||||||
|
case <-ch:
|
||||||
|
default:
|
||||||
|
close(ch)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.Cancel()
|
||||||
|
}()
|
||||||
|
|
||||||
|
token, err := st.GetAdminToken(st.Ctx)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Get Admin Token failed.", err, "AdminUserID", st.AdminUserID)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.AdminToken = token
|
||||||
|
fmt.Println("Admin Token:", st.AdminToken)
|
||||||
|
fmt.Println("ApiAddress:", ApiAddress)
|
||||||
|
|
||||||
|
st.DefaultGroupID = DefaultGroupID
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(CreateUserTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for st.UserCounter < MaxUser {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create user", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Create User
|
||||||
|
userID := fmt.Sprintf("%d_Stresstest_%s", st.UserCounter, time.Now().Format("0102150405"))
|
||||||
|
|
||||||
|
userCreatedID, err := st.CreateUser(st.Ctx, userID)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create User failed.", err, "UserID", userID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
// fmt.Println("User Created ID:", userCreatedID)
|
||||||
|
|
||||||
|
// Import Friend
|
||||||
|
if err = st.ImportFriend(st.Ctx, userCreatedID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Import Friend failed.", err, "UserID", userCreatedID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, userCreatedID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", userCreatedID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
st.Once.Do(func() {
|
||||||
|
st.DefaultUserID = userCreatedID
|
||||||
|
fmt.Println("Default Send User Created ID:", userCreatedID)
|
||||||
|
close(ch)
|
||||||
|
})
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(SendMessageTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
<-ch
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send message", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send Message
|
||||||
|
if err = st.SendMsg(st.Ctx, st.DefaultUserID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send Message failed.", err, "UserID", st.DefaultUserID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(CreateGroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
<-ch
|
||||||
|
|
||||||
|
for st.GroupCounter < MaxGroup {
|
||||||
|
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create Group", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
|
||||||
|
// Create Group
|
||||||
|
_, err := st.CreateGroup(st.Ctx, st.DefaultUserID)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create Group failed.", err, "UserID", st.DefaultUserID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
// fmt.Println("Group Created ID:", groupID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Wait()
|
||||||
|
}
|
||||||
@ -0,0 +1,736 @@
|
|||||||
|
package main
|
||||||
|
|
||||||
|
import (
|
||||||
|
"bytes"
|
||||||
|
"context"
|
||||||
|
"encoding/json"
|
||||||
|
"flag"
|
||||||
|
"fmt"
|
||||||
|
"io"
|
||||||
|
"net/http"
|
||||||
|
"os"
|
||||||
|
"os/signal"
|
||||||
|
"sync"
|
||||||
|
"syscall"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/apistruct"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/config"
|
||||||
|
"github.com/openimsdk/protocol/auth"
|
||||||
|
"github.com/openimsdk/protocol/constant"
|
||||||
|
"github.com/openimsdk/protocol/group"
|
||||||
|
"github.com/openimsdk/protocol/sdkws"
|
||||||
|
pbuser "github.com/openimsdk/protocol/user"
|
||||||
|
"github.com/openimsdk/tools/log"
|
||||||
|
"github.com/openimsdk/tools/system/program"
|
||||||
|
)
|
||||||
|
|
||||||
|
// 1. Create 100K New Users
|
||||||
|
// 2. Create 100 100K Groups
|
||||||
|
// 3. Create 1000 999 Groups
|
||||||
|
// 4. Send message to 100K Groups every second
|
||||||
|
// 5. Send message to 999 Groups every minute
|
||||||
|
|
||||||
|
var (
|
||||||
|
// Use default userIDs List for testing, need to be created.
|
||||||
|
TestTargetUserList = []string{
|
||||||
|
// "<need-update-it>",
|
||||||
|
}
|
||||||
|
// DefaultGroupID = "<need-update-it>" // Use default group ID for testing, need to be created.
|
||||||
|
)
|
||||||
|
|
||||||
|
var (
|
||||||
|
ApiAddress string
|
||||||
|
|
||||||
|
// API method
|
||||||
|
GetAdminToken = "/auth/get_admin_token"
|
||||||
|
UserCheck = "/user/account_check"
|
||||||
|
CreateUser = "/user/user_register"
|
||||||
|
ImportFriend = "/friend/import_friend"
|
||||||
|
InviteToGroup = "/group/invite_user_to_group"
|
||||||
|
GetGroupMemberInfo = "/group/get_group_members_info"
|
||||||
|
SendMsg = "/msg/send_msg"
|
||||||
|
CreateGroup = "/group/create_group"
|
||||||
|
GetUserToken = "/auth/user_token"
|
||||||
|
)
|
||||||
|
|
||||||
|
const (
|
||||||
|
MaxUser = 100000
|
||||||
|
Max100KGroup = 100
|
||||||
|
Max999Group = 1000
|
||||||
|
MaxInviteUserLimit = 999
|
||||||
|
|
||||||
|
CreateUserTicker = 1 * time.Second
|
||||||
|
CreateGroupTicker = 1 * time.Second
|
||||||
|
Create100KGroupTicker = 1 * time.Second
|
||||||
|
Create999GroupTicker = 1 * time.Second
|
||||||
|
SendMsgTo100KGroupTicker = 1 * time.Second
|
||||||
|
SendMsgTo999GroupTicker = 1 * time.Minute
|
||||||
|
)
|
||||||
|
|
||||||
|
type BaseResp struct {
|
||||||
|
ErrCode int `json:"errCode"`
|
||||||
|
ErrMsg string `json:"errMsg"`
|
||||||
|
Data json.RawMessage `json:"data"`
|
||||||
|
}
|
||||||
|
|
||||||
|
type StressTest struct {
|
||||||
|
Conf *conf
|
||||||
|
AdminUserID string
|
||||||
|
AdminToken string
|
||||||
|
DefaultGroupID string
|
||||||
|
DefaultUserID string
|
||||||
|
UserCounter int
|
||||||
|
CreateUserCounter int
|
||||||
|
Create100kGroupCounter int
|
||||||
|
Create999GroupCounter int
|
||||||
|
MsgCounter int
|
||||||
|
CreatedUsers []string
|
||||||
|
CreatedGroups []string
|
||||||
|
Mutex sync.Mutex
|
||||||
|
Ctx context.Context
|
||||||
|
Cancel context.CancelFunc
|
||||||
|
HttpClient *http.Client
|
||||||
|
Wg sync.WaitGroup
|
||||||
|
Once sync.Once
|
||||||
|
}
|
||||||
|
|
||||||
|
type conf struct {
|
||||||
|
Share config.Share
|
||||||
|
Api config.API
|
||||||
|
}
|
||||||
|
|
||||||
|
func initConfig(configDir string) (*config.Share, *config.API, error) {
|
||||||
|
var (
|
||||||
|
share = &config.Share{}
|
||||||
|
apiConfig = &config.API{}
|
||||||
|
)
|
||||||
|
|
||||||
|
err := config.Load(configDir, config.ShareFileName, config.EnvPrefixMap[config.ShareFileName], share)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
err = config.Load(configDir, config.OpenIMAPICfgFileName, config.EnvPrefixMap[config.OpenIMAPICfgFileName], apiConfig)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return share, apiConfig, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Post Request
|
||||||
|
func (st *StressTest) PostRequest(ctx context.Context, url string, reqbody any) ([]byte, error) {
|
||||||
|
// Marshal body
|
||||||
|
jsonBody, err := json.Marshal(reqbody)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to marshal request body", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(jsonBody))
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
req.Header.Set("Content-Type", "application/json")
|
||||||
|
req.Header.Set("operationID", st.AdminUserID)
|
||||||
|
if st.AdminToken != "" {
|
||||||
|
req.Header.Set("token", st.AdminToken)
|
||||||
|
}
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Header info is ", "Content-Type", "application/json", "operationID", st.AdminUserID, "token", st.AdminToken)
|
||||||
|
|
||||||
|
resp, err := st.HttpClient.Do(req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
defer resp.Body.Close()
|
||||||
|
|
||||||
|
respBody, err := io.ReadAll(resp.Body)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to read response body", err, "url", url)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
var baseResp BaseResp
|
||||||
|
if err := json.Unmarshal(respBody, &baseResp); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to unmarshal response body", err, "url", url, "respBody", string(respBody))
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
if baseResp.ErrCode != 0 {
|
||||||
|
err = fmt.Errorf(baseResp.ErrMsg)
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody, "resp", baseResp)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return baseResp.Data, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetAdminToken(ctx context.Context) (string, error) {
|
||||||
|
req := auth.GetAdminTokenReq{
|
||||||
|
Secret: st.Conf.Share.Secret,
|
||||||
|
UserID: st.AdminUserID,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetAdminToken, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &auth.GetAdminTokenResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
return data.Token, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CheckUser(ctx context.Context, userIDs []string) ([]string, error) {
|
||||||
|
req := pbuser.AccountCheckReq{
|
||||||
|
CheckUserIDs: userIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+UserCheck, &req)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &pbuser.AccountCheckResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
unRegisteredUserIDs := make([]string, 0)
|
||||||
|
|
||||||
|
for _, res := range data.Results {
|
||||||
|
if res.AccountStatus == constant.UnRegistered {
|
||||||
|
unRegisteredUserIDs = append(unRegisteredUserIDs, res.UserID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return unRegisteredUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUser(ctx context.Context, userID string) (string, error) {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: []*sdkws.UserInfo{user},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter++
|
||||||
|
return userID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUserBatch(ctx context.Context, userIDs []string) error {
|
||||||
|
// The method can import a large number of users at once.
|
||||||
|
var userList []*sdkws.UserInfo
|
||||||
|
|
||||||
|
defer st.Once.Do(
|
||||||
|
func() {
|
||||||
|
st.DefaultUserID = userIDs[0]
|
||||||
|
fmt.Println("Default Send User Created ID:", st.DefaultUserID)
|
||||||
|
})
|
||||||
|
|
||||||
|
needUserIDs, err := st.CheckUser(ctx, userIDs)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range needUserIDs {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
userList = append(userList, user)
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: userList,
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err = st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter += len(userList)
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetGroupMembersInfo(ctx context.Context, groupID string, userIDs []string) ([]string, error) {
|
||||||
|
needInviteUserIDs := make([]string, 0)
|
||||||
|
|
||||||
|
const maxBatchSize = 500
|
||||||
|
if len(userIDs) > maxBatchSize {
|
||||||
|
for i := 0; i < len(userIDs); i += maxBatchSize {
|
||||||
|
end := min(i+maxBatchSize, len(userIDs))
|
||||||
|
batchUserIDs := userIDs[i:end]
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Processing group members batch", "groupID", groupID, "batch", i/maxBatchSize+1,
|
||||||
|
// "batchUserCount", len(batchUserIDs))
|
||||||
|
|
||||||
|
// Process a single batch
|
||||||
|
batchReq := group.GetGroupMembersInfoReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
UserIDs: batchUserIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetGroupMemberInfo, &batchReq)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Batch query failed", err, "batch", i/maxBatchSize+1)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &group.GetGroupMembersInfoResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to parse batch response", err, "batch", i/maxBatchSize+1)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Process the batch results
|
||||||
|
existingMembers := make(map[string]bool)
|
||||||
|
for _, member := range data.Members {
|
||||||
|
existingMembers[member.UserID] = true
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range batchUserIDs {
|
||||||
|
if !existingMembers[userID] {
|
||||||
|
needInviteUserIDs = append(needInviteUserIDs, userID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return needInviteUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.GetGroupMembersInfoReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
UserIDs: userIDs,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetGroupMemberInfo, &req)
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &group.GetGroupMembersInfoResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
existingMembers := make(map[string]bool)
|
||||||
|
for _, member := range data.Members {
|
||||||
|
existingMembers[member.UserID] = true
|
||||||
|
}
|
||||||
|
|
||||||
|
for _, userID := range userIDs {
|
||||||
|
if !existingMembers[userID] {
|
||||||
|
needInviteUserIDs = append(needInviteUserIDs, userID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
return needInviteUserIDs, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) InviteToGroup(ctx context.Context, groupID string, userIDs []string) error {
|
||||||
|
req := group.InviteUserToGroupReq{
|
||||||
|
GroupID: groupID,
|
||||||
|
InvitedUserIDs: userIDs,
|
||||||
|
}
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+InviteToGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) SendMsg(ctx context.Context, userID string, groupID string) error {
|
||||||
|
contentObj := map[string]any{
|
||||||
|
// "content": fmt.Sprintf("index %d. The current time is %s", st.MsgCounter, time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
"content": fmt.Sprintf("The current time is %s", time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
}
|
||||||
|
|
||||||
|
req := &apistruct.SendMsgReq{
|
||||||
|
SendMsg: apistruct.SendMsg{
|
||||||
|
SendID: userID,
|
||||||
|
SenderNickname: userID,
|
||||||
|
GroupID: groupID,
|
||||||
|
ContentType: constant.Text,
|
||||||
|
SessionType: constant.ReadGroupChatType,
|
||||||
|
Content: contentObj,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+SendMsg, &req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send message", err, "userID", userID, "req", &req)
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.MsgCounter++
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Max userIDs number is 1000
|
||||||
|
func (st *StressTest) CreateGroup(ctx context.Context, groupID string, userID string, userIDsList []string) (string, error) {
|
||||||
|
groupInfo := &sdkws.GroupInfo{
|
||||||
|
GroupID: groupID,
|
||||||
|
GroupName: groupID,
|
||||||
|
GroupType: constant.WorkingGroup,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.CreateGroupReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
MemberUserIDs: userIDsList,
|
||||||
|
GroupInfo: groupInfo,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp := group.CreateGroupResp{}
|
||||||
|
|
||||||
|
response, err := st.PostRequest(ctx, ApiAddress+CreateGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
if err := json.Unmarshal(response, &resp); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
// st.GroupCounter++
|
||||||
|
|
||||||
|
return resp.GroupInfo.GroupID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func main() {
|
||||||
|
var configPath string
|
||||||
|
// defaultConfigDir := filepath.Join("..", "..", "..", "..", "..", "config")
|
||||||
|
// flag.StringVar(&configPath, "c", defaultConfigDir, "config path")
|
||||||
|
flag.StringVar(&configPath, "c", "", "config path")
|
||||||
|
flag.Parse()
|
||||||
|
|
||||||
|
if configPath == "" {
|
||||||
|
_, _ = fmt.Fprintln(os.Stderr, "config path is empty")
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
fmt.Printf(" Config Path: %s\n", configPath)
|
||||||
|
|
||||||
|
share, apiConfig, err := initConfig(configPath)
|
||||||
|
if err != nil {
|
||||||
|
program.ExitWithError(err)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
ApiAddress = fmt.Sprintf("http://%s:%s", "127.0.0.1", fmt.Sprint(apiConfig.Api.Ports[0]))
|
||||||
|
|
||||||
|
ctx, cancel := context.WithCancel(context.Background())
|
||||||
|
// ch := make(chan struct{})
|
||||||
|
|
||||||
|
st := &StressTest{
|
||||||
|
Conf: &conf{
|
||||||
|
Share: *share,
|
||||||
|
Api: *apiConfig,
|
||||||
|
},
|
||||||
|
AdminUserID: share.IMAdminUserID[0],
|
||||||
|
Ctx: ctx,
|
||||||
|
Cancel: cancel,
|
||||||
|
HttpClient: &http.Client{
|
||||||
|
Timeout: 50 * time.Second,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
c := make(chan os.Signal, 1)
|
||||||
|
signal.Notify(c, os.Interrupt, syscall.SIGTERM)
|
||||||
|
go func() {
|
||||||
|
<-c
|
||||||
|
fmt.Println("\nReceived stop signal, stopping...")
|
||||||
|
|
||||||
|
go func() {
|
||||||
|
// time.Sleep(5 * time.Second)
|
||||||
|
fmt.Println("Force exit")
|
||||||
|
os.Exit(0)
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Cancel()
|
||||||
|
}()
|
||||||
|
|
||||||
|
token, err := st.GetAdminToken(st.Ctx)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Get Admin Token failed.", err, "AdminUserID", st.AdminUserID)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.AdminToken = token
|
||||||
|
fmt.Println("Admin Token:", st.AdminToken)
|
||||||
|
fmt.Println("ApiAddress:", ApiAddress)
|
||||||
|
|
||||||
|
for i := range MaxUser {
|
||||||
|
userID := fmt.Sprintf("v2_StressTest_User_%d", i)
|
||||||
|
st.CreatedUsers = append(st.CreatedUsers, userID)
|
||||||
|
st.CreateUserCounter++
|
||||||
|
}
|
||||||
|
|
||||||
|
// err = st.CreateUserBatch(st.Ctx, st.CreatedUsers)
|
||||||
|
// if err != nil {
|
||||||
|
// log.ZError(ctx, "Create user failed.", err)
|
||||||
|
// }
|
||||||
|
|
||||||
|
const batchSize = 1000
|
||||||
|
totalUsers := len(st.CreatedUsers)
|
||||||
|
successCount := 0
|
||||||
|
|
||||||
|
if st.DefaultUserID == "" && len(st.CreatedUsers) > 0 {
|
||||||
|
st.DefaultUserID = st.CreatedUsers[0]
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := 0; i < totalUsers; i += batchSize {
|
||||||
|
end := min(i+batchSize, totalUsers)
|
||||||
|
|
||||||
|
userBatch := st.CreatedUsers[i:end]
|
||||||
|
log.ZInfo(st.Ctx, "Creating user batch", "batch", i/batchSize+1, "count", len(userBatch))
|
||||||
|
|
||||||
|
err = st.CreateUserBatch(st.Ctx, userBatch)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Batch user creation failed", err, "batch", i/batchSize+1)
|
||||||
|
} else {
|
||||||
|
successCount += len(userBatch)
|
||||||
|
log.ZInfo(st.Ctx, "Batch user creation succeeded", "batch", i/batchSize+1,
|
||||||
|
"progress", fmt.Sprintf("%d/%d", successCount, totalUsers))
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
// Execute create 100k group
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
create100kGroupTicker := time.NewTicker(Create100KGroupTicker)
|
||||||
|
defer create100kGroupTicker.Stop()
|
||||||
|
|
||||||
|
for i := range Max100KGroup {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create 100K Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-create100kGroupTicker.C:
|
||||||
|
// Create 100K groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func(idx int) {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
defer func() {
|
||||||
|
st.Create100kGroupCounter++
|
||||||
|
}()
|
||||||
|
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_100K_%d", idx)
|
||||||
|
|
||||||
|
if _, err = st.CreateGroup(st.Ctx, groupID, st.DefaultUserID, TestTargetUserList); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create group failed.", err)
|
||||||
|
// continue
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := 0; i < MaxUser/MaxInviteUserLimit; i++ {
|
||||||
|
InviteUserIDs := make([]string, 0)
|
||||||
|
// ensure TargetUserList is in group
|
||||||
|
InviteUserIDs = append(InviteUserIDs, TestTargetUserList...)
|
||||||
|
|
||||||
|
startIdx := max(i*MaxInviteUserLimit, 1)
|
||||||
|
endIdx := min((i+1)*MaxInviteUserLimit, MaxUser)
|
||||||
|
|
||||||
|
for j := startIdx; j < endIdx; j++ {
|
||||||
|
userCreatedID := fmt.Sprintf("v2_StressTest_User_%d", j)
|
||||||
|
InviteUserIDs = append(InviteUserIDs, userCreatedID)
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
InviteUserIDs, err := st.GetGroupMembersInfo(ctx, groupID, InviteUserIDs)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "GetGroupMembersInfo failed.", err, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, groupID, InviteUserIDs); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", InviteUserIDs)
|
||||||
|
continue
|
||||||
|
// os.Exit(1)
|
||||||
|
// return
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}(i)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// create 999 groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
create999GroupTicker := time.NewTicker(Create999GroupTicker)
|
||||||
|
defer create999GroupTicker.Stop()
|
||||||
|
|
||||||
|
for i := range Max999Group {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create 999 Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-create999GroupTicker.C:
|
||||||
|
// Create 999 groups
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func(idx int) {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
defer func() {
|
||||||
|
st.Create999GroupCounter++
|
||||||
|
}()
|
||||||
|
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_1K_%d", idx)
|
||||||
|
|
||||||
|
if _, err = st.CreateGroup(st.Ctx, groupID, st.DefaultUserID, TestTargetUserList); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create group failed.", err)
|
||||||
|
// continue
|
||||||
|
}
|
||||||
|
for i := 0; i < MaxUser/MaxInviteUserLimit; i++ {
|
||||||
|
InviteUserIDs := make([]string, 0)
|
||||||
|
// ensure TargetUserList is in group
|
||||||
|
InviteUserIDs = append(InviteUserIDs, TestTargetUserList...)
|
||||||
|
|
||||||
|
startIdx := max(i*MaxInviteUserLimit, 1)
|
||||||
|
endIdx := min((i+1)*MaxInviteUserLimit, MaxUser)
|
||||||
|
|
||||||
|
for j := startIdx; j < endIdx; j++ {
|
||||||
|
userCreatedID := fmt.Sprintf("v2_StressTest_User_%d", j)
|
||||||
|
InviteUserIDs = append(InviteUserIDs, userCreatedID)
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
InviteUserIDs, err := st.GetGroupMembersInfo(ctx, groupID, InviteUserIDs)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "GetGroupMembersInfo failed.", err, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
if len(InviteUserIDs) == 0 {
|
||||||
|
log.ZWarn(st.Ctx, "InviteUserIDs is empty", nil, "groupID", groupID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, groupID, InviteUserIDs); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", InviteUserIDs)
|
||||||
|
continue
|
||||||
|
// os.Exit(1)
|
||||||
|
// return
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}(i)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// Send message to 100K groups
|
||||||
|
st.Wg.Wait()
|
||||||
|
fmt.Println("All groups created successfully, starting to send messages...")
|
||||||
|
log.ZInfo(ctx, "All groups created successfully, starting to send messages...")
|
||||||
|
|
||||||
|
var groups100K []string
|
||||||
|
var groups999 []string
|
||||||
|
|
||||||
|
for i := range Max100KGroup {
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_100K_%d", i)
|
||||||
|
groups100K = append(groups100K, groupID)
|
||||||
|
}
|
||||||
|
|
||||||
|
for i := range Max999Group {
|
||||||
|
groupID := fmt.Sprintf("v2_StressTest_Group_1K_%d", i)
|
||||||
|
groups999 = append(groups999, groupID)
|
||||||
|
}
|
||||||
|
|
||||||
|
send100kGroupLimiter := make(chan struct{}, 20)
|
||||||
|
send999GroupLimiter := make(chan struct{}, 100)
|
||||||
|
|
||||||
|
// execute Send message to 100K groups
|
||||||
|
go func() {
|
||||||
|
ticker := time.NewTicker(SendMsgTo100KGroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send Message to 100K Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send message to 100K groups
|
||||||
|
for _, groupID := range groups100K {
|
||||||
|
send100kGroupLimiter <- struct{}{}
|
||||||
|
go func(groupID string) {
|
||||||
|
defer func() { <-send100kGroupLimiter }()
|
||||||
|
if err := st.SendMsg(st.Ctx, st.DefaultUserID, groupID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send message to 100K group failed.", err)
|
||||||
|
}
|
||||||
|
}(groupID)
|
||||||
|
}
|
||||||
|
// log.ZInfo(st.Ctx, "Send message to 100K groups successfully.")
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
// execute Send message to 999 groups
|
||||||
|
go func() {
|
||||||
|
ticker := time.NewTicker(SendMsgTo999GroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send Message to 999 Group")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send message to 999 groups
|
||||||
|
for _, groupID := range groups999 {
|
||||||
|
send999GroupLimiter <- struct{}{}
|
||||||
|
go func(groupID string) {
|
||||||
|
defer func() { <-send999GroupLimiter }()
|
||||||
|
|
||||||
|
if err := st.SendMsg(st.Ctx, st.DefaultUserID, groupID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send message to 999 group failed.", err)
|
||||||
|
}
|
||||||
|
}(groupID)
|
||||||
|
}
|
||||||
|
// log.ZInfo(st.Ctx, "Send message to 999 groups successfully.")
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
<-st.Ctx.Done()
|
||||||
|
fmt.Println("Received signal to exit, shutting down...")
|
||||||
|
}
|
||||||
@ -0,0 +1,25 @@
|
|||||||
|
# Stress Test
|
||||||
|
|
||||||
|
## Usage
|
||||||
|
|
||||||
|
You need set `TestTargetUserList` and `DefaultGroupID` variables.
|
||||||
|
|
||||||
|
### Build
|
||||||
|
|
||||||
|
```bash
|
||||||
|
go build -o _output/bin/tools/linux/amd64/stress-test tools/stress-test/main.go
|
||||||
|
|
||||||
|
# or
|
||||||
|
|
||||||
|
go build -o tools/stress-test/stress-test tools/stress-test/main.go
|
||||||
|
```
|
||||||
|
|
||||||
|
### Excute
|
||||||
|
|
||||||
|
```bash
|
||||||
|
_output/bin/tools/linux/amd64/stress-test -c config/
|
||||||
|
|
||||||
|
#or
|
||||||
|
|
||||||
|
tools/stress-test/stress-test -c config/
|
||||||
|
```
|
||||||
@ -0,0 +1,459 @@
|
|||||||
|
package main
|
||||||
|
|
||||||
|
import (
|
||||||
|
"bytes"
|
||||||
|
"context"
|
||||||
|
"encoding/json"
|
||||||
|
"flag"
|
||||||
|
"fmt"
|
||||||
|
"io"
|
||||||
|
"net/http"
|
||||||
|
"os"
|
||||||
|
"os/signal"
|
||||||
|
"sync"
|
||||||
|
"syscall"
|
||||||
|
"time"
|
||||||
|
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/apistruct"
|
||||||
|
"github.com/openimsdk/open-im-server/v3/pkg/common/config"
|
||||||
|
"github.com/openimsdk/protocol/auth"
|
||||||
|
"github.com/openimsdk/protocol/constant"
|
||||||
|
"github.com/openimsdk/protocol/group"
|
||||||
|
"github.com/openimsdk/protocol/relation"
|
||||||
|
"github.com/openimsdk/protocol/sdkws"
|
||||||
|
pbuser "github.com/openimsdk/protocol/user"
|
||||||
|
"github.com/openimsdk/tools/log"
|
||||||
|
"github.com/openimsdk/tools/system/program"
|
||||||
|
)
|
||||||
|
|
||||||
|
/*
|
||||||
|
1. Create one user every minute
|
||||||
|
2. Import target users as friends
|
||||||
|
3. Add users to the default group
|
||||||
|
4. Send a message to the default group every second, containing index and current timestamp
|
||||||
|
5. Create a new group every minute and invite target users to join
|
||||||
|
*/
|
||||||
|
|
||||||
|
// !!! ATTENTION: This variable is must be added!
|
||||||
|
var (
|
||||||
|
// Use default userIDs List for testing, need to be created.
|
||||||
|
TestTargetUserList = []string{
|
||||||
|
"<need-update-it>",
|
||||||
|
}
|
||||||
|
DefaultGroupID = "<need-update-it>" // Use default group ID for testing, need to be created.
|
||||||
|
)
|
||||||
|
|
||||||
|
var (
|
||||||
|
ApiAddress string
|
||||||
|
|
||||||
|
// API method
|
||||||
|
GetAdminToken = "/auth/get_admin_token"
|
||||||
|
CreateUser = "/user/user_register"
|
||||||
|
ImportFriend = "/friend/import_friend"
|
||||||
|
InviteToGroup = "/group/invite_user_to_group"
|
||||||
|
SendMsg = "/msg/send_msg"
|
||||||
|
CreateGroup = "/group/create_group"
|
||||||
|
GetUserToken = "/auth/user_token"
|
||||||
|
)
|
||||||
|
|
||||||
|
const (
|
||||||
|
MaxUser = 10000
|
||||||
|
MaxGroup = 1000
|
||||||
|
|
||||||
|
CreateUserTicker = 1 * time.Minute // Ticker is 1min in create user
|
||||||
|
SendMessageTicker = 1 * time.Second // Ticker is 1s in send message
|
||||||
|
CreateGroupTicker = 1 * time.Minute
|
||||||
|
)
|
||||||
|
|
||||||
|
type BaseResp struct {
|
||||||
|
ErrCode int `json:"errCode"`
|
||||||
|
ErrMsg string `json:"errMsg"`
|
||||||
|
Data json.RawMessage `json:"data"`
|
||||||
|
}
|
||||||
|
|
||||||
|
type StressTest struct {
|
||||||
|
Conf *conf
|
||||||
|
AdminUserID string
|
||||||
|
AdminToken string
|
||||||
|
DefaultGroupID string
|
||||||
|
DefaultUserID string
|
||||||
|
UserCounter int
|
||||||
|
GroupCounter int
|
||||||
|
MsgCounter int
|
||||||
|
CreatedUsers []string
|
||||||
|
CreatedGroups []string
|
||||||
|
Mutex sync.Mutex
|
||||||
|
Ctx context.Context
|
||||||
|
Cancel context.CancelFunc
|
||||||
|
HttpClient *http.Client
|
||||||
|
Wg sync.WaitGroup
|
||||||
|
Once sync.Once
|
||||||
|
}
|
||||||
|
|
||||||
|
type conf struct {
|
||||||
|
Share config.Share
|
||||||
|
Api config.API
|
||||||
|
}
|
||||||
|
|
||||||
|
func initConfig(configDir string) (*config.Share, *config.API, error) {
|
||||||
|
var (
|
||||||
|
share = &config.Share{}
|
||||||
|
apiConfig = &config.API{}
|
||||||
|
)
|
||||||
|
|
||||||
|
err := config.Load(configDir, config.ShareFileName, config.EnvPrefixMap[config.ShareFileName], share)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
err = config.Load(configDir, config.OpenIMAPICfgFileName, config.EnvPrefixMap[config.OpenIMAPICfgFileName], apiConfig)
|
||||||
|
if err != nil {
|
||||||
|
return nil, nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return share, apiConfig, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
// Post Request
|
||||||
|
func (st *StressTest) PostRequest(ctx context.Context, url string, reqbody any) ([]byte, error) {
|
||||||
|
// Marshal body
|
||||||
|
jsonBody, err := json.Marshal(reqbody)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to marshal request body", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
req, err := http.NewRequest(http.MethodPost, url, bytes.NewReader(jsonBody))
|
||||||
|
if err != nil {
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
req.Header.Set("Content-Type", "application/json")
|
||||||
|
req.Header.Set("operationID", st.AdminUserID)
|
||||||
|
if st.AdminToken != "" {
|
||||||
|
req.Header.Set("token", st.AdminToken)
|
||||||
|
}
|
||||||
|
|
||||||
|
// log.ZInfo(ctx, "Header info is ", "Content-Type", "application/json", "operationID", st.AdminUserID, "token", st.AdminToken)
|
||||||
|
|
||||||
|
resp, err := st.HttpClient.Do(req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
defer resp.Body.Close()
|
||||||
|
|
||||||
|
respBody, err := io.ReadAll(resp.Body)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to read response body", err, "url", url)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
var baseResp BaseResp
|
||||||
|
if err := json.Unmarshal(respBody, &baseResp); err != nil {
|
||||||
|
log.ZError(ctx, "Failed to unmarshal response body", err, "url", url, "respBody", string(respBody))
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
if baseResp.ErrCode != 0 {
|
||||||
|
err = fmt.Errorf(baseResp.ErrMsg)
|
||||||
|
log.ZError(ctx, "Failed to send request", err, "url", url, "reqbody", reqbody, "resp", baseResp)
|
||||||
|
return nil, err
|
||||||
|
}
|
||||||
|
|
||||||
|
return baseResp.Data, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) GetAdminToken(ctx context.Context) (string, error) {
|
||||||
|
req := auth.GetAdminTokenReq{
|
||||||
|
Secret: st.Conf.Share.Secret,
|
||||||
|
UserID: st.AdminUserID,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp, err := st.PostRequest(ctx, ApiAddress+GetAdminToken, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
data := &auth.GetAdminTokenResp{}
|
||||||
|
if err := json.Unmarshal(resp, &data); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
return data.Token, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateUser(ctx context.Context, userID string) (string, error) {
|
||||||
|
user := &sdkws.UserInfo{
|
||||||
|
UserID: userID,
|
||||||
|
Nickname: userID,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := pbuser.UserRegisterReq{
|
||||||
|
Users: []*sdkws.UserInfo{user},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+CreateUser, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.UserCounter++
|
||||||
|
return userID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) ImportFriend(ctx context.Context, userID string) error {
|
||||||
|
req := relation.ImportFriendReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
FriendUserIDs: TestTargetUserList,
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+ImportFriend, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) InviteToGroup(ctx context.Context, userID string) error {
|
||||||
|
req := group.InviteUserToGroupReq{
|
||||||
|
GroupID: st.DefaultGroupID,
|
||||||
|
InvitedUserIDs: []string{userID},
|
||||||
|
}
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+InviteToGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) SendMsg(ctx context.Context, userID string) error {
|
||||||
|
contentObj := map[string]any{
|
||||||
|
"content": fmt.Sprintf("index %d. The current time is %s", st.MsgCounter, time.Now().Format("2006-01-02 15:04:05.000")),
|
||||||
|
}
|
||||||
|
|
||||||
|
req := &apistruct.SendMsgReq{
|
||||||
|
SendMsg: apistruct.SendMsg{
|
||||||
|
SendID: userID,
|
||||||
|
SenderNickname: userID,
|
||||||
|
GroupID: st.DefaultGroupID,
|
||||||
|
ContentType: constant.Text,
|
||||||
|
SessionType: constant.ReadGroupChatType,
|
||||||
|
Content: contentObj,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
_, err := st.PostRequest(ctx, ApiAddress+SendMsg, &req)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Failed to send message", err, "userID", userID, "req", &req)
|
||||||
|
return err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.MsgCounter++
|
||||||
|
|
||||||
|
return nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func (st *StressTest) CreateGroup(ctx context.Context, userID string) (string, error) {
|
||||||
|
groupID := fmt.Sprintf("StressTestGroup_%d_%s", st.GroupCounter, time.Now().Format("20060102150405"))
|
||||||
|
|
||||||
|
groupInfo := &sdkws.GroupInfo{
|
||||||
|
GroupID: groupID,
|
||||||
|
GroupName: groupID,
|
||||||
|
GroupType: constant.WorkingGroup,
|
||||||
|
}
|
||||||
|
|
||||||
|
req := group.CreateGroupReq{
|
||||||
|
OwnerUserID: userID,
|
||||||
|
MemberUserIDs: TestTargetUserList,
|
||||||
|
GroupInfo: groupInfo,
|
||||||
|
}
|
||||||
|
|
||||||
|
resp := group.CreateGroupResp{}
|
||||||
|
|
||||||
|
response, err := st.PostRequest(ctx, ApiAddress+CreateGroup, &req)
|
||||||
|
if err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
if err := json.Unmarshal(response, &resp); err != nil {
|
||||||
|
return "", err
|
||||||
|
}
|
||||||
|
|
||||||
|
st.GroupCounter++
|
||||||
|
|
||||||
|
return resp.GroupInfo.GroupID, nil
|
||||||
|
}
|
||||||
|
|
||||||
|
func main() {
|
||||||
|
var configPath string
|
||||||
|
// defaultConfigDir := filepath.Join("..", "..", "..", "..", "..", "config")
|
||||||
|
// flag.StringVar(&configPath, "c", defaultConfigDir, "config path")
|
||||||
|
flag.StringVar(&configPath, "c", "", "config path")
|
||||||
|
flag.Parse()
|
||||||
|
|
||||||
|
if configPath == "" {
|
||||||
|
_, _ = fmt.Fprintln(os.Stderr, "config path is empty")
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
fmt.Printf(" Config Path: %s\n", configPath)
|
||||||
|
|
||||||
|
share, apiConfig, err := initConfig(configPath)
|
||||||
|
if err != nil {
|
||||||
|
program.ExitWithError(err)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
ApiAddress = fmt.Sprintf("http://%s:%s", "127.0.0.1", fmt.Sprint(apiConfig.Api.Ports[0]))
|
||||||
|
|
||||||
|
ctx, cancel := context.WithCancel(context.Background())
|
||||||
|
ch := make(chan struct{})
|
||||||
|
|
||||||
|
defer cancel()
|
||||||
|
|
||||||
|
st := &StressTest{
|
||||||
|
Conf: &conf{
|
||||||
|
Share: *share,
|
||||||
|
Api: *apiConfig,
|
||||||
|
},
|
||||||
|
AdminUserID: share.IMAdminUserID[0],
|
||||||
|
Ctx: ctx,
|
||||||
|
Cancel: cancel,
|
||||||
|
HttpClient: &http.Client{
|
||||||
|
Timeout: 50 * time.Second,
|
||||||
|
},
|
||||||
|
}
|
||||||
|
|
||||||
|
c := make(chan os.Signal, 1)
|
||||||
|
signal.Notify(c, os.Interrupt, syscall.SIGTERM)
|
||||||
|
go func() {
|
||||||
|
<-c
|
||||||
|
fmt.Println("\nReceived stop signal, stopping...")
|
||||||
|
|
||||||
|
select {
|
||||||
|
case <-ch:
|
||||||
|
default:
|
||||||
|
close(ch)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.Cancel()
|
||||||
|
}()
|
||||||
|
|
||||||
|
token, err := st.GetAdminToken(st.Ctx)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(ctx, "Get Admin Token failed.", err, "AdminUserID", st.AdminUserID)
|
||||||
|
}
|
||||||
|
|
||||||
|
st.AdminToken = token
|
||||||
|
fmt.Println("Admin Token:", st.AdminToken)
|
||||||
|
fmt.Println("ApiAddress:", ApiAddress)
|
||||||
|
|
||||||
|
st.DefaultGroupID = DefaultGroupID
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(CreateUserTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
|
||||||
|
for st.UserCounter < MaxUser {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create user", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Create User
|
||||||
|
userID := fmt.Sprintf("%d_Stresstest_%s", st.UserCounter, time.Now().Format("0102150405"))
|
||||||
|
|
||||||
|
userCreatedID, err := st.CreateUser(st.Ctx, userID)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create User failed.", err, "UserID", userID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
// fmt.Println("User Created ID:", userCreatedID)
|
||||||
|
|
||||||
|
// Import Friend
|
||||||
|
if err = st.ImportFriend(st.Ctx, userCreatedID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Import Friend failed.", err, "UserID", userCreatedID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
// Invite To Group
|
||||||
|
if err = st.InviteToGroup(st.Ctx, userCreatedID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Invite To Group failed.", err, "UserID", userCreatedID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
st.Once.Do(func() {
|
||||||
|
st.DefaultUserID = userCreatedID
|
||||||
|
fmt.Println("Default Send User Created ID:", userCreatedID)
|
||||||
|
close(ch)
|
||||||
|
})
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(SendMessageTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
<-ch
|
||||||
|
|
||||||
|
for {
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Send message", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
// Send Message
|
||||||
|
if err = st.SendMsg(st.Ctx, st.DefaultSendUserID); err != nil {
|
||||||
|
log.ZError(st.Ctx, "Send Message failed.", err, "UserID", st.DefaultSendUserID)
|
||||||
|
continue
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Add(1)
|
||||||
|
go func() {
|
||||||
|
defer st.Wg.Done()
|
||||||
|
|
||||||
|
ticker := time.NewTicker(CreateGroupTicker)
|
||||||
|
defer ticker.Stop()
|
||||||
|
<-ch
|
||||||
|
|
||||||
|
for st.GroupCounter < MaxGroup {
|
||||||
|
|
||||||
|
select {
|
||||||
|
case <-st.Ctx.Done():
|
||||||
|
log.ZInfo(st.Ctx, "Stop Create Group", "reason", "context done")
|
||||||
|
return
|
||||||
|
|
||||||
|
case <-ticker.C:
|
||||||
|
|
||||||
|
// Create Group
|
||||||
|
_, err := st.CreateGroup(st.Ctx, st.DefaultUserID)
|
||||||
|
if err != nil {
|
||||||
|
log.ZError(st.Ctx, "Create Group failed.", err, "UserID", st.DefaultUserID)
|
||||||
|
os.Exit(1)
|
||||||
|
return
|
||||||
|
}
|
||||||
|
|
||||||
|
// fmt.Println("Group Created ID:", groupID)
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}()
|
||||||
|
|
||||||
|
st.Wg.Wait()
|
||||||
|
}
|
||||||
@ -1,6 +1,14 @@
|
|||||||
package version
|
package version
|
||||||
|
|
||||||
import _ "embed"
|
import (
|
||||||
|
_ "embed"
|
||||||
|
"strings"
|
||||||
|
)
|
||||||
|
|
||||||
//go:embed version
|
//go:embed version
|
||||||
var Version string
|
var Version string
|
||||||
|
|
||||||
|
func init() {
|
||||||
|
Version = strings.Trim(Version, "\n")
|
||||||
|
Version = strings.TrimSpace(Version)
|
||||||
|
}
|
||||||
|
|||||||
Loading…
Reference in new issue