Havoc412 f263ead51d refactor(llm_factory): 新增 GLM 客户端未使用资源释放功能
- 在 NlpController 和 RagController 中添加了释放 GLM 客户端资源的逻辑
- 在 GlmClientHub 中增加了 UnavtiveOneGlmClient 方法,用于将客户端标记为未使用状态
- 优化了资源管理,提高了 GLM 客户端的利用率
2024-11-20 09:01:53 +08:00
2024-11-13 00:35:20 +08:00
🎉
2024-10-14 13:49:16 +08:00
🎉
2024-10-14 13:49:16 +08:00
2024-10-16 18:22:28 +08:00
2024-11-16 02:38:34 +08:00
2024-11-16 02:38:34 +08:00
2024-10-30 17:21:09 +08:00
🎉
2024-10-14 13:49:16 +08:00

FROM

框架设计上参考 goskeleton

Description
No description provided
Readme 71 MiB
Languages
Go 99.3%
HTML 0.4%
Dockerfile 0.3%