GPTCache
00 分钟
2024-10-20
说明
⚡ GPTCache 是一个用于创建语义缓存以存储来自 LLM 查询的响应的库,类似于aigc场景中的redis。 它可用于降低依赖 LLM 服务(如ChatGPT)的成本,同时也可以有效减少服务响应时间,因为大模型推理一般都比较耗时。
链接
GitHub
费用
免费
Files
https://camo.githubusercontent.com/602030e81a5879ee5d679b211709350aba7f39271e1d123fea22785cfbaa650e/68747470733a2f2f696d672e736869656c64732e696f2f6769746875622f73746172732f7a696c6c697a746563682f47505443616368653f7374796c653d736f6369616c
上一篇
免费机场节点订阅全自动获取
下一篇
音乐