Skip to content

Releases: 2erTwo6/Smooth-Gateway

v1.0

31 Jan 01:05
1e3384e

Choose a tag to compare

🚀 算法重构:性能大幅突破

本次更新对底层算法进行了深度重构,彻底解决了旧版本在高速模型下的响应瓶颈。

性能提升:实测吐字速度可突破 300 Tokens/s,相比 v0.8 版本的理论上限(约 40 Tokens/s)提升了约 7.5 倍。
优化重点:消除了高频响应时的处理瓶颈,能够完美匹配当前高性能/高流速模型的输出节奏,确保不再因算法限制导致卡顿。

v0.8

26 Nov 02:55
39abccb

Choose a tag to compare

1.尝试修复偶发性的崩溃,欢迎反馈