Loveyless 在 多少tps(每秒tokens)，算快？多少速度大家可以接受？ 中发帖

[image] 
[image] 
这是某个中转站我用的记录，然后丢给了GPT。我体感来说，40~50每秒tokens对我来说刚好够用，属于不快也不慢 
等会儿我具体测一下这个中转站到底支不支持fast，因为我是配置里是开着fast用的
 
 
Back to Top