单卡GPU上的全精度TTS为何吐字慢:FP16 vs GGUF的RTF实测与显存权衡
“吐字速度慢得离谱,分析一下原因。” 这是我在语音助手的项目里收到的一句话。彼时语音回复的体验是:一句 5 秒的话,要干等 7 到 10 秒才能听到。生成比播放还慢,意味着用户永远在等机器说完。这篇文章记录一次完整的慢因排查,以及最后那个可能出乎你意料的决定——算清楚账之后,我不修了。 先量化”慢”:RTF 才是唯一诚实的指标TTS 性能不能看绝对耗时,要看 RTF(Real-Time Facto