边发边听👂

[suyansong]

新年快乐，我在使用test_zero_shot，和test_bistream 的时候，rtf=0.14左右，但是我想要边发边听，就很容易出现卡顿。加了音频队列也还是后半截卡顿，您有这方面的解决办法吗

[suyansong]

在test_bistream的时候，可以看到输出Index 0, Received 48000 bytes.越来越慢

[WANDY666]

@suyansong 由于stream模式的推理逻辑，每个分段的计算会带上之前的所有分段，所以随着长度越长，每次的速度就会越慢。bistream模式下，如果不断的输入，上文会越来越长，每次接收就越来越慢了。