Skip to content

[Bug] 在工具性能测试的所有请求推理完成后,卡在数据统计阶段,没有输出结果。 #205

@DangKan2

Description

@DangKan2

操作系统及版本

ubuntu20.04

安装工具的python环境

docker容器中的python环境

python版本

3.11

AISBench工具版本

3.1.20260306

AISBench执行命令

ais_bench --models vllm_api_chat_temp --datasets gsm8k_gen_0_shot_cot_str_perf --mode perf --summarizer default_perf --debug > aisbench.log 2>&1

模型配置文件或自定义配置文件内容

NA

预期行为

每次推理结束后,性能测试结果正常输出。

实际行为

Image 偶尔会出现,在summary阶段卡住,如图卡了9h,未输出性能结果。

前置检查

  • 我已读懂主页文档的快速入门,无法解决问题
  • 我已检索过FAQ,无重复问题
  • 我已搜索过现有Issue,无重复问题
  • 我已更新到最新版本,问题仍存在

Metadata

Metadata

Assignees

No one assigned

    Labels

    bugSomething isn't workingcontent_check_passedissue content check passed

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions