310P上面跑这个项目速度慢

[yanghanjie517-ops]

将这个项目迁移到310P上面运行的时候，CPU运行要比NPU运行快的多得多。NPU运行太慢，但是没有报错。这个怎么解决

[BytePioneer-AI]

将CANN更新到最新版本再测试。
大概率是某些算子不支持，新版本或许就支持了。
有什么警告信息么

[LusJie]

我也遇见这个问题,在�310P上运行,识别速度比在CPU上运行还慢很多.更新了CANN测试也慢,感觉无解.

[BytePioneer-AI]

嗯，910B、910A没有问题。310P速度慢估计是算子不支持，但具体还需要做更多的验证，比如日志是否有明确的算子不支持、或用华为的算子分析工具，分析算子运行的情况，是否真的有些算子回退到CPU上了。我手上没310P的环境。

[jacksyen]

这是在310P下跑的结果，总共19张图片，每张将近1分钟左右

[BytePioneer-AI]

Timeline中时序图有显示CPU耗时情况吗
每张1分钟是太不正常了，正常应该1s内。

[jacksyen]

看着是padding="same"的问题

[xudaqian1]

我也碰到了，这个问题目前有解决方法吗

[GitHub-Japin]

无论使用v5的mobile或者server模型，在py加载完模型后开始识别会有警告“Warning: since the loaded file is not a zipfile, only "torch.device" and "str" type parameters are currently supported for parameter types of map_locationIf parameter types of map_location is "Callable[[torch.Tensor, str], torch.Tensor]" or "Dict[str, str]", which is only support for zipfile,all tensors are currently loaded onto the CPU, which may introduce problems”
警告：由于加载的文件不是 zip 文件，目前 map_location 参数仅支持 'torch.device' 和 'str' 类型。如果 map_location 参数的类型是 'Callable[[torch.Tensor, str], torch.Tensor]' 或 'Dict[str, str]'，这仅对 zip 文件支持，则所有张量目前都会加载到 CPU 上，这可能会导致问题。
这导致npu有py进程部分显存占用以及某一时刻cpu飙升，但是识别一张图片需要150s起步，这有什么方案吗

[mayccc1]

@GitHub-Japin 请问解决了吗？我目前也是这个问题

[ouhongya]

我也遇到这个问题

[GitHub-Japin]

@GitHub-Japin 请问解决了吗？我目前也是这个问题

没解决，我后面直接om模型去跑ocr了，没用他这个

[leiSaint]

@GitHub-Japin 请问解决了吗？我目前也是这个问题

没解决，我后面直接om模型去跑ocr了，没用他这个
@GitHub-Japin
我是按照https://ai.gitcode.com/Ascend-SACT/PaddleOCRv5-300I-Duo/blob/d51bba376659b8bdd1505ee8ff66dc6459fefeaf/README.md 这篇文章部署的，也运行成功了，但是不支持动态shape这个问题很烦，请问你解决动态shape的问题了吗？我参照那篇文章，只能以固定shape的尺寸来识别，裁剪拼接很麻烦

[xiaoyang111-scient]

@GitHub-Japin 请问解决了吗？我目前也是这个问题

没解决，我后面直接om模型去跑ocr了，没用他这个
@GitHub-Japin
我是按照https://ai.gitcode.com/Ascend-SACT/PaddleOCRv5-300I-Duo/blob/d51bba376659b8bdd1505ee8ff66dc6459fefeaf/README.md 这篇文章部署的，也运行成功了，但是不支持动态shape这个问题很烦，请问你解决动态shape的问题了吗？我参照那篇文章，只能以固定shape的尺寸来识别，裁剪拼接很麻烦

动态shape的问题解决了吗？我现在的场景还不能用固定尺寸