在paddle中如何对模型进行显存占用分析？

[geoexploring]

在Pytorch中可以利用torch.cuda.memory_allocated()、torch.cuda.max_memory_allocated()和torch.cuda.memory_reserved()对模型进行显存占用分析，具体可参看PyTorch显存机制分析.

但是，我在paddle中没有找到对应的api，请问paddle中有相应的api吗？

谢谢！

[paddle-bot-old]

您好，我们已经收到了您的问题，会安排技术人员尽快解答您的问题，请耐心等待。请您再次检查是否提供了清晰的问题描述、复现代码、环境&版本、报错信息等。同时，您也可以通过查看官网API文档、常见问题、历史Issue、AI社区来寻求解答。祝您生活愉快～

Hi! We've received your issue and please be patient to get responded. We will arrange technicians to answer your questions as soon as possible. Please make sure that you have posted enough message to demo your request. You may also check out the API，FAQ，Github Issue and AI community to get the answer.Have a nice day!

[joey12300]

你好，paddle暂时没有这种动态的显存占用分析工具。可以使用paddle.summary获取模型显存占用的信息。 https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/api/paddle/summary_cn.html#summary

[geoexploring]

@joey12300 , 谢谢！

请问利用paddle实现该功能（动态的显存占用分析），是不是要用到cuda编程呢？

[joey12300]

@joey12300 , 谢谢！

请问利用paddle实现该功能（动态的显存占用分析），是不是要用到cuda编程呢？

嗯，可能要通过cuda的一些接口获取这些信息，都要改动底层框架的

[geoexploring]

@joey12300 ，谢谢，明白了！

[Ligoml]

用户你好，显存优化相关 api 我们已有研发计划，敬请关注~

[From00]

@geoexploring 你好，你提到的几个API，目前Paddle中均已进行了支持，将会在Paddle 2.3版本中发布，详见PR：#38657

感谢对Paddle的关注，若在使用中或自己实现相关功能过程中遇到问题，欢迎再次反馈。

[geoexploring]

@From00, @Ligoml, 谢谢两位的关注和持续改进！

也许该功能可以马上用到Paddle相关的下游任务模型库，比如PaddleClas、PaddleSeg等