写CUDA到底难在哪？
来源：
编辑：
时间：2025-06-21 06:45:16
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
-
{dede:pagebreak/}
网友评论：
{dede:include file='ajaxfeedback.htm' /}
栏目分类
最新文章
- 目前react的生态系统是什么情况，有没有比较公认的成熟的开发技术栈？
- 我应该设置多少kb才能让他不能玩游戏？
- 万兆的网络速度有多大意义？
- 胸大的女孩会自卑 吗？
- 你见过最人性化的设计是什么？
- 怎么评价国内AI企业人肉背15块80TB硬盘，飞去马来西亚用英伟达训练数据，以规避美国禁令?
- go-zero的svc全局变量和Kratos按需利用wire进行依赖注入哪个在实际生产合作中更合适？
- 在 Win 显示器设置选项中，「调低分辨率」和「调高缩放比例」，哪个文字显示效果好一些？
- 伊朗的核设施是固定靶，为什么用B2去打，而不是用弹道导弹带钻地弹去打？
- 网络小白如何建立一个网站，供别人下载文件（主要是PDF和MP3）?
热门文章