写CUDA到底难在哪？
更新时间：2025-06-23 16:35:14
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
现在是2025年6月，现在的房价是阴跌还是暴跌？还会继续跌多久？是否已经开始分化?
查看案例
-
一架波音787客机在印度坠毁，发现一名幸存者，超290人死亡，具体情况如何？事故原因可能是什么？
查看案例
-
巴基斯坦援助伊朗防空，大家怎么看？
查看案例
-
B站的众多教做饭和烹饪的厨师up主的资历与实力应如何排序？
查看案例
-
各位前端大触们，一般怎么定颜色的？
查看案例
-
以色列为什么突然敢打伊朗了？不怕被报复？
查看案例
-
***如古代长城用的是C140混凝土，那千百年下来会完整的留存至今还是损坏的更加严重？
查看案例
-
凤凰传奇曾毅手表被指含性暗示元素，回应「以为是劳力士」，如何看待此事？公众是不是有些过度解读了？
查看案例