写CUDA到底难在哪？
更新时间：2025-06-19 06:10:09
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
PHP初学者，我能不能使用PHP来开发桌面应用？
查看案例
-
谷歌云服务宕机导致 OpenAI、Shopify 等服务中断，此次宕机的具体技术原因是什么？
查看案例
-
武松杀嫂，为什么要先扯开她的胸衣，多此一举还是另有深意？
查看案例
-
《西西里美丽传说》女主角，在当时打扮这么高调，不觉得带给自己很多不便吗？如何理解她的心态？
查看案例
-
哪个牌子的护肤品好呀？想给妈妈买一套抗衰老的护肤品?
查看案例
-
全班 43 人开家长会只来了 7 位爸爸，学校称未来准备策划爸爸家长会，如何看待这一现象？
查看案例
-
国产手机AI「好用」的背后，是技术差距还是文化差异？
查看案例
-
自己拥有一台服务器可以做哪些很酷的事情？
查看案例