CUDA真是NVIDIA绝对牢不可破的生态吗?
- 发表时间:2025-06-24 19:55:15
- 来源:
有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。
没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。
比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。
CUDA已经被各种开源AI框…。
推荐资讯
- 2025-06-21 06:40:17能分享一下你写过的rust项目吗?
- 2025-06-21 07:05:16如何评价尤雨溪?
- 2025-06-21 07:25:17中餐炒菜那么好吃,为什么欧美人不学去?
- 2025-06-21 06:25:16用玉米钓不到鱼是什么原因?
- 2025-06-21 07:00:16PHP 已经诞生 30 年,它对你意味着什么?
- 2025-06-21 05:55:16黄金,今年会达到怎样的高度?
- 2025-06-21 06:20:15能不能通过养殖方法,把淡水鱼身上***除掉?然后再售卖做刺身,超级爱吃刺身,很害怕寄身虫?
- 2025-06-21 06:45:16如何评价《灵笼 2》第六集?
- 2025-06-21 07:20:16以色列为什么要打伊朗?
- 2025-06-21 07:15:15NAS将来会被什么产品取代?
推荐产品
-
做个web服务器,gin框架和go-zero怎么选?
如何选择你的 Golang 后端开发框架引言与 J***a -
世界上哪款战斗机最好看?
在2025年以前,我的答案是终极侧卫,也就是J16等一系列表 -
如何看待多地开展查摆年轻干部玩心重、混日子、说话随意、口大气粗等问题的行动?
讲真的,我看下面回答群情激奋。 有什么好激动的?要不说你们年 -
现在网上有很多卖别墅的,都只有200万,这个是真的吗?
真的,你去看一下,大概率就不想买。 这种别墅有两种,商品房
新闻动态
最新资讯