五年前，无数人都认为，中国经济超过美国，只是时间问题，包括很多外国人，也这样认为。 三年疫情过后，我们睁开眼睛看世界，发现一切都变了，人工智能、自动驾驶、SpaceX、星链、英伟达，美国每次和特定国家对抗时，就开始爆科技，而且遍地开花。 美国是典型的，没压力就不会玩了。 二战之后，苏联、日本、中国，每次让美国感受到不安和恐惧时，美国就会爆科技革命，甩开第二名。 和苏联对抗时，美国航空航天业爆发，建空间站，…

最近和nvidia的几个有co-operation聊天说这事情，他们觉得nvidia的CUDA和nvlink优势正在消失，消失的主要原因不是nvidia技术不先进或者没有进取心 而是transformer家族固化了gpu计算的算子，而开源的大模型也使得对于大模型高性能训练的需求从公司个人都需要变为了只有大公司需要。而nvidia的CUDA对于纯粹推理其实和其他开源竞品来说都没有绝对优势。。 更绝望的是，有了第一个开源的大模型，即使nvidia也要在开源大模型上卷，才…

你创立一家公司，做奶茶，自己掌握100%股份，押上了全部身家500万，开了5家店。 我创立一家公司，做奶茶，自己掌握100%股份，押上了全部身家100万，只开了1家店。 你比我大五倍，实力比我强很多。你很高兴。 这时候有几个资本家找到你，说很看好你的公司，愿意给你投资，你拒绝了，因为你要保留你全部的股份，不想分给别人蛋糕。 于是你保持着勤俭节约，赚了钱就开分店，一年后你有了十家店，1000万，还是100%股份。 而那些被你…

英伟达甩的不是街，是次元。 英伟达在大概2007年前后，做了CUDA这个变革。但CUDA本质上不是技术变革，而是思想变革。 在这之前，芯片制造商，最多只考虑到芯片如何适配到OS，调好固件、写好驱动层，实现系统调用所需的接口，其余交给更下游的应用软件开发商。 CUDA并不是仅仅把算子和并行计算调度做好，然后坐等适配。而是直接触达CUDA能够落地的场景，把这个场景所需要的软件的所有中间环节都全包了。 CUDA是英伟达GPU架构的最…

看到这个提问，想起了一个挺有意思的小故事。 大概是99年还是2000年，有个福建老板想到某县投资一个啤酒厂，全权委托他家当地的亲戚对接这事儿。按照当时的招商引资政策，这个亲戚能拿到一笔堪称天文数字的奖励。估计制定这个政策的时候，当地想破脑袋也没想到会有这么大的项目找过来，所以定的奖励比例也比较高。泼天的富贵来了，要给出的奖励也是吓死人。 当地政府一想到要掏这么多钱给一个普通的公务员，就心疼得不行。开了多…

2016年，某部门拆开英伟达的1080ti显卡，调用100名顶尖半导体人才，几十所大学，数百个加工厂，齐心合力，众志成城，终于在2022年制造出了达到1080ti 80%算力的显卡 此时，4090已经上市 。。。。。。。 某部门不服，决定亲自访问英伟达，探寻显卡制造的诀窍 说明来意后，黄仁勋支开了所有随行人员，带着领导回到了自己家厨房 从烤箱里拿出了999999990ti，然后用刀切出了1080，2080，3090，4090，5090，6090等显卡。。