有人说x86是条必沉的船,苹果早就跳船了,微软也有弃船的意图,你怎么看?
说一个好玩的东西,rk3588。
这玩意儿是目前sbc(单板电脑)中性能最强的芯片(忘掉动辄500刀的jetson吧),超过最新的树莓派5。
但是也就是4核a76+4核a55而已,落后手机soc六七代的玩意儿,性能相当于6年前的高通骁龙855,略高于现在nas上常用的intel n100。
但是!种种迹象表明,rk3588作为arm linux pc/home server的解决方案,竟然慢慢把生态做起来了,甚至很多地方超越了树莓派。
即使rk的软件团队实在不怎么给力,到现在mali 驱动都只有android的,给linux提交驱动也是外包给colabra,长达一年多的时间里只能用5.10的vender kernel。跟后发的树莓派5比起来简直就是作坊。
但是这货有3个杀手锏。
- 3个2T的npu,一共6T。在这个算力级别下,实测比什么地平线或者华为昇腾的好用多了,支持fp16和混合精度,非量化yolov8s都能跑将近一百fps,这是我之前完全没有料到的
- 吊炸天的编解码能力,原生8k hevc,数据表支持av1但目前软件还没支持,无论是做视频盒子还是做nvr、aibox,都能全链路8k,所以输入输出也没有瓶颈
- 4lane pcie3.0,接nvme、hailo-8算力棒、asm1166扩sata都是即装即用
我为啥说它rk3588生态做起来了,因为大概半年前,jellyfin和immich分别支持了rkmpp硬件转码和rknn,可以利用3588的专有加速硬件做视频编解码和神经网络推理人脸识别!
上面说了一大段,可能你们以为我已经忘了问题是什么了,我没忘!x86还像现在这么个搞法,必死无疑!我说的!
微软最近搞aipc,算力门槛是40T,我不知道那些生产力软件到底有多少把算力用起来了,我就光跑个推理测一测吧,backend就用微软自家的onnxruntime+directml,你猜怎么着?
比cpu还慢。
我用8845h和rtx3080测都是这德行。
但你别说,你还真别说,directml真就是现在amd的npu唯一能用起来的方式。
我呸。rocm你个垃圾。
intel也好不到哪儿去,openvino支持了全平台,oneml把ai应用工作流定义的多么清晰,多么优雅,一看实际应用情况,嚯,跟隔壁菜鸡互啄。
要拿酷睿ultra或者strix halo去跑个home server的话,开源方案搞硬件编解码还得规避驱动的商用条款,要知道这x86干视频编解码也有几十年的历史了,这拉稀一样的开放程度,每年要耗费社区多少人力啊。
想把i/a家npu用起来,我劝你现阶段直接放弃吧,老老实实去买张n卡。什么你说你是类nuc主机?也有办法,搞个oculink/usb4显卡坞,配个独立电源,再外接个3060…害
现在我们再回到3588。
nano docker-compose.yml
ctrl x
docker compose up -d
jellyfin起来了,4k 转码能跑六七十帧。
immich起来了,相册里出现了一张张熟悉的面孔。
这3588带硬盘再加个交换机,转码跑的飞起,相册正在入库,pt疯狂下载,你甚至还用lxc跑了个旁路由,docker跑了个homeassistant,一看米家智能插座,8w。
旁边的低压低功耗移动版x86 nuc啥都没干,15w。
我知道这么比肯定有问题。但一个是arm 6年前的落后架构的产品,一个是现在x86前沿技术的集大成者,我不想说什么,我只是想笑。
怎么说呢,x86应该羡慕苹果软硬件一体,但更应该庆幸封闭的苹果生态暂时把apple silicon给封印在了只占17%的mac使用人群里。
苹果先用定价模型打了wintel一拳,再稳步迭代自家m系列。arm通用生态它才不管,我mac上应用越来越多,越来越快才是王道。macbook单机能跑llama 70b,你wintel能吗?
现在处在终端agent大爆发前夜,这下使用场景也变了。
使用场景变了,商业模式也就变了,新商业模式淘汰旧商业模式,很快的。
而如果x86再不努力,17%很快会变成30%,那时候就不是微软跳不跳船的问题了,是微软的pc业务什么时候会寄的问题。微软在openai上赚再多钱,ai应用生态依然是要靠硬件去跑的,高通先不管,nvidia要是把它的thor出个pc版,我看不出来现在的x86有什么招架之力。
你说开放重要,兼容性是王道,acpi,uefi,pcie,iso,iommu,我说这些都不重要,什么重要,应用最重要。
iPhone不是靠兼容塞班或者win mobile成功的,iPhone是靠革新人机交互方式成功的。当有了新的更好的交互,为老范式设计的软件生态就成了桎梏。
放两年前,有人说他用树莓派aio,我会会心一笑拿出pve,告诉他我已经过了那个可爱的年纪啦。
现在你说x86不折腾?什么x86?老子还年轻,年轻就是要折腾,你们都给我起开,我鱼缸里的白条鳑鲏和长臂虾们还等着智能喂食的模型上线呢。