英伟达“平替”。
大模型狂飙,寒武纪好消息不断。
一则报道称,美国商务部可能限制英伟达向中国出口芯片。作为英伟达的“平替”,寒武纪的福气在后头。
天眼查网站显示,寒武纪董事长、总经理陈天石,是实控人,年仅38岁,经穿透,目前持有公司股份约1.24亿股。
陈天石认为,芯片产品需要系统化、体系化,覆盖客户人工智能的整个业务线,才能创造巨大价值。
算力是构建大模型的基础。一个说法是,1万枚英伟达A100芯片,是做好大模型训练的算力门槛。
A100的价格已飙升至10万元/枚,供不应求,紧俏异常,有机房甚至拆卖旧货。
去年8月,美国禁止英伟达等芯片厂商对华销售高端GPU芯片,包括A100在内。今年,口子越收越紧。
一位大模型领域创业者告诉《21CBR》记者,算力这块的限制,短期会有影响,但长期来看,也许是好事。
寻找A100“平替版”的大模型玩家,将目光投向寒武纪。
几份市场流传的AI芯片专家交流纪要提到,寒武纪的思元590,用在大模型训练推理上,效果接近A100。具体能达到A100性能的多少,说法不一,有60%、90%等传闻。
思元590尚未发布,制程为7nm,面积为800mm2,接近A100的826mm2。
“差距肯定有,比较的维度很多,端到端的性能有太多可以取巧的空间。”某架构师向《21CBR》记者表示。
一位关注科技领域的投资人士称,AI芯片领域,寒武纪属于第一梯队,590芯片是国内较成熟的AI芯片。
“至于跟英伟达的差距,很大。不光是纸面上的计算能力数据,还有实际跑起来的效果、稳定性等等。”
“公司推出的智能芯片产品,在特定应用场景下,与市场主流同尺寸GPU相比,实测能效方面表现具有一定优势。”陈天石在5月中旬称。
一位业内人士提到,百度文心一言曾使用思元590,进行小规模部署;快手的大模型项目,也有部分用到了思元590。
3月底,寒武纪辟谣称,文心一言使用公司产品(的消息),不属实,相关产品正处于适配阶段,尚未产生收入。
陈天石是科研型老板,带队研究AI芯片,经验丰富。
他出生于江西南昌,16岁考入中科大少年班,后在中科院计算所一路做到博士生导师,31岁那年决定创业。
2016年,他与中科院研究所旗下的中科算源,共同出资成立寒武纪。
寒武纪身上,光环极盛,通关科创板仅用68天,成立第二年,就与华为一起造芯片。
华为2017年发布的全球首款手机AI芯片麒麟970,集成了寒武纪的A1处理器。
陈天石认为自己办的是一家“传统芯片设计公司”,大手笔投入研发。
2022年,寒武纪研发投入15.2亿元,研发投入占营业收入的比例高达208.9%,同比增加51.41个百分点。
今年4月,公司完成新一轮定增,募资16.7亿元,悉数投向AI芯片。
其中,一个14.9亿元的项目总投资额最高,主要用来建设稳定集成电路工艺制程下的芯片设计平台(涵盖7nm至28nm工艺)。
陈天石如此重视的原因,在于制程工艺和封装技术,是芯片能效提升的关键。
通过采用先进制程工艺,芯片厂商得以提升单位面积芯片的晶体管数量,从而实现芯片能效的提升。
国际一流芯片厂商,均以此突破口,支撑高端云端芯片的竞争力。
寒武纪采用Fabless模式经营,专注芯片的设计和销售、晶圆制造等环节,委托给加工厂商代工。
晶圆主要向台积电采购,芯片IP及EDA工具主要向Cadence、Synopsys和ARM等采购,封装测试服务主要向日月光、Amkor等采购。
后续在供应端,寒武纪如得不到支持,将有新的波折。
产品的布局,寒武纪云边端都做,按先终端IP产品,再做云端芯片,而后边缘芯片的顺序。
“从基础研究,到产品化,到落地部署,从训练到推理、从云端到边缘到终端,客户需要不同款芯片。如果我们能提供一整套‘葫芦兄弟’,不管干啥,总有一个葫芦娃能顶上来。”
理想丰满,现实骨感,受高额研发费用拖累,公司连年亏损,过去5年,累亏37亿元。
“寒武纪的定位,有些尴尬。”一位市场观察人士向《21CBR》记者分析道,往上,超大型的公司如华为、谷歌和苹果,自己设计AI芯片;往下,小公司玩不来生态,直接采用英伟达的产品。
“只有中段位公司可能用(寒武纪)产品。但中段位里,一批汽车厂商会选专注汽车AI芯片的公司,满足自动驾驶需求。”
过去几年,寒武纪云端产品线前五大客户,包括中科可控、浪潮信息等服务器厂商,以及阿里、百度等互联网公司。
产品方面,上述人士提到,最早华为联合寒武纪,在麒麟970中引入其专用NPU模块,那时寒武纪具有先发优势,“现在来看,先发优势似乎并未转化成商业优势”。
今年一季度,公司一反常态,研发费用减少4370万元;单季营收仅增加1230万元。
二季度,寒武纪拿到了大订单。6月底,“沈阳市汽车城新型基础设施建设项目-智能计算中心”项目发布中标结果,公司拿下1.55亿大单。
这标志着,其商业化有实实在在的突破。
给大模型玩家“卖铲子”,前景广阔。英伟达若受限,接单会受益,但前提是打磨好产品。