
比英伟达芯片好衡阳钢绞线供应厂家,谷歌前TPU职工创业公司MatX正在受到情态。
之是以防御到这公司,这还得感谢宣传委员卡帕西(没错,MatX新B轮5亿好意思元融资他也投了)。
卡帕西暗示,参考英伟达4.6万亿好意思元市值,MatX正在向“现在真谛、答复也的才气艰巨”发起挑战。
MatX团队特等出,我很庆幸能参与其中,并祝福他们取得融资!
虽然也不光是卡帕西背书,MatX也有我方的“手锏”——条不同于当下主流AI芯片阶梯的技能遴荐。
当年几年,AI芯片阵营粗造分红两派:
派以英伟达、谷歌为代表,重押带宽内存HBM,先处置大界限侦察和朦拢问题;
另派则以Cerebras Systems(年头还取得了AMD投资)为代表,强调片上SRAM(静态速即存储器)和低蔓延,主办场景。
而MatX的气派是:小孩子才作念遴荐,成年东说念主虽然是齐要。
在他们看来,真确的输赢手不在于单点妙技拉满,而在于能否在同颗芯片里,把“侦察朦拢”和“理低蔓延”同期作念好——尤其是在长高下文、Agent轮回这些复杂的真实使命流中。
何况不啻说说汉典,据MatX首创东说念主露馅,他们咫尺正在造款“LLM用芯片”MatX One:
其朦拢量远于其他任何芯片,同期蔓延也低。
是以,MatX到底是谁?它真能对霸主英伟达组成阻难吗?
咱这就接着瞧,接着看。
谁是MatX?对于MatX的印象,谷歌二字恒久是绕不开的。
没方针,谁让两位首创东说念主齐来自谷歌TPU团队。
首创东说念主兼CEO Reiner Pope,身上有着很彰着的“软件”标签。
2012年加入谷歌时,主要负责谷歌舆图的部分网页斥地,并缓缓成为5东说念主团小主宰。
其后又设想并参与了谷歌大型机器学习系统Sibyl的斥地,该系统曾为YouTube、Gmail、Android等提供进军复旧,直到2017年被天真、支握度学习的TensorFlow Extended(TFX)平台徐徐取代。
亦然在这年,他初始搏斗芯片设想——加入谷歌里面技俩孵化平台“登月工场”(Moonshot Factory),并注于下代计较的架构设想。
自此,他缓缓从“作念系统的东说念主”衡阳钢绞线供应厂家,酿成了“交融模子与硬件如何协同的东说念主”。
从2019年起,他初始担任谷歌机器学习芯片的技能主宰兼架构师,集结参与了两代ML芯片的设想,并成为二代芯片的主要负责东说念主之。
其后是参与了谷歌那时界限大的模子——PaLM的侦察,何况是PaLM的软件/硬件率负责东说念主。
不错说,Reiner Pope是早期谷歌TPU软件栈的进军成员之,何况不是单纯作念芯片电路的东说念主,他懂得如何让芯片真确跑起大模子。
首创东说念主兼CTO Mike Gunter,则刚好有着很彰着的“硬件”标签。
何况他属于那种从底层逻辑电路路到系统架构的老派硬件工程师。
加入谷歌前,他就仍是是名集结创业者——早在2000年便联创办线通讯芯片公司Gossett and Gunter,其后公司被谷歌收购,他也随之加入谷歌。
而在谷歌,他作念过线通讯、多天线系统、ASIC设想,致使是谷歌里面位逻辑设想师、位被“认真付薪写 Haskell”的工程师。
从2008年头始,他便主了谷歌个硬件加快技俩,该技俩终把谷歌计较密集型任务的价比提了10倍以上。
再到其后,他和Reiner Pope的错杂初始变多——
Sibyl系统的设想和完结存他、和Reiner Pope险些同期间加入Moonshot Factory、ML芯片技俩有他(任工程师)等等。
总之,要是说Reiner Pope是在模子界限爆炸时期,处置“模子如何跑在芯片上”的问题,那Mike Gunter像是在早阶段念念考“芯片应该如何为改日的计较款式而设想”。
他俩起来险些把“软硬全栈”走了遍。个站在模子率前列,参与过PaLM别的侦察;另个站在芯片底层,从晶体管和微架构路搭到系统。
而软硬结这点,也恰是MatX身上很大的个看点,体现在正在设想的MatX One芯片上即为——
MatX One芯片基于种可拆分的脉动阵列(splittable systolic array)架构。该架构既接管了大型脉动阵列在能和面积率面的势,又大致在尺寸小、时局天确切矩阵计较中保握较的欺骗率。
这款芯片将SRAM先设想(SRAM-first designs)的低蔓延特与HBM(带宽内存)支握长高下文处理的才气结在起。在此基础上,再配套全新的数值计较案(numerics设想),使其在大言语模子上的朦拢量过咫尺统共已公布的系统,同期在蔓延面达到SRAM-first设想的水平。
为便于交融,咱们不错结卡帕西的不雅点来解释。
在卡帕西看来,跟着token用量的激增,如今大靠近的问题是——
怎样把“算力”和“内存”调配到刚刚好,才能让大模子快、低廉地吐出多token?
许多东说念主没挑升志到,咫尺市面上两种主流的芯片阶梯齐有其局限:
以英伟达为代表的HBM阶梯,其中枢逻辑在于“大模子侦察是带宽游戏”,钢绞线厂家即模子越大、参数越多、高下文越长,就越需要把权重和激活值在芯片之间速搬运。
于是堆HBM、堆带宽、堆互连衡阳钢绞线供应厂家,成为主流解法,它处置的是朦拢问题。
而以Cerebras Systems为代表的片上SRAM阶梯,其中枢逻辑在于“理时期的要害不是带宽,而是反应速率”。
于是把尽可能多的数据放在片上SRAM中成为解法,如斯来便能减少外部访存,缩小单次查询蔓延,后者处置的是蔓延问题。
但问题在于,今天的大模子,其侦察和理不再是白璧青蝇的两个寰宇——
要是只强调HBM带宽,蔓延难以下落;要是只强调片上SRAM,界限又难以膨大。
是以卡帕西就问了,是否存在种的物理基板,使计较与内存的比例从初始就为大模子而设想?
MatX的回应是:与其在既有架构上补丁,不如从架构层面重构算力与存储的相关。
没错,等于从初始。
2022年从谷歌去职创办MatX,二东说念主便下定决心要从造款秀的芯片——
方向是设想条全新的、具有竞争力的硬件居品线,融其他芯片制造商使用的两种迥然相异的法。
MatX试图讲明,改日的AI芯片不在“速率”和“容量”之间苦衷衡量,因为真确的软硬结,不错让芯片同期领有两者的势。按Reiner Pope的话来说等于:
实质上不错在同个居品中同期作念到这两点,何况这么会得到个好的居品。
而正在生长的MatX One,毫疑问便承载着这理念。
旦奏效,同期完结的朦拢量+低的蔓延便意味着——
在相似的预算下,你不错侦察大的模子、跑长的高下文、复旧复杂的Agent轮回,同期让每次用户交互齐快地得到反应。
这恰是卡帕西所说的“设想物理基板,编排内存与计较,以求快、低廉地获取token”的履行注脚。
可想而知,从团队到理念到居品,MatX仍是作念足了准备。
而对这么支团队,市集也给以了实足的精明和支握。
来岁量产、已获数十亿融资完了咫尺,这公司仍是取得数十亿好意思元融资。
MatX官网夸耀,2025年3月这公司取得了1亿好意思元A轮融资,投为Anthropic早期投资者Spark Capital。
顶量化Jane Street Group、着名投资东说念主Daniel Gross(早期投资了Figma/Notion等)、Nat Friedman(GitHub前CEO)、Adam D‘Angelo(Quora联创兼CEO)等均参与投资。
那时Reiner Pope还对MatX作念了个阶段精良:
两年内,咱们在机器学习数值计较、芯片设想和完结、软件和系统设想等面的统共技能参加齐得到了考据,并竖立了统共要的作伙伴相关,从而斥地出了咱们的芯片。
凭借这轮投资,咱们现在领有实足的资金将咱们的系统向市集。
而在快速发展频年后,界限接近100东说念主的MatX此次又取得了新5亿好意思元(约东说念主民币34亿元)B轮融资,何况声势还在加多。
具体而言,B轮投酿成了两:Jane Street和Situational Awareness LP。
原有投资Spark Capital、Triatomic Capital、Harpoon Ventures等继续跟投,何况还新增了Dwarkesh Patel、卡帕西、 Stripe联创兼CEO Patrick Collison高出弟弟等东说念主。
Reiner Pope继续精良陈词:
创立MatX的初志是,咱们合计适LLM的芯片应该从根蒂上进行设想,并刻交融LLM的需求高开拔展趋势。为了造这么款芯片,咱们致使平稳毁掉小模子能、低容量使命负载,以及编程的通俗。
不错说,此举仍是将东说念主们对MatX One的风趣心拉满了。
里面测试标明,字据每平毫米的计较能设想,其芯片能不错越英伟达行将出的Rubin Ultra居品。
据悉MatX将与台积电张开作,方向是本年完成芯片的一说念设想,并于2027年头始出货,主要销售对象为少数几先的东说念主工智能实验室。
MatX暗示,这笔融资将匡助公司预留产能和部件,以确保旦准备就绪就能赶紧发货。
这轮融资让咱们险些与那些领有渊博资金的公司站在了同起跑线上。
One More Thing瞎预见刚被老黄包收购的Groq,咱们确切想看MatX的改日。
毕竟这两手上拿的脚本可太致了——
同是谷歌TPU中枢成员创业、同是要挑战英伟达芯片霸主地位。
效果呢,老黄甩出200亿好意思元就把Groq包带走了——包括首创东说念主和90团队职工。
手机号码:13302071130别说MatX首创东说念主兼CTO Mike Gunter还有被谷歌包收购的资历……
只可说,要是MatX真作念出了比英伟达芯片好的东西,不说老黄有莫得观念,谷歌可能也去争争也不定。
— 完 —
量子位 QbitAI
情态咱们,时刻获知前沿科技动态
相关词条:储罐保温 异型材设备 钢绞线厂家 玻璃丝棉厂家 万能胶厂家1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》衡阳钢绞线供应厂家,以此来变相勒索商家索要赔偿的违法恶意行为。