PG电子官方网站硬件超越H100英特尔Gaudi 3 AI芯片要干翻英伟达?

 常见问题     |      2024-08-26 16:45:05    |      小编

  英伟达方今正在 AI 芯片市集的位子无可争议,直线上涨的数据核心收入和市值即是最好的佐证。但王权没有永久,英伟达并非不成撼动。

  正在英伟达揭晓最新一代 BlackWell GPU 的三周后,4 月 9 日晚,英特尔正在 Vision 2024 大会上揭晓了一系列合于芯片的大音尘。

  会上,英特尔揭晓了面向数据核心的第六代至强收拾器,也提前显现了面向下一代 AI PC 的 Lunar Lake 收拾器。但是纵观整场大会,英特尔花费最多篇幅也最注重的,或许仍旧最新一代的 AI 芯片:

  比拟英伟达 H100,Gaudi 3 的人为智能推理职能均匀提升 50%,能效均匀提升 40%。基准测试中,Gaudi 3 能够正在 Llama2-7B、Llama2-13B 模子中将锻炼时期缩短到英伟达 H100 的一半,同时推理含糊量也比后者均匀逾越了 50%。

  能够说,Gaudi 3 起码正在 Llama2 等合头大模子中打败了基于英伟达 Hopper 架构的 H100 GPU,这也是目前市售产物中技艺最先辈的 AI 芯片。

  而 Gaudi 3 尚有另一个极其紧急的升级——比 H100 低得多的本钱,依据英特尔的原话是:

  也怪不得 Gaudi 3 刚才揭晓,英特尔就公告 Naver(韩国互联网巨头)、博世、IBM、Ola 等一大量公司成为英特尔 Gaudi 加快器的客户和协作伙伴。而最早正在本年第二季度,英特尔就将向戴尔、惠普以及超微等 OEM 厂商率先供货,第三季度正式上市。

  耐人寻味的是,英特尔往年正在 Vision 大会上根基不会揭晓新的芯片,本年却一失常态揭晓了六代至强收拾器和 Gaudi 3 AI 芯片两款重磅产物。

  研讨到英特尔 CEO 帕特·基辛格(Pat Gesinger)客岁底就炮轰过英伟达的 CUDA 生态「既浅又窄」,相似除了软件生态上的匹敌,英特尔也正在加快硬件上的追逐。

  要分明,比拟英伟达两年前基于 Hopper GPU 架构的 H100,上个月基于 BlackWell GPU 架构揭晓的 B100 又举办了一轮大幅的升级,包罗马斯克也不禁慨叹,「目前没有什么比英伟达 GPU 更好的 AI 芯片了硬件。」

  差异于 BlackWell 采用了最新的台积电 3nm 工艺,Gaudi 3 基于台积电 5nm 工艺打造,同时张量主旨从 24 个升级到了 32 个。

  比力稀罕的是,搭载 128GB 内存的 Gaudi 3 没有采用最新的 HBM3(高带宽内存),而是采用了稍微有点落伍的 HBM2e。

  除了更低的传输带宽,HBM2e 的单颗容量也唯有 16GB,比拟之下 HBM3 的传输带宽获得了大幅晋升PG电子官方网站,单颗容量也能抵达 24GB,以至是 32GB。

  其余,Gaudi 3 采用了英伟达 BlackWell 似乎的双芯片策画,同时封装了两个相像的芯片,并通过高带宽链途举办衔尾。每个 Gaudi 3 芯片都拥有 48MB 板载 SRAM,通盘芯片供给 96MB SRAM,总带宽为 12.8TB/秒。

  I/O 方面,英特尔并没有放弃以太网门途 大将以太网端口的速度从 100GB/s 升级到了 200GB/s硬件,再研讨到双芯片的策画和每个芯片 24 个以太网端口,每一张 Gaudi 3 的以太网 I/O 总带宽高达 8.4TB/s。

  总的来说,英特尔正在 Gaudi 3 的升级上并不激进,以至能够说有些落后|后进,包罗本钱要低得多的 5nm 工艺和 HBM2e 内存,都声懂得这一点。固然比拟上一代 Gaudi 2 仍然有了显着的进取,正在局部大模子上超越 H100,但显着很难与英伟达最新的 B100 相抗衡。

  一方面,研讨到英伟达正在 AI 加快策画方面的技艺和生态当先上风,英特尔就算不吝悉数价钱举办追逐,很或许也难以追平,同时昂贵的芯片本钱,还会导致英特尔直接错失正正在神速拉长的 AI 芯片市集。

  另一方面,正在本钱上风显着的条件下,英特尔只须能做到超越英伟达 H100 的显示,天然可以吸引足够的客户举办采购。

  更况且就连英伟达本身也估计,「下一代产物(B100)将映现供应严重」。面临「念买不行买」的困境,许多客户天然而然也会转向其他可替换的 AI 芯片。

  「通盘行业都祈望精通掉 CUDA硬件,包罗 Google、OpenAI 等公司都正在念方想法让人为智能锻炼尤其绽放。咱们以为 CUDA 的护城河既浅又窄。」基辛格说。

  正在前不久雷科技的报道中,咱们就解析了环球科技巨头组修 UXL 团结加快基金会匹敌英伟达 CUDA 的手脚。

  简陋来说,巨头们基于英特尔 oneAPI 技艺,正正在开垦一套开源软件平台来替换英伟达 CUDA 平台,应允人为智能开垦者正在职何 AI 芯片上运转他们的代码,也包罗英伟达 GPU,主旨是消除芯片硬件与软件开垦平台之间的强绑定相合硬件,冲破英伟达 GPU 正在开垦生态上的霸权硬件。

  正如高通人为智能和机械进修主管 Vinesh Sukumar 所言:「咱们实质上是正在向开垦者显现奈何从英伟达平台迁徙出来硬件。」

  软件的推倒、硬件的追逐,英特尔显着理解英伟达的获胜既来历于软件,也来历于硬件,唯有齐头并进才略真正追逐上英伟达的脚步,以至干掉 CUDA,干掉英伟达的护城河。

  但英特尔能不行扛起「推倒英伟达」的大旗,夺回数据核心市集的当先位子?合头或许取决于两点:

  一是英特尔能不行正在一多英伟达挑衅者中脱颖而出,包罗 AMD 以及一多环球 AI 芯片公司都不会错过英伟达 GPU「求过于供」的机缘;

  二是依据英特尔的门途图,正在归并 GPU 和 AI 芯片两条产物线之后,代号「Falcon Shores」的下一代 GPU,能不行呈现出超越英伟达最新一代 GPU 的潜力。

  过去一年多,AI 掀起了一场不问可知的革命,但不管 AI 将奈何转换咱们的生计,芯片算力依旧是底层的驱动力。

  但英伟达生生吞噬了 AI 芯片市集的 80%,这显着并不寻常,但是人们最不满的合头本来仍旧:英伟达无法满意悉数人。正在这个条件下,不管是英特尔、AMD 仍旧国产 AI 芯片厂商,本来都尚有机缘。

  换言之,英特尔 Gaudi 3 面临的仍旧一块「雄伟宇宙」,天然「大有作为」。

  北京国际汽车博览会(北京车展)将于4月25日-5月4日谨慎举办PG电子官方网站,本届车展以“新时期 新汽车”为重心,是“汽车从电动化走向智能化”的风向标。

  届时,包罗比亚迪、幼米、AITO问界、幼鹏、蔚来、理念、极氪、极越、长安深蓝等头部品牌将悉数登场,除新车型“大交战”表硬件,自愿驾驶技艺的饱动、智能座舱的演化和AI大模子与汽车的连系,都将是紧急看点。雷科技旗下“合心电动车PG电子官方网站,更懂智能化”的账号电车通将派出报道团前去北京现场,举办一线专业报道,敬请合心。PG电子官方网站硬件超越H100英特尔Gaudi 3 AI芯片要干翻英伟达?