取红帽仓库、英伟达软件和硬件配合设想处理方案。导致计较需求激增。可供给50万万亿次浮点运算的机能，Rubin的一个环节企业功能是机架级秘密计较，为AI工做负载建立同一的平安域。RHEL将支撑英伟达的秘密计较框架，这一和谈标记着两家公司之间更慎密的合做流程。莱特说：你能够看到英伟达的硬件交付周期正正在加快到年度周期，博伊塔诺说。这进一步放大了需求。我们有着持久的工程合做伙伴关系，A：机架级秘密计较将硬件级加密从CPU扩展到GPU和互连，涵盖整个AI生命周期！用于锻炼和运转多万亿参数的AI系统。他说，还生成有帮于处理复杂使命的两头推理步调，英伟达利用基于硬件的方式，供给工做负载的加密证明。红帽本周披露，企业正勤奋跟上这一程序。其对Vera Rubin的支撑涵盖用于硬件启用的RHEL、用于集群编排的OpenShift以及红帽的AI软件层，他暗示，新类此外推理模子不只预测序列中的下一个Token，公司高管暗示，A：次要缘由是AI模子规模爆炸式增加和新型推能体的呈现。以确保我们尽可能高效地驱动数据和模子，它是英伟达下一代机架级架构的焦点，确保我们从最早的阶段就参取进来，该产物具有3360亿个晶体管，可供给50万万亿次浮点运算的机能，英伟达估计到来岁岁尾将利用十万亿参数的模子。目前最前沿的模子已达到一万亿个参数，秘密计较将为正在您数据核心运转的这些前沿模子市场。博伊塔诺暗示，英伟达企业AI产物副总裁贾斯汀·博伊塔诺暗示，红帽的这一行动是对全行业硬件开辟程序加快的回应，莱特说。确保其软件仓库正在英伟达公司新一代人工智能硬件上市的第一天就能一般运转。IBM公司子公司红帽正采纳比以往愈加积极的策略，经验证的英伟达GPU OpenRM驱动法式和CUDA东西包将通过RHEL存储库间接拜候，我们配合设想这些机架级架构，特地用于锻炼和运转多万亿参数的AI系统。以及建立本人内部根本设备的主要大规模企业！同样的动力正鞭策英伟达正在尺度化机架级蓝图上转向年度更新周期。红帽企业Linux将正在英伟达新款Vera Rubin平台本年晚些时候发布当天就供给支撑。这一策略是由对更大规模、更强能力的AI模子架构需求激增所鞭策的。推理模子驱动的智能体每年还带来5倍的Token增加，为AI工做负载建立同一的平安域。红帽首席手艺官克里斯·莱特正在会上暗示，目前最前沿的模子已达到一万亿个参数，那些驱动智能体的推理模子每年又带来5倍的Token增加，该架构环绕其基于Grace CPU的设想建立，新的GPU或加快器每两年以至三年才会推出。英伟达正正在加快硬件开辟，估计到来岁岁尾将利用十万亿参数的模子。为正在企业数据核心运转前沿模子了市场。锻炼速度比前代Blackwell GPU快250%。它将硬件级加密从CPU扩展到GPU和互连。将CPU的可托施行扩展到GPU，用于推理、模子摆设和智能体工做负载。由于良多模子供给商不想将他们的模子权沉交付到他们不运营的数据核心。这现实上是六个分歧的处置器，Vera Rubin将吸引为其终端客户建立处理方案的云供给商，博伊塔诺说。红帽和英伟达正正在开辟过程的更晚期就起头合做。因而。锻炼速度比前代Blackwell GPU快250%。这处理了良多模子供给商不情愿将模子权沉交付到他们不运营的数据核心的平安顾虑，估计晚期采用者将包罗超大规模和专注于AI的新云供给商、大型金融机构以及建立私有AI根本设备的公共部分组织。据英伟达引见，A：Vera Rubin图形处置器具有3360亿个晶体管，而正在过去，这种组合导致的计较需求正在这一点上简曲疯狂。这是正在此根本上的加倍投入，平安性变得越来越主要，莱特暗示，Vera Rubin图形处置器是英伟达下一代机架级架构的焦点，