企业站

Ampere和高通的合作带来服务器市场新看点

Asgardia 原创 2024-05-20 17:46:53
企业站_资讯眼

近日,由英特尔前总裁Renee James创立的服务器CPU设计公司Ampere Computing宣布,其AmpereOne芯片家族将在明年增加到256核。该公司还将与高通公司合作开发云人工智能加速器。

James介绍,公司即将推出的新AmpereOne平台,宣布12通道256核CPU已经准备好在台积电N3制造工艺节点上使用。安培设计芯片,并与外部代工厂合作制造芯片。2023年5月发布的上一款芯片有192个内核。它去年投入生产,现在已经上市了。

James强调,公司不仅关注核心数量,更注重平台的整体性能,包括内存、缓存和AI计算能力。她提到,Ampere的256核CPU将使用与现有产品相同的冷却系统,保持热设计功率在350瓦左右,同时提供比市场上任何CPU高出40%的性能。

和高通公司的合作也成为了焦点,他们共同致力于开发高性能的人工智能(AI)基础设施。与高通的合作也是Ampere发展路线图的关键部分。两家公司计划基于Ampere的CPU和高通的Cloud AI 100 Ultra加速器构建大型语言模型(LLM)推理平台。这一合作旨在解决行业面临的最大挑战之一:AI的快速发展带来的能源问题。Ampere和高通的联合解决方案将提供一种创新的方法,以更高效的方式处理AI推理任务。

高通的AI 100 Ultra加速器以其150W的低功耗和高效的性能而受到关注。尽管其外形小巧,但高通声称该加速器能够运行高达1000亿个参数的模型,并且两个加速器可以连接起来支持GPT-3规模的模型。高通的AI 100 Ultra在INT8精度下能够推动870 TOPs的性能,并由具有548GB/s带宽的128GB LPDDR4x内存提供支持。

此外,Ampere还透露了一个新的FlexSKU功能,该功能允许客户使用相同的SKU来解决横向扩展和纵向扩展的用例。这一灵活性将进一步推动Ampere在AI领域的应用。

总的来说,我们期待看到更多创新的AI解决方案,这些解决方案不仅能够提高性能,还能够降低功耗,为未来的数据中心基础设施提供可持续的解决方案。

点击展开全文
打开APP,阅读体验更佳

网友评论

聚超值推荐

更多优惠

相关推荐

面向AI,IBM Power服务器有新品S1012 原创 企业站 资讯
面向AI,IBM Power服务器有新品S1012
长存集团持股超68%!武汉新芯启动IPO辅导 原创 企业站 资讯
长存集团持股超68%!武汉新芯启动IPO辅导
台积电计划2027年投产晶元级芯片 原创 企业站 资讯
台积电计划2027年投产晶元级芯片
DPU如何加速AI/ML? 原创 企业站 资讯
DPU如何加速AI/ML?
日本超算富岳跑上大模型,发布了“Fugaku-LLM” 原创 企业站 资讯
日本超算富岳跑上大模型,发布了“Fugaku-LLM”
红帽OpenShift AI将集成NVIDIA NIM 原创 企业站 资讯
红帽OpenShift AI将集成NVIDIA NIM
美国预计到2032年半导体制造能力将增加两倍 原创 企业站 资讯
美国预计到2032年半导体制造能力将增加两倍
Oracle准备发布自己的Code Assist 原创 企业站 资讯
Oracle准备发布自己的Code Assist
锐捷极简以太全光网3.X再进化 彩光加持满足场景化需求 原创 企业站 资讯
锐捷极简以太全光网3.X再进化 彩光加持满足场景化需求
Gartner:亚太云计算laaS市场份额前三为阿里云、亚马逊、微软 原创 企业站 资讯
Gartner:亚太云计算laaS市场份额前三为阿里云、亚马逊、微软
相关产品
取消