首页 人工智能元宇宙大数据 企业智能化 智慧城市 科技 商务
当前位置:首页 > 人工智能

一文详解 Arm 为何能成为适用于各类 AI 工作负载的计算平台

来源:新浪科技 发布日期:2024-12-13

对于人工智能而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。本文引用地址:依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上的 AI 加速奠定了基础。就灵活性而言,这对生态系统大有裨益的三个主要原因是,首先,Arm CPU 可以处理广泛的 AI 推理用例,其中许多用例通常用于数十亿台设备,例如当今的智能手机、云和数据中心。不仅如此,除了推理之外,CPU 还经常用于技术栈中的数据预处理和编排等其他任务。其次,开发者能够在更多种类的数据格式中运行更广泛的软件,而无需构建多个版本的代码。最后,CPU 的灵活性使之成为加速 AI 工作负载的理想工具。提供多样性和选择,助力行业灵活部署 AI 计算除了 CPU 产品组合外,Arm 计算平台还包括 GPU 和 NPU 等 AI 加速器技术,许多市场都在将这些技术与 CPU 进行集成。在移动端领域,Arm 终端计算子系统 (CSS)包含Armv9.2 CPU 集群,并与Arm Immortalis-G925 GPU集成,可为各种 AI 用例提供加速功能,包括图像分割、对象检测、自然语言处理和语音转文本等用例。在物联网 (IoT) 方面,Arm Ethos-U85 NPU可与需要加速 AI 性能的基于 Arm Cortex-A 的系统一起设计,例如工厂自动化等场景。此外,除了 Arm 自己的加速器技术外,合作伙伴借助我们的 CPU 灵活定制具有差异化的芯片解决方案。例如,NVIDIA 用于 AI 基础设施的 Grace Blackwell 和 Grace Hopper 超级芯片均采用了 Arm CPU 和 NVIDIA 的 AI 加速器技术,从而显著提升 AI 性能。NVIDIA Grace Blackwell 超级芯片将 NVIDIA 的 Blackwell GPU 架构与基于 Arm Neoverse 的 Grace CPU 相结合。Arm 独特的产品组合使 NVIDIA 能够进行系统级设计优化,与 NVIDIA H100 GPU 相比,其能耗降低了 25 倍,单个 GPU 性能提高了 30 倍。具体来说,得益于 Arm Neoverse 平台的灵活性,NVIDIA 能够实现自有的高带宽 NVLink 互连技术,并提升 CPU、GPU 和内存之间的数据带宽和延迟。Arm 致力于通过Arm 全面设计生态项目,为整个生态系统注入 AI 加速的机遇。通过该生态项目,开发者可以更快访问 Arm CSS 技术,赋能软硬件技术进步,以此驱动 AI 和芯片创新,并加快开发和部署 AI 优化的芯片解决方案。Arm 架构满足AI 所需的独特灵活性Arm CPU 设计所具有灵活性关键在于我们领先的架构。它提供了一个可以与 AI 加速器技术紧密集成的基础平台,并支持从 128 位到 2,048 位的各种向量长度,可以在许多不同的数据点上轻松执行多个神经网络。Arm 架构的灵活性为整个芯片生态系统提供了多样化的定制机会,我们一直都致力于帮助合作伙伴更快地构建自己的差异化芯片解决方案。这种独特的灵活性也使 Arm 能够不断进行架构创新,定期推出关键指令和功能来加速 AI 计算,进而惠及整个生态系统,其中包括领先的芯片合作伙伴,以及在 Arm 计算平台上构建应用的 2,000 多万软件开发者等。这一切始于 Armv7 架构,该架构引入了高级单指令多数据 (SIMD) 扩展,例如 Neon 技术,这是 Arm 首次涉足机器学习 (ML) 工作负载。在过去几年中,该架构不断增强,Armv8 中增加了向量点积和矩阵乘法特性,之后在 Armv9 中又引入了 Arm SVE2 和新的Arm SME 技术,为广泛的生成式 AI 工作负载和用例提高了计算性能并降低了功耗。与 AI 加速器技术无缝集成Arm 是 AI 时代的计算平台,推动了持续的架构创新,以满足速度更快、互动性更好和沉浸感更强的 AI 应用的发展。Arm CPU 作为灵活处理 AI 工作负载的异构计算方法中的一部分,可以无缝增强和集成 GPU 和 NPU 等 AI 加速器技术。Arm CPU 是处理众多 AI 推理工作负载的实用之选,凭借出色的灵活性,它能够与加速器技术无缝集成,打造更强大、更高性能的 AI 功能, 精准满足特定用例和计算需求。对于我们的技术合作伙伴而言,出色的灵活性有助于实现丰富的定制选择,使他们能够为 AI 工作负载构建完整的芯片解决方案。

马斯克再度手撕盖茨:特斯拉登顶全球市值第一会让你破产!15分钟电量充至80%!长城汽车打造720kW全液冷超充站建成基金委信息科学部发布原创探索计划项目资助结果联发科首次打入苹果供应链:为Apple Watch提供芯片理想汽车人事变动!李想直接管销售服务业务,马东辉接替沈亚楠任总裁极越女主播突然得知失业:去公司拿了6双袜子4包餐巾纸每月要还3000元车贷Lululemon Q3营收同比增长28% Q4指引不及预期好市多 Q1营收不及预期 净销售额同比增8%SEC建议:美国公司应向投资者披露对加密资产市场的风险敞口三星电子第三季度晶圆代工全球市占率15.5%

不交社保、员工自费上班曝上海某造车新势力将原地解散:本周召开全员大会极越女主播突然得知失业:去公司拿了6双袜子4包餐巾纸每月要还3000元车贷一老头乐装假车牌上路违法被拍:乐道L60车主收到罚单北京新型储能产业营收将超千亿元曝极越员工被要求离职或自费上班 研发部门全部被砍80后爸爸辅导00后儿子作业:气到急性心肌梗死贾跃亭前妻甘薇首度回应7天还12亿:贾跃亭去美国不是为了躲债中国大陆成熟制程晶圆代工6折抢单!联电、世界先进压力山大小米YU7 SUV命名引发热议,雷军回应:直接读Y-U-7

Steve Madden FragranceNet Forward 荣耀商城 arti-shopping中文网 Air France(US) GoDaddy.com 美团外卖 千猪电影票 Ashford 一嗨租车 WHSmith Bonpont国际特卖商城ROI 饿了么 Moosejaw Agent Provocateur 优购移动 邦购 科沃斯 美团酒店 小米有品 万表网 苏宁易购移动 vivo官方商城 星巴克 网易严选 一嗨租车移动 苏宁易购 NIC+ZOE Jomashop