Kaiyun - 中国官方版权服务网站

关闭
NIDIA Hopper 首次亮相 MLPerf在 AI 推理基准测试中一骑绝尘
作者:小编 日期:2024-11-12 点击数: 

  在行业标准 AI 推理测试中,NIDIA H100 GPU 创造多项世界纪录、A100 GPU 在主流性能方面展现领先优势、Jetson AGX Orin 在边缘计算方面处于领先地位。

NIDIA Hopper 首次亮相 MLPerf在 AI 推理基准测试中一骑绝尘(图1)

  这些测试结果表明,对于那些需要在高级 AI 模型上获得最高性能的用户来说,Hopper 是最优选择。

  H100 (又名 Hopper)提高了本轮测试所有六个神经网络中的单加速器性能标杆。它在单个服务器和离线场景中展现出吞吐量和速度方面的领先优势。

NIDIA Hopper 首次亮相 MLPerf在 AI 推理基准测试中一骑绝尘(图2)

  NIDIA H100 GPU 在数据中心类别的所有工作负载上都树立了新标杆

  Hopper 在流行的用于自然语言处理的 BERT 模型上表现出色部分归功于其 Transformer Engine。BERT 是 MLPerf AI 模型中规模最大、对性能要求最高的的模型之一。

  这些推理基准测试标志着 H100 GPU 的首次公开亮相,它将于今年晚些时候上市。H100 GPU 还将参加未来的 MLPerf 训练基准测试。

  在最新测试中,NIDIA A100 GPU 继续在主流 AI 推理性能方面展现出全方位领先,目前主要的云服务商和系统制造商均提供 A100 GPU。

  在数据中心和边缘计算类别与场景中,A100 GPU赢得的测试项超过了任何其他提交的结果。A100还在6月的MLPerf训练基准测试中取得了全方位的领先,展现了其在整个AI工作流中的能力。

  A100 还在6月的 MLPerf 训练基准测试中取得了全方位的领先,展现了其在整个 AI 工作流程中的能力。

  NIDIA AI 是唯一能够在数据中心和边缘计算中运行所有 MLPerf 推理工作负载和场景的平台。

  NIDIA GPU 在所有主要 AI 模型上的领先性能,使用户成为真正的赢家。用户在实际应用中通常会采用许多不同类型的神经网络。

  例如,一个AI 应用可能需要理解用户的语音请求、对图像进行分类、提出建议,然后以人声作为语音信息提供回应。每个步骤都需要用到不同类型的 AI 模型。

  MLPerf 基准测试涵盖了所有这些和其他流行的 AI 工作负载与场景,比如计算机视觉、自然语言处理、推荐系统、语音识别等。这些测试确保用户将获得可靠且部署灵活的性能。

  MLPerf 凭借其透明性和客观性使用户能够做出明智的购买决定。该基准测试得到了包括亚马逊、Arm、百度、谷歌、哈佛大学、英特尔、Meta、微软、斯坦福大学和多伦多大学在内的广泛支持。

  在边缘计算方面,NIDIA Orin 运行了所有 MLPerf 基准测试,是所有低功耗系统级芯片中赢得测试最多的芯片。并且,与 4 月在 MLPerf 上的首次亮相相比,其能效提高了50%。

  在上一轮基准测试中,Orin 的运行速度和平均能效分别比上一代 Jetson AGX Xavier 模块高出 5 倍和 2 倍。

NIDIA Hopper 首次亮相 MLPerf在 AI 推理基准测试中一骑绝尘(图3)

  MLPerf 结果显示,NIDIA AI 得到了业界最广泛的机器学习生态系统的支持。

  在这一轮基准测试中,有超过 70 项提交结果在 NIDIA 平台上运行。例如,Microsoft Azure 提交了在其云服务上运行 NIDIA AI 的结果。

  此外,10 家系统制造商的 19 个NIDIA 认证系统参加了本轮基准测试,包括华硕、戴尔科技、富士通、技嘉、慧与、联想、和超微等。

  它们的结果表明,无论是在云端还是在自己数据中心运行的服务器中,用户都可以借助 NIDIA AI 获得出色的性能。

  NIDIA 的合作伙伴参与 MLPerf 是因为他们知道这是一个为客户评估 AI 平台和厂商的重要工具。最新一轮结果表明,他们目前向用户提供的性能将随着 NIDIA 平台的发展而增长。

  用于这些测试的所有软件都可以从 MLPerf 库中获得,因此任何人都可以获得这些世界级成果。NGC( NIDIA 的 GPU 加速软件目录)上正在源源不断地增加以容器化形式提供的优化。在这里,你还会发现 NIDIA TensorRT,本轮测试的每此提交都使用它来优化 AI 推断。

  关键字:引用地址:NIDIA Hopper 首次亮相 MLPerf,在 AI 推理基准测试中一骑绝尘

  ARM全球行销和策略联盟副总裁Ian Ferguson揭露明年战略时直言:ARM现在谈AI还太早,明年不会推出专用AI晶片设计,将专攻IoT市场 人工智慧AI已成为今年最火红技术之一,更成为许多大型科技和网路公司,如Google、微软、亚马逊、脸书等,明年全力投入发展的一大重点,就连处理器龙头英特尔也计画明年推出AI专用伺服器晶片,来抢占AI市场商机。不过ARM全球行销和策略联盟副总裁Ian Ferguson近日来台揭露明年战略时则直言:“现在谈AI还太早,明年并不会推出专用AI晶片设计,而将专攻IoT市场。” 发展ARM架构AI晶片还要再等等 尽管AI风潮正席卷全世界,不少大型科技和网路公司开始将AI与自家服务结合,做为电

  日前,在夏威夷举办的CPR大会上,微软对外公布,他们正在为HoloLens开发新的AI芯片,使设备可直接识别用户所看的事物和听见的声音,将数据传回云端时也不会产生更多的延时。下面就随嵌入式小编一起来了解一下相关内容吧。 据了解,微软HolographicProcessingUnit(HPU,全息处理器)二代正在研发中,将用于下一代HoloLens,但并未给出明确时间。 上一次微软宣布Hololens全息处理器还是2016年8月。一代HPU芯片采用台积电TSMC代工定制打造的28nm数字信号处理器(DSP),具有24颗TensilicaDSP核心,每秒处理1万亿指令,8MBSRAM,1GBLPDDR3内存。HPU芯片还采用12x1

  有多少公司正以AI之名,行人工之实? 在AI落地大潮下,谁有真本事,谁只会玩概念,已经开始显现出来。 刚刚,《华尔街日报》就曝光了一家海外伪AI明星公司Engineer.ai。 这家总部设在美国洛杉矶和英国伦敦的公司,一直以来都声称,使用AI技术在很大程度上实现了移动App的自动化开发。 依靠这一故事,kaiyun中国官方网站它获得了2950万美元(约合人民币2.1亿元)投资,包括孙正义软银旗下专注投AI的Deepcore基金,也是其股东。 然而讽刺的是,Engineer.ai的真实业务开展中,并没有使用AI,用的是来自印度的程序员冒充AI。 用人装AI,挣了1个多亿 Engineer.ai成立于2016年,声称要打

  写程序,挣了一个多亿? /

  司空见惯的人脸识别算法与智能摄像头,无时无刻不被调用的智能语音与推荐算法,各行各业都开始探讨如何使用 AI……然而当我们继续深入到 AI 开发的产业深处,会发现还存在着许多待解的难题:AI 技术与企业的业务场景怎样结合?投入能效比是否达到规模化应用的预期?怎样从 AI 技术上重新建构竞争壁垒? 8 月 10 日举办的华为 HAI 2020 大会上,华为昇腾计算业务总裁许映童一句话,揭示了华为接下来将使能 AI 的方向——“极简易用,让 AI 计算无处不在;极致性能,让 AI 计算触手可及”。 在 AI 即将进入各行各业的当下,或许值得一次凝视。 (华为昇腾计算业务总裁许映童在 HAI 2020) 大

  ,如何才能重构竞争壁垒? /

  /高通/地平线日下午,英特尔在深圳召开“英特尔 AI 座舱暨车载 独立显卡 发布会”,重磅发布了旗下首款锐炫™车载独立显卡——Arc A760,凭借高达229TOPS的强劲 算力 ,将助力汽车厂商进入技术前沿,为 智能座舱 带来极致的 生成式AI 体验。 车载独立显卡Arc A760:229TOPS 据介绍,英特尔Arc A760是一款车规级的独立显卡(支持-40℃~105℃),拥有28个Xe核心、28个光线个面向AI的XMX/矢量引擎,同时还集成了1 6G B显存,并支持PCle 4.0×16接口。该独立GPU可提供高达14个单精度万亿次浮点运算,加速时钟频率约为1953MHz,略低于Arc A750的2.0

  无人驾驶汽车、眼球追踪技术、老年人情感陪护助手等新技术、新产品将成为我省人工智能的发展方向。 省政府近日印发的《辽宁省新一代人工智能发展规划》提出以智能机器人、智能制造、智慧医疗、智慧城市为突破口,加快构建具有辽宁区域特色的人工智能自主创新体系,在智能机器人、智能制造等领域积极探索布局,提出包括构建人工智能科技创新体系、培育高端高效智能经济、建设安全便捷智能社会等在内的多项具体任务。其中,智能社会方面的规划发展将提供更多民生实惠,让普通百姓时刻感受到人工智能带来的便利和高效。 规划显示,我省将重点研发面向老年人的移动社交和服务平台、情感陪护助手等智能系统;聚焦城市重点领域,重点开展人工智能支持城市规划决策、综合运行管理、基础设施建

  人工智能正处于浪潮之巅。高盛集团发表了一篇名为《中国人工智能崛起》的研究报告,称中国在利用人工智能推动经济发展方面,已经成为全球的主要竞争者。统计数据显示,中国人工智能产业在2016年已经突破100亿元,预计2019年将增长至344.3亿元。2000年-2016年,中国人工智能企业数累计增长1477家,融资规模累积达27.6亿美元。大量的资本、人才、创业公司以及技术正支持中国的人工智能爆发。世界范围内,谷歌、苹果、亚马逊、微软、Facebook五大科技巨头都在抢占人工智能市场,国内BAT也火力全开布局人工智能,它们也将成为人工智能浪潮中的最大受益者。(编辑:包芳鸣) 导读 这是一种简单而直接的印象:百度在过去四年中进

  高通技术公司今日推出高通骁龙™7c第2代计算平台,作为公司第2代入门级平台,该平台将为始终在线、始终连接的Windows PC和Chromebook带来高效性能,并支持多天电池续航。在以“高通骁龙计算平台:支持移动计算生态的规模化扩展”为主题的线上发布活动中,高通技术公司表示,骁龙7c第2代计算平台将推动入门级PC的体验升级,带来用户所期待的增强的影像和音频功能、集成的LTE连接、AI加速、企业级安全特性和持久的续航。新推出的骁龙7c第2代计算平台将支持我们的客户扩展其产品层级,以满足用户需求。 高通技术公司产品管理高级总监Miguel Nunes表示:“骁龙7c第2代平台将我们计算平台产品组合中领先的技术创新引入下一代经济实

  技术在新能源汽车行业的应用_万舜

  诊断方法研究_唐圣学

  全功能环境监测站作品源码

  东芝1200 SIC SBD “TRSxxx120Hx系列” 助力工业电源设备高效

  2024 瑞萨电子MCU/MPU工业技术研讨会——深圳、上海站, 火热报名中

  Follow me第二季第4期来啦!与得捷一起解锁蓝牙/Wi-Fi板【Arduino Nano RP2040 Connect】超能力!

  嵌入式工程师AI挑战营(进阶):基于R1106部署InsightFace算法,实现多人的实时人脸识别

  11 月 10 日消息,维也纳工业大学(TU Wien)的研究人员开发了一种自学机器人,能够模仿人类完成简单的任务,例如清洁洗脸盆。这一看似 ...

  2024年11月6日,全球协作机器人制造商优傲机器人(Universal Robots, 以下简称“优傲”)今日发布UR AI加速器。这是一套即插即用的硬件 ...

  全国首批人形机器人具身智能标准发布:按下肢运动、上肢作业等分 4 个等级

  10 月 29 日消息,据浦东发布消息,人形机器人及具身智能创新论坛昨日在上海召开,国家地方共建人形机器人创新中心联合行业内头部企业和 ...

  通过增强大负载协作机器人的负载能力,优傲能够有效提升客户的生产吞吐量和整体生产效率2024年10月24日,全球协作机器人制造商优傲机器人( ...

  发烧友网报道(文/吴子鹏)近一段时间以来,人形成为产业的热门。和化部原副部长、中国电子学会理事长徐晓兰此前表示:“在企业、政府、应......

  MiR发布全新车队管理软件MiR Fleet Enterprise, 树立自主移动机器人可扩展性和网络安全新标

   使用 ROHM Semiconductor 的 BD45261 的参考设计

  STEP400:用于创意编码器的 4 轴步进电机驱动器(原理图、PCB、源码等)

  LT3763EFE 20A、脉宽调制、单 LED 驱动器的典型应用电路

  EK-TIT9036A、EK-THEMIS-ATLAS-基于 CHT-THEMIS 和 CHT-ATLAS 栅极和电源驱动器的评估板

  用于 24 汽车应用的 LTC4367HDD 过压电源保护控制器的典型应用

  使用 LTC2367CMS-18、18 位、500ksps SAR ADC 的典型应用

  AD8604DRZ-REEL 作为 DAC 输出缓冲器驱动重负载的典型应用

  东芝推出TXZ+TM族高级系列基于Arm® Cortex®-M4的新款M4G组MCU

  Baraja融资4000万美元 加速开发Spectrum-Scan LiDAR技术

  IDC:2021上半年人工智能市场规模达21.8亿美元 同比增长42.2%

  消息称苹果、三星超薄高密度电池均开发失败,iPhone 17 Air、Galaxy S25 Slim手机“变厚”

  TE Connectivity利用传感和连接解决方案,赋能电动汽车发展 参与有好礼!

  TI 处理器主题月:三场直播精彩这个八月!报名且看直播就能得好礼!更有提问奖相送!

  西门子 Realize LIE 用户大会:探索新基建下的企业变革之力

顶部