路透社4月5日消息,周三发布的一组新的测试数据显示,高通公司(Qualcomm Inc)的人工智能芯片在功耗效率的三个指标中,有两个胜过了英伟达公司(Nvidia Corp)。
而一家台湾初创公司在其中一个类别中超过了这两家公司。
英伟达公司在使用大量数据进行AI模型训练方面占据市场主导地位。
但是,在这些AI模型经过训练后,它们被广泛应用于所谓的“推理”,例如生成对提示的文本响应并决定图像是否包含猫等任务。
分析师们认为,随着企业将人工智能技术应用于其产品中,数据中心推理芯片市场将迅速增长,但像Google这样的公司,已经在探索如何控制额外的成本。
其中一个主要成本是电力,高通公司利用其为智能手机等电池供电设备设计芯片的历史,创建了一款名为Cloud AI 100的芯片,旨在实现节约用电。
在MLCommons发布的测试数据中,这是一个维护人工智能芯片行业广泛使用的测试基准的工程联盟,根据每个芯片每瓦可执行的数据中心服务器查询数量,高通公司的AI 100在图像分类方面,击败了英伟达的旗舰H100芯片。
高通公司的芯片每瓦可执行197.6个服务器查询,而英伟达为每瓦可执行108.4个查询。
由台湾芯片学术资深人士林永隆(Youn-Long Lin)创立的初创企业Neuchips在这方面排名第一,每瓦可执行227个查询。
在目标检测方面,高通公司也击败了英伟达,其得分为每瓦可执行3.2个查询。
而英伟达为每瓦可执行2.4个查询。
目标检测可以应用于分析零售店的镜头素材,以确定顾客经常到哪里。
然而,在自然语言处理测试中,英伟达在绝对性能和功率效率方面都排名第一,这是像聊天机器人这样的系统中最广泛使用的AI技术。
英伟达的性能为每瓦可达到10.8个样本,而Neuchips以8.9个样本每瓦的排名位居第二,高通公司排名第三,为每瓦可达到7.5个样本。
来源:
https://www.reuters.com/technolo … y-tests-2023-04-05/
发布者:afndaily,转载请注明出处:www.afndaily.com