智通财经APP获悉,Omdia发文称,2021-2022年,CPU供应商竞相在其指令集中内置额外的人工智能加速功能。英特尔、Arm和AMD都宣布将推出该功能。但现在,只有英特尔至强6芯片的一部分以及相对较少的智能手机具备该功能。Omdia高级计算首席分析师Alexander Harrowell表示,有理由认为,英特尔带有AMXAI扩展的Sapphire Rapids和Emerald Rapids芯片的销量令人失望。与此同时,主要的基于Arm的服务器CPU项目都没有选择使用同等的扩展,AMD最终也没有继续使用他们的扩展。
Alexander Harrowell指出,lMLPerf推理基准测试项目的结果表明,增加中量级GPU所带来的每美元性能远高于部署具有CPU内加速功能的CPU。在一些特殊情况下,CPU内核扩展会有所帮助--例如,如果因为每核软件许可而优先考虑减少内核数量--但在其他情况下,使用GPU或根据指令宽度和内核密度等因素进行选择似乎更划算。