智通财经APP获悉，Omdia发文称，由于高成本AI服务器的渗透率不断提高，而通用服务器的更新至少要推迟到2024年，3Q23的服务器出货量同比下降26%。预计2023年全年服务器出货量为1140万台，同比下降19%。在2024年的更新周期中，Omdia预计，服务器将进行重大整合，用一台新服务器取代多台已安装的服务器。这得益于更高核数的CPU和以应用优化为核心的新型服务器架构。2027年服务器市场的价值将达到1956亿美元。
在上述预测中，服务器处理器和协处理器所占份额正在增加，其驱动力是向超异构计算发展，即带有许多协处理器的应用优化服务器配置。这方面的例子包括：
运行AI训练和推理的服务器
用于大型语言模型训练的最流行服务器配置是英伟达 DGX 服务器，配置有 8 个 H100/A100 GPU
亚马逊用于AI推理的服务器配置有 16 个定制协处理器(称为 Inferentia 2)
配备多个定制协处理器的视频转码服务器
谷歌的视频转码服务器有 20 个定制协处理器(称为 VCU)
Meta 的视频处理服务器有 12 个定制协处理器(称为 Meta 可扩展视频处理器)
Omdia预计，随着某些应用的需求逐渐成熟，构建优化定制处理器的成本效益也会随之提高，这种趋势只会越来越明显。媒体和AI是超异构计算的早期受益者，数据库和网络服务等其他工作负载也会出现类似的优化趋势。
通用服务器的出货量明显放缓，领先制造商感受到了宏观经济逆风和投资重点变化的热度。需求疲软主要体现在企业和电信运营商领域。服务器的使用寿命达到了历史最高水平，目前企业平均使用7 年的服务器，并推迟了更新换代。
为AI配置的服务器的部署增长与Omdia 的预测一致。英伟达第三季度数据中心收入为145亿美元(同比增长近四倍)，与Omdia的预期一致。这表明，正如预期的那样，英伟达在第三季度出货了近50万块H100和A100 GPU。Omdia预测第四季度的出货量将突破50 万大关。
在云服务提供商细分市场，高配置AI服务器的部署正在抵消通用服务器迭代的延迟。但企业和电信运营商细分市场的情况并非如此，因为服务器制造商很难从英伟达获得足够的GPU 配货。服务器OEM 厂商表示，配置英伟达™(NVIDIA®)H100 GPU 的服务器的交付周期为36-52 周。
