第四范式(06682)发布先知AIOS 5.1 GPU利用率跃升5-10倍

241 7月23日
share-image.png
刘家殷 智通财经信息编辑

智通财经APP获悉,今天,第四范式(06682)先知AIOS 5.1版本正式发布。该版本新增GPU资源池化(vGPU)能力,实现对硬件集群平台化管理、算力资源的按需分配和快速调度,最多节省80%的硬件成本,提高GPU综合利用率多达5-10倍。

第四范式先知AIOS 5是行业大模型开发及管理平台。平台以提升企业核心竞争力为目标,在支持接入企业各类模态数据的基础上,提供大模型训练、精调等低门槛建模工具、科学家创新服务体系、北极星策略管理平台、大模型纳管平台、主流算力适配优化等能力,实现端到端的行业大模型的构建、部署、管理服务。

在行业大模型的构建过程中,为进一步提高算力资源利用率,第四范式先知AIOS 5.1版本新增GPU资源池化(vGPU)能力,拥有五大技术亮点:

全面适配国产/非国产算力,支持混合部署与统一调度

算力和显存超分复用,算力切分精细到1%,显存切分以M兆为单位

具备千卡级别分布式调度与管理能力

支持自定义隔离策略,实现共享或独享算力池

利用多任务共享及处理优化技术,推理性能提升10倍以上

相关港股

相关阅读

四部门:强化“东数西算”规划布局刚性约束 统筹大型风电光伏基地与国家枢纽节点建设

7月23日 | 智通编选

杭州:培育高性能芯片、高速光网络等一批细分领域产业集群

7月23日 | 智通编选

回调不足惧!最新MLIV调查:企业财报将成美股“救命稻草”

7月22日 | 马火敏

中金公司:海内外AI高景气共振 传统电信业务关注结构性升级

7月22日 | 刘璇

市场嗅到美股新一轮牛市气息! 或许就差“Magnificent 7”临门一脚

7月22日 | 卢梭