迈向AI时代,智算、通算走向异构融合,从训练到推理,CPU以其通用性、灵活性与良好的生态兼容��?,构建了AI技术普惠的基石。同时以DeepSeek为代��?,伴随高性能、低成本大模型的迅速普��?,国内AI算力需求呈现爆发式增长,行业焦点已从“算力供给”转向“算力高效利用”��?
鲲鹏通过软硬件解决方案使能伙伴高效打造推理一体机,协同产业链上下游共同推出从数据中心场景、人工智能场景到边缘场景的产��?,构筑坚实的算力底座��?
一方面,鲲鹏+xPU推理能够做到DeepSeek全模型适配,覆盖大、中、小企业场景。鲲鹏提供全系列主板和模��?,联合7家OEM推出10余款推理服务��?,20余家KPN伙伴推出��?20余款边缘推理一体机/工作��?,覆盖数据中心和边缘场��?,适配昇腾等主流xPU��?
同时鲲鹏与openEuler协同,实现内存融合和算力融合。通过GMEM做到xPU和CPU内存统一编址,提升xPU内存利用��?;通过sysHAX将部分推理任务精准分配给CPU处理,实现CPU和xPU算力协同,能够覆盖MoE模型和稠密模��?,实现LLM推理吞吐量提��?10%~30%��?
鲲鹏+xPU推理使能伙伴快速推出DeepSeek一体机,已应用于政府、高校、医疗、互联网多个场景。例如山西某省级医院,基于华鲲振宇推理一体机,采用DeepSeek-70B模型,实现诊疗全流程智能化升级。通过本地化部��?,患者数据全程“不出院��?,保障隐私与安全。在单个病例处理��?,系统可实时解析电子病历、影像报告等多模态数��?,辅助医生快速生成结构化病例小结,耗时从传统人工的30分钟缩短��?1分钟��?
基于“鲲��?+xPU”组��?,鲲鹏使能伙伴高效打造多样性算力推理服务器,快速推出高集成、高性价比边缘推理工作站,为企业提供更灵活组合的智能化底座,加快AI在各行业应用��?
展望未来,随着技术的不断进步和行业需求的日益增长,鲲鹏通过持续的技术创新和生态合��?,将为各行各业提供更先进、更高效、更开放的算力平台和生��?,为更先进的数智世界而计算��?
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注��?
