国产高涨 CPU 实现对 DeepSeek 全系列大模子端到端
发布时间:2025-04-18 08:44      点击次数:

  IT之家 2 月 9 日动静,高涨消息手艺无限公司昨日晚发文颁布发表,旗下腾云 S5000C 和腾锐 D3000 成功实现对 DeepSeek 全系列大模子的端到端支撑,笼盖数据核心和终端场景,据引见,DeepSeek-V2。5 236B 大模子于2024 年正在高涨腾云 S5000C 平台实现不变运转。基于高涨腾云 S5000C 设备搭配 8 块国产 AI 卡,全体机能可达国外平台机能 80% 摆布。DeepSeek-V3 和 R1 版本发布后,高涨手艺团队正在腾云 S5000C 平台和腾锐 D3000 上对其进行当地摆设验证,构成全体处理方案。数据核心侧,高涨腾云 S5000C 办事器可取多款 AI 加快卡共同实现 DeepSeek蒸馏版和全量版摆设。高涨 AI 尝试室正在单机 8 卡办事器平台已进行蒸馏版 DeepSeek-R1-Distill-L-70B 版本测试,推理速度可达22tokens / s。基于四机 32 卡 AI 办事器集群运转可摆设成功。用户终端侧,基于高涨腾锐 D3000 的台式机能够当地摆设 DeepSeek-R1 7B 蒸馏版模子,搭配 1 张国产推理卡,实现 AI PC 能力。高涨腾云 S5000C 具有 64 核、32 核、16 核 3 种产物形态,兼容 ARMv8 指令集,支撑硬件虚拟化,产物支撑贸易和工业分级,该产物次要面向计较办事器、存储办事器、AI 办事器、高端网安、行业级营业从机办事器系统、大型互联网数据核心等场景。高涨腾锐 D3000 集成 8 个高涨自从研发的新一代高机能处置器核 FTC862,兼容 64 位 ARMv8 指令集并支撑 ARM64 和 ARM32 两种施行模式,支撑单精度、从频达到 2。5GHz,支撑硬件虚拟化。


您感兴趣的新闻
上一篇:外贸企业“忙碌模式”
下一篇:川渝实业西南商业核心项目迈入全面实施阶段

返回列表


COPYRIGHT © 2021 ALL RIGHTS RESERVED 版权所有:江苏澳门新莆京游戏app官方版进出口贸易有限公司 网站地图

版权所有:江苏澳门新莆京游戏app官方版进出口贸易有限公司

澳门新莆京游戏app官方版