飞扬平台现已实现对DeepSeek全系列年夜模子的端到端支撑,包含飞扬腾云S5000C跟飞扬腾锐D3000处置器,笼罩了数据核心跟终端场景,而且机能表示优良。飞扬在DeepSeek-V3跟R1版本宣布后,敏捷在腾云S5000C跟腾锐D3000平台长进行了当地安排验证,构成了团体的处理计划,构建了端到真个国产平台DeepSeek年夜模子智算情况。在数据核心方面,腾云S5000C效劳器可与多款AI减速卡共同,实现DeepSeek蒸馏版跟全量版的安排。官方实测数据表现,飞扬腾云S5000C搭配8块国产AI减速卡,DeepSeek-R1-Distill-Llama-70B版本的推理速率可达每秒22个tokens,其当地安排的推理效力与外洋同类产物相称,团体机能约为外洋平台机能的80%。别的,完全版DeepSeek R1 671B模子也已胜利安排在基于四机、32卡AI效劳器集群的散布式推理框架上。在用户终端方面,基于腾锐D3000跟河汉麒麟V10体系的台式性能够当地安排DeepSeek-R1 7B蒸馏版模子,并搭配1张国产推理卡,实现了AI PC才能,构建了保险牢靠的当地常识助手。