16874680069

公司新闻

南宫NG28 > 新闻中心 > 公司新闻

南宫NG娱乐官网优刻得基于国产芯片适配DeepSeek全系列模子

  • 发布时间:2025-03-16
  • 点击次数:

  DeepSeek开源模子鞭策了大模子的高效化和轻量化,大大低落算力门坎南宫NG娱乐官网,增进开源生态的繁华开展。

  克日,优刻得基于壁仞科技国产芯片的先辈内存架构、多模子适配才能、普遍的数据精度撑持和解码才能,片面展开包罗R1在内的DeepSeek全系列模子适配事情,以满意差别范围参数目模子的本性化布置需求:

  轻量级模子(1.5B-8B):适配智能终端与边沿计较装备,完成低延时及时推理。

  中大范围模子(14B-32B):效劳于大范围企业级使用和高并发使命,满够数据宁静与定制化需求。

  大范围模子(70B):依托云端超算集群,支持前沿AI研讨与庞大使命处置。

  推理服从已成为大模子开展的中心合作力。优刻得凭仗壮大的手艺才能和与壁砺TM系列停止适配兼容,仅用数小时即完成了对DeepSeekR1全系列蒸馏模子的撑持,涵盖了从1.5B到70B各品级参数版本,包罗LLaMA蒸馏模子和千问蒸馏模子。

  该手艺打破充实展现了国产算力厂商与国产芯片厂商的深度协同,表现了国产算力在AI推理使命中的高效兼容性和易用性,为开辟者供给了高机能、低本钱的大模子布置与开辟处理计划。

  在国产AI算力的加持下,优刻得算力同享平台将尽力撑持DeepSeek系列模子,环球开辟者可云端体验DeepSeek全系列模子效劳。

  1.零布置本钱:免除硬件采购与情况搭建,完成“开箱即用”的云端推理体验。

南宫NG娱乐官网优刻得基于国产芯片适配DeepSeek全系列模子(图1)

南宫NG娱乐官网优刻得基于国产芯片适配DeepSeek全系列模子(图2)

  除根底算力资本撑持,优刻得还出格供给DeepSeek模子的私有化布置效劳,用户能够按照本身使用需求,将DeepSeek模子布置在当地效劳器上ng28南宫,在享用高机能AI计较才能的同时,确保数据的宁静性和营业的自立可控,助力企业级AI使用加快落地。

  优刻得云平台与国产芯片厂商强强结合,今朝已构建起从底层硬件到模子效劳的完好AI手艺栈,为中小企业和研讨机构供给“国产算力+国产模子”的端到端处理计划,为国产AI生态兴起供给强有力支持。

  跟着DeepSeek等大模子的进一步提高和使用,野生智能财产无望迎来愈加开放、高效和普惠的开展新阶段。优刻得将持续加大研发投入,鞭策国产AI算力平台与芯片手艺、开辟者生态的迭代晋级,力图在更多AI使用范畴获得更大的打破。