

作家 | 云鹏
裁剪 | 漠影
日活超3000万东说念主的DeepSeek已成为全球AI产业当红炸子鸡,也被视为中国AI的柬帖,平日东说念主使用AI器具更容易的同期,企业用户的需求也在加快涌现。
企业用户对DeepSeek特有化部署的需求极为要紧。一方面,数据安全成为悬在企业头顶的“达摩克利斯之剑”。在互联网上,企业数据如同清楚在“玻璃屋”中,可能被窃取或点窜。
另一方面,企业对DeepSeek的个性化定制需乞降永久本钱考量日益突显。举例,医疗、电商等行业每天产生海量数据,按现存阛阓上主流的API调用使用量计费口头明显不合算。
此外,国产AI芯片企业也急需更快更好地适配DeepSeek、充分开释算力,借着DeepSeek兴隆,委果与国外芯片巨头掰掰手腕。
面对这些需求,清华系AI Infra限制明星创企——清程极智,给出了我方的谜底:DeepSeek特有化部署决策。
近日,清程极智基于十余家国产芯片,包括壁仞科技、寒武纪、海光信息、摩尔线程、沐曦、清微智能、昇腾、燧原科技、念念朗科技、天数智芯、太始元碁等(按字母排序),推出了DeepSeek特有化部署决策。
清程极智觉得:关于企业用户而言,特有化部署为企业提供了一个“数据保障箱”,从物理层面拒绝外部要挟,确保数据主权紧紧掌抓在企业手中,同期特有化部署不仅能安闲企业的个性化需求,还能完毕永久本钱优化。
省略基于国产芯片半壁山河推出决策,也已解说行业达成了共鸣:企业利用DeepSeek特有化部署不再是可选项,而是获取阛阓竞争、完毕永恒发展的必由之路。
新品发布之际,智东西独家对话了清程极智CEO汤雄超,对其算力系统软件背后的硬核黑科技、撬动十余家国产芯片的原因,以及清程极智对AI Infra限制的深刻念念考齐进行了接洽。
一、为芯片和大模子架桥,特有化部署切中大模子企业应用要害痛点
从2022年头露矛头到2023年爆发式涌现,再到2024年生意化落地,迈入2025年,AI大模子的发展愈加聚焦本钱和遵循,这亦然行业对大模子落地应用怜惜的焦点。
在这一大配景下,非论是大模子厂商、算力芯片厂商照旧算力平台,齐离不开优秀的算力系统软件支柱——算力系统软件的技艺立异和冲破,不错显耀裁汰大模子的部署本钱、提高大模子运行遵循,帮企业降本增效。
用汤雄超的话来说,清程极智要作念的是连气儿芯片跟大模子应用的“桥梁”,买通应用需求跟算力硬件,把底层硬件的算力更充分地阐扬出来,让表层应用不错有更好的落地体验。
在这么的大配景下,清程极智自研了大模子推理引擎,并推出了MaaS做事以及推理一体机。

近日清程极智的MaaS平台刚刚完成了满血版DeepSeek-R1大模子的上线适配,其自研清程赤兔引擎通过一系列性能优化不错让DeepSeek-R1在速率上完毕提高。

▲清程极智MaaS平台上线满血版DeepSeek-R1
而这次清程极智要推出的DeepSeek特有化部署决策,则为企业和斥地者们提供了一种更生动、更高效地接入DeepSeek的口头。
特有化部署不同于公有云做事,其决策中既包含全齐腹地化的部署样子,也包含通过云平台分拨专属规画资源,进而完毕企业的特有化部署样子。
为何大模子特有化部署如斯要紧?这与当下行业需求的高速增长、行业发展到新时辰所濒临的需求痛点以及大模子特有化部署处分决策带来的诸多上风密切联系。
从风险侧目和数据合规性的方面来看,如今国表里齐已陆续出台数据安全联系法律规章,特有化部署不错让企业全齐掌控数据的人命周期,幸免跨境传输风险。
比如医疗、金融等行业对数据的腹地化有强制要求,特有化部署是独一的合规路子。
与此同期,特有化部署不错完毕更深度的模子定制化,企业不错通过特非凡据无间历练模子,让通用大模子转机为垂直限制的“人人”,进一步提高大模子做事企业、提高企业分娩遵循的发扬。
从安全的角度来看,特有化部署不错完毕硬件级加密、数据脱敏,驻扎轨范更高。
从行业发展角度来看,如今大模子才气依然等闲进入生意化落地应用阶段,企业需要将AI才气委果地镶嵌到中枢业务经由之中,这是很要害的,而特有化部署不错匡助企业更好的完毕这少许。
临了从十分本色的提高性能角度启航,特有化部署也有着彰着上风。汤雄超谈说念,其实大部分企业齐是但愿在既有业务中融入AI的才气,并非“从0开动”,因此企业更多但愿省略回到我方的业务系统,构建在我方的特有化环境中。
从性能上来说,如若业务一部分在云霄一部分在腹地,数据传输的支拨很大,况兼效轻易能也会受到影响,接管特有化部署,不错让企业通盘业务模块齐在熟悉、可控的环境中,数据交互更高效。
天然,特有化部署省略带来的高褂讪性对企业业务来说也至关要紧,比较公有做事器容易受到庞杂流量的冲击,特有算力明显更有保障,褂讪性更好。
如今各大智高东说念主机巨头纷纷官宣自家AI智能体支柱DeepSeek,用户通过各家特有云部署的DeepSeek体验AI,就会更少碰到“做事器吃力,请稍后再试”的无语。本色上这等于特有化部署带来上风的一种直不雅体现。
二、大模子算力系统软件立异,让国产AI芯片走的更快更远
不错看到,在DeepSeek加快深度融入行业之下,大模子特有化部署依然成为行业发展的要紧趋势之一,而清程极智基于十余家国产AI芯片厂商推出的DeepSeek特有化部署处分决策,恰是得当这一趋势而来。
本色上,大模子高效地特有化部署不仅不错给应用大模子的企业客户带来上述诸多平正,关于国内AI芯片企业也有着要紧真谛和价值。
当今国产AI芯片限制固然不乏许多发扬亮眼的企业,但总体来看行业仍然是学习、追逐的态势,怎样让更多企业用上国产AI芯片,是十分要害的一步。
要不要用?最中枢的一个轨范仍然是性能,性能最直不雅的响应等于用户最终的使用体验,模子应用的遵循是否是委果“可用”的。
而清程极智偶合作念的等于连气儿国产AI芯片和大模子,让芯片不错更高效地运行大模子应用,进而提高性能发扬。
从生意角度来看,国内的AI芯片例必要濒临跟英伟达这么的熟谙国外巨头的竞争,因此提高芯片性能就显得十分要害。通过系统软件的优化,在雷同的硬件条目下完毕更高的性能发扬,就意味着本钱的下落、性价比的提高,进而居品详细竞争力就变强了。
汤雄超提到,从永恒视角来看,只有国产芯片平台不错达到与国外居品一样的体验,民众例必会倾向于国产,进而匡助芯片企业提高国内阛阓的份额。如若更进一步在性价比上也不错追平国外居品,那国产芯片企业将会领有更多走向全球阛阓的契机,这内部的遐想空间是庞杂的。
当今清程极智提供的大模子端到端的历练和推理,及配套的性能优化做事,依然匡助数款大模子完毕了在多款国产芯片上的快速预历练和高性能推理优化,裁汰了大模子的部署本钱,提高了大模子运行遵循。
三、大模子遵循提高近100倍,硬核自研技艺立异仍是最强王牌
在大模子应用与芯片之间架起桥梁,完毕大模子遵循的提高,进而提高国产AI芯片的性价比,这么的逻辑听起来并不复杂,但本色上,要委果完毕算力系统软件的技艺立异,存在诸多挑战,这亦然清程极智的中枢技艺上风场所。
在汤雄超看来,他们的中枢上风主要在两方面:集群算力的高效利用和国产芯片的深度适配优化。
他提到,往时十几年,技艺团队在清华履行室时辰就作念了十分多的责任,在集群算力高效利用和国产芯片适配优化方面积存了多量教授,而这两个问题亦然作念好AI算力系统软件的中枢难点场所。
凭据官方信息,清程极智由清华大学翟季冬教授发起并任首席科学家,团队孵化于清华大学规画机系,在算力系统优化限制有着十余年教授积存,当今依然与国内多个智算超算中心、着名芯片厂商及大模子厂商达成生意迷惑。
在集群算力使用方面,往时的问题主要聚合在历练方面,而DeepSeek的火爆也带来了集群算力在推理方面的新挑战,怎样高效地支柱671B参数的大模子运行,有诸多问题需要处分。
汤雄超提到,委果掌抓集群算力使用样子况兼不错哄骗的很好的团队并未几。
当今清程极智掌抓了并行系统、规画框架、通讯库、算子库、AI编译器、编程谈话、退换系统、存储系统、内存治理、容错系统等10个要害基础软件的中枢技艺,并在其中过半数限制领有自研居品,处分决策消除大模子落地全栈技艺要求。
除了集群算力高效利用,清程极智的另一个上风是关于国产芯片的深度适配优化。
本色上,这是一个多量锤真金不怕火Know-how的限制。当今行业永久民俗了英伟达芯片,其芯片的生态软件系统齐相对完善,使用更简短,比较之下,国产芯片在软件生态方面不够完善,完毕遵循不够高效,有些模块是缺失的,这齐是算力软件系统厂商需要处分的问题。
为了处分这些清苦,清程极智采取了一条更具挑战的技艺阶梯:自研大模子推理系统。
由于英伟达生态永久占据主导地位,当今行业中的许多开源框架、软件从盘算念念路上就更合适英伟达芯片,径直移植很容易碰到“水土抗拒”的问题,国产AI芯片在盘算、性能方面齐与英伟达芯片有所分离,一些正本起到促进作用的优化模块对国产AI芯片来说可能会形成反向负面遵循。
因此针对具体国产芯片进行针对性适配和优化就显得尤为要紧。在这一限制,清程极智的团队有丰富教授,其自研推理系统从软件盘算层面等于为各样性芯片组成去作念的,因此在国产AI芯片适配大模子方面有更高的性能提高上限。

当今,清程极智依然作念了面向大模子算力系统的全栈修复及优化。从本色详细数据来看,其处分决策不错让大模子应用本钱裁汰2个数目级,让大模子运行遵循最高提高近100倍。
纵不雅其模子系统级处分决策,具备多线索的算力优化上风:自研推理系统不错更好地搪塞低蔓延、高并发的推理需求;自研编译器则不错使新式算子更高效地适配,让复杂模子在异构算力上跑的起来、跑的更好;与此同期,其算力系统软件兼容性强,不错同期支柱多种国表里算力平台。
结语:对持中枢技艺参加,收拢AI渗入千行百业新机遇
今天的中国智算产业,正在资格前所未有的新变革,迎来新的机遇和挑战。正如汤雄超所说,AI行业发展很快,唯有对持中枢技艺立异的参加才是硬真谛真谛。改日清程极智会赓续在集群规画、国产算力适配优化方面对持技艺立异。
如若说早期的AI仅仅大公司的“尝鲜”居品,那么如今越来越多的中袖珍企业齐开动使用AI,AI依然迟缓变成企业的必需品。另一方面,国产芯片发展势不行挡,中国大模子、中国AI技艺的发展,例必需要有可靠可控的坚实算力底座。
处分这些需乞降挑战开yun体育网,恰是DeepSeek这类大模子特有化部署的真谛和价值场所,亦然清程极智的标的场所:基于国产芯片半壁山河之力,用系统软件立异在大模子和芯片之间架起桥梁,让企业客户享受到AI红利,让国产芯片在新一轮AI技艺爆发中领有更高增长后劲和更稠密的遐想空间。