其次，新興應(yīng)用的出現(xiàn)給數(shù)據(jù)中心提出了新的需求，但傳統(tǒng)CPU在處理這些新需求時(shí)顯得有點(diǎn)捉襟見肘，這讓當(dāng)前數(shù)據(jù)中心處理器格局產(chǎn)生了新的變數(shù)。以人工智能的崛起為例，因?yàn)樾枰笠?guī)模的模型訓(xùn)練和迭代，并且單個(gè)模型的規(guī)模也越來越大（如具有1750億參數(shù)的GPT-3模型需要上千塊的GPU同時(shí)訓(xùn)練），這就帶動(dòng)了英偉達(dá)NvidiaGPU和谷歌GoogleTPU等具有先天優(yōu)勢的芯片在這個(gè)市場迅速普及。
與此同時(shí)，另一種新型處理器——DPU（DataProcessingUnit）最近幾年也開始在數(shù)據(jù)中心扮演日趨重要的角色。半導(dǎo)體行業(yè)觀察在之前發(fā)布的兩篇文章《為什么DPU那么火？》和《DPU技術(shù)發(fā)展概況》中解釋了DPU的概念和應(yīng)用。從業(yè)界共識看來，數(shù)據(jù)中心從以CPU為中心向以DPU為中心演進(jìn)幾成定局。
DPU——軟件定義的芯片
從行業(yè)的發(fā)展史看來，DPU的出現(xiàn)是網(wǎng)絡(luò)基礎(chǔ)設(shè)施體系架構(gòu)發(fā)展的又一個(gè)里程碑。DPU將成為數(shù)據(jù)中心基礎(chǔ)設(shè)施的管理和運(yùn)維中樞，負(fù)責(zé)將不同的數(shù)據(jù)調(diào)度給最合適的CPU、GPU以及支持各種未來應(yīng)用的xPU進(jìn)行處理，并卸載和加速網(wǎng)絡(luò)、存儲和安全等處理。在筆者看來，未來的數(shù)據(jù)中心將由DPU、CPU和GPU三大主要算力組成，每臺服務(wù)器都需要一個(gè)甚至多個(gè)DPU產(chǎn)品。換而言之，DPU的數(shù)量和服務(wù)器的數(shù)量將至少處于同一個(gè)級別。
之所以DPU能承擔(dān)起如此重要的任務(wù)，這與其過去多年在數(shù)據(jù)中心的應(yīng)用演變有莫大的關(guān)系。
正如之前的兩篇文章描述，我們現(xiàn)在說的DPU是SmartNIC（智能網(wǎng)卡）的下一代，作為一款不同于傳統(tǒng)NIC（Networkinterfacecontroller）的產(chǎn)品，智能網(wǎng)卡是為數(shù)據(jù)中心的網(wǎng)絡(luò)和安全等進(jìn)行加速和卸載等應(yīng)用而生的，這在過去都是在CPU上完成。然而，隨著需求的增加，CPU逐漸不堪重負(fù)，于是SmartNIC便逐漸將這些處理卸載下來。
隨著行業(yè)對網(wǎng)絡(luò)基礎(chǔ)設(shè)施需求的提升，DPU應(yīng)運(yùn)而生。這種“新”產(chǎn)品不但增強(qiáng)了SmartNIC在網(wǎng)絡(luò)協(xié)議和網(wǎng)絡(luò)安全方面的能力，開發(fā)者還希望其能更好地應(yīng)對數(shù)字智能時(shí)代數(shù)據(jù)爆發(fā)推動(dòng)的“云-邊-端一體化”趨勢所帶來的對計(jì)算時(shí)延、資源虛擬化和安全等需求。
可以肯定的說，DPU是從以CPU為中心向以數(shù)據(jù)為中心遷移的關(guān)鍵性基礎(chǔ)技術(shù)。在真正解決和加速數(shù)據(jù)中心彈性網(wǎng)絡(luò)、彈性存儲、大規(guī)模低時(shí)延網(wǎng)絡(luò)和安全的同時(shí)，它們還提供了虛擬機(jī)、裸金屬和容器的統(tǒng)一化運(yùn)維和管理。
在推動(dòng)數(shù)據(jù)中心基礎(chǔ)設(shè)施不斷演進(jìn)的同時(shí)，DPU的出現(xiàn)還能真正地為基礎(chǔ)設(shè)施帶來“降本增效”的效果，即將“CPU處理效率低下、GPU處理不了”的負(fù)載卸載到DPU，同時(shí)簡化了數(shù)據(jù)中心的運(yùn)維和管理，提升整個(gè)計(jì)算系統(tǒng)的效率、極大的降低整體系統(tǒng)的總體擁有成本（TCO）。正因?yàn)閷PU寄予厚望，英偉達(dá)用69億美元收購了Mellanox，并認(rèn)為DPU到2024年將會(huì)創(chuàng)造一個(gè)超過100億美元的市場。這也正是國內(nèi)外如此多相關(guān)行業(yè)從業(yè)者積極躬身其中的原因。
在國內(nèi)崛起的這波DPU企業(yè)中，云豹智能是其中當(dāng)之無愧的頭部企業(yè)。自成立以來，他們都非常低調(diào)，不愿意接受采訪。近期，半導(dǎo)體行業(yè)觀察終于有機(jī)會(huì)接觸到此家頭部DPU企業(yè)，并與該公司創(chuàng)始人兼CEO蕭啟陽博士進(jìn)行了一番交流，以了解這家擁有“軟件定義芯片”這個(gè)高壁壘技術(shù)企業(yè)的成功密碼。
所謂軟件定義，根據(jù)字面意思，軟件定義就是用軟件去定義硬件的功能，其本質(zhì)是硬件設(shè)計(jì)能夠同時(shí)滿足能效和靈活性需求。在數(shù)據(jù)中心領(lǐng)域，美國VMware早在十年前就提出了軟件定義數(shù)據(jù)中心的思路。具體而言就是大規(guī)模實(shí)現(xiàn)數(shù)據(jù)中心虛擬化，讓不同的用戶共享數(shù)據(jù)中心的計(jì)算、網(wǎng)絡(luò)和存儲資源，同時(shí)讓每一個(gè)用戶擁有獨(dú)立的服務(wù)質(zhì)量，可以不受其他用戶影響，使得數(shù)據(jù)中心運(yùn)營成本大大降低。在后續(xù)的發(fā)展中，軟件定義存儲和軟件定義網(wǎng)絡(luò)等概念也被相繼提出，進(jìn)一步優(yōu)化數(shù)據(jù)中心。
隨著數(shù)據(jù)中心的發(fā)展，軟件定義的DPU也將發(fā)揮更重要的作用。這主要是因?yàn)樵朴?jì)算的需求不斷變化，云原生（CloudNative）生態(tài)令可編程性更重要，云服務(wù)商要不斷升級其場景和服務(wù)，不同客戶/同一客戶的需求也不斷變化。為此，DPU除了要擁有高性能，從其架構(gòu)上看，還應(yīng)該是一款能滿足不同應(yīng)用和場景的軟件定義芯片。
要打造符合上述要求的產(chǎn)品，這首先就要求DPU廠商非常深入地了解客戶需求，并對不同應(yīng)用場景都深刻理解，根據(jù)客戶上層軟件的不同需求和不同應(yīng)用場景去抽象和定義產(chǎn)品；第二，其提供的DPU芯片還應(yīng)該具備靈活和易用的可編程能力，兼容當(dāng)前數(shù)據(jù)中心的主流開源軟件，通用性強(qiáng)，對各場景都非常易用的同時(shí)，能支撐數(shù)據(jù)中心未來不同需求和應(yīng)用的演進(jìn)。
而云豹智能正是一家擁有如此實(shí)力的企業(yè)。要理解這句話，就必須從蕭啟陽博士的背景說起。
二十年磨一劍，打造世界最具顛覆性軟件定義芯片
在創(chuàng)立云豹智能之前，蕭啟陽博士在芯片產(chǎn)業(yè)有著光輝的成績，這在國內(nèi)初創(chuàng)芯片公司的創(chuàng)始人中是極為少見的。如其在2002年在美國硅谷創(chuàng)立并成功運(yùn)營的RMI公司就是其中最為耀眼的一段。
據(jù)了解，RMI是一家研發(fā)高性能多核處理器的著名芯片公司，其推出的芯片被國內(nèi)外最大的幾家通訊網(wǎng)絡(luò)設(shè)備商大規(guī)模廣泛應(yīng)用在無線基站、基站控制器、核心網(wǎng)、路由器、存儲、安全設(shè)備、以及智能網(wǎng)卡(SmartNIC)上。由于看準(zhǔn)了通訊市場需要高性能兼可編程芯片的重要性，RMI開發(fā)了一款當(dāng)時(shí)業(yè)界最高性能的多核處理器。值得一提的是，這款多核處理器本身就是一款軟件定義芯片，也正因?yàn)镽MI芯片早期在智能網(wǎng)卡上的應(yīng)用，讓蕭博士和他當(dāng)時(shí)的團(tuán)隊(duì)成為業(yè)內(nèi)最早對智能網(wǎng)卡和DPU有深刻理解的技術(shù)團(tuán)隊(duì)。
2009年，在NetLogic（美國納斯達(dá)克上市公司）和RMI合并之后，蕭博士轉(zhuǎn)任NetLogic亞太區(qū)總裁兼總經(jīng)理。同樣的，他在接下來幾年也帶領(lǐng)其團(tuán)隊(duì)屢傳佳績：2011年，他帶領(lǐng)團(tuán)隊(duì)打敗了時(shí)任FreescaleVP的LisaSu（現(xiàn)任AMDCEO）的團(tuán)隊(duì)，贏下了國內(nèi)最大的4G基站CPU項(xiàng)目；2012年，蕭博士又促成博通Broadcom以37億美元現(xiàn)金高價(jià)并購NetLogic；在并購?fù)瓿珊�，他在博通�?dān)任處理器和無線基礎(chǔ)設(shè)施事業(yè)部大中華區(qū)總經(jīng)理。
由于蕭博士領(lǐng)導(dǎo)的原RMI團(tuán)隊(duì)對智能網(wǎng)卡和DPU的深刻理解，在他離開博通之后，國內(nèi)最大的云服務(wù)商之一將原RMI的部分核心團(tuán)隊(duì)挖走，然后在這家云服務(wù)商從0到1打造了目前為止國內(nèi)最大量商用的DPU智能網(wǎng)卡。
蕭博士能在過去二十年的芯片生涯里屢創(chuàng)佳績，不單是因?yàn)樗I(lǐng)導(dǎo)的團(tuán)隊(duì)都是業(yè)界精英，還因?yàn)樗麑π酒蛙浖夹g(shù)有著深刻理解，對商業(yè)落地和客戶需求有著深度洞察，以及對商業(yè)時(shí)機(jī)能夠準(zhǔn)確把握。
半導(dǎo)體行業(yè)觀察記者同時(shí)還觀察到，全世界最大的幾家芯片公司的CEO都有個(gè)共性，就是都擁有高學(xué)歷和高IQ，均畢業(yè)于世界最頂尖學(xué)府。
比如英偉達(dá)的創(chuàng)始人兼CEOJensenHuang是斯坦福Stanford大學(xué)碩士，英特爾的現(xiàn)任CEOPatGelsinger也是斯坦福大學(xué)碩士，AMDCEOLisaSu是麻省理工MIT博士，博通的CEO陳福陽HockTan是MIT本科畢業(yè)，哈佛Harvard的MBA；而蕭博士24歲已獲得斯坦福大學(xué)博士學(xué)位，其后曾任MIT教授。他在斯坦福大學(xué)的博士論文，破解了當(dāng)時(shí)在人工智能領(lǐng)域上三十多年來未能解決的理論問題，此突破性研究，令他榮獲美國國家科學(xué)基金會(huì)青年研究員獎(jiǎng)。讀研究生前，他僅用了三年半的時(shí)間就以最高榮譽(yù)（SummaCumLaude）同時(shí)在紐約大學(xué)和紐約庫珀學(xué)院獲得了數(shù)學(xué)、計(jì)算機(jī)科學(xué)和電子工程三個(gè)本科學(xué)位。在MIT擔(dān)任講座副教授期間，蕭博士則長期專注于網(wǎng)絡(luò)和分布式計(jì)算研究領(lǐng)域，并獲得了IEEE和SPIE頒發(fā)的最佳研究論文獎(jiǎng)。也就是在這個(gè)階段，多家世界知名的電訊網(wǎng)絡(luò)企業(yè)，包括思科Cisco、朗訊Lucent、AT&T、Sprint和NTTDoCoMo等都邀請蕭博士擔(dān)任技術(shù)專家顧問。
雖然擁有如此經(jīng)驗(yàn)豐富的產(chǎn)學(xué)研背景和在硅谷成功的大芯片創(chuàng)業(yè)經(jīng)歷，但對蕭博士而言，他真正想做的是利用自己過去二十年的這些成功經(jīng)驗(yàn)，為行業(yè)帶來顛覆性的國產(chǎn)芯片，為中國半導(dǎo)體產(chǎn)業(yè)打造一個(gè)世界級的企業(yè)，DPU就成為了他的新起點(diǎn)。蕭博士認(rèn)為，DPU必將引領(lǐng)數(shù)據(jù)中心基礎(chǔ)架構(gòu)的變革和演進(jìn)，并將數(shù)據(jù)中心提高到一個(gè)新的臺階，為應(yīng)用的擴(kuò)展能力、響應(yīng)速度、服務(wù)質(zhì)量和安全提供最好的解決方案。
在定下了目標(biāo)后，蕭博士和曾經(jīng)合作過二十年的核心團(tuán)隊(duì)，集合業(yè)內(nèi)精英一起創(chuàng)辦了云豹智能。據(jù)介紹，公司的創(chuàng)始團(tuán)隊(duì)平均擁有超過20年的芯片研發(fā)及大規(guī)模商用經(jīng)驗(yàn)，對軟件定義芯片有深刻理解，同時(shí)還是業(yè)內(nèi)最早研發(fā)和應(yīng)用智能網(wǎng)卡和DPU產(chǎn)品的精英團(tuán)隊(duì)。
據(jù)筆者獲悉，云豹智能整個(gè)團(tuán)隊(duì)對國內(nèi)最大的幾家云服務(wù)商需求和數(shù)百種不同的應(yīng)用場景都非常熟悉，其創(chuàng)始成員曾領(lǐng)導(dǎo)及成功開發(fā)多代FPGA-basedDPU和DPUSoC芯片，并成功規(guī)模商用。不夸張地說一句，云豹團(tuán)隊(duì)甚至比英偉達(dá)對中國客戶在DPU領(lǐng)域的需求理解更深入。
毫無疑問，DPU的軟件定義特性將會(huì)是云豹智能的一個(gè)非常大的優(yōu)勢，這也是蕭博士過去二十年來一直專注的。
得益于其團(tuán)隊(duì)的超強(qiáng)芯片和行業(yè)背景，云豹智能在短時(shí)間內(nèi)就交出了一份亮麗的成績單。據(jù)筆者了解，云豹智能已開發(fā)完成一款新型基于FPGA的高性能DPU網(wǎng)卡解決方案，全面支持虛擬機(jī)、裸金屬和容器云業(yè)務(wù)一體化，并具備高性能及全功能彈性存儲和彈性網(wǎng)絡(luò)，提供集虛擬化管理、彈性儲存、彈性網(wǎng)絡(luò)、安全加速為一體的一站式解決方案，將極大地提升云服務(wù)商的服務(wù)質(zhì)量和業(yè)務(wù)靈活性，并降低其整體投入和運(yùn)維成本。
從現(xiàn)在的DPU業(yè)態(tài)看來，其最終產(chǎn)品呈現(xiàn)兩種形態(tài)，一種是FPGA-basedDPU解決方案，另一種是SoC-basedDPU解決方案。有不少讀者認(rèn)為，現(xiàn)在的初創(chuàng)企業(yè)打造基于FPGA-basedDPU，似乎并沒有很大的技術(shù)含量，但據(jù)筆者所知，事實(shí)的真相并非如此：
一方面，當(dāng)前還沒有最合適的可編程DPUSoC芯片的時(shí)候，F(xiàn)PGA-basedDPU解決方案是短期內(nèi)唯一的最優(yōu)方案；另一方面，雖然業(yè)內(nèi)很多PCIe加速卡聲稱是DPU網(wǎng)卡或智能網(wǎng)卡，但據(jù)了解，國內(nèi)除了幾家大型云服務(wù)商花費(fèi)數(shù)年自研的FPGA-basedDPU解決方案外，還沒有看到獨(dú)立的第三方公司真正實(shí)現(xiàn)FPGA-based的完整DPU解決方案，由此足見即使是FPGA-basedDPU解決方案，其仍然需要對業(yè)務(wù)的深入理解和非常高的技術(shù)門檻。
云豹智能則憑借團(tuán)隊(duì)多年的經(jīng)驗(yàn)積累和對云業(yè)務(wù)的深刻理解，成功打造了一款行業(yè)內(nèi)全面支持虛擬機(jī)、裸金屬和容器云業(yè)務(wù)一體化的FPGA-basedDPU完整解決方案，主攻未來幾年25G到100G的市場。該產(chǎn)品在降低云服務(wù)商的整體TCO，并提供虛擬機(jī)、裸金屬、容器的統(tǒng)一運(yùn)維和管理方面表現(xiàn)得更有優(yōu)勢，幫助云服務(wù)商解決了真正的痛點(diǎn)。
不過，我們必須承認(rèn)一點(diǎn)，雖然FPGA的靈活性很強(qiáng)，但其功耗和成本太高也是不爭的事實(shí)，很多云服務(wù)商也認(rèn)為FPGA不能支持200G及以上的網(wǎng)絡(luò)速度和低成本的需求�；谶@種考慮，云豹智能正在同步開發(fā)一款極具顛覆性的DPU軟件定義芯片，該SoC將會(huì)成為業(yè)界最高性價(jià)比之一的芯片，主要聚焦200G及以上的市場。
據(jù)筆者所知，云豹智能正在研發(fā)的DPU芯片是一款非常復(fù)雜和技術(shù)門檻極高的軟件定義芯片，從定義規(guī)格到完成大概需要兩年時(shí)間，這與國外頂級芯片大廠做同類型芯片所需要的時(shí)間是一致的。
中國半導(dǎo)體行業(yè)誕生一顆超新星
在與蕭博士溝通的過程中他多次強(qiáng)調(diào)，對于做芯片的企業(yè)來說，其目標(biāo)必須是商業(yè)落地的成功，而不僅僅是將技術(shù)做到最牛。要達(dá)成這個(gè)目標(biāo)，就需要對產(chǎn)業(yè)有深度認(rèn)識以及與客戶有深度合作才能做到，這正是云豹智能團(tuán)隊(duì)所具備的，也是他們能與國內(nèi)最大的幾家云服務(wù)商建立深度合作的重要原因。
在問到對DPU未來發(fā)展的看法時(shí)，蕭博士表示，為應(yīng)對未來多元化的應(yīng)用及客戶不斷變化的需求，DPU也將不斷的發(fā)展和創(chuàng)新。在云豹智能方面，公司的DPU將基于異構(gòu)的可編程架構(gòu)平臺及該平臺的不斷創(chuàng)新，以滿足未來可以遇見的不同應(yīng)用場景，且非常靈活且易用性強(qiáng)。
“云豹DPU將不單應(yīng)用在大型數(shù)據(jù)中心，也將會(huì)應(yīng)用在邊緣計(jì)算、5G、智能電動(dòng)汽車等場景上。”蕭博士補(bǔ)充說。
而在談到公司對未來的規(guī)劃時(shí)，蕭博士表示，他的目標(biāo)是帶領(lǐng)云豹智能成為一家世界級的企業(yè)。這從其公司名就可以窺見。所謂“云豹”就是云中捷豹，作為跑得最快的動(dòng)物，豹代表了靈活和速度，且靜待時(shí)機(jī)和不動(dòng)聲色。更重要的是，豹一旦出手，就必然一舉擊中目標(biāo)。
“從世界芯片現(xiàn)狀來看，在DPU的軟件定義芯片方面，很難找到比云豹智能更好的團(tuán)隊(duì)去開發(fā)這款芯片，并做到商業(yè)落地和成功。”蕭博士強(qiáng)調(diào)。
正是因?yàn)閾碛腥绱说膶?shí)力和底氣，云豹智能在資本市場上受到投資者的熱捧。但蕭博士卻表示，這其實(shí)并不是公司的重要關(guān)注點(diǎn)。他指出，懂芯片行業(yè)的成功投資者都知道芯片領(lǐng)域是‘贏家通吃’，因此在他們投資的時(shí)候就會(huì)非�？粗貏�(chuàng)始團(tuán)隊(duì)是否成功創(chuàng)業(yè)過？是否有做過類似大芯片及其軟件的經(jīng)驗(yàn)？以及其產(chǎn)品是否曾經(jīng)成功大規(guī)模商用過？
雖然蕭博士沒直接回答這個(gè)問題，網(wǎng)上也沒有看到云豹智能的任何融資消息披露。但據(jù)業(yè)界人士所說，云豹的融資及估值是中國DPU行業(yè)當(dāng)前最高的，也是國內(nèi)DPU領(lǐng)域當(dāng)之無愧的頭部企業(yè)。
作為一名頂尖學(xué)者和一位成功的企業(yè)家，蕭博士不僅對大芯片、云計(jì)算和人工智能等領(lǐng)域有深刻理解，同時(shí)集理論、實(shí)踐、管理、銷售和企業(yè)并購等能力于一身。在一個(gè)擁有如此背景的人的領(lǐng)導(dǎo)下，云豹智能必將成為中國半導(dǎo)體行業(yè)的一顆超新星。
