
如果CPU是穩定的帶頭大哥,那GPU和DPU這兩個小弟,在數據中心變革的背景下,逐步從邊緣走向中心,迎來了自己的春天。“科大人”李甫早在幾年前看清了這點,從硅谷回國創辦公司,扎根數據中心和邊緣計算,希望利用網絡技術解決計算體系變革中遇到的問題。
在數據中心行業走實走深。他學歷高、懂得多、說話明白,一邊創業一邊寫科技文章科普行業變革,“從DPU的崛起談談計算體系變革”等系列文章得到廣泛轉載,奠定了他“科技UP主”(UP主即上傳者,網絡流行詞)的“江湖地位”。
DPU 逐漸走向中心
合肥高新區是一個聚“芯”區——擁有合肥市絕大多數的芯片企業,主要集中在設計、研發和后期的配套上。高新區創新產業園F1樓,聚集六角形、甘堯、世紀金光半導體、賽默科思半導體十多家芯片設計企業,臥虎藏龍。F1樓的另外一個名字,叫安徽省首家集成電路孵化中心,政府采用開放營運模式,為高校和企業搭建產學研協同平臺,幫助企業圍繞關鍵技術難題及重點產品展開聯合研發。
“這個時代的核心變化是CPU性能增加趕不上數據產生的速度。于是專門的數據芯片(DPU)成為下一個十年計算機體系的創新高地?!焙戏蔬吘壷切居邢挢熑喂臼紫軜嫀熇罡Ω嬖V記者,“數據芯片的這次變革得到了幾乎所有國際科技巨頭的青睞,包括云計算巨頭AWS,搜索巨頭Google、顯卡巨頭英偉達等等”。幸運的是,不同于CPU和GPU,DPU變革浪潮中,中國與國際幾乎同步,甚至中國更具備優勢條件。
不同于國際巨頭追求更高、更快、更強的(不計成本的)傳統芯片設計理念,邊緣智芯要做一些更加有價值、接地氣的事情?!坝秘涇囘\貨打個比方,假如一輛容量能裝1萬雙鞋子的卡車價值10萬元,那能裝5000雙鞋子的貨車價值可能不到3萬元。但兩輛加起來6萬元的貨車同樣也能提供1萬雙鞋子的運輸能力?!崩罡φf,在計算機領域,同樣存在“這樣的情況。如果用專業的術語表示,就是每提高10%的計算性能所需要的成本遠遠大于10%,在頂級的超級計算領域,(成本)甚至要翻倍?!边吘壷切疽龅氖虑椋褪侨绾螌⑦@兩輛甚至三輛5000雙鞋子的貨車“有效”地拼接成“一輛”1萬雙鞋子的“貨車隊”。
在芯片行業,大家都知道摩爾定律。戈登·摩爾的經驗之談是:集成電路上可以容納的晶體管數目在大約每過18個月到24個月便會增加一倍。換言之,處理器的性能大約每兩年翻一倍,同時價格下降為之前的一半。李甫做的事,似乎和摩爾說的背道而馳,"其實并不矛盾,這是因為市場上需要裝1萬雙鞋子的情況不多,而需要裝5000雙甚至1000雙的車很多,規模效益和技術普及將進一步降低容量5000雙貨車的成本??此撇缓铣@?,實則和摩爾定律并行不悖。而且這種化整為零、以多取勝的方式,在分布式計算中已經使用了將近20多年。這種分布式計算范式被也被譽為當前云計算、大數據、邊緣計算領域的標準方式?!?/p>
“邊緣智芯基于PCIe技術研發的數據芯片正是聚焦管理這兩輛車,乃至數十輛、數百輛車,組成大容量、高效率而且成本低的數據貨運車隊。”李甫解釋道,“貨車就是單個CPU,車隊就是多個CPU組成的服務器集群。我們將DPU的從數據處理為中心變成數據管理為重點突破。我們稱之為XPU,交換數據芯片,是一種專門用來聯合CPU的數據芯片。”
DPU被視為僅次于CPU、GPU的第三顆大芯片,負責處理“CPU做不好,GPU做不了”的數據任務。在數據中心時代,CPU一家獨大的局面將一去不復返。GPU和DPU,這兩個“小弟”,既有獨立打拼能力,又會聽命“大哥”,將扮演越來越重要的角色,逐漸走向中心。據預測,2025年全球DPU市場規模將達到135.7億美元。這是“老錢”和“新貴”共舞的賽道,誰能解決本質問題,誰就擁有脫穎而出的機會。
邊緣計算 近水解近渴
中國科學技術大學畢業的李甫,將自己創業地首選在合肥市高新區。這里不僅有很多科大人創業的成功案例,而且政策向好,服務貼心,創業環境很好。公司取名“邊緣”,緣于公司的核心和邊緣計算息息相關,“邊緣計算本質上是一種分布式計算。由于邊緣計算非??拷脩?,規模會非常大。未來IT設備主要應用于邊緣側。”
李甫認為“在邊緣計算領域,綠色節能和性價比將成為核心趨勢”。在國際Linux邊緣計算社區發表的白皮書中,李甫寫道:“由于邊緣計算節點數量一般在50個以內,傳統的數據中心中,通過增加端口密度的橫向擴展(Scaling-out)方案將不再使用邊緣計算集群。發展更加低功耗、高性能的集成化云計算網絡技術將成為趨勢,這種技術我們叫作Scaling-in。”他解釋說,就像貨運一樣,數據中心好比北京和上海之間貨流量大,需要高鐵等大容量的工具,但邊(資料圖片)緣計算就像上海到周邊邊緣城市之間,基本還是普通貨車就行了。高鐵一般修建幾條就可以了,關注的是速度、效率和容量;但貨車數量就非常多了,我們更加關注貨車之間協調管理來提升效率。李甫介紹說這也是中國公司第一次在國際上提出相關概念,邊緣智芯將積極推動該概念在國際社區的普及和標準落地。
李甫一邊忙著技術研發,一邊兼職科普新技術新趨勢。一年來,他的文章被騰訊、北大操作系統研究中心、計算機教育等計算機行業內的自媒體廣泛轉載和關注。值得一提的是,他還積極參與國際Linux邊緣計算小組工作,其關于邊緣網絡技術已部分收錄于“Linux邊緣計算白皮書”。
小知識
邊緣計算著重要解決的問題,是傳統云計算(或者說是中央計算)模式下存在的高延遲、網絡不穩定和低帶寬問題。在5G+物聯網+產業互聯網發展的推動下,全球邊緣計算產業蓬勃興起。隨著應用和數據量激增,網絡帶寬與計算吞吐量均成為計算的性能瓶頸,同時終端設備產生海量“小數據”等實時處理需求高速增長,帶動邊緣計算成為數據時代技術落地的重要計算平臺,成為滿足行業數字化轉型中敏捷連接、實時業務、隱私保護等關鍵支撐。邊緣計算作為巨大的增量市場,近年來同比增速均在50%以上。據CCID數據顯示,2020年,邊緣計算市場規模達199.4億元,同比增長62.2%;2021年中國邊緣計算市場規模預計達到 325.3億元,同比增長63.1%。如果說,云服務在信息堵塞的情況下,難以遠水解近渴,那近在咫尺的邊緣計算,則能就近方便,提供及時即刻服務。
作者 汪永安
如果CPU是穩定的帶頭大哥,那GPU和DPU這兩個小弟,在數據中心變革的背景下,逐步從邊緣走向中心,迎來了自己的春天?!翱拼笕恕崩罡υ缭趲啄昵翱辞辶诉@點,從硅谷回國創辦公司,扎根數據中心和邊緣計算,希望利用網絡技術解決計算體系變革中遇到的問題。 在數據中心行業走實走深。他學歷高、懂得多、說話明白,一邊創業一邊寫科技文章科普行業變革,“從DPU的崛起談談計算體系變革”等系列文章得到廣泛轉載,奠定了他“科技UP主”(UP主即上傳者,網絡流行詞)的“江湖地位”。 DPU逐漸走向中心 合肥高新區是一個聚“芯”區——擁有合肥市絕大多數的芯片企業,主要集中在設計、研發和后期的配套上。高新區創新產業園F1樓,聚集六角形、甘堯、世紀金光半導體、賽默科思半導體十多家芯片設計企業,臥虎藏龍。F1樓的另外一個名字,叫安徽省首家集成電路孵化中心,政府采用開放營運模式,為高校和企業搭建產學研協同平臺,幫助企業圍繞關鍵技術難題及重點產品展開聯合研發?! 斑@個時代的核心變化是CPU性能增加趕不上數據產生的速度。于是專門的數據芯片(DPU)成為下一個十年計算機體系的創新高地。”合肥邊緣智芯有限責任公司首席架構師李甫告訴記者,“數據芯片的這次變革得到了幾乎所有國際科技巨頭的青睞,包括云計算巨頭AWS,搜索巨頭Google、顯卡巨頭英偉達等等”。幸運的是,不同于CPU和GPU,DPU變革浪潮中,中國與國際幾乎同步,甚至中國更具備優勢條件?! 〔煌趪H巨頭追求更高、更快、更強的(不計成本的)傳統芯片設計理念,邊緣智芯要做一些更加有價值、接地氣的事情?!坝秘涇囘\貨打個比方,假如一輛容量能裝1萬雙鞋子的卡車價值10萬元,那能裝5000雙鞋子的貨車價值可能不到3萬元。但兩輛加起來6萬元的貨車同樣也能提供1萬雙鞋子的運輸能力?!崩罡φf,在計算機領域,同樣存在“這樣的情況。如果用專業的術語表示,就是每提高10%的計算性能所需要的成本遠遠大于10%,在頂級的超級計算領域,(成本)甚至要翻倍。”邊緣智芯要做的事情,就是如何將這兩輛甚至三輛5000雙鞋子的貨車“有效”地拼接成“一輛”1萬雙鞋子的“貨車隊”?! ≡谛酒袠I,大家都知道摩爾定律。戈登·摩爾的經驗之談是:集成電路上可以容納的晶體管數目在大約每過18個月到24個月便會增加一倍。換言之,處理器的性能大約每兩年翻一倍,同時價格下降為之前的一半。李甫做的事,似乎和摩爾說的背道而馳,"其實并不矛盾,這是因為市場上需要裝1萬雙鞋子的情況不多,而需要裝5000雙甚至1000雙的車很多,規模效益和技術普及將進一步降低容量5000雙貨車的成本。看似不合常理,實則和摩爾定律并行不悖。而且這種化整為零、以多取勝的方式,在分布式計算中已經使用了將近20多年。這種分布式計算范式被也被譽為當前云計算、大數據、邊緣計算領域的標準方式?!薄 斑吘壷切净赑CIe技術研發的數據芯片正是聚焦管理這兩輛車,乃至數十輛、數百輛車,組成大容量、高效率而且成本低的數據貨運車隊?!崩罡忉尩溃柏涇嚲褪菃蝹€CPU,車隊就是多個CPU組成的服務器集群。我們將DPU的從數據處理為中心變成數據管理為重點突破。我們稱之為XPU,交換數據芯片,是一種專門用來聯合CPU的數據芯片?!薄 PU被視為僅次于CPU、GPU的第三顆大芯片,負責處理“CPU做不好,GPU做不了”的數據任務。在數據中心時代,CPU一家獨大的局面將一去不復返。GPU和DPU,這兩個“小弟”,既有獨立打拼能力,又會聽命“大哥”,將扮演越來越重要的角色,逐漸走向中心。據預測,2025年全球DPU市場規模將達到135.7億美元。這是“老錢”和“新貴”共舞的賽道,誰能解決本質問題,誰就擁有脫穎而出的機會?! ∵吘売嬎憬饨省 ≈袊茖W技術大學畢業的李甫,將自己創業地首選在合肥市高新區。這里不僅有很多科大人創業的成功案例,而且政策向好,服務貼心,創業環境很好。公司取名“邊緣”,緣于公司的核心和邊緣計算息息相關,“邊緣計算本質上是一種分布式計算。由于邊緣計算非??拷脩?,規模會非常大。未來IT設備主要應用于邊緣側。” 李甫認為“在邊緣計算領域,綠色節能和性價比將成為核心趨勢”。在國際Linux邊緣計算社區發表的白皮書中,李甫寫道:“由于邊緣計算節點數量一般在50個以內,傳統的數據中心中,通過增加端口密度的橫向擴展(Scaling-out)方案將不再使用邊緣計算集群。發展更加低功耗、高性能的集成化云計算網絡技術將成為趨勢,這種技術我們叫作Scaling-in?!彼忉屨f,就像貨運一樣,數據中心好比北京和上海之間貨流量大,需要高鐵等大容量的工具,但邊(資料圖片)緣計算就像上海到周邊邊緣城市之間,基本還是普通貨車就行了。高鐵一般修建幾條就可以了,關注的是速度、效率和容量;但貨車數量就非常多了,我們更加關注貨車之間協調管理來提升效率。李甫介紹說這也是中國公司第一次在國際上提出相關概念,邊緣智芯將積極推動該概念在國際社區的普及和標準落地?! ±罡σ贿吤χ夹g研發,一邊兼職科普新技術新趨勢。一年來,他的文章被騰訊、北大操作系統研究中心、計算機教育等計算機行業內的自媒體廣泛轉載和關注。值得一提的是,他還積極參與國際Linux邊緣計算小組工作,其關于邊緣網絡技術已部分收錄于“Linux邊緣計算白皮書”?! ⌒≈R 邊緣計算著重要解決的問題,是傳統云計算(或者說是中央計算)模式下存在的高延遲、網絡不穩定和低帶寬問題。在5G+物聯網+產業互聯網發展的推動下,全球邊緣計算產業蓬勃興起。隨著應用和數據量激增,網絡帶寬與計算吞吐量均成為計算的性能瓶頸,同時終端設備產生海量“小數據”等實時處理需求高速增長,帶動邊緣計算成為數據時代技術落地的重要計算平臺,成為滿足行業數字化轉型中敏捷連接、實時業務、隱私保護等關鍵支撐。邊緣計算作為巨大的增量市場,近年來同比增速均在50%以上。據CCID數據顯示,2020年,邊緣計算市場規模達199.4億元,同比增長62.2%;2021年中國邊緣計算市場規模預計達到325.3億元,同比增長63.1%。如果說,云服務在信息堵塞的情況下,難以遠水解近渴,那近在咫尺的邊緣計算,則能就近方便,提供及時即刻服務。 作者汪永安