近期，DeepSeek的火爆出圈，直接撬動了資本市場對AI+產(chǎn)業(yè)鏈的投資熱情。不僅在2月5日開工第一天，DeepSeek概念指數(shù)大漲14.73%，AI應(yīng)用端和科技全線拉升，2月6日早盤仍顯示，A股TMT科技板塊延續(xù)強(qiáng)勢，DeepSeek、AI算力概念繼續(xù)活躍。
而就在新年開工、DeepSeek概念指數(shù)大漲的同一天，中國大模型市場又傳出重磅新聞：百度智能云成功點亮昆侖芯三代萬卡集群，成為國內(nèi)首個正式點亮的自研萬卡集群。模型上線首日，已有超1.5萬家客戶通過千帆平臺進(jìn)行模型調(diào)用。
這不僅標(biāo)志著百度在自研芯片與大規(guī)模AI算力布局上的又一次重大突破，也預(yù)示著AI模型的訓(xùn)練成本將迎來新一輪下調(diào)，整個行業(yè)的發(fā)展再次被注入新動能。
那么，在各大科技巨頭都加速推進(jìn)AI算力基建的當(dāng)下，萬卡集群究竟是什么？為何大家都在積極推進(jìn)自研、自建萬卡集群？國產(chǎn)萬卡集群的不斷演進(jìn)，又將給智算產(chǎn)業(yè)帶來怎樣的改變？
國產(chǎn)萬卡集群，中國AI新突破
近年來，隨著AI大模型的不斷涌現(xiàn)，模型規(guī)模和數(shù)據(jù)參數(shù)都呈現(xiàn)出指數(shù)級增長。
例如在前期訓(xùn)練，據(jù)了解，2018年OpenAI發(fā)布的GPT-1模型參數(shù)量為1.17億；到2020年，GPT-3的參數(shù)量已達(dá)到1750億；2023年，GPT-4的參數(shù)量進(jìn)一步增長到約1.8萬億。
參數(shù)量的快速增長推動了AI模型性能的大幅提升，使其在自然語言處理、圖像識別等領(lǐng)域的表現(xiàn)越來越好。但同時，模型參數(shù)量的增長也讓AI 模型訓(xùn)練的算力需求每3.5個月翻一番，每年所需算力增幅高達(dá)10倍，增速遠(yuǎn)遠(yuǎn)超出了芯片產(chǎn)業(yè)長期存在的摩爾定律（性能每18個月翻一番）。
以擁有16個專家模型、約1.8萬億參數(shù)的GPT-4為例，其訓(xùn)練約使用了 25000個英偉達(dá)（NVIDIA ）的A100 GPU ，持續(xù)時間長達(dá)90至100天，對算力的消耗非常大。
并且，除了訓(xùn)練時的算力需求，隨著大模型及應(yīng)用越來越多地部署到企業(yè)實際業(yè)務(wù)場景中，后期推理的算力需求也水漲船高。因此，大規(guī)模 GPU 算力集群成為必然選擇。這也是為什么近年來國內(nèi)外科技廠商紛紛布局 AI 算力基礎(chǔ)設(shè)施，死磕萬卡甚至10萬卡集群。
而“萬卡集群”，顧名思義，是指由超過一萬張加速卡（如GPU、TPU或其他專用AI加速芯片）組成的高性能計算系統(tǒng)，用以加速人工智能模型的訓(xùn)練和推理過程。
相比于訓(xùn)練周期長、成本高的傳統(tǒng)千億參數(shù)模型，萬卡集群首先在計算能力、數(shù)據(jù)處理速度和存儲容量等方面都有著質(zhì)的飛躍。它能夠通過并行計算和分布式處理，將龐大的數(shù)據(jù)和模型有效地組織起來，顯著縮短模型的訓(xùn)練周期，提高研發(fā)效率。
其次，作為一種靈活的計算基礎(chǔ)設(shè)施，萬卡集群能夠根據(jù)不同的應(yīng)用需求進(jìn)行定制化的配置和優(yōu)化，同時支持更大規(guī)模模型和更復(fù)雜的多模態(tài)任務(wù)，比如智能醫(yī)療診斷、自動駕駛技術(shù)、自然語言處理等領(lǐng)域。這既為AI技術(shù)的創(chuàng)新和發(fā)展提供了更廣闊的空間和可能，也為企業(yè)在AI領(lǐng)域的競爭中贏得先機(jī)。
此外，萬卡集群通過提升算力利用率、簡化用戶部署流程，也降低了AI技術(shù)的使用門檻，進(jìn)而推動其在各個領(lǐng)域的廣泛應(yīng)用。
但在《節(jié)點財經(jīng)》看來，萬卡集群雖好，但想要成功搭建也不是易事。
據(jù)了解，要想建設(shè)萬卡集群規(guī)模的算力中心，通常要面臨幾大挑戰(zhàn)：
● 算力使用效率：集群規(guī)模提升不等于算力線性提升，關(guān)鍵在于互聯(lián)網(wǎng)絡(luò)和軟硬件適配調(diào)優(yōu)。需運用系統(tǒng)工程方法，精細(xì)化設(shè)計網(wǎng)絡(luò)和軟硬件整合優(yōu)化，以提升集群算力使用效率。
● 海量數(shù)據(jù)處理：未來萬億模型的訓(xùn)練對checkpoint的讀寫吞吐性能更是要求高達(dá)10TB/s，需通過協(xié)議融合、自動分級等技術(shù)手段提升數(shù)據(jù)共享和處理能力。
● 多芯混訓(xùn)難題：受限于芯片廠商的產(chǎn)能，AI企業(yè)經(jīng)常采用不同型號、不同廠商的芯片來組建算力集群。這些芯片在性能、架構(gòu)、指令集等方面都存在差異，如何讓它們在同一個集群中協(xié)同工作，并且保證混部訓(xùn)練的效率，是一個亟待解決的問題。
● 智算中心設(shè)計：高能耗、高密度的智算中心對于空間和能源的需求，遠(yuǎn)遠(yuǎn)超過了傳統(tǒng)機(jī)房部署方式的承載能力。這就要求在建設(shè)之初，提前對智算中心的供電制冷、承重等進(jìn)行配套設(shè)計，以便更好支撐超萬卡集群的快速建設(shè)、便捷部署。
● 穩(wěn)定性與運維：萬卡集群中的計算卡數(shù)量龐大，網(wǎng)絡(luò)連接復(fù)雜，且當(dāng)單卡可靠性為99.99%時，萬卡集群整體可靠性僅36.7%。一旦出現(xiàn)故障或延遲，將直接影響整個集群的計算效率和穩(wěn)定性。
正如此前中國工程院院士、清華大學(xué)計算機(jī)系教授鄭緯民所言，當(dāng)下構(gòu)建國產(chǎn)自主萬卡系統(tǒng)充滿挑戰(zhàn)，但“至關(guān)重要”。
百舸平臺賦能，讓中國AI產(chǎn)業(yè)率先“跑”起來
目前，國內(nèi)智算中心的搭建有國內(nèi)外芯片“混搭”和全部國產(chǎn)化兩種集群模式，而后者關(guān)乎一國在邁向通用智能征程中的核心競爭力。
正是意識到這樣的重要性，百度一直探索用自研芯片搭建自主可控的算力生態(tài)系統(tǒng)，始終將助力實現(xiàn) AI 基礎(chǔ)設(shè)施國產(chǎn)化作為核心目標(biāo)。
據(jù)了解，此次萬卡集群的成功點亮，得益于百度在硬件和軟件方面的技術(shù)創(chuàng)新。
在硬件層面，自研芯片保障了在生成式AI時代的技術(shù)主權(quán)。此次支撐萬卡集群高效運行的昆侖芯三代，延續(xù)并優(yōu)化了前代產(chǎn)品的設(shè)計，在算力、能效、穩(wěn)定性等方面全面升級。
同時，百度也突破了卡間互聯(lián)拓?fù)湎拗?，避免通信帶寬成為瓶頸，并采用創(chuàng)新性散熱方案，有效解決了能效與散熱問題，以確保集群高效、穩(wěn)定地運行。
而在軟件層面，百舸AI異構(gòu)計算平臺4.0則在構(gòu)建高性能網(wǎng)絡(luò)、優(yōu)化分布式訓(xùn)練、多芯混訓(xùn)、故障診斷手段等方面發(fā)揮了至關(guān)重要的作用：
● 在分布式訓(xùn)練優(yōu)化上，百舸4.0采用高效并行化任務(wù)切分策略，將訓(xùn)練主流開源模型的集群MFU提升至58%，大幅提升模型訓(xùn)練速度和資源利用率；
● 針對機(jī)間通信帶寬需求，百舸4.0構(gòu)建超大規(guī)模 HPN 高性能網(wǎng)絡(luò)并優(yōu)化拓?fù)浣Y(jié)構(gòu)，顯著降低了通信瓶頸，使帶寬有效性達(dá)到90%以上；
● 在多芯混訓(xùn)方面，百舸4.0可自動進(jìn)行芯片選型，依據(jù)集群剩余資源選擇性價比最高的芯片運行任務(wù)，實現(xiàn)高達(dá) 95% 的萬卡多芯混合訓(xùn)練效能。
● 在集群穩(wěn)定性上，百舸4.0提供全面故障診斷手段，能快速自動偵測節(jié)點故障，并將故障恢復(fù)時間從小時級縮短到分鐘級，避免由于單卡故障率隨規(guī)模指數(shù)上升而造成的萬卡集群有效性大幅下降，保障有效訓(xùn)練率達(dá)到98%。
由此，《節(jié)點財經(jīng)》認(rèn)為，構(gòu)建萬卡集群不僅是芯片的堆砌整合，更要依托強(qiáng)大的AI計算平臺來支撐整個集群的調(diào)配設(shè)計。而百度智能云依托百舸AI異構(gòu)計算平臺4.0，實現(xiàn)了從集群創(chuàng)建到開發(fā)實驗，再到模型訓(xùn)練、推理的全鏈路優(yōu)化。不僅提升了自身的智算實力，也為智算行業(yè)提供新的發(fā)展思路。
值得一提的是，憑借著自研昆侖芯的技術(shù)優(yōu)勢以及百舸平臺的有力加持，百度智能云已為眾多企業(yè)提供了“多、快、穩(wěn)、省”的AI基礎(chǔ)設(shè)施。
例如，生數(shù)科技依托百度百舸高效、穩(wěn)定、混合多芯的能力，得以在短時間內(nèi)完成了Vidu大模型的上線和開放API，其素材渲染加速效率提升3倍，數(shù)據(jù)拉取效率提升51倍；長安汽車通過與百度智能云的深度合作，讓自動駕駛模型訓(xùn)練的算力總體平均使用率提升到90%以上，綜合資源利用率提升了50%；教育場景先行者好未來教育集團(tuán)則借助百舸平臺自研出“九章大模型（MathGPT）”，目前已經(jīng)廣泛應(yīng)用于好未來的智能硬件、學(xué)而思旗艦學(xué)習(xí)機(jī)及多個業(yè)務(wù)場景中......
可以預(yù)見，未來一年，將是各種AI原生應(yīng)用爆發(fā)的黃金時期。而百度智能云自研萬卡集群的建成，不僅帶來了強(qiáng)大的算力支持，讓中國產(chǎn)業(yè)率先“跑”起來，也推動了模型降本的趨勢，為各行各業(yè)的AI應(yīng)用和創(chuàng)新提供了實實在在的價值。
花小錢辦大事，中國AI再引全球矚目
百度智能云自研萬卡集群的成功點亮，不僅在國內(nèi)引發(fā)廣泛關(guān)注，也在國際市場掀起熱議。
日前，花旗銀行在研報中指出，百度、DeepSeek等中國模型展現(xiàn)出高效和低成本優(yōu)勢，將有助于加速全球AI應(yīng)用開發(fā)，并在全球引發(fā)更多技術(shù)創(chuàng)新，推動2025年人工智能應(yīng)用的拐點。
而資本市場上，百度在港股、美股的雙雙上漲，似乎也印證了這一點。
《節(jié)點財經(jīng)》認(rèn)為，對于科技公司來說，擁有強(qiáng)大的萬卡集群意味著在AI時代奠定了堅實的基礎(chǔ)和競爭力。
一方面，萬卡集群能夠為公司內(nèi)部的各類AI項目和業(yè)務(wù)提供穩(wěn)定且高效的計算支持；另一方面，萬卡集群的建設(shè)不僅反映了企業(yè)在技術(shù)水平、資金投入和戰(zhàn)略規(guī)劃上的決策和能力，還能提升其在行業(yè)中的聲譽(yù)和影響力，吸引更多的人才、合作伙伴和資金，進(jìn)而形成一個良好的產(chǎn)業(yè)生態(tài)，為企業(yè)的持續(xù)發(fā)展提供堅實的支持。
而從全球AI競賽來看，繼DeepSeek從算法優(yōu)化角度“狙擊”大模型成本后，百度智能云再次證明了中國科技“花小錢辦大事”的智慧。國產(chǎn)萬卡集群的出現(xiàn)，不僅再顯中國硬科技實力，也能解決過去價格高和無法穩(wěn)定應(yīng)用等問題，進(jìn)一步降低企業(yè)進(jìn)行應(yīng)用開發(fā)與產(chǎn)業(yè)創(chuàng)新的門檻。
據(jù)了解，百度智能云還計劃點亮3萬卡集群，探索更高性能與擴(kuò)展性的算力邊界。可以預(yù)見，隨著3萬卡集群的進(jìn)一步落地，百度智能云乃至中國AI產(chǎn)業(yè)，都將在全球范圍內(nèi)贏得更大的市場話語權(quán)。
總之，在生成式AI浪潮下，中國科技企業(yè)正在從新技術(shù)的追隨者向新航路的開辟者邁進(jìn)。而隨著智算需求的不斷增長和算力中心的規(guī)模演進(jìn)，萬卡集群將成為未來智能算力領(lǐng)域的新賽場。
當(dāng)下，百度智能云在AI算力賽道上的持續(xù)領(lǐng)跑，有望定義新一代集群架構(gòu)，重構(gòu)全球AI算力格局，同時催化新質(zhì)生產(chǎn)力，充分釋放AI在各行業(yè)場景落地，助力中國產(chǎn)業(yè)跑出真正的發(fā)展加速度。
