注:華為將在4月8日上午11:00,發(fā)表《盤古大模型的進(jìn)展及其應(yīng)用》的專題演講,主講人是田奇(華為云人工智能首席科學(xué)家),內(nèi)容非常有看點。觀看地址見文后(或置頂評論)。
首先要跟大家說明的是,華為盤古AI大模型是一個系列,并不是只有一個!根據(jù)華為云官方資料,盤古系列大模型包括以下五個基礎(chǔ)大模型(L0):
中文語言(NLP)大模型
視覺(CV)大模型
多模態(tài)大模型
科學(xué)計算大模型
圖網(wǎng)絡(luò)(Graph)大模型
盤古大模型的結(jié)構(gòu)圖
中文語言(NLP)大模型,是業(yè)界首個超千億參數(shù)的中文預(yù)訓(xùn)練大模型,被認(rèn)為是最接近人類中文理解能力的AI大模型。與ChatGPT等外國AI模型相比,華為盤古大模型更注重針對中文語言的優(yōu)化。其首次使用Encoder-Decoder架構(gòu),兼顧NLP理解與生成的能力。在預(yù)訓(xùn)練階段學(xué)習(xí)了超40TB文本數(shù)據(jù),并通過行業(yè)數(shù)據(jù)的小樣本調(diào)優(yōu),提升模型在場景中的應(yīng)用性能。在權(quán)威的中文語言理解評測基準(zhǔn)CLUE榜單中,盤古NLP大模型在總排行榜及分類、閱讀理解單項均排名第一,刷新三項榜單世界歷史紀(jì)錄;總排行榜得分83.046(人類水平是85.61分),多項子任務(wù)得分業(yè)界領(lǐng)先。
視覺(CV)大模型,是超過30億參數(shù)的業(yè)界最大CV大模型,首次實現(xiàn)模型按需抽取,首次實現(xiàn)兼顧判別與生成能力。它可以基于模型大小和運行速度需求,自適應(yīng)抽取不同規(guī)模模型,AI應(yīng)用開發(fā)快速落地,使AI開發(fā)進(jìn)入工業(yè)化模式,。使用層次化語義對齊和語義調(diào)整算法,在淺層特征上獲得了更好的可分離性,使小樣本學(xué)習(xí)的能力獲得了顯著提升,達(dá)到業(yè)界第一。
CV大模型的訓(xùn)練過程
圖網(wǎng)絡(luò)(Graph)大模型,首創(chuàng)圖網(wǎng)絡(luò)融合技術(shù),在工藝優(yōu)化、時序預(yù)測、智能分析等場景有廣泛應(yīng)用。
多模態(tài)大模型,具備圖像和文本的跨模態(tài)理解、檢索與生成能力。
科學(xué)計算大模型,主要解決各種科學(xué)問題,旨在用AI促進(jìn)基礎(chǔ)科學(xué)的發(fā)展。
盤古L0大模型 圖片來源:浙商證券研究所
除了以上五個基礎(chǔ)大模型(L0)以外,盤古大模型不斷進(jìn)化,共分為L0、L1、L2三個層級。L0指基礎(chǔ)大模型,L1指行業(yè)大模型,L2則是指面向更加細(xì)分場景的推理模型。
盤古氣象大模型
盤古小分子藥物大模型
目前在L1級別的行業(yè)大模型方面,華為已經(jīng)推出了盤古金融大模型、盤古礦山大模型、盤古氣象大模型、盤古電力大模型、盤古制造質(zhì)檢大模型、盤古藥物分子大模型等行業(yè)大模型。
在L2級細(xì)分場景模型方面,華為已經(jīng)推出,例如基于氣象大模型的短臨氣象預(yù)報、臺風(fēng)預(yù)測等場景模型;例如基于電力大模型的無人機(jī)電力巡檢、電力缺陷識別等場景模型;例如基于時尚大模型的時尚輔助設(shè)計、時尚版權(quán)保護(hù)等場景模型。此外,在物聯(lián)網(wǎng)、智能座艙、智能駕駛等領(lǐng)域,華為都已推出基于盤古大模型的各種應(yīng)用。
盤古大模型生態(tài) 圖片來源:浙商證券研究所
在生態(tài)建設(shè)方面,華為盤古大模型是基于昇騰計算產(chǎn)業(yè)生態(tài)。關(guān)于AI生態(tài)型產(chǎn)業(yè)鏈,華為提出“一平臺雙驅(qū)動”的模式。其中“一平臺”指基礎(chǔ)軟件平臺,包括AI處理器、服務(wù)器硬件以及芯片使能軟件、AI框架?!半p驅(qū)動”指平臺要支撐的兩大生態(tài),一是技術(shù)生態(tài),二是商業(yè)生態(tài),包括ISV(獨立軟件開發(fā)商)、IHV(獨立硬件開發(fā)商)、整機(jī)、一體機(jī)合作伙伴等。
華為盤古生態(tài)產(chǎn)業(yè)鏈
華為將在4月8日上午11:00,在《人工智能大模型技術(shù)高峰論壇》上,發(fā)表《盤古大模型的進(jìn)展及其應(yīng)用》的專題演講,主講人是田奇(華為云人工智能首席科學(xué)家),內(nèi)容非常有看點。觀看地址如下:
https刪://weibo.刪com/刪7585110331/刪MAtJFlO4t