近日,東南大學(xué)、浙江大學(xué)等高校紛紛宣布已完成“滿血版”DeepSeek本地部署,國產(chǎn)大模型在智慧校園建設(shè)和科研范式變革中的潛力嶄露頭角。
據(jù)悉,通過部署本地版DeepSeek,依托高校自有的算力資源,“滿血版”DeepSeek可徹底告別“服務(wù)器繁忙,請稍后再試”的困擾。師生在校園網(wǎng)內(nèi)通過訪問鏈接,即可無限次地免費(fèi)體驗(yàn),降低了師生使用AI的門檻。
東南大學(xué)/浙江大學(xué)DeepSeek(圖源官博)
浙江大學(xué)信息技術(shù)中心總工程師張紫徽表示,浙大選擇本地化部署DeepSeek,是基于提升穩(wěn)定性、增加安全性和提供更多探索的可能性等綜合考慮。
在穩(wěn)定性方面,本地化DeepSeek依托高校自有的算力資源,在超大規(guī)模智能算力的保駕護(hù)航之下,7x24小時(shí)穩(wěn)定響應(yīng),降低了師生的使用門檻,可滿足教學(xué)、科研和管理的連續(xù)性需求。
在東南大學(xué),DeepSeekR1本地部署依托該校在2024年1月建成的純國產(chǎn)云智算一體化平臺。平臺配備了34臺昇騰高性能服務(wù)器、100G超高速網(wǎng)絡(luò)及異構(gòu)資源調(diào)度系統(tǒng),已成功適配Llama3.2、Qwen2.5、GLM-4V等國內(nèi)外主流開源大模型。平臺集成了鯤鵬通用算力和昇騰AI算力,從模型訓(xùn)練到服務(wù)部署全流程國產(chǎn)化,完全自主可控,還支持全校師生“零申請”即可使用算力資源。
東南大學(xué)DeepSeek-R1大模型(圖源官博)
而浙江大學(xué)DeepSeekV3、R1部署于深度融合智能體“浙大先生”之上,依托浙大“西湖之光”算力聯(lián)盟的算力資源。浙大擁有的大于1000Pflops(FP16)的本地算力資源,與聯(lián)盟成員的數(shù)千P云端算力打通,彈性混合的云端算力資源可為科研和教學(xué)提供算力支持。此外,浙江大學(xué)部署的DeepSeek模型基于CARSI資源共享平臺,覆蓋了教學(xué)、科研、生活等全場景,還將面向全國829所CARSI聯(lián)盟高校開放共享。
浙江大學(xué)“浙大先生”(圖源官博)
在安全性方面,高校部署了本地版DeepSeek之后,校內(nèi)用戶問答的數(shù)據(jù)將在本地儲存,不會用于模型調(diào)優(yōu)或與第三方共享,防止隱私、素材的泄露,可保障科研、個(gè)人數(shù)據(jù)的安全。
使用DeepSeek,師生們可以做哪些探索?據(jù)介紹,東南大學(xué)將面向校內(nèi)科研團(tuán)隊(duì)陸續(xù)開放DeepSeek-R1滿血版API,支持私有知識庫嵌入、領(lǐng)域模型微調(diào)等功能,助力快速構(gòu)建學(xué)科專用AI工具。未來,他們還計(jì)劃快速接入如學(xué)術(shù)資源、課程體系等知識庫,打造“AI+教育”“AI+X科研”垂直領(lǐng)域解決方案,賦能學(xué)科交叉創(chuàng)新。
東南大學(xué)DeepSeek-R1大模型截圖(圖源官博)
浙江大學(xué)張紫徽也表示,在DeepSeek上線之后,當(dāng)老師自己的系統(tǒng)想使用AI能力時(shí),提供API就可直接接入。在全場景AI服務(wù)下,全校師生都能自主開發(fā)智能體。這類似于讓每一個(gè)學(xué)生擁有自己的專屬的智能體。
高校部署DeepSeek,校企協(xié)同非常重要。張紫徽表示,DeepSeek所依托的算力平臺“西湖之光”,就是校企協(xié)同創(chuàng)新的典范。通過與運(yùn)營商、頭部企業(yè)合作,雙方聯(lián)合運(yùn)營,為校內(nèi)師生服務(wù)。這種校企協(xié)同創(chuàng)新的合作模式是可持續(xù)的,能縮短建設(shè)周期,實(shí)現(xiàn)雙贏。
隨著人工智能技術(shù)的加速突破,高校正成為人工智能應(yīng)用創(chuàng)新的主要陣地。我們期待看到,2025年,在AI的賦能之下,高等教育呈現(xiàn)出無限的可能性。
撰文:陳茜
投稿或合作,請聯(lián)系:eduinfo@cernet.com