主要工作:
1)DeepSeek此次發(fā)布了DeepSeek-R1-Zero和DeepSeek-R1模型。DeepSeek-R1-Zero模型僅依靠大規(guī)模強(qiáng)化學(xué)習(xí)訓(xùn)練,沒有監(jiān)督微調(diào),便實(shí)現(xiàn)了推理能力的自主進(jìn)化,自發(fā)涌現(xiàn)出“反思”、“多步驗(yàn)證”等復(fù)雜推理行為,尤其是邏輯能力得到大幅飛躍。
2)但該模型存在可讀性差、語言混合等問題,為了解決這一問題,DeepSeek-R1模型通過冷啟動(dòng)數(shù)據(jù)和迭代強(qiáng)化學(xué)習(xí)微調(diào)實(shí)現(xiàn):通過數(shù)千條高質(zhì)量長(zhǎng)推理鏈數(shù)據(jù)對(duì)基礎(chǔ)模型微調(diào),強(qiáng)制規(guī)范輸出,提高可讀性,同時(shí)在語言一致性上進(jìn)行了訓(xùn)練提升,并且融入了人類偏好獎(jiǎng)勵(lì)模型,對(duì)模型進(jìn)行了規(guī)范。
3)使用DeepSeek-R1作為教師模型生成800K數(shù)據(jù),并對(duì)多個(gè)小型密集模型微調(diào),小模型性能飛躍。以通義千問的15億參數(shù)量大模型為例,經(jīng)過DeepSeek微調(diào)后,數(shù)學(xué)題上超過GPT4o-0513的水平。
核心創(chuàng)新點(diǎn):
1)傳統(tǒng)大模型需要大量人工標(biāo)注的監(jiān)督數(shù)據(jù)進(jìn)行訓(xùn)練,但DeepSeek-R1-Zero首次驗(yàn)證了無需任何微調(diào)數(shù)據(jù),【僅通過強(qiáng)化學(xué)習(xí)即可實(shí)現(xiàn)推理能力的自主進(jìn)化】。而且這是沒有獎(jiǎng)勵(lì)思維鏈長(zhǎng)度(通俗講,沒有引導(dǎo)推理模型用更多的時(shí)間去思考)的情況下實(shí)現(xiàn)的,即目標(biāo)只是為了作對(duì)題目,大模型就會(huì)自發(fā)進(jìn)行更長(zhǎng)地思考,并且最后回答效果更好。
2)在這個(gè)過程中,【觀察到了反思、多步驗(yàn)證能力的涌現(xiàn)】,出現(xiàn)問題后,模型會(huì)自動(dòng)糾正早期錯(cuò)誤。
#重要性:前兩條非常重要,一個(gè)是指出新道路,一個(gè)是證明這條道路有巨大的潛力,會(huì)進(jìn)一步加速Agent應(yīng)用。
3)盡管DeepSeek-R1-Zero足夠優(yōu)秀,但他經(jīng)常會(huì)出現(xiàn)中英文混雜、格式混亂的現(xiàn)象,工程上仍需優(yōu)化。因此DeepSeek-R1模型通過與人類知識(shí)、經(jīng)驗(yàn)、規(guī)范相融合,實(shí)現(xiàn)了更好的輸出。
4)能力可以遷移:把R1蒸餾后可實(shí)現(xiàn)推理能力遷移,小模型也可以在特定任務(wù)中媲美大模型。
#重要性:小算力也可實(shí)現(xiàn)復(fù)雜功能,在邊緣場(chǎng)景,如自動(dòng)駕駛、機(jī)器人等一系列實(shí)時(shí)應(yīng)用提供更好的方案。
DeepSeek相關(guān)概念股:
?每日互動(dòng):幻方股東/技術(shù)負(fù)責(zé)人徐進(jìn)為每日互動(dòng)聯(lián)合創(chuàng)始人之一。
?浙江東方:通過旗下杭州東方嘉富基金參投DeepSeek天使輪。市場(chǎng)傳聞,注意風(fēng)險(xiǎn)。
?華金資本:珠海國(guó)資旗下投資平臺(tái)間接參與DeepSeekPre-A輪融資。市場(chǎng)傳聞,注意風(fēng)險(xiǎn)。
?浪潮信息:為DeepSeek北京亦莊智算中心提供AI服務(wù)器集群及英偉達(dá)H800+自研AIStation管理平臺(tái)。
?中科曙光:承建DeepSeek杭州訓(xùn)練中心液冷系統(tǒng)。
?航錦科技:旗下超擎數(shù)智為DeepSeek提供光模塊和交換機(jī),雙方深度合作。
?拓爾思:與DeepSeek聯(lián)合開發(fā)金融輿情大模型,已在中信證券等機(jī)構(gòu)部署智能研報(bào)生成系統(tǒng)。
?陽(yáng)光照明:曾購(gòu)買幻方3億產(chǎn)品,且其電器出海業(yè)務(wù)外銷占比75%,有望與幻方在相關(guān)業(yè)務(wù)上協(xié)同發(fā)展。
?飛利信:是目前市場(chǎng)上采用MLA機(jī)制不多的上市公司,而DeepSeek-V2采用了創(chuàng)新的包括MLA在內(nèi)的模型架構(gòu)和訓(xùn)練方法。
?卓創(chuàng)資訊:幻方作為大型私募,與卓創(chuàng)資訊在金融語料庫(kù)方面有合作。
?南威軟件:在人工智能方面,基于多頭注意力機(jī)制和增強(qiáng)特征金字塔方法,掌握了新型的生物認(rèn)證技術(shù),與DeepSeek的技術(shù)有一定關(guān)聯(lián)性。
?海天瑞聲:海天瑞聲以數(shù)據(jù)服務(wù)為刃,切入幻方的發(fā)展脈絡(luò),幻方的蓬勃發(fā)展將牽引著海天瑞聲訂單量與業(yè)務(wù)收入節(jié)節(jié)攀升。
?科大訊飛:在教育領(lǐng)域接入了DeepSeek-Math模型并聯(lián)合推出了AI數(shù)學(xué)輔導(dǎo)應(yīng)用“星火助學(xué)”。
?競(jìng)業(yè)達(dá):與百度、阿里、騰訊等國(guó)內(nèi)科技巨頭合作,使用其AI大模型(如百度的文心大型),競(jìng)業(yè)達(dá)與DeepSeek大模型的對(duì)接中。
?金山辦公:WPS智能寫作功能集成DeepSeek-Writer API,公文生成效率提升3倍,錯(cuò)誤率下降90%。
聯(lián)系客服