吳恩達(dá)是人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的國(guó)際知名專家。他曾任百度首席科學(xué)家，主導(dǎo)百度的人工智能研究與應(yīng)用。在谷歌期間，他參與開(kāi)發(fā)谷歌大腦項(xiàng)目。他創(chuàng)辦的在線教育平臺(tái) Coursera，提供大量 AI、機(jī)器學(xué)習(xí)課程，推動(dòng)相關(guān)知識(shí)普及。還著有《深度學(xué)習(xí)》一書(shū)，為從業(yè)者提供理論與實(shí)踐指導(dǎo)。他最近在
https://www.deeplearning.ai/平臺(tái)上發(fā)表了對(duì)DeepSeek的評(píng)論。
他最近在
https://www.deeplearning.ai/平臺(tái)上發(fā)表了對(duì)DeepSeek的評(píng)論。認(rèn)為中國(guó) AI 后來(lái)居上，開(kāi)源模型引領(lǐng)變革，他的評(píng)價(jià)全文如下：
親愛(ài)的朋友們，
本周 DeepSeek 的討論讓許多人認(rèn)識(shí)到一些顯而易見(jiàn)的重要趨勢(shì)：(i) 中國(guó)在生成 AI 領(lǐng)域正在趕超美國(guó)，這對(duì) AI 供應(yīng)鏈產(chǎn)生了影響。(ii) 開(kāi)放權(quán)重模型正在將基礎(chǔ)模型層商品化，這為應(yīng)用程序構(gòu)建者創(chuàng)造了機(jī)會(huì)。(iii) 擴(kuò)大規(guī)模并不是 AI 進(jìn)步的唯一途徑。盡管人們對(duì)處理能力的關(guān)注和炒作如火如荼，但算法創(chuàng)新正在迅速降低培訓(xùn)成本。
大約一周前，中國(guó)公司 DeepSeek 發(fā)布了 DeepSeek-R1，這是一個(gè)出色的模型，其基準(zhǔn)測(cè)試性能可與 OpenAI 的 o1 相媲美。此外，它是以開(kāi)放權(quán)重模型的形式發(fā)布的，具有寬松的 MIT 許可證。上周在達(dá)沃斯，我收到了許多非技術(shù)商業(yè)領(lǐng)袖關(guān)于它的問(wèn)題。周一，股市出現(xiàn)了“DeepSeek 拋售”：Nvidia 和其他一些美國(guó)科技公司的股價(jià)暴跌。（截至撰寫(xiě)本文時(shí)，它們已有所回升。）
我認(rèn)為 DeepSeek 讓很多人意識(shí)到了以下幾點(diǎn)：
中國(guó)在生成式人工智能方面正在趕超美國(guó)。2022 年 11 月推出 ChatGPT 時(shí)，美國(guó)在生成式人工智能方面遠(yuǎn)遠(yuǎn)領(lǐng)先于中國(guó)。印象變化很慢，所以最近我聽(tīng)到美國(guó)和中國(guó)的朋友都說(shuō)他們認(rèn)為中國(guó)落后了。但實(shí)際上，這種差距在過(guò)去兩年里迅速縮小了。借助 Qwen（我的團(tuán)隊(duì)已經(jīng)使用了幾個(gè)月）、Kimi、InternVL 和 DeepSeek 等來(lái)自中國(guó)的模型，中國(guó)顯然正在縮小差距，而在視頻生成等領(lǐng)域，中國(guó)似乎已經(jīng)處于領(lǐng)先地位。
我很高興 DeepSeek-R1 以開(kāi)放權(quán)重模型的形式發(fā)布，其技術(shù)報(bào)告分享了許多細(xì)節(jié)。相比之下，許多美國(guó)公司通過(guò)大肆宣傳人類滅絕等假設(shè)的人工智能危險(xiǎn)來(lái)推動(dòng)監(jiān)管以扼殺開(kāi)源。現(xiàn)在很明顯，開(kāi)源/開(kāi)放權(quán)重模型是人工智能供應(yīng)鏈的關(guān)鍵部分：許多公司都會(huì)使用它們。如果美國(guó)繼續(xù)阻礙開(kāi)源，中國(guó)將主導(dǎo)供應(yīng)鏈的這一部分，許多企業(yè)最終將使用反映中國(guó)價(jià)值觀而非美國(guó)價(jià)值觀的模型。
開(kāi)放權(quán)重模型正在將基礎(chǔ)模型層商品化。 正如我之前所寫(xiě)，LLM 代幣價(jià)格一直在 快速下跌 ，開(kāi)放權(quán)重助長(zhǎng)了這一趨勢(shì)，并為開(kāi)發(fā)人員提供了更多選擇。OpenAI 的 o1 每百萬(wàn)輸出代幣成本為 60 美元；DeepSeek R1 成本為 2.19 美元。這近 30 倍的差異讓許多人注意到了價(jià)格下跌的趨勢(shì)。
訓(xùn)練基礎(chǔ)模型并銷售 API 訪問(wèn)權(quán)的業(yè)務(wù)很艱難。該領(lǐng)域的許多公司仍在尋找收回模型訓(xùn)練巨額成本的方法。文章“人工智能的 6000 億美元問(wèn)題”很好地闡述了這一挑戰(zhàn)（但需要明確的是，我認(rèn)為基礎(chǔ)模型公司做得很好，我希望他們能成功）。相比之下，在基礎(chǔ)模型之上構(gòu)建應(yīng)用程序則帶來(lái)了許多巨大的商機(jī)。既然其他人已經(jīng)花費(fèi)數(shù)十億美元訓(xùn)練此類模型，您只需花費(fèi)幾美元就可以訪問(wèn)這些模型，以構(gòu)建客戶服務(wù)聊天機(jī)器人、電子郵件摘要器、AI 醫(yī)生、法律文件助理等等。
擴(kuò)大規(guī)模并不是 AI 進(jìn)步的唯一途徑。 關(guān)于擴(kuò)大模型規(guī)模作為推動(dòng)進(jìn)步的方式，人們大肆炒作。公平地說(shuō)，我是擴(kuò)大模型規(guī)模的早期 支持者 。許多公司通過(guò)制造這樣的謠言籌集了數(shù)十億美元：有了更多的資本，它們就可以 (i) 擴(kuò)大規(guī)模和 (ii) 可預(yù)測(cè)地推動(dòng)改進(jìn)。因此，人們非常關(guān)注擴(kuò)大規(guī)模，而不是采取更細(xì)致入微的觀點(diǎn)，充分關(guān)注我們可以取得進(jìn)步的許多不同方式。在一定程度上，在美國(guó) AI 芯片禁運(yùn)的推動(dòng)下，DeepSeek 團(tuán)隊(duì)不得不在許多優(yōu)化方面進(jìn)行創(chuàng)新，以便在性能較差的 H800 GPU 而不是 H100 上運(yùn)行，最終導(dǎo)致模型的訓(xùn)練（不包括研究成本）計(jì)算成本低于 600 萬(wàn)美元。
這是否真的會(huì)減少對(duì)計(jì)算的需求還有待觀察。有時(shí)，降低每單位商品的價(jià)格可以帶來(lái)更多美元用于購(gòu)買該商品。我認(rèn)為，從長(zhǎng)遠(yuǎn)來(lái)看，對(duì)智能和計(jì)算的需求幾乎沒(méi)有上限，因此我仍然看好人類將使用更多智能，即使智能變得更便宜。
我在社交媒體上看到了很多對(duì) DeepSeek 進(jìn)展的不同解讀，就好像這是一個(gè)羅夏墨跡測(cè)試，讓很多人將自己的意義投射到它上面。我認(rèn)為 DeepSeek-R1 具有尚未解決的地緣政治影響。而且它對(duì)人工智能應(yīng)用程序構(gòu)建者來(lái)說(shuō)也很棒。我的團(tuán)隊(duì)已經(jīng)開(kāi)始集思廣益，這些想法之所以成為可能，只是因?yàn)槲覀兛梢暂p松訪問(wèn)一個(gè)開(kāi)放的高級(jí)推理模型?，F(xiàn)在仍然是構(gòu)建的好時(shí)機(jī)！
繼續(xù)學(xué)習(xí)，
吳恩達(dá)
2025年1月30日
聯(lián)系客服
