在山姆·奧特曼（Sam Altman）眼中，AI是一個(gè)可以孵化出無(wú)數(shù)工具，推動(dòng)各行各業(yè)前進(jìn)的基礎(chǔ)平臺(tái)。AI 大模型技術(shù)，將成為繼移動(dòng)互聯(lián)網(wǎng)之后，未來(lái)最大的技術(shù)平臺(tái)；而以聊天機(jī)器人為界面，加上圖像、音樂(lè)、文本等多模態(tài)模型的發(fā)展，將誕生大型企業(yè)。以下，Enjoy：
生成式 AI 的爆火，讓硅谷的錢尋找到了新方向。Open AI 去年先后推出的繪畫模型 DALL- E 和對(duì)話機(jī)器人 ChatGPT，成為了 AIGC 浪潮中的引領(lǐng)者。
前不久，微軟決定向 OpenAI 投資數(shù)十億美元，新一輪投資也讓其估值達(dá)到 290 億美元。似乎又回到了上一次 AI 給人們帶來(lái)無(wú)限想象的時(shí)候。
OpenAI 的創(chuàng)始人奧特曼，則成為了這次 AI 新浪潮絕對(duì)的代言人。
OpenAI 創(chuàng)始人Sam Altman
如果要舉出當(dāng)下離 AI 技術(shù)革命最近的人，山姆·奧特曼（Sam Altman）必然是其中之一。
2017 年，他在 Medium 上寫道「我們已經(jīng)來(lái)到同進(jìn)化的階段ーーAI 的影響、作用并感染我們，我們改進(jìn) AI」。那時(shí)候，他仍擔(dān)任創(chuàng)業(yè)孵化器 Y Combinator 的總裁，并和伊隆·馬斯克、彼得?蒂爾、雷德?霍夫曼等人一起投資了 10 億美元，共同成為 OpenAI 的創(chuàng)始人。
又過(guò)了兩年，他將工作重心轉(zhuǎn)移到了 AI，擔(dān)任 OpenAI 的 CEO 直到今天。
去年秋季，投資機(jī)構(gòu)格雷洛克（Greylock) 舉行了一次 AI 主題峰會(huì)。在一場(chǎng)與 Open AI 創(chuàng)始人之一的老友雷德?霍夫曼，以及在座觀眾的交流中，奧特曼分享了對(duì)于未來(lái)的預(yù)測(cè)：AI 大模型技術(shù)，將成為繼移動(dòng)互聯(lián)網(wǎng)之后，未來(lái)最大的技術(shù)平臺(tái)；而以聊天機(jī)器人為界面，加上圖像、音樂(lè)、文本等多模態(tài)模型的發(fā)展，將誕生大型企業(yè)。
甚至有一些更激進(jìn)的預(yù)測(cè)，比如AI 科學(xué)家將學(xué)會(huì)自我迭代，它不僅僅降本增效，而是為人類帶來(lái)新知，增加人類知識(shí)的總和。不過(guò)如果了解他早些時(shí)候的想法，便會(huì)覺得這樣的預(yù)測(cè)并不出乎意料，他曾說(shuō)，人類以超群的智力為傲，或許在 AI 看來(lái)，「我們和黑猩猩之間的差異幾乎不值一提。」
他形容「我們正處在AI的懸崖邊上」，他感到巨大的驚喜和危險(xiǎn)都近在咫尺。不過(guò)，堅(jiān)信科技的發(fā)展會(huì)帶來(lái)人類進(jìn)步和經(jīng)濟(jì)增長(zhǎng)的他，選擇保持樂(lè)觀，為一個(gè)更美好的未來(lái)努力。
這是當(dāng)天對(duì)話主要內(nèi)容的編譯，提問(wèn)有些來(lái)自雷德?霍夫曼，有些來(lái)自現(xiàn)場(chǎng)觀眾，不再單獨(dú)標(biāo)出。
雷德?霍夫曼與奧特曼在活動(dòng)現(xiàn)場(chǎng)
1
大模型——新的技術(shù)平臺(tái)
Q：很多大模型都通過(guò)API（application programming interface，應(yīng)用接口）開放使用，它真正的商業(yè)機(jī)會(huì)是什么？
A：現(xiàn)在，語(yǔ)言模型已經(jīng)可以很好地應(yīng)用到文案寫作和教育服務(wù)領(lǐng)域。我相信未來(lái)幾年內(nèi)，語(yǔ)言模型會(huì)更加強(qiáng)大，將能與Google這一價(jià)值萬(wàn)億美元的搜索產(chǎn)品一較高下。語(yǔ)言模型的應(yīng)用將會(huì)改變我們的日常生活。
以前，人們太早嘲笑許多趨勢(shì)，比如聊天機(jī)器人，其實(shí)它很有價(jià)值，只是當(dāng)時(shí)的技術(shù)還不能滿足需求。現(xiàn)在的聊天機(jī)器人更加成熟，幾乎可以達(dá)到人類水平。聊天機(jī)器人可以用于醫(yī)療服務(wù)行業(yè)，提供咨詢和教育服務(wù)，這方面將能催生出大型企業(yè)。
我相信，不久之后會(huì)出現(xiàn)多模態(tài)模型，這將開辟新的事物?，F(xiàn)在，人們可以直接用自然語(yǔ)言命令計(jì)算機(jī)為你完成你想做的工作，例如DALL-E圖像生成工具和Copilot編程工具，都是用戶向它們輸入自然語(yǔ)言描述，然后工具自動(dòng)生成用戶想要的東西，用戶還可以不斷迭代修改自己的描述，直至工具給出滿意的輸出。
類似的AI應(yīng)用方式會(huì)成為大趨勢(shì)，可以孕育出許多大型企業(yè)。強(qiáng)大的AI模型可以成為孵化各種AI應(yīng)用的平臺(tái)，就像智能手機(jī)的出現(xiàn)催生出眾多APP一樣，它們的共同點(diǎn)都是可以制造無(wú)數(shù)的商業(yè)機(jī)會(huì)。
Q：作為大型語(yǔ)言模型 API 的服務(wù)提供商，關(guān)鍵是什么？如何創(chuàng)建一個(gè)持久的差異化業(yè)務(wù)？
A：將來(lái)應(yīng)該會(huì)出現(xiàn)幾個(gè)大型的基礎(chǔ)模型，開發(fā)人員都將基于這些基礎(chǔ)模型研發(fā)AI應(yīng)用。但目前的情況依然是某一家公司開發(fā)出一個(gè)大型語(yǔ)言模型，然后開放API供他人使用。
我認(rèn)為，將來(lái)在基礎(chǔ)模型和具體AI應(yīng)用研發(fā)之間會(huì)有一個(gè)中間層：出現(xiàn)一批專門負(fù)責(zé)調(diào)整大型模型以適應(yīng)具體AI應(yīng)用需求的初創(chuàng)企業(yè)。能做好這一點(diǎn)的初創(chuàng)公司將會(huì)非常成功，但這取決于它們能在「數(shù)據(jù)飛輪」上走多遠(yuǎn)。
數(shù)據(jù)飛輪：使用更多數(shù)據(jù)可以訓(xùn)練出更好的模型，吸引更多用戶，從而產(chǎn)生更多用戶數(shù)據(jù)用于訓(xùn)練，形成良性循環(huán)。
我對(duì)初創(chuàng)企業(yè)訓(xùn)練模型的能力持懷疑態(tài)度，將來(lái)承擔(dān)模型訓(xùn)練角色的應(yīng)該不會(huì)是初創(chuàng)公司，但這些企業(yè)可以在上述的中間層角色中發(fā)揮巨大價(jià)值。我認(rèn)為中間那一層會(huì)創(chuàng)造很多價(jià)值。
Q：一個(gè)大型語(yǔ)言模型初創(chuàng)企業(yè)，如何區(qū)別于另一個(gè)大型語(yǔ)言模型初創(chuàng)企業(yè)呢？
A：我覺得應(yīng)該是中間層。從某種意義而言，創(chuàng)業(yè)公司會(huì)訓(xùn)練自己的模型，只不過(guò)不是從頭開始。他們將采用基礎(chǔ)模型，這些模型已經(jīng)經(jīng)過(guò)大量的計(jì)算和數(shù)據(jù)訓(xùn)練，然后在這些模型之上進(jìn)行訓(xùn)練，為每個(gè)垂類創(chuàng)建模型。
他們所做的 1% 的訓(xùn)練，對(duì)于應(yīng)用來(lái)說(shuō)至關(guān)重要。我認(rèn)為，這些創(chuàng)業(yè)公司將會(huì)非常成功，并且與眾不同?？赡馨ㄒ欢螘r(shí)間內(nèi)存在的prompt engineering（提示工程）或基礎(chǔ)核心模型（core base model）。
注：提示工程是指將任務(wù)的描述、或者提問(wèn)放在輸入中，讓 AI 模型輸出理想結(jié)果的調(diào)試過(guò)程；ChatGPT 走紅之后，提示工程師這一崗位也被人所關(guān)注。
Q：五年內(nèi)，大多數(shù)用戶與基礎(chǔ)模型交互的方式是什么？prompt engineering 將是許多組織的內(nèi)部職能嗎？
A：我不認(rèn)為五年后我們還做 prompt engineering，這將被整合進(jìn)所有地方。無(wú)論用文本還是語(yǔ)音，取決于上下文，只需要語(yǔ)言接口，讓計(jì)算機(jī)做你想做的任何事情。
將來(lái)的AI系統(tǒng)不會(huì)因?yàn)樵鲅a(bǔ)了某個(gè)特定詞就會(huì)產(chǎn)生截然不同的輸出，而是可以較好地理解自然語(yǔ)言，用戶只需以文本和語(yǔ)音形式輸入指令，即可讓計(jì)算機(jī)完成圖像生成、資料研究、心理咨詢等復(fù)雜任務(wù)。
總的來(lái)說(shuō)，用戶只需使用自然語(yǔ)言就可以與計(jì)算機(jī)交互，當(dāng)然，如果藝術(shù)家能想出更有創(chuàng)造性的描述，也自然就可以生成更好的圖像。
Q：當(dāng)有一個(gè)偉大的視覺思考者，他們可以從 DALL-E 中獲取更多，因?yàn)樗麄冎廊绾胃钊胨伎?，知道如何在測(cè)試中迭代循環(huán)。你認(rèn)為這是大部分這類事的普遍真理嗎？
A：百分百確定。重要的是思想的質(zhì)量，和對(duì)你想要的東西的理解。所以藝術(shù)家仍然會(huì)在圖像生成方面做得最好，不是因?yàn)樗麄冊(cè)趫D像最后加上了這個(gè)神奇單詞，而是因?yàn)樗麄兡苡梦覜]有的創(chuàng)造性的眼光來(lái)表達(dá)。
DALL-E2 生成的作品｜來(lái)源：kasendorf
Q：最令你驚訝的是什么？如果沒有意識(shí)到事情已經(jīng)發(fā)展到這一步，你認(rèn)為會(huì)有什么樣的驚喜呢？
A：人們現(xiàn)在所犯的最大的系統(tǒng)性錯(cuò)誤，就是他們會(huì)說(shuō)，「好吧，我也許持懷疑態(tài)度，但是這種語(yǔ)言模型真的會(huì)起作用，當(dāng)然，圖像和視頻也會(huì)起作用。但它不會(huì)為人類產(chǎn)生新知。它只會(huì)做其他人已經(jīng)做過(guò)的事情。這還是讓智力的邊際成本非常低，不能治愈癌癥。它不會(huì)增加人類科學(xué)知識(shí)的總和?！?strong>我認(rèn)為這將被證明是錯(cuò)誤的，讓目前該領(lǐng)域的專家最感到驚訝的地方。
2
當(dāng) AI 科學(xué)家可以自我迭代
Q：無(wú)論是建立在 API 之上，還是科學(xué)家使用 API，有哪些地方的科學(xué)會(huì)加速，以及如何加速？
A：現(xiàn)在科學(xué)界對(duì)AI的應(yīng)用分為兩種，一種是將AI工具直接用于科學(xué)目的，如AlphaFold（用于蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)），它們可以創(chuàng)造巨大價(jià)值，相信未來(lái)會(huì)出現(xiàn)無(wú)數(shù)這樣的工具。
另一種是將AI工具用于提升科研工作效率，如幫科學(xué)家和工程師找到新研究方向、寫代碼等。Copilot編程工具就是一個(gè)例子。但AI工具的能力遠(yuǎn)不止于此。上述兩種AI應(yīng)用將會(huì)大大推動(dòng)科技前進(jìn)。
此外，目前科學(xué)界也在探索對(duì)AI的第三種應(yīng)用方式——讓AI成為可以「自我改進(jìn)」的科學(xué)家。這件事情既有好處也有風(fēng)險(xiǎn)。
好的一面是，可以利用AI將人類的工作內(nèi)容自動(dòng)化，教會(huì)AI做任何人類可以做的事情：探索新科學(xué)、提出理論解釋、驗(yàn)證、思考等，或許還可借此解決困擾人類已久的「AI對(duì)齊問(wèn)題（Alignment Problem）」（即如何讓AI系統(tǒng)的目標(biāo)符合人類的價(jià)值觀）。風(fēng)險(xiǎn)在于，有人擔(dān)心懂得「自我改進(jìn)」的AI有可能會(huì)像科幻小說(shuō)描寫的那樣，擅自改動(dòng)代碼或修改優(yōu)化算法。
我深信，真正有利于促進(jìn)人類和經(jīng)濟(jì)的前行的，是一個(gè)能夠推動(dòng)科學(xué)進(jìn)步的社會(huì)架構(gòu)。我們能從這樣的社會(huì)架構(gòu)中獲益很多。
Q：「對(duì)齊問(wèn)題」可能值得解釋一下？
A：建立一個(gè)非常強(qiáng)大的系統(tǒng)，如果它不按我們的意愿行事，或者它的目標(biāo)與我們的沖突，就會(huì)變得非常糟糕。
因此，對(duì)齊問(wèn)題是：我們?nèi)绾谓⒆鲎罘先祟惱媸虑榈?AGI（Artificial General Intelligence 通用人工智能）？如何確保人類能夠決定人類的未來(lái)？
我們?nèi)绾伪苊庖馔夂凸室庹`用，前者是沒有預(yù)料到的錯(cuò)誤，后者是一個(gè)壞人使用 AGI 造成巨大傷害；內(nèi)在而言的對(duì)齊問(wèn)題是，如果這個(gè)東西變成一個(gè)生物，視我們?yōu)橥{怎么辦？
我們對(duì)如何在小范圍內(nèi)解決對(duì)齊問(wèn)題有一些想法，已經(jīng)能夠使 OpenAI 最大的模型（表現(xiàn)得）比想象的要好。我們對(duì)下一步做什么有些想法，但不能誠(chéng)實(shí)地看著任何人的眼睛說(shuō)，看到了 100 年后將如何解決這個(gè)問(wèn)題。但是，一旦人工智能足夠好，我們可以問(wèn)它，「嘿，你能幫助我們做對(duì)齊研究嗎？」這將是工具箱里的一個(gè)新工具。
Q：我們之前的一次談話是，能不能告訴 agent(注：AI 中的一個(gè)概念，通常指環(huán)境中的智能主體），「不要種族歧視」？
A：當(dāng)然。一旦模型變得足夠聰明，真正理解了種族主義是什么樣子，以及它有多復(fù)雜，你就可以說(shuō)，「不要成為種族主義者。」
Q：「AGI」這個(gè)術(shù)語(yǔ)已經(jīng)被廣泛使用。有時(shí)困惑來(lái)自于人們對(duì) AGI 有不同定義。你如何定義 AGI，怎樣知道我們什么時(shí)候?qū)崿F(xiàn)它？
A：我理解的AGI相當(dāng)于一個(gè)可以共事的普通人，任何遠(yuǎn)程同事可以通過(guò)電腦幫你完成的工作，AGI也可以做，包括讓AGI學(xué)習(xí)醫(yī)療知識(shí)和寫代碼等等。
AGI的重點(diǎn)不在于掌握某一種難得的技能，而是擁有學(xué)習(xí)的元能力，然后只要人類需要，它就可以往任何技能方向發(fā)展并精通。另一個(gè)概念是「超級(jí)智能」（Super Intelligence），它指的是比全人類加起來(lái)還要聰明的智能。
Q：如何看待像 GPT-3 這樣的基礎(chǔ)技術(shù)，對(duì)生命科學(xué)研究進(jìn)度的具體影響？生命科學(xué)研究中速率限制的因素是什么？我們無(wú)法超越這個(gè)限制，因?yàn)樽匀环▌t就是這樣？
A：目前的可用模型還不夠好，不足以對(duì)生命科學(xué)領(lǐng)域產(chǎn)生重大影響——不少生命科學(xué)家了解這些模型之后都說(shuō)，它們只能在部分情況下發(fā)揮些許作用。AI在基因組學(xué)領(lǐng)域有一些很有前景的應(yīng)用方向，但目前尚屬起步階段，不過(guò)我很看好。我認(rèn)為這也是市值千億的巨頭準(zhǔn)備進(jìn)軍的領(lǐng)域之一。
如果AI未來(lái)真的可以讓醫(yī)藥公司的研發(fā)速率提高幾百倍，那無(wú)疑會(huì)產(chǎn)生深遠(yuǎn)的影響。不過(guò)如你所說(shuō)，生物學(xué)的自有規(guī)律仍在，新藥的臨床驗(yàn)證需要時(shí)間，這也是醫(yī)藥研發(fā)的速率限制因素。
據(jù)我所知，不少合成生物公司借助AI發(fā)現(xiàn)許多新的研發(fā)想法，加快自己的研發(fā)迭代周期，但研發(fā)出來(lái)之后終究是要進(jìn)行測(cè)試，這部分時(shí)間無(wú)法縮減。
我認(rèn)為，醫(yī)藥初創(chuàng)公司最重要的是低成本和快速的研發(fā)周期，有了這兩點(diǎn)就有資本參與市場(chǎng)競(jìng)爭(zhēng)了。所以如果我是一家醫(yī)藥初創(chuàng)公司的決策者，一開始我不會(huì)選擇從心臟病這類大難題下手。此外，如果我是一家AI藥物研發(fā)初創(chuàng)公司，我會(huì)在模擬器上多下工夫，因?yàn)槟壳斑@方面還亟待改善。
分子效果圖｜來(lái)源：ANIRUDH on Unsplash
3
未來(lái)十年：
當(dāng)成本的結(jié)構(gòu)發(fā)生變化
Q：你認(rèn)為登月計(jì)劃（指 AI 的進(jìn)化）在未來(lái)幾年中有什么值得人們關(guān)注的地方？
A：一個(gè)比較確定的方向是，語(yǔ)言模型的發(fā)展會(huì)遠(yuǎn)超今天的想象。雖然很多人都說(shuō)算力和數(shù)據(jù)都已經(jīng)跟不上了，這也是事實(shí)，但算法的改進(jìn)空間依然很大，還可以帶來(lái)很大的進(jìn)步。
第二個(gè)方向是多模態(tài)模型的發(fā)展。未來(lái)的多模態(tài)模型將不局限于文本和圖像的互相轉(zhuǎn)換，而是所有模態(tài)之間都可以方便地互相轉(zhuǎn)化。
第三個(gè)方向是，模型可以持續(xù)學(xué)習(xí)。目前的模型如GPT都停滯在當(dāng)初訓(xùn)練好的狀態(tài)，并不會(huì)隨著使用次數(shù)的增加而自我優(yōu)化。我相信未來(lái)可以改變這一點(diǎn)。
如果上述三點(diǎn)都能實(shí)現(xiàn)的話，我們就可以解鎖無(wú)數(shù)全新的應(yīng)用場(chǎng)景，實(shí)現(xiàn)真正的科技革新，幫助人類實(shí)現(xiàn)科技的飛躍式前進(jìn)。而且我相信，我們也有辦法利用AI推動(dòng)科研進(jìn)步和新知識(shí)的產(chǎn)生。
我認(rèn)為，現(xiàn)在普遍存在的一種錯(cuò)誤觀點(diǎn)是：「雖然語(yǔ)言模型的功能已經(jīng)比較完善，還可以應(yīng)用到圖像和視頻領(lǐng)域，將應(yīng)用智能的邊際成本降得非常低，但歸根結(jié)底，它只是模仿人類做過(guò)的東西，不能為人類產(chǎn)生新知識(shí)，不能治療癌癥，也不能拓展人類已知的科學(xué)領(lǐng)域?！刮蚁嘈牛珹I的發(fā)展會(huì)讓持這種觀點(diǎn)的人大吃一驚。
Q：談一談目前被廣泛討論的領(lǐng)域，例如，AI 和核聚變。
A：業(yè)內(nèi)有人正在研究利用強(qiáng)化學(xué)習(xí)模型控制核聚變反應(yīng)，但據(jù)我們所知，AI模型在這里發(fā)揮的作用還非常有限。
一件不幸的事情是，AI 已經(jīng)成為一個(gè)流行詞（buzzword），這通常是個(gè)很糟糕的跡象。我希望這并不意味著這個(gè)領(lǐng)域即將分崩離析。但從歷史上來(lái)看，這對(duì)于新的創(chuàng)業(yè)公司來(lái)說(shuō)是一個(gè)非常糟糕的信號(hào)。我認(rèn)為這是個(gè)人們會(huì)說(shuō)一切都是「這個(gè)加上 AI」的領(lǐng)域，很多事情都是真的。我確實(shí)認(rèn)為這將是這一代最大的技術(shù)平臺(tái)。
我們喜歡在前沿領(lǐng)域做預(yù)測(cè)，預(yù)測(cè)和理解規(guī)模理論（scaling laws）是怎樣的（或是研究之后），然后說(shuō)「好，這個(gè)新事物將發(fā)揮作用，就根據(jù)種方式來(lái)預(yù)測(cè)推演?！?/p>
這也是OpenAI的運(yùn)作模式——先做擺在我們面前的最有信心能成功的事情，然后分出10%的資源進(jìn)行成功確定性更低的探索工作。這種運(yùn)作方式為我們帶來(lái)巨大的成功。
現(xiàn)階段不應(yīng)該把重點(diǎn)放在「讓AI無(wú)所不能」上，而是先沿著現(xiàn)有的道路慢慢發(fā)展完善AI，然后留有開放探索的空間——偉大的事物都不是計(jì)劃出來(lái)的，有時(shí)重大的突破誕生于偶然。
Q：AI 應(yīng)用在非常重要的系統(tǒng)，例如金融市場(chǎng)，將會(huì)發(fā)生什么？
A：AI終將滲入人類生活的方方面面。未來(lái)十年里，智能和能源的邊際成本會(huì)迅速下降，趨近于零，而智能和能源又是其他各行各業(yè)的主要成本來(lái)源（當(dāng)然，奢侈品除外）。
整個(gè)社會(huì)的成本結(jié)構(gòu)都會(huì)下降，正如之前多次科技革命的結(jié)果一樣。在這種浪潮之下，很少有什么會(huì)一成不變。但有一點(diǎn)很重要，智能和能源成本只是趨近于零，而不是直接降為零。所以將來(lái)如果有人仍愿意花費(fèi)巨額投資來(lái)購(gòu)買智能和能源，他們得到的算力和能源的數(shù)量將突破想象。
設(shè)想一下，將來(lái)的能源使用成本下降10~100倍，智能使用成本下降1億倍，而對(duì)能源和智能的資金投入則比現(xiàn)在多1000倍，那會(huì)是什么樣的局面？
Q：AI 可以為人類創(chuàng)造者提供工具，拓展創(chuàng)造力。那么，讓創(chuàng)造者更有生產(chǎn)力AI 用創(chuàng)造力自己去做每件事的界限是什么？
A：至少目前看到的不是取代，主要是增強(qiáng)。在某些情況下，它正在取代。但對(duì)于這些領(lǐng)域的人們想從事的大多數(shù)工作來(lái)說(shuō)，它是增強(qiáng)。這種趨勢(shì)將持續(xù)很長(zhǎng)一段時(shí)間?？赡苷雇?100 年，它可以完成整個(gè)創(chuàng)造性工作。
我覺得有意思的是，如果 10 年前問(wèn)人們，AI 將如怎樣帶來(lái)影響，多數(shù)人會(huì)很有信心地說(shuō)，首先它將取代工廠的藍(lán)領(lǐng)工作，卡車司機(jī)等，然后將取代低技能的白領(lǐng)工作，然后是高技能、高智商的白領(lǐng)工作，比如程序員。也許永遠(yuǎn)不會(huì)取代那些創(chuàng)造性的工作?，F(xiàn)在的發(fā)展正好相反。
這說(shuō)明預(yù)測(cè)未來(lái)是多么困難。這也說(shuō)明人類可能不夠了解自己，不清楚什么類型的技能最難、最需要調(diào)動(dòng)大腦，或者錯(cuò)誤估計(jì)了控制身體的難度。
Q：你認(rèn)為 AI 不會(huì)改變生活的哪些方面？
A：所有深層生物學(xué)的東西。我們?nèi)匀粫?huì)真正關(guān)心與他人的互動(dòng)，仍然會(huì)享受樂(lè)趣，大腦的獎(jiǎng)勵(lì)系統(tǒng)仍然會(huì)以同樣的方式工作。我們?nèi)匀粫?huì)有同樣的動(dòng)力去創(chuàng)造新事物，為愚蠢的地位競(jìng)爭(zhēng)，去組建家庭等。五萬(wàn)年前人類在意的東西，一百年后的人類也會(huì)在意。
《銀翼殺手2049》劇照 |圖片來(lái)源：豆瓣
Q：在未來(lái)的 20 到 30 年里，隨著人工智能的不斷發(fā)展，會(huì)出現(xiàn)主要的社會(huì)問(wèn)題嗎？我們今天能做什么來(lái)緩解這些問(wèn)題？
A：AI的應(yīng)用會(huì)極大影響經(jīng)濟(jì)活動(dòng)。將來(lái)我們需要形成新的社會(huì)契約，考慮如何公平地分配財(cái)富。AGI系統(tǒng)的使用權(quán)將會(huì)成為一種商品，所以也要考慮如何讓所有人平等地獲得使用AGI的機(jī)會(huì)。還有AGI的管理問(wèn)題：人類如何共同決定AGI可以做什么、不能做什么。
我不擔(dān)心「AI取代人類的工作之后，人類何去何從」的問(wèn)題，雖然未來(lái)人類的工作會(huì)和現(xiàn)在很不一樣，但我覺得人類最終都會(huì)找到自己滿意的事業(yè)，過(guò)上充實(shí)的生活。真正的難題是財(cái)富分配、AGI使用權(quán)和AGI的治理問(wèn)題。
我們進(jìn)行了世界上最大的 UBI 實(shí)驗(yàn)（Unconditional Basic Income，無(wú)條件基本收入）。五年計(jì)劃還剩下一年零四分之一的時(shí)間。這不是唯一的解決辦法，但我認(rèn)為這是一件偉大的事情。應(yīng)該再嘗試 10 件這樣的事情。我們還嘗試了不同的方法，從我們認(rèn)為將受到最大影響的群體那里獲得意見，并看如何在周期的早期階段行動(dòng)。最近我們探索了如何將這項(xiàng)技術(shù)用來(lái)重新培訓(xùn)那些早期將受到影響的人，也會(huì)嘗試做更多這樣的事情。
注：無(wú)條件基本收入U(xiǎn)BI，指沒有條件、沒有資格審查，公民可以定期領(lǐng)取由政府或特定組織給予的一筆資金。
4
One more thing
我想，沒人知道我們正處在 AI 的懸崖邊上。人們會(huì)說(shuō)「要么會(huì)很棒，要么會(huì)很糟糕」，你得做最壞的打算。說(shuō)一切都會(huì)好起來(lái)，這并不是一個(gè)策略。不過(guò)你可能會(huì)有某種感覺：我們將到達(dá)一個(gè)美好的未來(lái)，并且盡所能的努力工作，為之奮斗，而不是一直從充滿恐懼和絕望的地方采取行動(dòng)。
翻譯：OneFlow（ID: OneFlowTechnology)、極客公園(ID: geekpark)
譯者：胡燕君、賈川、凌梓郡、靖宇
參考鏈接：
https://greylock.com/greymatter/sam-altman-ai-for-the-next-era/
https://moores.samaltman.com/
https://medium.com/wordsthatmatter/merge-now-430c6d89d1fe
https://www.youtube.com/watch?v=WHoWGNQRXb0
聯(lián)系客服
