我們建立強(qiáng)大的人工智能系統(tǒng)來管理經(jīng)濟(jì)的復(fù)雜性，這些系統(tǒng)使我們的經(jīng)濟(jì)更加復(fù)雜。這種遞歸循環(huán)具有重要的機(jī)會(huì)和風(fēng)險(xiǎn)。
關(guān)于人工智能的經(jīng)濟(jì)辯論類似于詹姆斯卡梅隆的終結(jié)者傳奇中的科幻戰(zhàn)場。他們以機(jī)器人為主。
一些經(jīng)濟(jì)學(xué)家認(rèn)為，這些機(jī)器人（人工智能系統(tǒng)和自動(dòng)化的體現(xiàn)）將改變我們的經(jīng)濟(jì)，如以前的經(jīng)濟(jì)時(shí)代所做的蒸汽或電力，不同之處在于這次將有更多的工作崗位被取代，因?yàn)槿斯ぶ悄芟到y(tǒng)也可以日益自動(dòng)化智力任務(wù)作為物理的。其他人則更樂觀，并相信人工智能系統(tǒng)將提高生產(chǎn)力，增加現(xiàn)有工作崗位并催化新工作崗位。
所有人似乎都認(rèn)為AI系統(tǒng)將“成功”：它們將在整個(gè)經(jīng)濟(jì)中部署，提高生產(chǎn)力并增加創(chuàng)新。問題是這種情況發(fā)生的速度有多快，還有多少中斷。
但是這個(gè)假設(shè)是否合理？
媒體和學(xué)術(shù)工作中源源不斷的人工智能爭議和啟示引發(fā)了重大疑慮。它們包括社交媒體中的算法失敗，刑事司法系統(tǒng)和自動(dòng)駕駛汽車，操縱用戶，降低工人的條件，針對(duì)少數(shù)群體的算法偏見，以及對(duì)最先進(jìn)技術(shù)的脆弱，不透明和低效性的擔(dān)憂AI（深度學(xué)習(xí)）系統(tǒng)。這個(gè)由Varoon Mathur在AI Now Institute創(chuàng)建的過去12個(gè)月的算法爭議時(shí)間表說明了問題的規(guī)模[2]。與此同時(shí)，大肆吹噓的機(jī)器人工作大災(zāi)難無處可見[1]。
2018年的算法爭議
在一篇新文章中，我展示了這些爭議和謎題是人工智能經(jīng)濟(jì)復(fù)雜性的表現(xiàn)：它的影響不是線性的，而是通過一個(gè)充滿相互依賴性的復(fù)雜系統(tǒng)展開......
- 組織內(nèi)部的投資和流程之間：如何部署AI系統(tǒng)以增強(qiáng)其收益并降低風(fēng)險(xiǎn)？
- 不同組織的行為之間：您如何信任其他組織以不利用您或使您面臨風(fēng)險(xiǎn)的方式部署AI系統(tǒng)？
- 社會(huì)群體之間：如果弱勢群體不太能夠影響其部署地點(diǎn)和方式，那么人工智能的利益和成本是否會(huì)得到公平分配？
- 代際之間：如果我們今天做出的科學(xué)，技術(shù)和商業(yè)決策將我們鎖定在平庸，分裂和不安全的人工智能軌道上會(huì)怎樣？
為了管理這些復(fù)雜性，經(jīng)濟(jì)學(xué)家和政策制定者首先需要認(rèn)識(shí)到人工智能不是一種中性技術(shù)：它可以根據(jù)不同的軌跡發(fā)展，其中一些比其他人更具社會(huì)期望。監(jiān)管和道德規(guī)范可以在人工智能指導(dǎo)方向上發(fā)揮作用，但研究與創(chuàng)新（R＆I）政策應(yīng)優(yōu)先考慮（社會(huì)）“更好的人工智能”而不是“更多人工智能”。這是人工智能失敗的學(xué)者提出的一個(gè)關(guān)鍵論點(diǎn)，我認(rèn)為，這不僅僅是一個(gè)道德基礎(chǔ)，而且也是一個(gè)經(jīng)濟(jì)基礎(chǔ)[3]。
本書的其余部分考慮了人工智能復(fù)雜性的不同方面，以及研究和政策議程的原則，以應(yīng)對(duì)他們提出的挑戰(zhàn)，以及哪些已經(jīng)在內(nèi)斯塔的工作中實(shí)現(xiàn)（參見總結(jié)圖和附件）關(guān)于定義的簡短討論）。
AI系統(tǒng)創(chuàng)建的不同復(fù)雜形式的摘要。
在組織中構(gòu)建算法體系結(jié)構(gòu)
首先，人工智能的到來會(huì)產(chǎn)生組織復(fù)雜性：人工智能創(chuàng)新具有不確定的影 它們提供了更多更好的決策的承諾，但是當(dāng)環(huán)境以意想不到的方式發(fā)生變化時(shí)，它們也會(huì)犯錯(cuò)并造成事故。他們的采用者需要獲得新的技能和基礎(chǔ)設(shè)施，修改他們的流程，并建立用于監(jiān)督和錯(cuò)誤檢測的系統(tǒng)，人們會(huì)關(guān)注機(jī)器，機(jī)器會(huì)關(guān)注人類。
但這些會(huì)奏效嗎？如果他們不這樣做會(huì)發(fā)生什么？
如果對(duì)人工智能部署的收益，成本和合適策略的估計(jì)受到興奮或悲觀的偏見，這可能會(huì)導(dǎo)致令人失望的人工智能應(yīng)用程序出現(xiàn)意外失敗（正如我們?cè)谏缃幻襟w和自動(dòng)駕駛汽車中看到的那樣），或者人工智能的投資不足潛在的好處?？绮块T的觀念和態(tài)度的差異可能會(huì)導(dǎo)致人工智能部署的分歧。一些行業(yè)，如技術(shù)或廣告，對(duì)人工智能系統(tǒng)更為樂觀（也許對(duì)他們的缺點(diǎn)很天真）經(jīng)歷人工智能泡沫，而其他行業(yè)，如健康或政府，算法錯(cuò)誤的賭注更高，落后。其他行業(yè)開發(fā)的現(xiàn)成AI解決方案和算法可能與其需求的相關(guān)性較低。
如果人工智能實(shí)驗(yàn)?zāi)軌騽?chuàng)造出其他組織可以搭乘的溢出效應(yīng)，那么這可能會(huì)阻礙這些實(shí)驗(yàn)，或者驅(qū)使那些實(shí)施秘密的組織或?qū)で髮?duì)難以模仿的獨(dú)特?cái)?shù)據(jù)集，計(jì)算基礎(chǔ)設(shè)施或機(jī)器學(xué)習(xí)技能的控制權(quán)。甚至可以有利地出售給模仿者。這將增加人工智能領(lǐng)導(dǎo)者和追隨者之間的鴻溝，并有助于進(jìn)一步提高許多行業(yè)已經(jīng)存在的市場集中度。
應(yīng)通過實(shí)驗(yàn)和證據(jù)來解決這種組織復(fù)雜性：這將涉及嚴(yán)格的研究和組織實(shí)驗(yàn)，以衡量人工智能部署及其副作用的影響，并確定補(bǔ)充它的技能和實(shí)踐，利用新的數(shù)據(jù)組合和方法（正如我們已經(jīng)通過我們?cè)趦?nèi)斯塔的AI繪圖工作所做的那樣），并廣泛分享調(diào)查結(jié)果以促進(jìn)集體學(xué)習(xí)。這可以借助Nesta開創(chuàng)的模型，例如我們的數(shù)字研發(fā)基金，將數(shù)字技術(shù)的實(shí)驗(yàn)轉(zhuǎn)化為經(jīng)過全面評(píng)估的學(xué)習(xí)網(wǎng)站，以最大限度地提高他人的學(xué)習(xí)效果。另一個(gè)有希望的策略是由支持的創(chuàng)新隨機(jī)對(duì)照試驗(yàn)創(chuàng)新和增長實(shí)驗(yàn)室（也許現(xiàn)在是時(shí)候建立一個(gè)獨(dú)立的人工智能增長實(shí)驗(yàn)室來測試不同算法干預(yù)的影響，以確定哪些有效，哪些無效？）。
在人工智能可以創(chuàng)造大量公共利益的領(lǐng)域，更多的實(shí)驗(yàn)和證據(jù)尤為重要，但由于缺乏合適的商業(yè)模式，人工智能危險(xiǎn)和缺乏技能，人工智能部署存在障礙。內(nèi)斯塔已經(jīng)著手中的良好做法的集體智能的設(shè)計(jì)是結(jié)合人類和算法，提高決策，并列明需要在公共部門部署AI之前回答問題。圍繞AI的一些創(chuàng)新挑戰(zhàn)和任務(wù)由英國政府和歐盟委員會(huì)實(shí)施 如果設(shè)計(jì)的明確目標(biāo)是消除不確定性并加強(qiáng)圍繞AI新應(yīng)用的學(xué)習(xí)，則可以實(shí)現(xiàn)類似的示范角色。
AI市場中的修剪信息叢林
人工智能系統(tǒng)具有不確定的影響，可以通過多種不同的方式進(jìn)行組合，并部署了難以從外部了解的目標(biāo)（什么是社交網(wǎng)絡(luò)優(yōu)化，當(dāng)它向您顯示此新聞而不是那??個(gè)？是您看到的預(yù)測由AI系統(tǒng)生成，或者它們是fauxtomation的一個(gè)例子，人類在算法幕后做實(shí)際的工作？）。
不確定性和缺乏可見性會(huì)在AI市場的參與者之間產(chǎn)生普遍的信息不對(duì)稱。很多時(shí)候，與AI相關(guān)的交易中的一方（“代理人”）比另一方（“委托人”）知道的更多，因此可能會(huì)為委托人造成損失或風(fēng)險(xiǎn)，而不必?fù)?dān)心遭到報(bào)復(fù)。這增加了市場復(fù)雜性。例如…
- AI科學(xué)家可以捏造他們的結(jié)果或使他們難以復(fù)制，夸大他們開發(fā)的技術(shù)的好處或淡化他們對(duì)資助者的風(fēng)險(xiǎn)（許多AI系統(tǒng)是雙重使用的，并且可以同樣用于有益或惡意目的）。
- AI采用者在他們不適合的領(lǐng)域錯(cuò)誤應(yīng)用脆弱的AI系統(tǒng)，利用個(gè)人數(shù)據(jù)和操縱用戶和其他業(yè)務(wù)，或部署平庸和不安全的AI系統(tǒng)。
- 人工智能算法“本身”的行為方式會(huì)增加市場復(fù)雜性，因?yàn)樗鼈儠?huì)將信號(hào)與噪聲（過度擬合）數(shù)據(jù)混淆，無意識(shí)地優(yōu)化組織的錯(cuò)誤目標(biāo)，或者以意外的，新興的方式表現(xiàn)出AI閃存崩潰和系統(tǒng)性風(fēng)險(xiǎn)。
由此產(chǎn)生的信息失敗可能會(huì)消除對(duì)人工智能市場的信任，從而導(dǎo)致安全和尊重用戶權(quán)利，在一些市場中放棄人工智能（例如在人工智能災(zāi)難之后）放棄競爭，或推動(dòng)組織內(nèi)部化更多人工智能研究和開發(fā)活動(dòng)，以減少他們對(duì)其動(dòng)機(jī)無法信任的其他參與者的依賴，進(jìn)一步增加AI市場集中度。
AI市場中的信息叢林。
我們?nèi)绾涡藜暨@些信息叢林？我們最近看到了大量的指導(dǎo)方針，章程和代碼，以鼓勵(lì)商業(yè)和政府中的道德AI。然而，我們不能假設(shè)，這些將足以防止不當(dāng)行為，如果他們不符合法律規(guī)定的補(bǔ)充了透明度和遵守什么AI系統(tǒng)可以部署與否，以怎樣的保障措施。
如何以避免扼殺創(chuàng)新和實(shí)驗(yàn)的方式來做到這一點(diǎn)？監(jiān)管本身需要變得更具創(chuàng)新性，采用預(yù)先制定的監(jiān)管方法，積極尋求適合未來市場的規(guī)則 - 這是Nesta積極參與的領(lǐng)域。我上面提到的實(shí)驗(yàn)和證據(jù)原理也有助于確定AI創(chuàng)新能夠?qū)崿F(xiàn)的領(lǐng)域保持無權(quán)限，以及應(yīng)該更加控制的地方。
避免自動(dòng)販賣機(jī)的困境
人工智能系統(tǒng)的復(fù)雜性也體現(xiàn)在我們作為消費(fèi)者，用戶和選民的決策中，創(chuàng)造了新的社會(huì)復(fù)雜性。
當(dāng)我們選擇基于極端人工智能系統(tǒng)的廉價(jià)或便利產(chǎn)品時(shí)（如某些電子商務(wù)平臺(tái)和汽車應(yīng)用程序的情況），這對(duì)其所在行業(yè)的工人產(chǎn)生了間接影響，比如它是否會(huì)使他們的工作變得更加不穩(wěn)定或嚴(yán)密監(jiān)控。當(dāng)我們通過大規(guī)模部署人工智能系統(tǒng)來尋求公共服務(wù)的效率時(shí)，可以通過犧牲對(duì)依賴這些服務(wù)的弱勢群體的偏見和不公平?jīng)Q策來節(jié)省成本。極端人工智能部署也可能帶來更少的安全性，隱私風(fēng)險(xiǎn)和更多的市場集中度，但其中許多成本和風(fēng)險(xiǎn)是隱藏的或間接的，因此在我們的日常決策中更容易被忽視。
如果每個(gè)人都這樣做，我們可能會(huì)遭遇比我們想要的更多極端和破壞性的AI部署 - 我稱之為自動(dòng)機(jī)的困境。更糟糕的是，既得利益者可能會(huì)試圖操縱人工智能部署，以便影響他人而不是他們，增加不平等并造成不公正。最終，這可能會(huì)導(dǎo)致人們對(duì)人工智能系統(tǒng)的強(qiáng)烈抵制，這種系統(tǒng)被認(rèn)為只會(huì)使少數(shù)人受益。
避免這種結(jié)果需要人工智能部署的團(tuán)結(jié)：社會(huì)困境可以通過不同群體之間的協(xié)調(diào)和談判以及海關(guān)和機(jī)構(gòu)的變化來解決。政府和民間社會(huì)組織應(yīng)加強(qiáng)公眾參與，以確定人工智能的目標(biāo)，規(guī)則和優(yōu)先事項(xiàng)。這種參與將有助于確定人工智能部署的社會(huì)偏好軌跡，通過有針對(duì)性的研發(fā)計(jì)劃進(jìn)行探索，并在法規(guī)中進(jìn)行編碼。確定最近“ 蒙特利爾責(zé)任人工智能宣言”原則的過程就是如何發(fā)揮作用的一個(gè)很好的例子。
團(tuán)結(jié)還意味著確定那些因人工智能的到來而受到經(jīng)濟(jì)威脅的社會(huì)群體，并采取干預(yù)措施來緩解他們的處境。已經(jīng)提出了許多策略來實(shí)現(xiàn)這一目標(biāo)，從教育和技能干預(yù)（例如Nesta的READIE團(tuán)隊(duì)正在探索的那些干預(yù)措施）到分散AI資本的所有權(quán)，以便自動(dòng)化的回報(bào)大致分享，或基本收入。確定哪些雄心勃勃的措施能夠更有效地發(fā)揮作用，并為其采用提供社會(huì)支持將成為未來的重要挑戰(zhàn)。
保持人工智能在科學(xué)，技術(shù)和市場軌道上的多元化
如果工程師，企業(yè)家和規(guī)劃人員已經(jīng)知道我們今天所知道的有關(guān)污染，擁堵和氣候變化的內(nèi)容，那么他??們?cè)趦?nèi)燃機(jī)早期所做的工作會(huì)怎樣？我們需要問自己類似的關(guān)于人工智能系統(tǒng)和時(shí)間復(fù)雜的平臺(tái)的問題：我們今天對(duì)它們做出的選擇限制了明天的選擇，可能將我們鎖定在難以擺脫的部署軌道上。
在科學(xué)和技術(shù)方面，當(dāng)前的人工智能進(jìn)步依賴于數(shù)據(jù)匱乏，脆弱和不透明的深度學(xué)習(xí)方法：一旦他們獲得足夠的數(shù)據(jù)，這些系統(tǒng)表現(xiàn)良好，但有時(shí)他們會(huì)以驚人的方式崩潰（例如，當(dāng)他們是顯示“對(duì)抗性的例子”），這些事故往往難以理解或預(yù)測。對(duì)深度學(xué)習(xí)的批評(píng)者擔(dān)心，它會(huì)讓我們陷入技術(shù)死胡同，我們通過收集和標(biāo)記更多數(shù)據(jù)，花費(fèi)更多計(jì)算來繼續(xù)論證其局限性并使我們的經(jīng)濟(jì)和社會(huì)適應(yīng)其局限性，而不是探索可以為我們提供更強(qiáng)大和可解釋的人工智能系統(tǒng)的替代人工智能模型。目前重新設(shè)計(jì)城市以使其更適合于不可靠的自動(dòng)駕駛汽車的舉措是人類系統(tǒng)適應(yīng)技術(shù)能力的一個(gè)例子。但是你想住在一個(gè)看起來像機(jī)器人工廠的城市嗎？
類似的路徑依賴性在由數(shù)字平臺(tái)主導(dǎo)的市場中起作用，數(shù)字平臺(tái)提供免費(fèi)和個(gè)性化的服務(wù)和內(nèi)容以換取用于訓(xùn)練AI系統(tǒng)的個(gè)人數(shù)據(jù)。一旦他們成為主導(dǎo)，這些平臺(tái)和商業(yè)模式很難被驅(qū)逐，特別是一旦用戶習(xí)慣于大規(guī)模個(gè)性化和（至少在表面上）免費(fèi)價(jià)格。
面對(duì)這些慣性和潛在的不可逆轉(zhuǎn)性，需要多樣性和多元化。在我們更多地了解復(fù)雜人工智能系統(tǒng)的影響，補(bǔ)充和風(fēng)險(xiǎn)之前，我們需要避免單一模型在科學(xué)，技術(shù)或商業(yè)中“做人工智能”的主導(dǎo)地位，這種模式可能會(huì)變得低劣而難以擺脫。這需要主動(dòng)掃描人工智能領(lǐng)域，以識(shí)別匍匐的單一文化，并采取有針對(duì)性的干預(yù)措施，以創(chuàng)造人工智能科學(xué)，技術(shù)和商業(yè)的多樣性。Nesta正與歐盟委員會(huì)合作，在DECODE和Engineroom等項(xiàng)目中實(shí)現(xiàn)這些目標(biāo)我們正在開發(fā)讓個(gè)人掌控自己數(shù)據(jù)的技術(shù)，并提供更具包容性和以人為本的互聯(lián)網(wǎng)的基石。
結(jié)論：在空間和時(shí)間上對(duì)齊值
即使我們同意我們想要實(shí)現(xiàn)的社會(huì)目標(biāo)，實(shí)時(shí)指導(dǎo)人工智能開發(fā)以管理這些經(jīng)濟(jì)復(fù)雜性也很難。但是我們?cè)趪覂?nèi)部缺乏這種協(xié)議，而且在國家之間更是如此?？纯凑谡归_的人工智能全球競賽，不同的參與者 - 美國，中國，歐盟 - 正在推動(dòng)他們對(duì)人工智能的看法面臨分裂，沖突，虐待和事故的風(fēng)險(xiǎn)。該AI的民族主義正在被人們認(rèn)為沒有自動(dòng)化這些國家和地區(qū)將實(shí)現(xiàn)自動(dòng)化加劇-? AI的影響的地理是太復(fù)雜。
需要通過政策實(shí)驗(yàn)進(jìn)行制度創(chuàng)新，國際標(biāo)準(zhǔn)和集體學(xué)習(xí)，以避免危險(xiǎn)的種族在安全和道德方面陷入僵局。他們可以作為圖靈測試的鏡像版本，通過他們對(duì)他們創(chuàng)建的人工智能系統(tǒng)的機(jī)遇和挑戰(zhàn)的回應(yīng)，不同的社會(huì)了解自己 - 他們是什么以及他們想要成為什么。
致謝
這篇博客及其基于的文章得益于與Tommaso Ciarli，John Davies，Chris Gorst，Geoff Mulgan，Simone Vannuccini，Ed Steinmueller和Konstantinos Stathoulopoulos的對(duì)話。
尾注
- 該綱要介紹了該主題的一些最新研究。
- 另請(qǐng)參閱AI Now 2018年國家報(bào)告，了解算法爭議及其政策含義的最新概述。
- 在這方面，我認(rèn)為對(duì)AI復(fù)雜性的經(jīng)濟(jì)分析可以補(bǔ)充已經(jīng)仔細(xì)記錄AI失敗的關(guān)鍵方法，主要是將其解釋為不同群體之間權(quán)力動(dòng)態(tài)的結(jié)果，而不系統(tǒng)地考慮激勵(lì)，信息和協(xié)調(diào)的作用。
附件：定義AI系統(tǒng)
在文章中，我將AI系統(tǒng)定義為“ 社會(huì)技術(shù)系統(tǒng)，其功能是在動(dòng)態(tài)情況下通知或自動(dòng)化行為。“這個(gè)定義抓住了人工智能系統(tǒng)嵌入社會(huì)系統(tǒng)（組織和市場）這一事實(shí)，并通過自動(dòng)化或告知不斷變化的情況下的行為來實(shí)現(xiàn)經(jīng)濟(jì)功能（這就是為什么他們需要聰明地行動(dòng)，即適應(yīng)條件的變化）必須以某種方式識(shí)別）。
為了做到這一點(diǎn)，AI系統(tǒng)需要傳感器來捕獲有關(guān)環(huán)境的信息，分析是把這些信息納入該怎么辦（可能涉及人類決策層認(rèn)為設(shè)定的目標(biāo)，并監(jiān)督輸出）決定，和效應(yīng)是改變這些決定成動(dòng)作。
這個(gè)定義與每個(gè)組件內(nèi)部的內(nèi)容無關(guān)。在人工智能作為一門學(xué)科的歷史中，研究人員和技術(shù)人員一直在尋求建立人工智能系統(tǒng)的不同策略。當(dāng)代方法，這導(dǎo)致了性能的重要的改進(jìn)，依賴于被上標(biāo)記的數(shù)據(jù)（監(jiān)督學(xué)習(xí)）或合成的環(huán)境（強(qiáng)化學(xué)習(xí)）使它們能夠訓(xùn)練機(jī)器學(xué)習(xí)算法克大約可以用于推薦的環(huán)境enerate預(yù)測或?qū)嵤┻m當(dāng)?shù)牟呗?。這種數(shù)據(jù)驅(qū)動(dòng)方法的優(yōu)點(diǎn)是不必事先指定AI系統(tǒng)需要遵循的一組規(guī)則，以便感知環(huán)境并實(shí)現(xiàn)其目標(biāo)。在缺點(diǎn)方面，它是數(shù)據(jù)饑渴和數(shù)據(jù)盲目。當(dāng)面對(duì)用于訓(xùn)練它們的數(shù)據(jù)集之外的情況時(shí)，它使AI系統(tǒng)依賴于大型數(shù)據(jù)集并且易碎。
下圖表示這些AI系統(tǒng)的結(jié)構(gòu)，它們與它們的輸入之間的關(guān)系。
