（文／Nicholas Carr）2009年2月12日傍晚，美國大陸航空公司的一架客機(jī)在大風(fēng)天氣里開始了它從新澤西州紐瓦克市飛往紐約州布法羅市的航程。如今的商業(yè)航班，飛行員其實(shí)并沒有很多事情要做，這趟航班也不例外。在預(yù)計(jì)一小時(shí)的飛行時(shí)間里，機(jī)長馬爾文·雷斯諾（Marvin Renslow）在起飛的短暫過程中進(jìn)行了簡單的人工駕駛，將這架龐巴迪Q400型渦輪螺旋槳飛機(jī)升上了天空，之后便打開了自動(dòng)駕駛儀，讓軟件來操縱飛行。接下來，客機(jī)在1.6萬英尺的高空平穩(wěn)地朝西北方前進(jìn)，雷斯諾和他的副駕駛麗貝卡·肖（Rebecca Shaw）聊起了他們各自的家庭生活、工作情況以及空管人員的性格和脾氣。飛機(jī)順利到達(dá)了法布法羅機(jī)場，但就在起落架和襟翼放下以后，駕駛員的油門操縱桿突然劇烈搖晃起來，這是飛機(jī)失去升力、或?qū)⑾萑霘鈩?dòng)失速狀態(tài)的信號。于是，自動(dòng)駕駛儀關(guān)閉，機(jī)長接過手來開始人工駕駛飛機(jī)。雷斯諾的反應(yīng)很快，但做的卻偏偏是錯(cuò)誤的事情：他猛地拉起操縱桿，提起了機(jī)頭（這會(huì)使空速降低），卻沒有同時(shí)向前推動(dòng)油門操縱桿讓飛機(jī)加速。雷斯諾的操控不但沒有化解危機(jī)，反而使飛機(jī)驟然減速。緊接著飛機(jī)就失去了控制，然后像磚頭一樣從空中掉了下來?！拔覀兺炅耍 笔菣C(jī)長在這架Q400客機(jī)撞上布法羅郊區(qū)的一所房子前說的最后一句話。
專業(yè)人士淪為了電腦操作工？
這起導(dǎo)致機(jī)上全部49人以及地面上1人死亡的事故本來不應(yīng)該發(fā)生。美國國家運(yùn)輸安全委員會(huì)調(diào)查后認(rèn)為，事故原因是飛行員的操作失誤。調(diào)查報(bào)告指出，機(jī)長面對失速警告的反應(yīng) “本應(yīng)自動(dòng)化，實(shí)際的飛行控制輸入與所受訓(xùn)練并不相符”，顯示出“驚慌和混亂”。運(yùn)營這條航線的地區(qū)性航空公司科爾根航空（Colgan Air）的一名高管也承認(rèn)，機(jī)上的駕駛?cè)藛T遇到緊急情況發(fā)生時(shí)缺乏情景意識(shí)（situational awareness）。
布法羅市的墜機(jī)不是一個(gè)孤立的事件。幾個(gè)月后，又有一起極為類似的災(zāi)難發(fā)生，只是這次造成了更多的傷亡。2012年5 月31日晚上，一架法國航空公司的空客A330客機(jī)從巴西的里約熱內(nèi)盧起飛，前往巴黎。起飛后大約3小時(shí)，這架大型噴氣式客機(jī)便在大西洋上空遭遇了風(fēng)暴的襲擊。飛機(jī)的空氣速度傳感器由于表面結(jié)冰，開始給出錯(cuò)誤的讀數(shù)，導(dǎo)致自動(dòng)駕駛儀自動(dòng)脫開?；袒笾?，操作飛機(jī)的駕駛員皮埃爾-塞德里克·博寧（ Pierre-Cédric Bonin）猛地拉回操縱桿。飛機(jī)開始上升，失速警告也同時(shí)響起，但博寧仍然一意將操作桿往回拉。隨著飛機(jī)大幅攀升，失去了速度，空速傳感器再次開始工作，反饋給機(jī)組人員準(zhǔn)確的數(shù)字。然而，博寧繼續(xù)讓飛機(jī)減速。最終整架客機(jī)停滯下來，開始下落。如果博寧當(dāng)時(shí)松開操縱桿，A330客機(jī)很可能會(huì)自我校正過來，但他沒有這樣做。3分鐘后，飛機(jī)從3.5萬英尺的高空掉下來，擊中海平面。機(jī)上的乘客和機(jī)組人員共228人全部身亡。
人類歷史上的第一個(gè)自動(dòng)駕駛儀由兩個(gè)陀螺儀組成，在1930年的一篇《大眾科學(xué)》（Popular Science）文章里被戲稱為“金屬飛行員”。兩個(gè)陀螺儀一個(gè)水平安裝，另一個(gè)豎直安裝，分別連接到飛機(jī)的控制器，由螺旋槳后面的一個(gè)風(fēng)力驅(qū)動(dòng)的發(fā)電機(jī)供電。水平陀螺儀保持機(jī)翼水平，而豎直的則負(fù)責(zé)轉(zhuǎn)向?，F(xiàn)代的自動(dòng)駕駛儀與當(dāng)年那個(gè)簡陋的設(shè)備幾乎找不到相似之處。現(xiàn)代的自動(dòng)駕駛儀由飛機(jī)上的計(jì)算機(jī)控制，運(yùn)行極其復(fù)雜的軟件，從電子傳感器收集信息，每時(shí)每刻都在不斷調(diào)整飛機(jī)的姿態(tài)、速度和軸承。如今的飛行員在他們所謂的“玻璃駕駛艙”里工作，以前的那些模擬表盤和讀數(shù)器大多已經(jīng)消失，取而代之的是數(shù)字化的顯示框。自動(dòng)化已經(jīng)變得如此之復(fù)雜，在通常的客運(yùn)航班里，留給人類飛行員操控的攏共只有短短3分鐘的時(shí)間。飛行員花很多時(shí)間在做的，是監(jiān)控屏幕和鍵入數(shù)據(jù)。不太夸張地說，他們已經(jīng)成了電腦操作員。
而這——根據(jù)許多航空和自動(dòng)化專家得出的結(jié)論——成了一個(gè)問題。過度使用自動(dòng)化系統(tǒng)導(dǎo)致飛行員的專業(yè)知識(shí)退化，反應(yīng)變得遲鈍。英國布里斯托爾大學(xué)的人體工程學(xué)專家簡·諾伊斯（Jan Noyes）將其稱為“機(jī)組人員的去技術(shù)化”。沒有人會(huì)懷疑自動(dòng)駕駛儀多年來在增強(qiáng)飛行安全這方面所做的貢獻(xiàn)。自動(dòng)駕駛儀減輕了飛行員的疲勞程度，提供故障的預(yù)先警報(bào)，當(dāng)機(jī)組人員無力駕駛飛行時(shí)，可以保持飛機(jī)仍然有序駕駛。但整體飛行事故的穩(wěn)步下降，掩蓋了近來一系列“令人瞠目結(jié)舌的新型事故”，喬治梅森大學(xué)的心理學(xué)教授和自動(dòng)化領(lǐng)域的權(quán)威拉賈·巴拉蘇羅（Raja Parasuraman）這樣評論。當(dāng)自動(dòng)駕駛儀出現(xiàn)故障時(shí)，太多的飛行員面對突如其來、已經(jīng)很少承擔(dān)的重任，都犯下錯(cuò)誤。2011年，在美聯(lián)社的一次采訪中，美國聯(lián)合航空公司的資深飛行員、曾經(jīng)擔(dān)任航空公司飛行員協(xié)會(huì)（Air Line Pilots Association）最高安全官員的羅里·凱（Rory Kay）直截了當(dāng)?shù)卣f：“我們忘記了如何飛行?！泵绹?lián)邦航空管理局（Federal Aviation Administration）大是緊張，同年1月下發(fā)了“安全警報(bào)” ，敦促各航空公司讓其所轄的飛行員進(jìn)行更多的手動(dòng)飛行。美國聯(lián)邦航空管理局警告說，過度依賴于自動(dòng)化可能將飛機(jī)和乘客都置于危險(xiǎn)之中。
依賴自動(dòng)化，失去的或許比得到的更多
航空公司的教訓(xùn)值得我們思考。這些事件揭示了自動(dòng)化雖有一切好處，但卻會(huì)損害依賴它的人的能力和表現(xiàn)。其影響的方面遠(yuǎn)遠(yuǎn)不止是安全。因?yàn)樽詣?dòng)化會(huì)改變我們?nèi)绾涡袆?dòng)、如何學(xué)習(xí)和知道哪些東西，事情就牽涉到道德層面。我們作決定或做不出決定把哪些事情交給機(jī)器，會(huì)塑造我們的生活和我們自己在世界上的立足之地。事情一直如此，但近年來，隨著節(jié)省人力的技術(shù)的軌跡從機(jī)械轉(zhuǎn)向軟件，自動(dòng)化已滲透到生活的方方面面，其運(yùn)作也變得更加隱蔽。為了追求便利、速度和效率，我們忙不迭地將工作負(fù)荷拋給計(jì)算機(jī)，來不及反思這樣做的代價(jià)是什么。
醫(yī)生用計(jì)算機(jī)來做診斷、做手術(shù)；華爾街的銀行家用計(jì)算機(jī)來組合和買賣金融工具；建筑師用計(jì)算機(jī)來設(shè)計(jì)建筑；律師用計(jì)算機(jī)來記錄證據(jù)。被計(jì)算機(jī)化的并不只有專業(yè)工作領(lǐng)域。有了智能手機(jī)和其他體積更小、價(jià)格更便宜的電腦，我們依靠軟件來進(jìn)行日常生活的許多雜事。我們打開App幫我們購物、做飯、社交，甚至養(yǎng)育孩子。我們一個(gè)路口一個(gè)路口地遵循GPS的指示 。我們征求推薦引擎的意見看什么電影、讀什么書和聽什么歌。我們有問題問谷歌，有事情交給Siri。在工作和生活中，我們越來越多地生活在玻璃駕駛艙里。
一百年前，英國數(shù)學(xué)家、哲學(xué)家懷海特（Alfred North Whitehead）寫道：“文明的發(fā)展就是加大不用想便能完成的事情的數(shù)量?！焙茈y想象還有什么表述比這句話更能顯示對自動(dòng)化的信心。懷海特的話里隱含著一種這樣的信念——人類活動(dòng)是從上到下有等級區(qū)分的：每當(dāng)我們把一件任務(wù)或一種工具交給機(jī)器去負(fù)責(zé)，就把自己解放出來去追求等級更高的、需要更多靈活性、更多智能或更開闊視野的任務(wù)。每向上一步，我們都可能會(huì)失去些什么，但從長遠(yuǎn)看，我們的所得將遠(yuǎn)遠(yuǎn)大于所失。
歷史提供了充足的證據(jù)來支持懷海特。自從人類發(fā)明了杠桿、方向盤和算盤以來，我們已經(jīng)將數(shù)不清的體力活兒和腦力活兒交給了機(jī)器。但是，懷海特的見地不應(yīng)該被當(dāng)成普遍的真理。當(dāng)他寫下這句話時(shí)，自動(dòng)化還往往局限于一些特定的、明確的、重復(fù)性的勞動(dòng)領(lǐng)域——用蒸汽織機(jī)織布、用機(jī)械式計(jì)算器算數(shù)?，F(xiàn)在的自動(dòng)化則不同。計(jì)算機(jī)可以被編程執(zhí)行非常復(fù)雜的工作，其間要評估許多變量來完成一連串緊密協(xié)調(diào)的任務(wù) 。許多軟件程序還負(fù)責(zé)腦力工作，比如觀察檢測、分析判斷，甚至作出決定等等直到最近都還被認(rèn)為是人類所獨(dú)有的職能。這可能會(huì)使得操作計(jì)算機(jī)的人落入扮演一個(gè)高科技零雜工的角色——他鍵入數(shù)據(jù)、監(jiān)控輸出、謹(jǐn)防事故。與其說讓我們騰出手來開辟思想和行動(dòng)的新前沿，各種各樣的軟件實(shí)際上讓我們的目光變得短淺。我們用一條條的規(guī)則替換了更加精細(xì)和專業(yè)的才干。
大多數(shù)人都愿意相信，自動(dòng)化能讓我們把時(shí)間花在更高層次的追求上面，但不會(huì)改變我們行動(dòng)或思考的方式。這是一種謬見——自動(dòng)化學(xué)者稱之為“替代神話”的說法。節(jié)省勞力的設(shè)備不只替代了工作或其他活動(dòng)中的一些彼此孤立的組成部分，它還改變了整個(gè)任務(wù)，包括參與者的角色、態(tài)度和技能。喬治梅森大學(xué)的心理學(xué)教授、自動(dòng)化領(lǐng)域的權(quán)威拉賈·巴拉蘇羅和他的一位同事在其2010年的一篇論文中指出，“自動(dòng)化并不是簡單地替代人類活動(dòng)，它往往會(huì)以設(shè)計(jì)者預(yù)期之外和始料不及的方式改變這一活動(dòng)?！?/p>
心理學(xué)家發(fā)現(xiàn)，當(dāng)我們用電腦工作時(shí)，經(jīng)常會(huì)陷入自滿和偏見——兩種會(huì)削弱我們表現(xiàn)和引發(fā)錯(cuò)誤的認(rèn)知缺陷當(dāng)中。當(dāng)一臺(tái)計(jì)算機(jī)誘使我們進(jìn)入一種虛假的安全感當(dāng)中，自動(dòng)化自滿就出現(xiàn)了。相信計(jì)算機(jī)會(huì)準(zhǔn)確無誤地完成工作并且處理任何出現(xiàn)的問題，我們?nèi)巫⒁饬λ纳㈤_去。我們與手頭的工作脫離開來，對周圍事情的注意力也在淡去。自動(dòng)化偏見則是指我們過于相信顯示器上面的信息的準(zhǔn)確性。我們對軟件的信任變得如此之強(qiáng)，以至于忽略或無視其他的信源，包括自己的眼睛和耳朵。當(dāng)一臺(tái)計(jì)算機(jī)提供了不正確或不完備的數(shù)據(jù)，我們視而不見。
在駕駛艙里、在戰(zhàn)場上、在工廠的控制室中，高風(fēng)險(xiǎn)的情況下自滿和偏見的例子已有據(jù)可查。然而，最近的研究表明，這種問題困擾著每一個(gè)用電腦工作的人。今天，許多放射科醫(yī)生使用分析軟件來高亮乳房X光片上可能有問題的地方。通常，這些亮點(diǎn)有助于疾病的發(fā)現(xiàn)。但是，它們也可以具有相反的效果。受軟件建議的影響，放射科醫(yī)生可能會(huì)不那么留意還沒有被突出顯示的區(qū)域，有時(shí)候就會(huì)忽視了早期腫瘤的影像。我們大多數(shù)人在使用電腦時(shí)也會(huì)經(jīng)歷自動(dòng)化自滿。在使用郵件或文字處理軟件時(shí)，因?yàn)橹懒擞衅磳憴z查在工作，我們就不那么細(xì)心地校對語法錯(cuò)誤了。
自動(dòng)化將人從執(zhí)行者轉(zhuǎn)變?yōu)橛^察員
計(jì)算機(jī)可以削弱人類認(rèn)識(shí)和關(guān)注點(diǎn)的方式指向了一個(gè)更深層次的問題。自動(dòng)化將我們從執(zhí)行者轉(zhuǎn)變?yōu)橛^察員。我們放下了操縱桿，轉(zhuǎn)而觀看屏幕。這種轉(zhuǎn)變可能使我們的生活更輕松，但同時(shí)也可以抑制專業(yè)技能的發(fā)展。從20世紀(jì)70年代末開始，心理學(xué)家就一直在記錄一種被稱為“加工效應(yīng)”（Generation Effect）的現(xiàn)象。這種現(xiàn)象最初是在詞匯研究當(dāng)中被觀察到的，研究人員發(fā)現(xiàn)，當(dāng)人們從腦中主動(dòng)生成單詞（背單詞時(shí)“經(jīng)過了大腦”），要比僅僅是看更容易記住它。
這一現(xiàn)象現(xiàn)在已被研究透徹，在許多不同的情況下都對學(xué)習(xí)有著影響。當(dāng)你積極參與一項(xiàng)任務(wù)，便開啟了復(fù)雜的心理過程，這些過程能讓你記住更多的知識(shí)。你學(xué)得更多、記得也更多。當(dāng)你在一段較長的時(shí)間里重復(fù)同一種任務(wù)，你的大腦會(huì)構(gòu)造專門的神經(jīng)回路用于進(jìn)行這一活動(dòng)。大腦會(huì)聚集豐富的信息存儲(chǔ)，并且將知識(shí)組織得讓你瞬間就能調(diào)用它。無論是網(wǎng)球場上的小威廉姆斯還是在棋盤上的卡爾森[注釋]，技藝精湛的高手可以發(fā)現(xiàn)情境中的規(guī)律、評估信號，并以看似不可思議的速度和精度應(yīng)對不斷變化的情況。看起來像是本能的反應(yīng)，實(shí)際上是辛苦磨練出、來之不易的技巧，也正是現(xiàn)代軟件旨在緩解的勞累中鍛煉出來的技巧。
注釋：馬格努斯·卡爾森，挪威國際象棋大師，現(xiàn)為19歲的卡爾森是國際象棋等級排名第一的棋手。 2004年4月26日，年僅13歲零148天的卡爾森獲得國際象棋特級大師稱號。
荷蘭的認(rèn)知心理學(xué)家克里斯托夫·范寧韋根（Christof van Nimwegen），在2005年開始了一個(gè)實(shí)驗(yàn)，旨在調(diào)查軟件對我們掌握技術(shù)訣竅方面的影響。范寧韋根招募了兩撥人，玩一個(gè)叫做“傳教士與食人族”（Missionaries and Cannibals）的電腦游戲，游戲的規(guī)則基于一個(gè)經(jīng)典的邏輯難題。在游戲中，玩家必須運(yùn)送5個(gè)食人族和5個(gè)傳教士（在范寧韋根的實(shí)驗(yàn)里分別用5個(gè)黃球和5個(gè)藍(lán)球表示）過河，使用的船一次最多只能容納 3名乘客。無論在船上還是岸上，食人族的數(shù)量都不能比傳教士多（否則就要吃人了）。實(shí)驗(yàn)參與者被分成兩組，一組使用教學(xué)軟件來完成任務(wù)，軟件提供一步一步的指導(dǎo)，高亮出哪些移動(dòng)是可行的、哪些不是。另一組則使用一個(gè)基本的程序，不會(huì)提供任何輔助。
你可能也猜到了，使用教學(xué)軟件的那一組在一開始取得了更快的進(jìn)步。他們可以簡單地按照提示進(jìn)行操作，而不是每一步都停下來，回憶規(guī)則并想出如何將其適用于新的形勢。但是，隨著測試的進(jìn)行，不使用輔助軟件的一組逐漸占據(jù)上風(fēng)。他們對游戲形成了更清晰的概念性理解，制定出更好的策略，也少犯錯(cuò)誤。8個(gè)月后，范寧韋根讓相同的人再次玩這個(gè)游戲。此前沒有使用輔助軟件的一組幾乎以超出對手一倍的速度完成了比賽。在加工效果的正面作用下，他們“對知識(shí)形成了更強(qiáng)的銘記”（imprinting of knowledge）。
范寧韋根在實(shí)驗(yàn)室里觀察到的現(xiàn)象——自動(dòng)化會(huì)妨礙我們將信息轉(zhuǎn)化成知識(shí)的能力——在現(xiàn)實(shí)世界中也可以見到。在許多企業(yè)中，管理者和其他專家都依賴決策支持系統(tǒng)來分析信息和提出行動(dòng)方案。例如，會(huì)計(jì)師在企業(yè)的審計(jì)中會(huì)使用這種系統(tǒng)。應(yīng)用程序會(huì)加快工作的進(jìn)度，但一些跡象表明，軟件越是能干，會(huì)計(jì)師就越是不行。最近由澳大利亞的研究人員進(jìn)行的一項(xiàng)研究，調(diào)查了決策支持系統(tǒng)對三家跨國會(huì)計(jì)師事務(wù)所的影響。其中兩家會(huì)計(jì)師事務(wù)所采用非常先進(jìn)的軟件，能夠根據(jù)會(huì)計(jì)師在軟件客戶端輸入的一些基本問題的答案，在客戶的審計(jì)文件中推薦納入相關(guān)業(yè)務(wù)風(fēng)險(xiǎn)。第三家公司使用簡單的軟件，需要會(huì)計(jì)師來評估一系列可能的風(fēng)險(xiǎn)，手動(dòng)選取相關(guān)的列表。研究人員給每家公司的會(huì)計(jì)師做了測試，測量他們的專業(yè)知識(shí)。第三家公司的會(huì)計(jì)師比其他兩家的明顯很強(qiáng)，對不同形式的風(fēng)險(xiǎn)都顯示出了更強(qiáng)的理解能力。
誰還需要人類，這真的會(huì)成為一個(gè)問題
而最令人震驚和不安的，是計(jì)算機(jī)自動(dòng)化還仍處于早期階段。專家過去以為，程序員將復(fù)雜任務(wù)自動(dòng)化的能力有限，特別是在那些涉及感官知覺、模式識(shí)別和概念性知識(shí)的領(lǐng)域。他們以駕駛汽車為例，說駕駛汽車不僅需要在很短的時(shí)間里理解高速運(yùn)動(dòng)的視覺信號，還需要流暢地應(yīng)對突發(fā)狀況。兩位著名經(jīng)濟(jì)學(xué)家在2004年寫道，“面對迎面而來的車輛執(zhí)行向左轉(zhuǎn)這個(gè)動(dòng)作涉及的因素之多，很難想象一套規(guī)則可以復(fù)制司機(jī)的行為?！倍潭?年后，2010年10月，谷歌宣布它已經(jīng)建立了一個(gè)由7輛“自駕駛汽車”組成的車隊(duì)，在加利福尼亞州和內(nèi)華達(dá)州的道路上已經(jīng)行駛了超過14萬英里（超過20萬公里）。
無人駕駛汽車為機(jī)器人將如何在物理世界中導(dǎo)航和執(zhí)行任務(wù)提供了一個(gè)預(yù)覽，并且從人類手中接過了環(huán)境意識(shí)、協(xié)調(diào)運(yùn)動(dòng)和流體決策的工作。大腦任務(wù)的自動(dòng)化正在取得同樣迅速的進(jìn)展。就在幾年前，一臺(tái)電腦參加像《危機(jī)邊緣》（Jeopardy）這樣的智力問答節(jié)目聽上去似乎很可笑，但在2011年的一個(gè)著名比賽中，IBM的超級計(jì)算機(jī)Waston將這檔節(jié)目一直以來的冠軍肯·詹寧斯（Ken Jennings）打得落花流水。Waston并不像人類那樣思考，它并不了解它在做什么或說什么。它的優(yōu)勢在于現(xiàn)代計(jì)算機(jī)處理器的非凡速度。
2011年出版的《與機(jī)器賽跑》（Race Against the Machine）探討了計(jì)算機(jī)化對經(jīng)濟(jì)產(chǎn)生的影響。在書中，麻省理工大學(xué)（MIT）的研究人員埃里克·布林約爾松（Erik Brynjolfsson）和安德魯·邁克菲（Andrew McAfee）指出，谷歌的無人駕駛汽車和IBM的超級電腦Waston是自動(dòng)化新浪潮的代表，對呈“指數(shù)級增長”的計(jì)算機(jī)力量的利用，將改變幾乎每一個(gè)工作和職業(yè)的工作性質(zhì)。今天，他們寫道，“計(jì)算機(jī)發(fā)展得如此迅速，其應(yīng)用領(lǐng)域從科幻小說邁入日常生活……短短幾年就夠了。”
誰需要人類呢？這個(gè)問題，不管是疑問還是反問，經(jīng)常會(huì)在討論自動(dòng)化的話題里出現(xiàn)。如果計(jì)算機(jī)的能力擴(kuò)展得這么快，相比之下，如果人類看起來緩慢、笨拙、容易出錯(cuò)，為什么不建立一個(gè)自成一體的系統(tǒng)，完美地執(zhí)行任務(wù)而沒有任何人類的監(jiān)督或干預(yù)呢？為什么不把人為因素給排除出去呢？在評論自動(dòng)化和飛行員操作失誤之間的聯(lián)系時(shí)，技術(shù)理論家凱文·凱利（Kevin Kelly）指出，顯而易見的解決方案是開發(fā)一個(gè)完全自主的自動(dòng)駕駛儀：“從長遠(yuǎn)來看，人類飛行員不應(yīng)該駕駛飛機(jī)。”硅谷的風(fēng)險(xiǎn)投資家維諾德·科斯拉（Vinod Khosla）最近表示，當(dāng)保健醫(yī)療軟件（他戲稱為“醫(yī)生算法”）從協(xié)助主治醫(yī)生做出診斷發(fā)展到完全取代醫(yī)生之時(shí)，醫(yī)療保健將會(huì)得到大大改善。解決不完善自動(dòng)化的方法就是全面自動(dòng)化。
這種想法是很誘人，但沒有機(jī)器是萬無一失的。即使是最先進(jìn)的技術(shù)也遲早會(huì)有失效、起到反效果的一天，最先進(jìn)的計(jì)算機(jī)系統(tǒng)也會(huì)遇到它的設(shè)計(jì)者從來沒有預(yù)料到的情況。隨著自動(dòng)化技術(shù)變得越來越復(fù)雜，算法、數(shù)據(jù)庫、傳感器和機(jī)械部件之間的聯(lián)系越來越緊密，潛在的故障源的數(shù)量將成倍增長，而且愈加難以檢測。所有的部件都在完好運(yùn)行，但系統(tǒng)設(shè)計(jì)中出了一個(gè)小錯(cuò)誤就能釀成大禍。而且，就算可以設(shè)計(jì)出一個(gè)完美的系統(tǒng)，它仍將在一個(gè)不完美的世界里運(yùn)行。
在1983年學(xué)術(shù)期刊《自動(dòng)化》（Automatica）上發(fā)表的一篇經(jīng)典論文中，英國倫敦大學(xué)學(xué)院的工程心理學(xué)家利茲安·班布里奇（Lisanne Bainbridge）描述了計(jì)算機(jī)自動(dòng)化的一個(gè)難題。許多系統(tǒng)設(shè)計(jì)者都假設(shè)，人類操作員是“不可靠、低效的”，至少和計(jì)算機(jī)相比是如此。于是，設(shè)計(jì)師便盡量讓人承擔(dān)盡可能小的責(zé)任。最終，人變成了監(jiān)控者，只是被動(dòng)地看著屏幕。而這樣一份工作是我們?nèi)祟悺隽嗣麗圩呱竦奈锓N——特別不適合的工作。早在二戰(zhàn)期間對雷達(dá)操作員的調(diào)查研究結(jié)果就表明，人類很難在超過半個(gè)小時(shí)的時(shí)間里一直保持注意力盯著屏幕看東西。班布里奇指出，“這意味著人類不可能完成監(jiān)控突發(fā)異常情況的基本職能?！倍?，由于一個(gè)人的能力“不用就會(huì)變差”，哪怕是經(jīng)驗(yàn)豐富的操作員，如果一味盯著屏幕，最終也將和初出茅廬的新手沒什么兩樣。難以集中注意力和缺乏對原理的認(rèn)知這兩點(diǎn)加起來，增大了遇到事故操作員會(huì)無力應(yīng)對的可能。于是乎，人類將是系統(tǒng)中最薄弱的環(huán)節(jié)的預(yù)言就自我應(yīng)驗(yàn)了。
削弱自動(dòng)化的影響
心理學(xué)家已經(jīng)發(fā)現(xiàn)了一些簡單的方法來削弱自動(dòng)化的不良影響。我們可以設(shè)定在不規(guī)則的時(shí)間間隔讓軟件轉(zhuǎn)向控制人工控制，隨時(shí)保持待命可以使人類操作員集中注意力，提高他們的情景感知和學(xué)習(xí)能力。我們也可以限制自動(dòng)化的范圍，確保使用電腦工作的人執(zhí)行具有挑戰(zhàn)性的任務(wù)，而不是僅僅處于旁觀者的地位。給人更多的事情做，有助于使加工效應(yīng)發(fā)揮作用。我們還可以在軟件里融入教育性的例程，需要用戶重復(fù)困難體力和腦力任務(wù)來促使記憶形成和技能培養(yǎng)。
有些軟件設(shè)計(jì)師記住了這樣的建議。在學(xué)校，最好的教學(xué)程序會(huì)通過促使人集中注意力、要求人下功夫，或者通過重復(fù)鞏固學(xué)到的技能來幫助學(xué)生掌握一個(gè)課題。這些軟件的設(shè)計(jì)體現(xiàn)了大腦儲(chǔ)存記憶方面的最新發(fā)現(xiàn)，將概念性知識(shí)和實(shí)際操作融入其中。但是，大多數(shù)軟件或應(yīng)用程序并不鼓勵(lì)學(xué)習(xí)和參與，不僅如此，有的還起到相反的效果。這是因?yàn)榕囵B(yǎng)和維持專業(yè)技能幾乎必然犧牲速度和效率，學(xué)習(xí)需要效率低下，而力求最大限度提高生產(chǎn)力和利潤的商業(yè)很少會(huì)做出這樣的讓步。個(gè)人也一樣，人人都在尋求效率和便利。我們選擇減輕工作負(fù)擔(dān)的程序，而不是那些使我們干活更賣力和耗時(shí)更久的程序。
無論在駕駛艙中的飛行員還是診室里的醫(yī)生，要知道怎么做就必須得實(shí)際去做。關(guān)于人類最了不起的、也是最容易忽視的一件事情是：我們與現(xiàn)實(shí)每碰撞一次，就會(huì)加深對世界的了解，進(jìn)而更充分地融入這個(gè)世界。雖然與艱苦任務(wù)做斗爭會(huì)使我們害怕付出勞動(dòng)，但正是這份勞動(dòng)定義了我們何以為人。計(jì)算機(jī)自動(dòng)化舍本逐末，它讓我們更容易得到我們想要的東西，但卻增加了我們與勞作的距離，而勞作是要理解這個(gè)世界所必須的。當(dāng)我們把自己化為屏幕生物，就必須面對一個(gè)存在的問題：我們是想讓能做的事情來定義自己，還是讓想要的東西來定義？如果我們不設(shè)法解決這個(gè)問題，我們的小工具會(huì)很樂意代我們作答。
尼古拉斯·卡爾（Nicholas Carr）是《膚淺》（The Shallows: What the Internet Is Doing to Our Brains）一書的作者。科技評前不久刊登了他的文章“互聯(lián)網(wǎng)如何毒化了我們的大腦？”以及“電子書能取代紙質(zhì)書嗎？”。
編譯自：《大西洋月刊》，All Can Be Lost: The Risk of Putting Our Knowledge in the Hands of Machines
文章圖片：theatlantic.com
