點(diǎn)擊上方藍(lán)字↑↑↑關(guān)注財(cái)富中文網(wǎng)
每位司機(jī)隨時(shí)可能基于對(duì)風(fēng)險(xiǎn)的判斷做出各種決定。但面對(duì)諸如救乘客還是救行人這類道德問題時(shí)，自動(dòng)駕駛汽車目前還沒有快速確定的方法。
人們每天都會(huì)基于對(duì)風(fēng)險(xiǎn)的判斷做出各種決定。比如，在路上沒車的時(shí)候，急著趕公交的你可能會(huì)橫穿馬路。但如果馬路上的車很多，你就不會(huì)這么做了。在某些危急時(shí)刻，人們必須在一瞬間做出決定。比如，正開車時(shí)，有個(gè)小孩突然跑到汽車前面，而你的左右兩方又有其它危險(xiǎn)——比如一邊是只貓，另一邊是懸崖峭壁，這時(shí)你要如何抉擇？你會(huì)冒著自己的生命危險(xiǎn)去保護(hù)其他人的安全嗎？
不過，面對(duì)這些道德問題時(shí)，自動(dòng)駕駛汽車技術(shù)卻沒有快速確定的方法，甚至可以說(shuō)，毫無(wú)辦法。汽車廠商們都面臨著算法帶來(lái)的道德困境。車載電腦已經(jīng)可以幫我們泊車和自動(dòng)巡航，甚至可以在面臨重大安全問題的時(shí)刻控制車輛。但這也意味著，自動(dòng)駕駛技術(shù)將面臨人類有時(shí)會(huì)遭遇的艱難抉擇。
那么，應(yīng)該如何給電腦編制“道德算法”呢？
計(jì)算每一種可能結(jié)果，選取傷亡數(shù)字最低的那一條路走。每個(gè)生命都要被平等對(duì)待。
計(jì)算每一種可能結(jié)果，選取兒童傷亡數(shù)字最低的那一條路走。
賦值計(jì)算：人命20分，貓命4分，狗命2分，馬命1分。然后計(jì)算每種規(guī)避措施造成后果的總分值，選取總分最低的那一條路走。那么，一大群狗的得分要超過兩只貓，車子就會(huì)向另一個(gè)方向規(guī)避，救下這一群狗。
可是，如果車載電腦將車?yán)锏鸟{駛員和乘客也計(jì)算在內(nèi)呢？要是車外的生命總分要比車?yán)锏母咴趺崔k？要是人們知道，在必要情況下，車子會(huì)按照既定程序犧牲他們，他們還愿意坐進(jìn)車?yán)飭幔?/p>
法國(guó)圖盧茲經(jīng)濟(jì)學(xué)院的讓·弗朗西斯·博納豐最近發(fā)表的一篇研究認(rèn)為，這些問題沒有正確或錯(cuò)誤的答案。在此次調(diào)查中，博納豐選取了亞馬遜公司土耳其機(jī)器人項(xiàng)目的數(shù)百名員工作為訪問對(duì)象。調(diào)查人員首先問道：如果為了拯救一位或更多行人，車子就得轉(zhuǎn)向并撞上障礙物，從而導(dǎo)致駕駛員喪生，那么是否還應(yīng)該進(jìn)行這樣的規(guī)避？隨后調(diào)查人員會(huì)增減被拯救的行人數(shù)量。博納豐發(fā)現(xiàn)，大多數(shù)人都在原則上同意對(duì)汽車進(jìn)行編程以盡量減少傷亡人數(shù)，但談到這些情景的具體細(xì)節(jié)時(shí)，他們就不那么確定了。他們支持其他人使用自動(dòng)駕駛汽車，自己卻不那么熱心。人們往往都有實(shí)利主義本能，認(rèn)為應(yīng)該犧牲車內(nèi)人員的生命來(lái)救助更多的車外人員——除非這些車內(nèi)人員就是他們自己。
智能機(jī)器
科幻小說(shuō)家們總是愛寫關(guān)于機(jī)器人暴政的故事，比如機(jī)器人占領(lǐng)了世界（如《終結(jié)者》電影以及其它許多文藝作品），每個(gè)人說(shuō)的話都會(huì)被監(jiān)聽和分析（就像奧威爾的小說(shuō)《1984》里描寫的一樣）等等。這些情景暫時(shí)不可能發(fā)生，但科幻小說(shuō)中的許多奇思妙想正在成為主流科技?；ヂ?lián)網(wǎng)和云計(jì)算提供的平臺(tái)已經(jīng)造就了很多技術(shù)飛躍，顯示了人工智能相對(duì)于人類的巨大優(yōu)勢(shì)。
在斯坦利·庫(kù)布里克的經(jīng)典電影《2001漫游太空》中，我們已經(jīng)可以見到一絲未來(lái)的影子。在電影中，電腦已經(jīng)可以根據(jù)任務(wù)的優(yōu)先性做出決定。飛船上的電腦HAL說(shuō)道：“這個(gè)任務(wù)對(duì)我太重要了，我不能讓你危害到它?！比缃瘢瑥氖謾C(jī)到汽車，機(jī)器智能已經(jīng)在我們身邊的許多設(shè)備上出現(xiàn)了。據(jù)英特爾公司預(yù)測(cè)，到2020年，全球?qū)⒂?.52億輛聯(lián)網(wǎng)汽車行駛在路面上，它們每年將產(chǎn)生多達(dá)1.1億億字節(jié)的數(shù)據(jù)，足以裝滿4萬(wàn)多個(gè)250 GB的硬盤。那么它們有多智能呢？用英特爾公司的話說(shuō)，幾乎和你一樣智能。屆時(shí)，聯(lián)網(wǎng)汽車將分享和分析一系列數(shù)據(jù)，從而在行駛中隨時(shí)做出決策。在大多數(shù)情況下，無(wú)人駕駛汽車的確比有人駕駛的汽車更安全，但我們所擔(dān)心的正是那些異常情況。
科幻小說(shuō)家阿西莫夫著名的“機(jī)器人三定律”，為我們提出了未來(lái)智能設(shè)備如何在危急情況下進(jìn)行決策的有益建議。
機(jī)器人不能傷害人，也不能不作為而坐視人受到傷害。
機(jī)器人必須服從人類的命令，除非人類的命令違背第一原則。
在不違背第一及第二原則的情況下，機(jī)器人必須保護(hù)自己。
阿西莫夫甚至還在“三定律”之前增加了一條級(jí)別高于三定律的“第零定律”：
機(jī)器人不能傷害人類社會(huì)，也不能不作為而坐視人類社會(huì)受到傷害。
阿西莫多雖然沒能幫我們解決“撞車”悖論，不過隨著傳感器技術(shù)的進(jìn)一步發(fā)展，數(shù)據(jù)的來(lái)源越來(lái)越多，數(shù)據(jù)處理能力越來(lái)越強(qiáng)，“撞車”決策已經(jīng)被簡(jiǎn)化為冷冰冰的數(shù)據(jù)分析。
當(dāng)然，軟件愛鬧Bug是出了名的。如果有人惡意篡改這些系統(tǒng)，會(huì)造成怎樣的災(zāi)難？到了機(jī)器智能真的能從人類手中接管方向盤的那一天，又會(huì)發(fā)生什么？這樣做是否正確？到時(shí)候，購(gòu)車者能否購(gòu)買可以編程的“道德配置”，對(duì)自己的車子進(jìn)行“道德定制”？既然有的汽車上帖著“我不為任何人踩剎車”的保險(xiǎn)杠車貼，到時(shí)候會(huì)不會(huì)有“我不為任何人踩剎車”的人工智能？如果是這樣的話，你怎么才能知道車子在危機(jī)時(shí)刻會(huì)做出怎樣的反應(yīng)——就算你知道，你又是否愿意坐上這樣一臺(tái)車呢？
此外還有法律上的問題。如果一輛車本可以采取措施減少傷亡，但它卻沒有這樣做，那會(huì)怎樣？如果它根據(jù)“道德計(jì)算”，直接從行人身上碾過去了怎么辦？這些都是人類駕駛汽車時(shí)所要擔(dān)負(fù)的責(zé)任，但機(jī)器是按指令行事的，那么應(yīng)該由誰(shuí)（或者什么東西）來(lái)承擔(dān)責(zé)任？
如今智能手機(jī)、機(jī)場(chǎng)監(jiān)控設(shè)備甚至連面部識(shí)別技術(shù)都在不斷進(jìn)步，對(duì)于計(jì)算機(jī)來(lái)說(shuō)，識(shí)別物體并且根據(jù)車速和路況迅速計(jì)算出一系列可能后果，并選擇和采取相應(yīng)行動(dòng)，已經(jīng)不是很困難的事了。到那個(gè)時(shí)候，置身事中的你，很可能連選擇的機(jī)會(huì)都沒有了。
作者：Bill Buchanan，愛丁堡龍比亞大學(xué)分布式計(jì)算及網(wǎng)絡(luò)與安全中心主任。
譯者：樸成奎
審校：任文科
