【三體網(wǎng)宇宙印象 深度科普欄目第10期】霍金除了對(duì)外星人入侵地球十分關(guān)注外，也對(duì)人工智能技術(shù)的發(fā)展感到擔(dān)憂?；艚鸩恢挂淮卧诠_場(chǎng)合對(duì)人工智能技術(shù)爆炸后出現(xiàn)的殺手級(jí)機(jī)器人行為進(jìn)行預(yù)測(cè)，認(rèn)為全自動(dòng)武器站的普及使得機(jī)器人能夠獲得一定程度的開火權(quán)，甚至在智能決策系統(tǒng)發(fā)展后超越人類的指令，直接開火。這種殺手智能機(jī)器是極度危險(xiǎn)的，國(guó)際天主教愛爾蘭分部秘書長(zhǎng)也指出，殺手機(jī)器人的使用就會(huì)把我們?nèi)祟愅齐x倫理和文明的社會(huì)。
越來越多的人開始關(guān)注全自武器自行選擇和攻擊目標(biāo)的行為，即使人類的某些行為存在局限，但是我們的基本道德準(zhǔn)則是與人性站在一起的。
目前半自主的無人機(jī)已經(jīng)在美國(guó)、俄羅斯、韓國(guó)和英國(guó)等國(guó)家的軍隊(duì)中部署，韓國(guó)的哨兵機(jī)器人SGR-1和英國(guó)的防空武器都能夠自行尋找攻擊目標(biāo)。最近的聯(lián)合國(guó)會(huì)談目的是限制或禁止可能導(dǎo)致士兵與平民誤傷的全自主武器的使用，但多數(shù)國(guó)家不同意協(xié)議中的條款，其中包括是否應(yīng)該限制現(xiàn)有技術(shù)和未來的發(fā)展。
停止殺手機(jī)器人小組成員Mary Wareham指出，戰(zhàn)斗中攻擊目標(biāo)的決定應(yīng)該由人類執(zhí)行，從基督教的觀點(diǎn)來看，戰(zhàn)爭(zhēng)已經(jīng)發(fā)展成為解決世界沖突和支配人類的一種手段，它是完全錯(cuò)誤的。如果沒有對(duì)高級(jí)智能機(jī)器人進(jìn)行相關(guān)限制，那么一旦惡魔被從瓶子里放出來，將很難對(duì)其進(jìn)行控制?；艚鹫J(rèn)為宇宙中也有類似的文明存在，它們會(huì)自己發(fā)展的機(jī)器人技術(shù)所取代，因此我們以后遇到的外星人可能是機(jī)器人的概率并非不可能。
事實(shí)上變形金剛這樣從碳基演變成硅基的超強(qiáng)生命體，在宇宙中也應(yīng)該存在，兩種生命區(qū)別很大?；艚鹫J(rèn)為人類如果無法控制人工智能的泛濫，只有數(shù)百年的時(shí)間就會(huì)完成演替，想想一百年前世界是什么樣子，當(dāng)時(shí)飛機(jī)才被剛剛發(fā)明不久！100年后的今天近地軌道已經(jīng)遍布航天垃圾，在計(jì)算機(jī)技術(shù)爆炸后，機(jī)器人會(huì)更加聰明。
去年英國(guó)第一臺(tái)計(jì)算機(jī)首次通過圖靈測(cè)試，這意味著我們已經(jīng)分不出人和電腦的區(qū)別，下一步電腦將學(xué)會(huì)思考。
謝頓，科普作家，畢業(yè)于南京大學(xué)天文與空間科學(xué)院，三體網(wǎng)主筆，果殼作者
更多資訊歡迎關(guān)注微信號(hào)：santi2208 與 santi9527（科幻專屬）
聯(lián)系客服
