国产一级a片免费看高清,亚洲熟女中文字幕在线视频,黄三级高清在线播放,免费黄色视频在线看

打開APP
userphoto
未登錄

開通VIP,暢享免費電子書等14項超值服

開通VIP
深度證據(jù)回歸:當AI不再值得信任時,我們能提前得到預警
majer @ 2020.11.25 , 20:15

終結者系列里的科學家莫名其妙地相信AI,最終招致人類毀滅的結局。幸好現(xiàn)實中的科學家更加謹慎,如果我們真的打算構建天網(wǎng)系統(tǒng),讓AI主導人類的未來的話,我們已經(jīng)開發(fā)出了前置技術,可以探知AI神經(jīng)網(wǎng)絡里對人類有敵意的信號。

深度學習神經(jīng)網(wǎng)絡旨在通過權衡多種因素來模仿人的大腦,結果變成了某種黑箱子,人類已經(jīng)無法分析內(nèi)部的數(shù)據(jù)處理模式,只能通過輸入和輸出獲取結果。

盡管距離天網(wǎng)還有一段距離,但人工智能已經(jīng)開始主導某些領域里的決策,如自動駕駛和醫(yī)療診斷。我們當然需要保證AI的神經(jīng)網(wǎng)絡系統(tǒng)的可靠性與可預測性。

麻省理工學院計算機科學與人工智能實驗室(CSAIL)的計算機科學家Alexander Amini說:“我們不僅需要高性能模型的能力,而且還需要了解它們什么時候不再可信。”

這種評估置信度的手段被稱為“深度證據(jù)回歸”,基于輸入的數(shù)據(jù)質(zhì)量來為AI打分——訓練所用數(shù)據(jù)更準確和全面,AI就應該反饋給我們更加精確的預測。

盡管以前在神經(jīng)網(wǎng)絡中已內(nèi)置了類似的防護措施,但新工具在速度上非常優(yōu)異,沒有過多的計算需求——它僅運行一次,而非多次運行,且在輸出結果的時候,會給出置信度。

計算機科學家Daniela Rus說:“這個想法很重要,并且廣泛適用。它可以用來評估依賴于機器學習模型的產(chǎn)品。通過估計學習模型的不確定性,我們還可以了解模型會帶來多少誤差,以及哪些缺失數(shù)據(jù)可以改善模型?!?/p>

即使神經(jīng)網(wǎng)絡在99%的時間里保持正確,但是在實際生活中,損失的1%也會產(chǎn)生嚴重的后果。研究人員說,盡管這項工作尚未經(jīng)過同行評審,但他們相信新的簡化信任測試可以幫助提高實時安全性。

“我們看到更多的[神經(jīng)網(wǎng)絡]模型從研究實驗室流入現(xiàn)實世界,正在觸及人類的生活,從而可能危及到我們的生命。該方法的任何使用者,無論是醫(yī)生還是坐在汽車乘客座位上的人,都需要意識到與AI決策相關的任何風險或不確定性。”

完整研究將在12月的NeurIPS會議上發(fā)布,并提供在線論文下載。

https://www.sciencealert.com/neural-networks-are-now-smart-enough-to-know-when-they-shouldn-t-be-trusted

本站僅提供存儲服務,所有內(nèi)容均由用戶發(fā)布,如發(fā)現(xiàn)有害或侵權內(nèi)容,請點擊舉報
打開APP,閱讀全文并永久保存 查看更多類似文章
猜你喜歡
類似文章
AI圖像識別:人類看的是形狀,算法看的是紋理
機器學習的未來——天才AI
13名專家盤點2017最重要AI事件,預測AGI將取代AI
AI:我又又又打敗了人類冠軍!小學生:叫爸爸!
關于科技 ,這可能是近期企業(yè)家和科學家之間最好的訪談
AI改變了科學
更多類似文章 >>
生活服務
分享 收藏 導長圖 關注 下載文章
綁定賬號成功
后續(xù)可登錄賬號暢享VIP特權!
如果VIP功能使用有故障,
可點擊這里聯(lián)系客服!

聯(lián)系客服