摘 要：人工智能與人類社會(huì)是一種和諧共生關(guān)系，人工智能賦能經(jīng)濟(jì)的發(fā)展。在智能制造中，人工智能技術(shù)提供了極大的助力，在基礎(chǔ)、算法、運(yùn)維、制造四個(gè)層面幫助打造智能制造系統(tǒng)框架，并帶來了豐富的產(chǎn)品形態(tài)。同時(shí)人工智能的發(fā)展也存在安全風(fēng)險(xiǎn)，在物理層、算法層、應(yīng)用層存在不同的安全缺陷，其安全類型以數(shù)據(jù)安全和算法安全為主要類型，為應(yīng)對(duì)人工智能的安全風(fēng)險(xiǎn)，應(yīng)當(dāng)從算法可解釋性、隱私保護(hù)、公平建模、可信驗(yàn)證、主動(dòng)防御、倫理法律、系統(tǒng)倫理等七個(gè)方面加強(qiáng)應(yīng)對(duì)。
關(guān)鍵詞：智能制造；人工智能；工業(yè)安全；安全可信
0 引 言
1 人工智能與人類社會(huì)的共生關(guān)系
2 人工智能的安全風(fēng)險(xiǎn)
3 應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)的對(duì)策
人工智能賦能智能制造會(huì)帶來哪些安全問題，安全問題的根源、類型以及應(yīng)對(duì)之策如何，這些都是值得思考的問題。目前，很多應(yīng)對(duì)之策尚未能實(shí)踐，且對(duì)策的有效性有待檢驗(yàn)。
人工智能與人類社會(huì)是一種和諧共生的關(guān)系。在人類社會(huì)發(fā)展中，人工智能賦能經(jīng)濟(jì)發(fā)展， 使人類社會(huì)的生活更加美好，智能制造、智能醫(yī)療、智慧城市、智能農(nóng)業(yè)、智慧城市發(fā)展十分迅速，智能醫(yī)療為老百姓帶來了更好的醫(yī)療資源，農(nóng)業(yè)是我國(guó)經(jīng)濟(jì)的基礎(chǔ)，智慧農(nóng)業(yè)推動(dòng)了農(nóng)業(yè)發(fā)展的質(zhì)量。
2016年，AlphaGo戰(zhàn)勝了世界圍棋冠軍， 而此類人工智能被稱為“專用的人工智能”，因?yàn)樗絹碓铰斆?，越來越高?jí)。人工智能的專用功能、特殊功能應(yīng)具有更強(qiáng)的通用性和適配性， 賦能各個(gè)領(lǐng)域的發(fā)展。未來，人工智能應(yīng)能夠向“強(qiáng)人工智能”“超強(qiáng)人工智能”方向發(fā)展。
新一代人工智能發(fā)展能夠?yàn)槿祟惿鐣?huì)帶來眾多變化，具體包括：
（1）知識(shí)組合?；跀?shù)字學(xué)習(xí)的機(jī)器算法給人工智能提供了非常新的發(fā)展途徑，知識(shí)獲得的手段和分析的過程往往較為碎片化。例如， 圖像識(shí)別與語(yǔ)音識(shí)別存在很大區(qū)別，各自具備不同的功能，系統(tǒng)的發(fā)展也是獨(dú)立的，各自發(fā)展自身的知識(shí)表達(dá)語(yǔ)言，但是，圖像識(shí)別與語(yǔ)音識(shí)別應(yīng)當(dāng)進(jìn)一步向知識(shí)組合的方向發(fā)展。
（2）規(guī)劃決策。數(shù)據(jù)收集之后，其目的在于為各部門決策提供知識(shí)性意見。例如，企業(yè)需要了解哪些設(shè)備生產(chǎn)線已進(jìn)入到大修階段，水庫(kù)管理部門需要知道雨季時(shí)水庫(kù)何時(shí)可以打開水閘泄洪，醫(yī)院里希望了解疫情控制的現(xiàn)狀，等等。在規(guī)劃決策中，人工智能的數(shù)據(jù)能夠提供很大的主觀幫助。
（3）自主學(xué)習(xí)。人類的知識(shí)積累過程不單單依靠課堂、書本，同樣依靠自主學(xué)習(xí)的能力，尤其學(xué)生畢業(yè)以后“單飛”，離開老師踏入社會(huì)之后，自主學(xué)習(xí)能力變得更為重要，需要更進(jìn)一步的自主分析和解決問題。
（4）腦機(jī)通道。腦機(jī)通道是一種是人機(jī)協(xié)作的方式，旨在通過人工智能理解大腦如何思考問題以及作出決策。腦機(jī)結(jié)合技術(shù)幫助大腦分析問題、解決問題的能力較強(qiáng)，能夠作為一種有效的“助手”為人類服務(wù)。
（5）思維過程。現(xiàn)階段，很多認(rèn)知都是基于數(shù)據(jù)的訓(xùn)練，開發(fā)新的模型，幫助人類作出判斷。但是，人的智能不是單單靠知識(shí)積累，更是要靠思維的訓(xùn)練。阿蘭·圖靈提出的原話是“機(jī)器能夠思考”，而非“機(jī)器能夠?qū)W習(xí)”，“思考”和“學(xué)習(xí)”的概念并不相同。例如，教師告訴學(xué)生，學(xué)習(xí)一門知識(shí)以后需要做到舉一反三，知識(shí)能夠帶來新的靈感，發(fā)現(xiàn)知識(shí)之間存在的聯(lián)系， 這種思維過程十分重要?！爸泻弦弧睆?qiáng)調(diào)知識(shí)要從行動(dòng)中來，思考是加工消化知識(shí)的重要過程， 思維過程正是強(qiáng)人工智能需要實(shí)現(xiàn)的。
人工智能與人類社會(huì)是一種和諧共生的關(guān)系，在現(xiàn)實(shí)生活中，兩者之間的關(guān)系具體表現(xiàn)在四個(gè)方面：第一是輔助關(guān)系，這是通過機(jī)器協(xié)作的一種輔助關(guān)系，生產(chǎn)線機(jī)器人就屬于此類，機(jī)器為輔，以人為主；第二是人在回路，例如，大型無(wú)人機(jī)的控制背后仍是人類操作，而不是無(wú)人機(jī)自己發(fā)射導(dǎo)彈轟炸目標(biāo)?！叭嗽诨芈分小焙汀叭嗽诨芈飞稀辈⒉幌嗤?，但總體上看，人類參與了整個(gè)活動(dòng)的過程，無(wú)論是感知、認(rèn)知，還是決策；第三是人機(jī)交互，人機(jī)交互的設(shè)計(jì)時(shí)間很早，但界面設(shè)計(jì)不好，難以操作；第四是競(jìng)爭(zhēng)關(guān)系，這是一種壞的關(guān)系，客觀意義上存在，部分工作會(huì)慢慢被機(jī)器人所替代。部分工作具有危險(xiǎn)性，例如煤礦工作，很多人希望用機(jī)器替代，再比如銀行中的很多工作。未來，很多工作會(huì)不可避免地被替代，這是對(duì)人類并不太有利的生產(chǎn)關(guān)系。
在智能制造中的人工智能體系，可以從兩個(gè)方面分析。一方面，包括工業(yè)互聯(lián)網(wǎng)的工業(yè)制造架構(gòu)，云計(jì)算等。云計(jì)算能夠大量收集數(shù)據(jù)，輔助決策，從上下游開始到場(chǎng)景質(zhì)量、設(shè)備情況都能夠發(fā)揮作用。邊緣計(jì)算則強(qiáng)化了計(jì)算能力，也包括智能網(wǎng)關(guān)+智能感知。另一方面，企業(yè)希望通過運(yùn)用人工智能技術(shù)，提高質(zhì)量，降低成本。比如設(shè)備管理，利用人工智能可以有效監(jiān)測(cè)設(shè)備的利用率，以及如何提高生產(chǎn)效率。再比如，智能制造中的監(jiān)測(cè)技術(shù)，現(xiàn)階段，很多智能監(jiān)測(cè)仍然是一種感官性的監(jiān)測(cè)，需要通過人工的方式來度量，而人工智能能夠幫助作出更加標(biāo)準(zhǔn)的判斷。在狀態(tài)監(jiān)測(cè)預(yù)警方面，比如說水箱里的水存量多少，壓力泵的壓力是否過高，中央指揮技術(shù)人員希望通過隨時(shí)掌握這些數(shù)據(jù)，這也是人工智能應(yīng)用+大數(shù)據(jù)能夠做到的。在故障定位方面， 出現(xiàn)問題需要快速定位問題的來源，快速解決問題。在動(dòng)態(tài)調(diào)度、業(yè)務(wù)服務(wù)方面，這些都和企業(yè)升級(jí)換代密切相關(guān)。
現(xiàn)階段，人工智能技術(shù)推動(dòng)了實(shí)時(shí)計(jì)算、探索感知、智能決策。但是人工智能的安全可信問題值得關(guān)注，如果依賴人工智能技術(shù)作決策的話，應(yīng)當(dāng)保證決策是可解釋的，而且不能具備過高的安全風(fēng)險(xiǎn)。
智能制造框架分為四個(gè)層面：第一是基礎(chǔ)層面。既包括工業(yè)互聯(lián)網(wǎng)，也包括各種硬件和軟件作為支撐。如CCD、CMOS、語(yǔ)音、雷達(dá)、文本、藍(lán)牙、5G、WIFI、Zigbee、Lora等。第二是算法層面，人工智能算法發(fā)揮了很大作用，人工智能能夠?qū)崿F(xiàn)圖像處理、計(jì)算機(jī)視覺、目標(biāo)識(shí)別、狀態(tài)預(yù)測(cè)、態(tài)勢(shì)感知、強(qiáng)化學(xué)習(xí)、元學(xué)習(xí)、深度學(xué)習(xí)、遷移學(xué)習(xí)、時(shí)空分析等功能。第三是運(yùn)維層面，企業(yè)層面包含三種中臺(tái)：數(shù)據(jù)中臺(tái)、業(yè)務(wù)中臺(tái)、任務(wù)中臺(tái)，存在協(xié)同分析的要求，希望與資源進(jìn)行適配。第四是制造層面， 涵蓋了自動(dòng)化測(cè)試，加強(qiáng)全流程監(jiān)控，目前人工智能已發(fā)揮出作用。柔性制造和數(shù)字孿生的要求更高，如果從早期制造的三個(gè)環(huán)節(jié)設(shè)計(jì)過程中用虛擬技術(shù)來分析設(shè)計(jì)系統(tǒng)和用戶需求是否一致，數(shù)字建模就變成第一個(gè)難題，目前人工智能還沒有提供很有效的機(jī)制來幫助企業(yè)解決此類問題。柔性制造是廣大用戶所需求的，但從應(yīng)用方面，給企業(yè)增加了負(fù)擔(dān)，過去生產(chǎn)線是建立在大批量生產(chǎn)基礎(chǔ)上，能夠保證質(zhì)量、保證運(yùn)輸、保證成本。而柔性制造意味著工序不斷地改變，即機(jī)器程序需要不斷地作修改，其難度較大，盡管計(jì)算機(jī)修改程序很容易，但是在機(jī)器運(yùn)行過程中進(jìn)行修改則會(huì)面臨非常大的風(fēng)險(xiǎn)。
在智能制造中，與人工智能相關(guān)產(chǎn)品形態(tài)非常豐富，有互聯(lián)互通帶來的新產(chǎn)品形態(tài)，運(yùn)維管理產(chǎn)生的新軟件和工具，分析決策不僅可以為本企業(yè)所用，也可以為同行業(yè)內(nèi)其他企業(yè)所用，也包括行業(yè)數(shù)據(jù)共享。
人工智能系統(tǒng)的投入較大，如果花費(fèi)較大僅為自己所用并不可取，如果將此系統(tǒng)升級(jí)為一種平臺(tái)為大家所用，形成新的產(chǎn)品服務(wù)形式，這是構(gòu)建新業(yè)態(tài)所需要考慮的。如果每家企業(yè)都考慮做本企業(yè)的工業(yè)APP，其投入、資源消耗將會(huì)十分巨大。
人工智能的發(fā)展同樣帶來了不同的安全風(fēng)險(xiǎn)，主要包含六個(gè)類型：
第一，技術(shù)不太成熟?，F(xiàn)有的訓(xùn)練場(chǎng)景不夠充足，自動(dòng)駕駛車輛事故發(fā)生的原因很大程度源于此問題，原有的場(chǎng)景中缺少相關(guān)的訓(xùn)練。
第二，不確定性環(huán)境。例如，達(dá)芬奇機(jī)器人通過探頭了解病人內(nèi)部器官的癥狀，但如果開刀過程中病人出血了，污染了攝像頭，結(jié)果會(huì)導(dǎo)致環(huán)境信息的不準(zhǔn)確，而在這種不確定環(huán)境中人工智能尚未有很好的處理辦法。
第三，偏見性。算法不是公平的，算法的設(shè)計(jì)應(yīng)當(dāng)處于公平的目的，但實(shí)際上算法并不公平，例如，國(guó)外的人工智能系統(tǒng)中存在的種族歧視、富人和窮人的偏見。為此，在機(jī)器模型設(shè)計(jì)中應(yīng)當(dāng)加強(qiáng)公平性。
第四，漏洞缺陷。在波音客機(jī)墜毀事故中， 其設(shè)計(jì)部門在波音，但是軟件公司并不在波音， 而是企業(yè)承包以后由幾個(gè)大學(xué)生設(shè)計(jì)重要的軟件，軟件難免存在漏洞缺陷。漏洞缺陷比想象的大得多，結(jié)果導(dǎo)致了悲劇的發(fā)生，而最終花費(fèi)了很長(zhǎng)時(shí)間才知道BUG的所在。
第五，隱私數(shù)據(jù)泄漏。例如，個(gè)人身份信息很容易被盜取，他人利用其注冊(cè)公司。再比如， 利用盜取的個(gè)人信息進(jìn)行詐騙，往往會(huì)造成不同程度的經(jīng)濟(jì)損失。
第六，政治影響。例如AI換臉，利用人工智能對(duì)領(lǐng)導(dǎo)人進(jìn)行AI換臉，將會(huì)產(chǎn)生嚴(yán)重的政治影響。
從人工智能本身來看，存在三方面的安全缺陷，分別是物理層、算法層、應(yīng)用層。面對(duì)物理層、算法層、應(yīng)用層的攻擊類型多種多樣， 主要問題在于“攻”和“守”的地位不對(duì)稱，被攻擊方在明處，攻擊方在暗處，被攻擊方的弱點(diǎn)往往是暴露的，攻擊方可以利用各種方法發(fā)動(dòng)攻擊。
人工智能的安全類型分為數(shù)據(jù)安全和算法安全。數(shù)據(jù)安全分為三個(gè)部分，數(shù)據(jù)隱私、數(shù)據(jù)質(zhì)量、數(shù)據(jù)保護(hù)。無(wú)論是訓(xùn)練機(jī)器所需的現(xiàn)場(chǎng)數(shù)據(jù)還是以后用它做服務(wù)的數(shù)據(jù)，數(shù)據(jù)的質(zhì)量十分關(guān)鍵。算法安全包括三個(gè)方面：第一是魯棒性，環(huán)境發(fā)生變化能夠具有相應(yīng)的韌性；第二是可解釋性，包括代碼功能正確性、對(duì)抗樣本影響；第三是可靠性，包括問題目標(biāo)影響，軟硬件平臺(tái)依賴。
為應(yīng)對(duì)人工智能的安全風(fēng)險(xiǎn)，可以圍繞以下七個(gè)方面加強(qiáng)應(yīng)對(duì)：
第一，算法可解釋性。在需要了解或解決一件事情的時(shí)候，可以獲得我們所需要的足夠的可以理解的信息。黑盒算法缺乏透明性和可解釋性，難以分析和驗(yàn)證。因此，需要進(jìn)行建模前的數(shù)據(jù)可解釋性分析，構(gòu)建可解釋性的模型，并開展模型部署后的可解釋性評(píng)估。
第二，隱私保護(hù)。人工智能算法存在矛盾， 隱私保護(hù)與知識(shí)挖掘之間不完全一致，數(shù)據(jù)挖掘可能會(huì)挖掘到個(gè)人隱私。
第三，公平建模。在算法實(shí)踐過程中，無(wú)論在采集階段、學(xué)習(xí)階段、部署階段都存在所謂的公平問題，最后建設(shè)模型希望能夠?qū)崿F(xiàn)統(tǒng)計(jì)公平、個(gè)體公平、因果公平。
第四，可信驗(yàn)證?？尚膨?yàn)證的引擎主要是對(duì)人工智能系統(tǒng)做驗(yàn)證、仿真、測(cè)試，這是一種很重要的智能手段，通過提供系統(tǒng)性訓(xùn)練和測(cè)試的可信保證，從而對(duì)成果進(jìn)行定量形式化驗(yàn)證。
第五，主動(dòng)防御。雖然被攻擊方在明處， 攻擊方在暗處，但是被攻擊方同樣也有手段保護(hù)自己，通過安全評(píng)估、威脅者理解、預(yù)測(cè)手段等進(jìn)行主動(dòng)防御。
第六，倫理法律。人工智能倫理和治理成基本共識(shí)，國(guó)際社會(huì)探索建立廣泛認(rèn)可的人工智能倫理原則，例如歐盟發(fā)布的《可信人工智能倫理準(zhǔn)則》，經(jīng)合組織批準(zhǔn)和G20采納全球首個(gè)AI原則—“負(fù)責(zé)任地管理可信AI的原則”，中國(guó)發(fā)布《新一代人工智能治理原則—發(fā)展負(fù)責(zé)任的人工智能》，WAIC2019發(fā)布《中國(guó)青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》，以及微軟、谷歌、騰訊等主流科技公司相繼發(fā)布各自的AI倫理原則，等等。
第七，系統(tǒng)倫理。這其中既包含了哲學(xué)倫理的思考，也包括理論研究、工程學(xué)的考慮。從理念上看，希望構(gòu)建一種人類和人工智共生的環(huán)境，不僅是希望人工智能系統(tǒng)具有廣義性， 實(shí)現(xiàn)開放性開發(fā)與公平競(jìng)爭(zhēng)，實(shí)現(xiàn)人工智能的中立性、國(guó)際性。提了理念、目標(biāo)以后還提了很多方法，這些方法都是我們要追求的方法。從開發(fā)原則上看，應(yīng)當(dāng)確保人工智能的連接與協(xié)作、透明性、可控性、安全性、保密性、隱私性、倫理性、易用性和說明性。
聯(lián)系客服
