智能網(wǎng)聯(lián)信息安全正不斷被提上新的議程。
車聯(lián)網(wǎng)和智能網(wǎng)聯(lián)汽車是時代工業(yè)化與信息化融合的重要方向，對推動產(chǎn)業(yè)結(jié)構(gòu)變革，促進經(jīng)濟高質(zhì)量發(fā)展具有重要作用。近些年，中國智能網(wǎng)聯(lián)汽車發(fā)展迅速，已初步形成L2及以上汽車研發(fā)和測試能力。但智能網(wǎng)聯(lián)汽車作為聯(lián)網(wǎng)環(huán)境下的移動終端，在商業(yè)落地過程中出現(xiàn)了新的問題——安全信任危機。
工信部提出，在加快智能網(wǎng)聯(lián)汽車關(guān)鍵技術(shù)突破的同時，要著力完善安全保障。
在2020年第四屆世界智能大會-車聯(lián)網(wǎng)先導(dǎo)應(yīng)用創(chuàng)新發(fā)展國際高峰論壇上，中國科學(xué)院何積豐院士在關(guān)于《可信人工智能》的主題演講中表示，人工智能和人類社會是一種共生的關(guān)系，多個領(lǐng)域包括智能制造、智能醫(yī)療、智慧城市、智慧農(nóng)業(yè)和國防建設(shè)都與人工智能息息相關(guān)。針對于汽車領(lǐng)域，其認為依賴于人工智能技術(shù)，人工智能科技的發(fā)展將指引智能網(wǎng)聯(lián)汽車未來的方向，但在此過程中同樣發(fā)現(xiàn)了一些造成人工智能信任危機的一些問題。
何積豐院士認為，目前有兩類人工智能安全問題，并針對其提出四大對策和面向主動防御的AI網(wǎng)絡(luò)體系，輔助人類做智能決策，達到分析問題、建立模型、模擬決策和質(zhì)量評價的作用。
第一類是數(shù)據(jù)造成的不安全問題，有三類比較典型的不安全的行為：
1、數(shù)據(jù)隱私，我們訓(xùn)練很多數(shù)據(jù)，這些數(shù)據(jù)暴露了一些不應(yīng)該暴露的隱私。
2、數(shù)據(jù)本身有質(zhì)量，無論是訓(xùn)練數(shù)據(jù)和現(xiàn)場數(shù)據(jù)都有質(zhì)量難以控制的問題。
3、數(shù)據(jù)在成熟過程中有保護的問題，數(shù)據(jù)采集前有風(fēng)險、傳輸數(shù)據(jù)有風(fēng)險、成熟使用流通也有風(fēng)險。
第二類是算法安全方面的問題，其中算法可靠性是首要問題。
針對人工智能安全問題，他提出四大對策。第一方面對策是可解釋性，即我們了解或者解決一件事情的時候，可以獲得我們所需要的足夠可以理解的信息。比如說過去算法是黑盒算法，缺乏透明性、可解釋性，一旦發(fā)生問題，難以分析和驗證到底問題出處。
第二方面對策是鼓勵產(chǎn)生可解釋的人工智能，主要是三方面可解釋。
1、在建模型之前進行可解釋性分析，分析數(shù)據(jù)的屬性，知道數(shù)據(jù)怎么達到可視化。
2、在構(gòu)建模型過程中，要基于規(guī)則、基于數(shù)據(jù)特征、基于實例增加可解釋性。
3、在模型建完之后，進行可解釋性的評估，無論是隱層分析、模擬分析、敏感性分析，都能逐步推動。
此對策主要針對隱私保護，在功能性系統(tǒng)信任和身份數(shù)據(jù)信號的隱私方面取得平衡。
第三安全對策是公平建模，在給數(shù)據(jù)大標(biāo)簽時注意公平因素，不管性別、國籍、年齡、健康、種族，糾正行為偏差、表示偏差、理解偏差和內(nèi)容偏差，達到公平建模。
這些公平里既有統(tǒng)計意義下的公平，也有個體感覺的公平和因果公平。從數(shù)據(jù)到算法，需要注意歷史偏差、聚合偏差、時間偏差、群體偏差，通過交互排除人口偏差、排序偏差、評估偏差、隨機偏差。
第四方面人工智能安全對策可信驗證，需要有一個在驗證、仿真、測試三方面對人機物融合系統(tǒng)支撐的可信的驗證引擎。
中國軟件評測中心、智能網(wǎng)聯(lián)汽車測試工程技術(shù)中心主任宋娟的《車載智能計算平臺安全體系研究與建議》中同樣提出，車載智能計算平臺面臨的在安全體系方面存在諸多挑戰(zhàn)。
1、功能安全ISO26262在自動駕駛領(lǐng)域應(yīng)用方案尚未形成共識。在傳統(tǒng)汽車電子功能安全比較成熟，在自動駕駛方面，整車廠和智能計算平臺企業(yè)還都在積極探索，尚未形成行業(yè)共識。
2、預(yù)期功能安全國內(nèi)研究基本空白。國外已經(jīng)在SOTIF方面開展了大量，包括改進流程、措施，但是國內(nèi)研究基本屬于空白。標(biāo)準體系建設(shè)方面亟待完善，包括安全等級劃分、測評標(biāo)準規(guī)范制定。測試能力亟待加強建設(shè)，比如如何構(gòu)建SOTIF相關(guān)場景庫。
3、信息安全縱深防御理念尚未系統(tǒng)融入汽車產(chǎn)業(yè)生態(tài)。
目前，針對車載智能計算平臺涉及硬件、軟件、通信等諸多關(guān)鍵技術(shù)，產(chǎn)品技術(shù)形態(tài)沒有確定，信息安全防護分層、分布式的技術(shù)支持也尚未成型。
在構(gòu)建縱深防御體系的同時，也需要權(quán)衡智能網(wǎng)聯(lián)汽車安全成本和效率方面之間的關(guān)系。宋娟針對發(fā)展現(xiàn)狀和存在的挑戰(zhàn)，提出了幾點發(fā)展建議：
第一，要圍繞產(chǎn)業(yè)實際應(yīng)用需求，以完善產(chǎn)業(yè)鏈和產(chǎn)業(yè)建設(shè)為中心，總體布局，分布推進，建立健全安全體系，突破關(guān)鍵共性安全技術(shù)，保障產(chǎn)業(yè)安全和國家安全。
第二，深化架構(gòu)研究，加快標(biāo)準研制。進一步深化產(chǎn)品架構(gòu)研究，梳理、明確、細化功能和性能要求。加快開展車載智能計算平臺標(biāo)準化工作，建立健全標(biāo)準規(guī)范體系，促進行業(yè)形成共識。
在智能網(wǎng)聯(lián)的應(yīng)用層面，高精度地圖是確保安全的底層支撐。
四維圖新高級副總裁孟慶昕認為，高精度地圖在未來智能網(wǎng)聯(lián)是基礎(chǔ)設(shè)施和載體，公眾出行、智慧交通、無人駕駛、安全應(yīng)急、城市治理都需要這張地圖。
所有的定位和實時信息回傳到高精度地圖平臺的有效載體上，因此高精度地圖的精細化、秒速更新、智能化決策無論對車路協(xié)同還是自動駕駛仿真場景的安全應(yīng)用，都是至關(guān)重要的支撐。
正是由于信息高速處理和系統(tǒng)迭代，智能網(wǎng)聯(lián)將不斷面臨新的信息安全的威脅和風(fēng)險，這與中國軟件評測中心、智能網(wǎng)聯(lián)汽車測試工程技術(shù)中心主任宋娟的擔(dān)憂不謀而合——代碼數(shù)量快速增加和OTA技術(shù)的應(yīng)用使信息安全問題更加凸現(xiàn)。
對此，宋娟提出解決方案，在研發(fā)時首先需要高度關(guān)注安全問題，同步全流程嵌入安全管理理念，配套加快包括檢測工具的研發(fā)和檢測平臺的搭建，強化技術(shù)保障能力。
信息安全是智能網(wǎng)聯(lián)產(chǎn)業(yè)不容忽視的一環(huán)，停留在單個功能環(huán)節(jié)的安全考量是不全面、不系統(tǒng)的。沿襲全產(chǎn)業(yè)鏈條、分層分級技術(shù)支撐形成合力，從產(chǎn)業(yè)全局角度思考才能構(gòu)筑智能網(wǎng)聯(lián)“大安全”。
（轉(zhuǎn)載）
