買了新電腦和手機(jī)，你會提前安裝好殺毒或安全軟件，還是等被黑客攻破了才悔之晚矣?
處理傳染病疫情，是從源頭釋放藥物和疫苗，還是坐等醫(yī)院的患者超過治療和處理能力?
面對危機(jī)輿情，是快速遏制傳播，還是拖到負(fù)面信息的數(shù)量遠(yuǎn)遠(yuǎn)超過企業(yè)公關(guān)能力?
建造一座核電站，是否有必要提前考量其安全性并嚴(yán)格部署安全措施?
答案，是顯而易見的。
公共設(shè)施投入運(yùn)營之前一定會做足消防、驗(yàn)收等功課;殺毒軟件和定期更新漏洞成為桌面系統(tǒng)的常備工具;汽車、手機(jī)等新款產(chǎn)品在設(shè)計(jì)之初，就會將安全放在首要考量因素之一……這就是主動式安全管理之于社會生產(chǎn)的意義。
而面對人工智能，總有科技企業(yè)和大V們不斷強(qiáng)調(diào)AI的神奇之處，卻有意無意間忽略了一些技術(shù)落地不可或缺的前提，其中就包括——安全。
事實(shí)上，對于AI安全性的顧慮，是今天各行業(yè)落地AI時所遇到的頭號焦慮與難題之一。
12月9日舉辦的“2020第三代人工智能產(chǎn)業(yè)論壇”上，清華系A(chǔ)I公司瑞萊智慧RealAI發(fā)布了一系列AI基礎(chǔ)設(shè)施，就將更安全、可靠、可信及可拓展的第三代人工智能作為核心，來推動企業(yè)智能化升級。與以往基于深度學(xué)習(xí)的數(shù)智化解決方案相比，有哪些不同?要回答這個問題，需要先來看看今天橫亙在企業(yè)與AI應(yīng)用落地之間的困境。
找回被遺落的安全常識
伴隨著“新基建”的哨音，AI在產(chǎn)業(yè)端高歌猛進(jìn)，與此同時，一些安全問題也涌現(xiàn)出來，暴露出安全管理意識的缺失。
AI，意味著更大的計(jì)算成本、更快的數(shù)據(jù)交互、更高的改造風(fēng)險，一旦出現(xiàn)算法問題或數(shù)據(jù)泄露，或是遭遇黑客攻擊，該怎么辦?此前業(yè)界并沒有過多的探討，卻是AI進(jìn)入產(chǎn)業(yè)的前提與業(yè)務(wù)創(chuàng)新發(fā)展的命脈所在。
AI需要怎樣的安全?正如開篇所提到的，過去幾十年來，主動式安全管理已經(jīng)深入到了社會生產(chǎn)生活的方方面面。
學(xué)者埃里克·郝納根(Erik Hollnagel)在《Safety-I and Safety-II: The Past and Future of Safety Management安全管理的過去和未來》一書中這樣解釋：
過去，只要一個事物很少或根本沒有出現(xiàn)錯誤，就被認(rèn)為是安全的(即“安全-I”模式)。伴隨著數(shù)字時代的到來，這種方式并不能有效地減少安全問題造成的損失，一次來自黑客的攻擊威脅，如果反應(yīng)不足就可能讓個人或企業(yè)萬劫不復(fù)。
所以21世紀(jì)初期，發(fā)展出了另一種安全管理模式——安全I(xiàn)I，認(rèn)為安全的本質(zhì)是確保盡可能多的事情是正確的、能夠達(dá)到預(yù)期結(jié)果，并且一直保持這一狀態(tài)。因此必須積極主動，在事故可能發(fā)生之前就采取一定行動，在負(fù)面結(jié)果還沒來得及發(fā)展和蔓延之前就采取干預(yù)措施。
此前廣泛引起討論的人臉識別涉及到的隱私安全、數(shù)據(jù)風(fēng)險等問題，就在提醒我們，AI需要補(bǔ)全“安全I(xiàn)I”的能力。具體來說，就是預(yù)測、準(zhǔn)備、響應(yīng)和監(jiān)控風(fēng)險的能力。
您的“AI安全問題大禮包”，請查收
如果按照安全I(xiàn)I模式的主動管理邏輯來審視AI產(chǎn)業(yè)化，會發(fā)現(xiàn)等待預(yù)先解決的安全風(fēng)險，真的有點(diǎn)多。
1.決策不可靠的算法模型。深度學(xué)習(xí)模型的黑箱性和不可解釋性，至今依然是難以規(guī)避的問題。企業(yè)在將深度神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時，可能出現(xiàn)模型不準(zhǔn)、預(yù)測結(jié)果不可預(yù)知的情況。
而不可靠的算法模型一旦應(yīng)用于高價值的關(guān)鍵敏感場景，比如金融決策、醫(yī)療診斷、精密工業(yè)制造等等，可能引發(fā)生命財產(chǎn)損失。
2.防不勝防的新型攻擊手段。安全是一場技術(shù)攻防戰(zhàn)，當(dāng)下許多黑灰產(chǎn)也開始利用更前沿的技術(shù)發(fā)起攻擊，讓傳統(tǒng)安全防護(hù)模式力有不逮。
比如利用“對抗樣本”技術(shù)打造一張假臉來欺騙移動支付的人臉識別模型，用以假換真的音頻進(jìn)行財務(wù)詐騙，制作虛假的換臉視頻等等，針對這類新型安全風(fēng)險，主流廠商的模式依然是傳統(tǒng)的“安全-I”思路，等到發(fā)現(xiàn)問題再進(jìn)行響應(yīng)和修復(fù)，但AI潛在安全問題很多時候是滯后或隱蔽的，比如在訓(xùn)練源頭的原始數(shù)據(jù)集進(jìn)行污染與投毒，在問題暴露時可能已經(jīng)釀成了危機(jī)。
3.日益嚴(yán)峻的數(shù)據(jù)危機(jī)。提升AI能力需要最大限度的挖掘數(shù)據(jù)價值，但是在金融、醫(yī)療、公共安全等場景的AI應(yīng)用中，所要用到的數(shù)據(jù)往往涉及個人隱私信息，簡單明文數(shù)據(jù)傳輸和利用很可能導(dǎo)致隱私泄露。
另一方面，在特定商業(yè)場景中，有價值的數(shù)據(jù)往往分散在不同的機(jī)構(gòu)與用戶手中，形成大大小小的數(shù)據(jù)孤島，應(yīng)用過程中數(shù)據(jù)的用途和用量不受控，存在被濫用和復(fù)制的問題，同時數(shù)據(jù)應(yīng)用產(chǎn)生的收益不清晰，數(shù)據(jù)權(quán)屬也難以界定。
4.充滿盲點(diǎn)的應(yīng)用漏洞。雖然現(xiàn)在很多業(yè)務(wù)場景都在使用AI能力，但應(yīng)用效果卻并不及預(yù)期，諸如算法偏見導(dǎo)致人臉識別對白人和黑人區(qū)別對待、AI信貸風(fēng)控模型對特定地區(qū)出現(xiàn)“歧視”、智能客服AI學(xué)會了臟話突然開始罵用戶……雖然這些應(yīng)用漏洞并不會導(dǎo)致業(yè)務(wù)直接崩壞，但卻讓業(yè)務(wù)效果大打折扣，與此同時也帶來負(fù)面社會影響。
說了這么多，大家可能會覺得AI好像不怎么靠譜的樣子，其實(shí)今天AI的方案成熟度和產(chǎn)業(yè)落地性已經(jīng)很高了，所帶來的生產(chǎn)力價值也是遠(yuǎn)超想象。
只是，從腳踏實(shí)地的角度出發(fā)，與其寄希望于一個零事故、零風(fēng)險的理想化口號，更可行的方式是，把每個算法、每個系統(tǒng)、每次項(xiàng)目都實(shí)施好，從源頭上打造務(wù)實(shí)可靠的AI，這也是今天大多數(shù)傳統(tǒng)行業(yè)在應(yīng)用AI時普遍缺乏的意識，以為花錢買回來的是無往而不利的增長神器，拆開才發(fā)現(xiàn)是一張安全漏洞密布的漁網(wǎng)。
隨著AI進(jìn)一步深入產(chǎn)業(yè)，必須早日在技術(shù)價值與現(xiàn)實(shí)落地之間找到一個安全可控的平衡點(diǎn)。
防患于未然，關(guān)鍵時刻還得靠學(xué)霸
正如愛因斯坦所說，提出問題往往比解決問題更重要，因?yàn)榻鉀Q問題也許僅是一個技能，而提出新的問題、新的可能性，從新的角度去看舊的問題，需要有創(chuàng)造性的想象力，而且標(biāo)志著科學(xué)的真正進(jìn)步。
這也是為什么，RealAI會引起我們的注意。
我們知道，人工智能的基礎(chǔ)模型、研究方法、基礎(chǔ)理論和各種模型的設(shè)計(jì)等等，底層創(chuàng)新一般都是由學(xué)術(shù)界率先垂范，比如2017年，圖靈獎得主Geoffrey Hinton就看到了傳統(tǒng)深度卷積神經(jīng)網(wǎng)絡(luò)的問題，提出了膠囊網(wǎng)絡(luò)等新的深度學(xué)習(xí)方法，以期推動AI迭代。
在中國，清華人工智能研究院等頂級學(xué)術(shù)機(jī)構(gòu)也在不斷嘗試搭建更可靠的AI和智能實(shí)現(xiàn)方式。而RealAI瑞萊智慧作為清華人工智能研究院的產(chǎn)學(xué)研技術(shù)公司，自然也能率先意識到高度依賴數(shù)據(jù)驅(qū)動的傳統(tǒng)機(jī)器學(xué)習(xí)時代存在的諸多安全隱患，針對上文提出的種種問題，RealAI的“學(xué)霸們”重構(gòu)底層技術(shù)框架，推出全新范式，從技術(shù)側(cè)給出解決方法，比如：
將深度學(xué)習(xí)和貝葉斯方法的優(yōu)勢有機(jī)結(jié)合，將數(shù)據(jù)和預(yù)測結(jié)果中天然存在的不確定性納入考慮，提升AI模型的泛化能力，從而實(shí)現(xiàn)可靠可解釋的AI;
保證在建模過程中，從關(guān)鍵特征和決策相關(guān)依據(jù)等不同維度給出解釋，增進(jìn)人們對AI結(jié)果的理解;
通過對抗的方式發(fā)現(xiàn)AI算法存在漏洞的機(jī)理，并通過對抗防御技術(shù)指導(dǎo)魯棒AI算法和系統(tǒng)研發(fā);
將領(lǐng)域知識引入到AI建模中，實(shí)現(xiàn)知識與數(shù)據(jù)的共同驅(qū)動;
通過與密碼學(xué)和分布式系統(tǒng)結(jié)合的方式，實(shí)現(xiàn)在明文數(shù)據(jù)不出庫的情況下，解決AI場景下的數(shù)據(jù)流通問題。
也許你已經(jīng)發(fā)現(xiàn)了，集合了這些新技術(shù)能力的AI，已經(jīng)不是我們所熟悉的那個“阿爾法狗時代”的深度機(jī)器學(xué)習(xí)了，而是第三代人工智能。
清華大學(xué)人工智能研究院院長、中國科學(xué)院院士張鈸教授是這樣闡釋的，第三代 AI 的思路是把第一代的知識驅(qū)動和第二代的數(shù)據(jù)驅(qū)動結(jié)合起來，通過利用知識、數(shù)據(jù)、算法和算力等 4 個要素， 建立新的可解釋和魯棒的AI，具備安全、可靠、可信和可擴(kuò)展的特點(diǎn)。
沿著這一技術(shù)發(fā)展的底層思維邏輯演進(jìn)，會發(fā)現(xiàn)在第三代人工智能基座上搭建AI應(yīng)用，也就自然而然地實(shí)現(xiàn)了“安全I(xiàn)I”——主動式安全管理，讓AI的潛在風(fēng)險能夠從源頭就被預(yù)測、準(zhǔn)備、響應(yīng)和監(jiān)控。
解決AI安全隱憂任重道遠(yuǎn)，第三代AI無疑是中國學(xué)術(shù)界所給出的領(lǐng)先方向和解法。
沒有新基礎(chǔ)設(shè)施，
就沒有“頂天立地”的第三代AI
AI很好，但如何才能被企業(yè)用起來?第三代AI要“頂天立地”，既需要高屋建瓴的學(xué)術(shù)創(chuàng)新，也需要“接地氣”地對接產(chǎn)業(yè)。想要融入真實(shí)的產(chǎn)業(yè)需求，自然離不開平臺基礎(chǔ)設(shè)施作為樞紐，成功完成技術(shù)價值到商業(yè)價值的轉(zhuǎn)換。
打個比方，企業(yè)只是想做一個美味的蛋糕，不需要從種小麥開始，找到一個提供面粉、黃油、模具的平臺采集到這種現(xiàn)成材料，是更省事省力有保障的選擇。
所以我們很欣喜能夠在AI助力數(shù)智化轉(zhuǎn)型的初始階段，就出現(xiàn)了RealAI這樣基于第三代人工智能技術(shù)的技術(shù)企業(yè)。
在“2020第三代人工智能產(chǎn)業(yè)論壇”上，RealAI發(fā)布了兩款最新AI產(chǎn)品——隱私保護(hù)機(jī)器學(xué)習(xí)平臺RealSecure和人工智能安全平臺RealSafe2.0 版本。
結(jié)合去年就推出的可解釋機(jī)器學(xué)習(xí)建模平臺RealBox，以及深度偽造檢測工具DeepReal，形成了一套從數(shù)據(jù)、算法、應(yīng)用全鏈條對AI進(jìn)行安全賦能升級的基礎(chǔ)設(shè)施平臺。
數(shù)據(jù)層面，最新發(fā)布的RealSecure隱私保護(hù)機(jī)器學(xué)習(xí)平臺，通過其自研的“隱私保護(hù)AI編譯器”，能夠自動將普通機(jī)器學(xué)習(xí)算法程序轉(zhuǎn)換為分布式、隱私安全程序。
這意味著，當(dāng)銀行、政府、醫(yī)院等敏感場景想要實(shí)現(xiàn)數(shù)據(jù)流通又擔(dān)心隱私泄露等問題時，可以采用自動化隱私保護(hù)學(xué)習(xí)的方式，一鍵完成分布式隱私保護(hù)學(xué)習(xí)算法的建模，讓多個數(shù)據(jù)擁有方可以在無需透露敏感數(shù)據(jù)的前提下，來訓(xùn)練更高性能的AI模型，打消企業(yè)和個人用戶的安全顧慮。
算法層面，升級后的RealSafe2.0版本，可以針對目標(biāo)識別等算法進(jìn)行安全攻防，并增加后門漏洞檢測等功能。就像殺毒軟件一樣，對應(yīng)用的AI算法進(jìn)行全面“體檢”，讓AI安全性的標(biāo)準(zhǔn)化檢測和增強(qiáng)成為可能。
高可解釋性的機(jī)器學(xué)習(xí)建模平臺RealBox，則借助貝葉斯概率機(jī)器學(xué)習(xí)，讓原本“黑箱”的模型訓(xùn)練變得透明化、白盒化，各維度數(shù)據(jù)在決策過程中所占的比重等等都可以被解釋，這樣的算法做出的決策，自然更具有可信度。
應(yīng)用層面，RealAI基于千萬級訓(xùn)練數(shù)據(jù)打造了多特征融合和多任務(wù)學(xué)習(xí)、具備防御對抗樣本攻擊能力的偽造識別算法，推出DeepReal深度偽造檢測工具和一體機(jī)。
面對各種偽造App數(shù)據(jù)集和添加噪音來實(shí)施攻擊的行為，DeepReal可以對偽造內(nèi)容和真實(shí)內(nèi)容之間表征差異性進(jìn)行有效辨識，在多個主流深度偽造App數(shù)據(jù)集和各類學(xué)術(shù)數(shù)據(jù)集上的檢測準(zhǔn)確率超過99%。
這些能力在AI應(yīng)用的各個環(huán)節(jié)貫穿，也讓第三代人工智能有了面向產(chǎn)業(yè)的價值釋放端口。RealAI CEO田天介紹道，人工智能要成為新時代的水和電，普及到產(chǎn)業(yè)的各個角落，需要完備的基礎(chǔ)設(shè)施建設(shè)。但不同于以往的數(shù)據(jù)平臺、算力平臺為AI提供基礎(chǔ)運(yùn)算條件，RealAI 打造的原生基礎(chǔ)設(shè)施從增強(qiáng)AI自身底層能力出發(fā)，圍繞“算法可靠”、“數(shù)據(jù)安全”、“應(yīng)用可控”三大能力，推動產(chǎn)業(yè)智能化走向安全可信的全新階段。
跨越鴻溝：“吃螃蟹”需要哪些動力?
對于產(chǎn)業(yè)端來說，最怕的不是投入，而是未知，這也是為什么在每一次轉(zhuǎn)型浪潮時，常常會有企業(yè)望而卻步。
每個行業(yè)與企業(yè)都有著自身的獨(dú)特性與具體需求，通用性AI往往難以施展拳腳;加上各自的技術(shù)基礎(chǔ)與認(rèn)知階段不同，會出現(xiàn)有的企業(yè)急切想要構(gòu)建全面的數(shù)智化系統(tǒng)，有的甚至連AI能做什么不能做什么都不知道。
如何讓企業(yè)愿意成為“第一個吃螃蟹的人”，AI技術(shù)公司需要做的不僅僅是大聲吆喝，更需要躬身潛行，做好平臺服務(wù)。
面對這一道難題，RealAI的“學(xué)霸們”做了三件事：
第一，打造自主可控的創(chuàng)新技術(shù)和底層框架，讓各行各業(yè)可以放心將數(shù)據(jù)、模型跑在上面。
最典型的，是此次發(fā)布的RealSecure所搭載的“隱私保護(hù)AI編譯器”。傳統(tǒng)聯(lián)邦學(xué)習(xí)往往都需要各個數(shù)據(jù)擁有方重新組建一個隱私保護(hù)學(xué)習(xí)團(tuán)隊(duì)，或者堆人力將原來的機(jī)器學(xué)習(xí)代碼一點(diǎn)點(diǎn)改寫成隱私保護(hù)學(xué)習(xí)代碼，費(fèi)時費(fèi)力不說，還難以保證性能和適配性。
RealAI沒有沿著老思路“縫縫補(bǔ)補(bǔ)”，而是直接用底層編譯的方式，將聯(lián)邦學(xué)習(xí)算法結(jié)構(gòu)成算子，通過算子的靈活組合來適配多種多樣的機(jī)器學(xué)習(xí)算法公式，就像“活字印刷術(shù)”中的“字?！币粯?，可以被標(biāo)準(zhǔn)化、靈活取用。
另外在訓(xùn)練過程中，首創(chuàng)以底層數(shù)據(jù)流圖的方式，讓數(shù)據(jù)的擁有方、參與執(zhí)行方，以及通信是否需要加密，所有流程可視化展現(xiàn)，讓整個計(jì)算過程變得安全透明。
第二，鍛造成熟的垂直行業(yè)解決方案，為AI產(chǎn)業(yè)化“打樣”。
對于一些行業(yè)普遍存在的通用性問題，聯(lián)合頭部企業(yè)打磨出相應(yīng)的解決方案，能夠給更多觀望者有所參考和啟發(fā)。
比如，在金融領(lǐng)域的信貸場景中，RealAI發(fā)現(xiàn)“數(shù)據(jù)有偏”是一個非常突出的問題，傳統(tǒng)建模過程中用到的數(shù)據(jù)都是經(jīng)過層層篩選、最終跑過整個借貸業(yè)務(wù)流程的“好”樣本，但沒有貸后表現(xiàn)數(shù)據(jù)的客群中就沒有優(yōu)質(zhì)客戶了嗎?怎樣挖掘并服務(wù)好這群“數(shù)據(jù)隱形人”，RealAI以自研半監(jiān)督回?fù)颇Ｐ?，判斷之前被拒絕的客戶究竟是否為優(yōu)質(zhì)資產(chǎn)，從中挖掘出10%與通過客群一樣的優(yōu)質(zhì)客戶，助力某銀行在無成本的前提下回?fù)凭芙^客戶，實(shí)現(xiàn)了20%的資產(chǎn)規(guī)模增長。
工業(yè)領(lǐng)域的核心痛點(diǎn)則是算法可靠性。以智能檢測為例，重大設(shè)備的健康程度會直接影響企業(yè)生產(chǎn)效率和資產(chǎn)壽命，以往只能通過有經(jīng)驗(yàn)的維修人員來定期檢查、維護(hù)，效率低下，加上新生代檢修工人培養(yǎng)越來越困難，這時就需要高可靠性的AI來幫忙。
RealAI幫助工業(yè)企業(yè)打造的PHM設(shè)備健康診斷與預(yù)測性維護(hù)解決方案，就通過序列分析算法分析設(shè)備的監(jiān)測數(shù)據(jù)，進(jìn)行故障的實(shí)時診斷和預(yù)測，幫助規(guī)劃運(yùn)維活動，避免停機(jī)和降低維修損失。在大壩安全智能監(jiān)測場景中，提升50%的預(yù)測準(zhǔn)確率。在光伏制造、油氣管道監(jiān)測等場景中同樣可以發(fā)光發(fā)熱。
另外在公共安全領(lǐng)域，人臉識別技術(shù)被廣泛應(yīng)用于刷臉支付等身份認(rèn)證場景，背后與個人財產(chǎn)安全綁定，但識別模型本身卻存在被攻破的風(fēng)險。RealAI與某大型支付企業(yè)合作，利用AI對抗攻擊算法全面發(fā)掘和修復(fù)人臉比對模型漏洞，提供防御方案，實(shí)現(xiàn)更加安全的刷臉支付。
類似的行業(yè)垂直解決方案還有很多，這些都是RealAI基于自身AI基礎(chǔ)能力，結(jié)合對于行業(yè)業(yè)務(wù)的理解，對產(chǎn)業(yè)智能化升級方向的洞察，所打造出的落地產(chǎn)品和解決方案，在不斷消弭技術(shù)到應(yīng)用之間的鴻溝。
第三，“開箱即用”的一站式基礎(chǔ)保障。
通過此次發(fā)布的AI基礎(chǔ)設(shè)施平臺，我們發(fā)現(xiàn)，RealAI把相關(guān)技術(shù)力都封裝成了對應(yīng)的工具和框架，企業(yè)碰到AI應(yīng)用難題時，可以快速完成部署。
比如RealSafe平臺通過封裝多種自研的黑盒攻擊、白盒攻擊算法，以及業(yè)內(nèi)首創(chuàng)的黑盒測評能力等等，通過界面化的操作，幫助用戶即便不具備專業(yè)的算法知識和編程開發(fā)經(jīng)驗(yàn)，也能輕易上手從根源上檢測跟防御潛在漏洞。
包括DeepReal平臺，通過軟硬件結(jié)合與適配，讓算法性能最大化，不需要企業(yè)再費(fèi)勁進(jìn)行調(diào)配。
今天，圍繞新基建展開的數(shù)智化升級，已經(jīng)公認(rèn)會給中國帶來長期的經(jīng)濟(jì)紅利。其中，AI技術(shù)的普及速度與安全可靠，無疑是影響全局的關(guān)鍵變量。二者如同“DNA雙螺旋”一樣交織發(fā)展，才能夠打開人工智能產(chǎn)業(yè)“第二增長曲線”。
如果說智能化是一架高速飛馳向產(chǎn)業(yè)界的飛機(jī)，那么第三代AI技術(shù)及其基礎(chǔ)設(shè)施，就是這架飛機(jī)的安全裝置。
冒險，并非在任何時候都是一種美德。埃里克·郝納根就認(rèn)為，企業(yè)在安全管理上應(yīng)該更注重成功，而不是想當(dāng)然地忽視風(fēng)險，積極主動地引導(dǎo)各個業(yè)務(wù)環(huán)節(jié)向順利的方向發(fā)展，不要等待事故發(fā)生后“亡羊補(bǔ)牢”。
這或許也應(yīng)該成為產(chǎn)業(yè)應(yīng)用AI時的一種常識，而RealAI正在為我們補(bǔ)上這堂“常識課”。
原創(chuàng) 藏狐 腦極體
（轉(zhuǎn)載）
