新冠疫情是一個(gè)警鐘，提醒我們要去構(gòu)建信任度 90% 以上的 AI。
當(dāng)人類(lèi)第一次仰望星空的時(shí)候，離文明就不遠(yuǎn)了。對(duì)于當(dāng)下的 AI 來(lái)說(shuō)，也是如此。席卷全球的疫情釋放出信號(hào)和警告，我們需要一個(gè)新的 AI 劇本。
過(guò)去我們花了太多時(shí)間開(kāi)發(fā)銷(xiāo)售廣告的 AI，從現(xiàn)在開(kāi)始，不妨重新評(píng)估未來(lái)幾十年，我們到底需要打造一個(gè)什么樣的 AI?如何以我們想要的方式實(shí)現(xiàn)更為美好的 AI?對(duì)這一 「重啟(reboot)」 問(wèn)題的多維思考，串連起 「圍爐夜話」 的所有環(huán)節(jié)與亮點(diǎn)。
7 月 10 日晚間八點(diǎn)，WAIC· 開(kāi)發(fā)者日正式啟動(dòng)，作為開(kāi)場(chǎng)的特色環(huán)節(jié)，機(jī)器之心與上海交通大學(xué)人工智能研究院聯(lián)合邀請(qǐng)到了奇績(jī)創(chuàng)壇創(chuàng)始人兼 CEO 陸奇和 Robots.AI CEO 兼創(chuàng)始人 Gary Marcus 進(jìn)行高峰對(duì)話。
此外，在「Demo Day」環(huán)節(jié)，一系列優(yōu)質(zhì)的開(kāi)源項(xiàng)目陸續(xù)登場(chǎng)，除對(duì)主流開(kāi)源工具及框架的探討外，還有實(shí)踐中的熱門(mén)方向，比如人臉圖像、熱門(mén)游戲開(kāi)源項(xiàng)目等。企業(yè)內(nèi)部的開(kāi)源及技術(shù)框架也成亮點(diǎn)之一，比如阿里巴巴的淘系技術(shù)部無(wú)限開(kāi)發(fā)專家吳子奇分享路關(guān)于 MNN 的部署實(shí)踐。
而當(dāng)我們將目光從技術(shù)角度轉(zhuǎn)移到整個(gè) AI 產(chǎn)業(yè)，會(huì)發(fā)現(xiàn) AI 尚處于無(wú)法被完全信任的狀態(tài)，這無(wú)疑將阻擋 AI 應(yīng)用開(kāi)發(fā)的腳步。
比如，深度學(xué)習(xí)主導(dǎo)下的機(jī)器無(wú)法靈活的處理不可預(yù)知事件，隱私、偏見(jiàn)、版權(quán)等倫理問(wèn)題一次次引發(fā)輿論風(fēng)暴。放眼學(xué)界和業(yè)界，可復(fù)制性審查的缺失和巨頭重度壟斷的市場(chǎng)都在阻礙行業(yè)往前進(jìn)。
針對(duì)這些問(wèn)題，陸奇和 Gary Marcus 帶來(lái)了不少精彩觀點(diǎn)。
對(duì)話首先探討了深度學(xué)習(xí)的局限性。在 Gary Marcus 看來(lái)，現(xiàn)有的深度學(xué)習(xí)訓(xùn)練方式是在用數(shù)據(jù)代替機(jī)器本身的思考，無(wú)法讓其對(duì)世界有更深層的感知和推理。相比深度學(xué)習(xí)，「常識(shí)推理」是訓(xùn)練 AI 更有效的方法，可從思維方式上改變機(jī)器的認(rèn)知水平。
在 AI 倫理方面，對(duì)話直面了近日陷入輿論漩渦的隱私和偏見(jiàn)問(wèn)題。Gary Marcus 認(rèn)為，利用分布式學(xué)習(xí)框架的「聯(lián)邦學(xué)習(xí)」可以有效解決數(shù)據(jù)獲取和隱私保護(hù)間的矛盾。而 AI 的偏見(jiàn)是由數(shù)據(jù)本身的不平衡產(chǎn)生，除非能訓(xùn)練 AI 理解數(shù)據(jù)背后的含義，否則偏見(jiàn)問(wèn)題還無(wú)法解決。
在大多數(shù)人的觀念中，要解決這些倫理問(wèn)題，AI 應(yīng)該朝著 Artificial General Intelligence(通用人工智能)努力。但 AGI 太遙不可及，Gary 認(rèn)為目前我們的目標(biāo)應(yīng)該是「穩(wěn)健的人工智能」，比如創(chuàng)造一個(gè)可以對(duì)物理世界進(jìn)行推理的系統(tǒng)。
如何創(chuàng)建?從學(xué)術(shù)屆的角度來(lái)說(shuō)，應(yīng)當(dāng)改革激勵(lì)機(jī)制，鼓勵(lì)「可復(fù)現(xiàn)性」的項(xiàng)目研究;而從 AI 市場(chǎng)來(lái)看，則需要改變壟斷現(xiàn)狀，將巨頭公司拆分為多個(gè)創(chuàng)業(yè)項(xiàng)目，激發(fā)市場(chǎng)活力。
一、技術(shù)重啟：深度學(xué)習(xí)做的遠(yuǎn)遠(yuǎn)不夠
當(dāng)陸奇問(wèn)到「人工智能在疫情中的應(yīng)用潛力時(shí)」，Gary 的回答是，「AI 做的遠(yuǎn)遠(yuǎn)不夠。」
在 Gary 的設(shè)想中，人工智能的未來(lái)方向是在更深層的科研方面幫助人類(lèi)，它應(yīng)當(dāng)可以閱讀文獻(xiàn)，學(xué)習(xí)醫(yī)學(xué)、生物學(xué)和化學(xué)，幫助人類(lèi)篩查藥物，在無(wú)需人體測(cè)試的情況下通過(guò)計(jì)算機(jī)模擬了解藥物安全性，或者篩查新冠病毒論文并判斷研究?jī)r(jià)值。但目前機(jī)器最多只可以根據(jù)關(guān)鍵詞篩選論文。
在深度學(xué)習(xí)成為人工智能主導(dǎo)的這些年里，機(jī)器感知世界的方式就是數(shù)據(jù)，它需要大量的數(shù)據(jù)認(rèn)知物體，行動(dòng)也需要依靠設(shè)定好的程序。
所以，當(dāng)碰見(jiàn)新冠病毒者這類(lèi)缺乏龐大數(shù)據(jù)庫(kù)的新型疾病時(shí)，機(jī)器的作用就會(huì)非常有限。
學(xué)界一直存在對(duì)深度學(xué)習(xí)的批判，如果一直用大量數(shù)據(jù)代替真正的思考，機(jī)器將永遠(yuǎn)無(wú)法像人類(lèi)一樣進(jìn)行感知和推理。
Gary 舉例說(shuō)，「我現(xiàn)在看見(jiàn)的畫(huà)面中間有一個(gè)紅色的水瓶，我沒(méi)有看見(jiàn)任何支持它的東西，但用物理學(xué)常識(shí)預(yù)測(cè)，它肯定不是漂浮在空中，我可以猜測(cè)他是穩(wěn)定的，但是機(jī)器不能?！?/P>
同樣的，機(jī)器也無(wú)法處理突發(fā)情況，正如 AlphaGo 擊敗人類(lèi)圍棋大師時(shí)流傳的那則笑話，「當(dāng)房間著火的時(shí)候，我們的機(jī)器人可以下出超人一般的圍棋棋步。」——人類(lèi)擁有關(guān)于這個(gè)世界的基本知識(shí)(火很危險(xiǎn))，同時(shí)還有推理的能力(應(yīng)該遠(yuǎn)離火)，但機(jī)器沒(méi)有。
如何做到?Gary 給出的回答是，「用常識(shí)推理訓(xùn)練機(jī)器」，機(jī)器不聰明的關(guān)鍵是其不像人類(lèi)一樣擁有世界的常識(shí)。
回望 20 世紀(jì) 60、70 年代，當(dāng)時(shí)的科學(xué)家們并非用數(shù)據(jù)訓(xùn)練機(jī)器，而是嘗試教給機(jī)器關(guān)于世界的常識(shí)，讓其用邏輯做一些簡(jiǎn)單的推理。
比如，麥卡錫提出的 Advice Taker 是世界上第一個(gè)解決常識(shí)知識(shí)的人工智能程序，它想讓機(jī)器做的推理是，「因?yàn)橄胱寗e人吃蛋糕而去烤蛋糕?！埂敢?yàn)?tweety 是一只鳥(niǎo)，所以 tweety 會(huì)飛。」
「任何想要進(jìn)入人工智能領(lǐng)域的人都需要透過(guò)現(xiàn)在回望過(guò)去?！笹ary 說(shuō)。在當(dāng)今時(shí)代，尤其是當(dāng)今的中國(guó)，我們擁有極其龐大人類(lèi)交互數(shù)據(jù)庫(kù)，比如微軟小冰，每月有上億人與之聊天，如何利用這些數(shù)據(jù)庫(kù)讓機(jī)器了解世界的常識(shí)，進(jìn)而擁有思想，才是現(xiàn)代科學(xué)家應(yīng)該做的事情。
Gary 所說(shuō)的機(jī)器理解常識(shí)在現(xiàn)階段還無(wú)法做到，但已經(jīng)有一些公司在往這個(gè)方向努力。比如 Gary 創(chuàng)建的公司 Robust.AI 一直在將深度學(xué)習(xí)與符號(hào)人工智能結(jié)合，培養(yǎng)機(jī)器的邏輯思維。
Cyc 項(xiàng)目沿用的傳統(tǒng)的常識(shí)教授方法，雇傭了來(lái)編寫(xiě) 2500 萬(wàn)條常識(shí)性規(guī)則，比如「水是濕的」或者「大多數(shù)人都知道他們朋友的名字」。這讓 Cyc 能夠推斷：「如果你的襯衫濕了，所以你可能是在雨中。」
二、倫理重啟：隱私、偏見(jiàn)與版權(quán)，AI 會(huì)走向何方?
談及 AI，一個(gè)不可忽視的問(wèn)題就是倫理，人工智能的發(fā)展似乎一直伴隨著倫理爭(zhēng)議。在新冠疫情肆虐的背景下，AI 引發(fā)的倫理似乎更加嚴(yán)重。
陸奇和 Gary 的對(duì)話并沒(méi)有回避這個(gè)敏感問(wèn)題，而是就隱私、偏見(jiàn)、版權(quán)侵犯等極受爭(zhēng)議的領(lǐng)域進(jìn)行了反思與探討。
聯(lián)邦學(xué)習(xí)：數(shù)據(jù)與隱私的兩全法
在新冠肆虐的背景下，許多組織都開(kāi)發(fā)了追蹤者應(yīng)用程序，但受到了不少隱私捍衛(wèi)者的反對(duì)，最后蘋(píng)果和谷歌聯(lián)手推出了藍(lán)牙追蹤項(xiàng)目，利用藍(lán)牙將用戶信息匿名傳播到云上。
但關(guān)于人工智能與隱私問(wèn)題的討論從未停止。西方有《歐盟通用數(shù)據(jù)保護(hù)條例》，今年 4 月，國(guó)務(wù)院也在《關(guān)于構(gòu)建更加完善的要素市場(chǎng)化配置體制機(jī)制的意見(jiàn)》里，強(qiáng)調(diào)了數(shù)據(jù)的共享、數(shù)據(jù)資源的整合和安全保護(hù)。
不管是個(gè)人應(yīng)用還是 2B 項(xiàng)目，都面臨著隱私保護(hù)與數(shù)據(jù)孤島問(wèn)題?！溉绾慰创斯ぶ悄芘c隱私保護(hù)的矛盾?」陸奇問(wèn)到。
這方面的技術(shù)也的確迎來(lái)不少突破，Gary 認(rèn)為，「聯(lián)邦學(xué)習(xí)」是解決隱私問(wèn)題的一個(gè)可行的辦法。
聯(lián)邦學(xué)習(xí)的本質(zhì)是用分布式機(jī)器學(xué)習(xí)技術(shù)，從群體中抽離個(gè)體信息。
在聯(lián)邦學(xué)習(xí)框架中，參與者的邊緣設(shè)備產(chǎn)生的數(shù)據(jù)會(huì)保存在本地，設(shè)備會(huì)根據(jù)本地?cái)?shù)據(jù)訓(xùn)練本地機(jī)器模型，然后根據(jù)一定的通信機(jī)制向中央服務(wù)器傳輸模型參數(shù)等數(shù)據(jù)，(模型參數(shù)并非客戶端原始數(shù)據(jù)。)由此一來(lái)，中央處理器就可以在邊緣設(shè)備不貢獻(xiàn)數(shù)據(jù)的情況下訓(xùn)練構(gòu)建全局模型。
「如果我們走到符號(hào)層面，你可以抽想出需要了解到場(chǎng)景，而不侵犯特定個(gè)體到個(gè)人隱私?！笹ary 說(shuō)。
不會(huì)思考機(jī)器：傲慢與偏見(jiàn)如何解?
隱私之外，一個(gè)更受爭(zhēng)議的倫理話題是偏見(jiàn)。今年的弗洛伊德事件、杜克大學(xué) PULSE 算法事件以及巨頭紛紛下架人臉識(shí)別應(yīng)用等都將人工智能偏見(jiàn)推到了輿論漩渦中。
「在你看來(lái)，是否可能存在不帶偏見(jiàn)的人工智能應(yīng)用算法或系統(tǒng)?」陸奇問(wèn)。
「現(xiàn)在沒(méi)有，也許最終會(huì)有?！笹ary 說(shuō)。在他看來(lái)，人工智能存在偏見(jiàn)的原因是，機(jī)器只是在反饋過(guò)去的事情。
「如果你有一個(gè)根據(jù)過(guò)往信息獲取優(yōu)秀程序員的系統(tǒng)，你輸入一個(gè)芭蕾舞演員，由于系統(tǒng)中沒(méi)有芭蕾舞演員信息，最后得出的結(jié)論便是此人不適合成為程序員。這其中更深層次的原因是以往的教育是芭蕾舞演員不應(yīng)進(jìn)入編程領(lǐng)域?！?/P>
社會(huì)觀念在進(jìn)步，但機(jī)器只會(huì)機(jī)械性的按照歷史數(shù)據(jù)做出判斷，但歷史數(shù)據(jù)本身就是帶有偏見(jiàn)的。
「唯一的補(bǔ)救方法就是常識(shí)推理?！笹ary 認(rèn)為，只有常識(shí)推理才能讓機(jī)器具備更深層次的理解能力，思考他們正在處理的問(wèn)題。
「我不認(rèn)為這是無(wú)法解決的，但我認(rèn)為這至少需要十年。我們目前所掌握的技術(shù)距離這一目標(biāo)相去甚遠(yuǎn)?！?/P>
被輕易篡改的真相：技術(shù)與版權(quán)如何平衡?
隱私和偏見(jiàn)是目前爭(zhēng)議較大的兩個(gè)倫理問(wèn)題，除此之外，人工智能還有一些未被重視但同樣有隱患的問(wèn)題，如版權(quán)侵犯。
這類(lèi)問(wèn)題容易通常發(fā)生在生成模型中，比如 AI 換臉。2017 年 deepfake 橫空出世，隨之而來(lái)是各類(lèi)倫理問(wèn)題，不少女明星的臉被換到色情電影中，2019 年 ZAO 的出現(xiàn)降低了換臉門(mén)檻，也讓肖像權(quán)侵犯現(xiàn)象更加泛濫。除了肖像問(wèn)題，生成模型還在不斷侵入影視、音樂(lè)和文學(xué)創(chuàng)作領(lǐng)域，會(huì)更改原本的內(nèi)容侵權(quán)作者版權(quán)。
「關(guān)于能夠生產(chǎn)更改內(nèi)容的 AI 模型，你的觀點(diǎn)是什么?」陸奇問(wèn)。
相比于版權(quán)侵犯，Gary 認(rèn)為更嚴(yán)重的問(wèn)題人工智能會(huì)很容易的制作虛假內(nèi)容。「你可以做一個(gè)視頻，Gary Marcus 說(shuō)，深度學(xué)習(xí)是有史以來(lái)最棒的事。然后斷章取義的把它剪下來(lái)。人們無(wú)法分辨視頻的真假，無(wú)法辨別我是諷刺的口吻還是開(kāi)玩笑的語(yǔ)氣?！?/P>
用偽造的內(nèi)容掩蓋原本的真相，這是技術(shù)發(fā)展需要付出的代價(jià)之一。但我們并沒(méi)有相應(yīng)法律基礎(chǔ)來(lái)保護(hù)人們的權(quán)益。
三、處在青少年時(shí)期的人工智能
「在某種程度上，我們正處于人工智能歷史上最糟糕的時(shí)刻。」Gary 說(shuō)。
往前看，AI 正處于發(fā)展早期，倫理問(wèn)題尚未暴露出，往后看，人工智能已經(jīng)強(qiáng)大到足夠解決這些問(wèn)題。
Gary 將目前人工智能所處階段比為「青少年」，它是一個(gè)突然變強(qiáng)大的少年，野蠻生長(zhǎng)，但對(duì)世界尚缺乏足夠的理解能。
這個(gè)階段我們應(yīng)該做的不是讓其停止生長(zhǎng)，而是規(guī)范他的行為，引導(dǎo)他成年。
那么，人工智能要如何走向未來(lái)?
我們對(duì)成年人工智能的最完美的想象就是 Artificial General Intelligence(通用人工智能)，那時(shí)機(jī)器人將具有一般人類(lèi)智慧。
「我們離 AGI 還有多遠(yuǎn)?如何向 AGI 前進(jìn)?」陸奇問(wèn)。
在 Gary 看來(lái)，AGI 是非常遙遠(yuǎn)的事情?！窤GI 遠(yuǎn)遠(yuǎn)超過(guò)了我們目前的理解范疇，目前我們必須選擇更簡(jiǎn)單的問(wèn)題，比如創(chuàng)造一個(gè)可以對(duì)物理世界進(jìn)行推理的系統(tǒng)。這很難，可能需要 20 年才能實(shí)現(xiàn)，但起碼我們可以看到問(wèn)題是什么?！?/P>
這個(gè)更簡(jiǎn)單的問(wèn)題，用 Gary 的話來(lái)說(shuō)就是「穩(wěn)健的人工智能」，比如可以讓一輛車(chē)能在各種條件下行駛不發(fā)生意外，在家庭工作中能處理意外情況。
四、實(shí)踐重啟：可復(fù)現(xiàn)性與壟斷破除讓 AI 更穩(wěn)健
在實(shí)踐中，我們?nèi)绾螌?shí)現(xiàn)穩(wěn)健的人工智能?
陸奇首先將目光放到了學(xué)界，提出了關(guān)于「可復(fù)現(xiàn)性」的問(wèn)題。
「我們是否應(yīng)該要求論文作者描述他們的實(shí)驗(yàn)系統(tǒng)和過(guò)程，以便評(píng)審人員和社區(qū)能夠復(fù)現(xiàn)其結(jié)果?哪些重要且必要的步驟能夠使 AI 研究向更穩(wěn)健的方向發(fā)展?」
關(guān)于可復(fù)現(xiàn)性，Gary 的觀點(diǎn)十分明確，「如果你研究的是真正的科學(xué)，那么你必須具備可復(fù)現(xiàn)性。如果你構(gòu)建的項(xiàng)目只在特定情況下有效，那它只是個(gè)玩具?！?/P>
可復(fù)現(xiàn)性可讓后人踩著前人的腳步，推動(dòng)這個(gè)學(xué)科慢慢往更高的方向發(fā)展。但就陸奇的親身體驗(yàn)而言，人工智能領(lǐng)域?qū)蓮?fù)現(xiàn)性的要求基本不存在。
Gary 認(rèn)為這種現(xiàn)象的原因是激勵(lì)機(jī)制出現(xiàn)問(wèn)題。科學(xué)家獲得研究經(jīng)費(fèi)的前提是在某個(gè)知名期刊中發(fā)表引人注目的結(jié)果，這會(huì)導(dǎo)致科學(xué)家傾向于追求結(jié)果而忽略實(shí)現(xiàn)的過(guò)程。
追求奪人眼球的結(jié)果于個(gè)人有益，但對(duì)集體無(wú)益?！讣w的利益來(lái)自于不斷研究真正的科學(xué)，這與個(gè)體獲得獎(jiǎng)勵(lì)的方式截然不同。我認(rèn)為在科學(xué)的某些方面，系統(tǒng)的整體結(jié)構(gòu)設(shè)計(jì)是面向集體的。」
Gary 舉了艾倫腦科學(xué)研究所的案例，該研究所就致力于機(jī)器「常識(shí)推理」研究，從成千上萬(wàn)個(gè)在線故事、博客和習(xí)語(yǔ)條目中提取短語(yǔ)事件訓(xùn)練機(jī)器，讓機(jī)器學(xué)習(xí)從未見(jiàn)過(guò)的句子，并推斷句子的情緒或意圖。
這類(lèi)的工作是一群人為一個(gè)共同的使命努力，對(duì)可復(fù)現(xiàn)性要求極高，無(wú)法在短時(shí)間內(nèi)讓個(gè)人取得明顯的成就，但放在一個(gè)更長(zhǎng)的周期中，卻可以推動(dòng)整個(gè)人工智能領(lǐng)域的進(jìn)步。
但情況會(huì)逐漸變好。Gary 認(rèn)為，很多行業(yè)都經(jīng)歷著從忽視到激勵(lì)可復(fù)現(xiàn)性的轉(zhuǎn)折。
「這種變化已經(jīng)在心理學(xué)領(lǐng)域發(fā)生，醫(yī)學(xué)領(lǐng)域也即將發(fā)生，在人工智能領(lǐng)域，人們也逐漸意識(shí)到了這一點(diǎn)?！?/P>
當(dāng)我們把目光從學(xué)術(shù)界轉(zhuǎn)至業(yè)界，會(huì)發(fā)現(xiàn)仍然阻礙健康人工智能發(fā)展到因素仍然存在，最主要的就是壟斷。目前谷歌、蘋(píng)果、亞馬遜等巨頭已經(jīng)壟斷了大多數(shù)科技領(lǐng)域市場(chǎng)，并且會(huì)通過(guò)收購(gòu)、兼并等方式持續(xù)排擠競(jìng)爭(zhēng)對(duì)手，擴(kuò)大市場(chǎng)，亞馬遜 13 億天價(jià)收購(gòu) Zoox 就是一個(gè)典型案例。
「你是否有建議，能讓創(chuàng)業(yè)公司在巨頭環(huán)伺的情況下更好的抓住創(chuàng)業(yè)機(jī)會(huì)?」陸奇問(wèn)道。
「我沒(méi)有神奇的解決辦法?！笹ary 說(shuō)?？陀^來(lái)看，巨頭擁有壓倒性的人才、資金、技術(shù)等競(jìng)爭(zhēng)優(yōu)勢(shì)，他們開(kāi)出的收購(gòu)價(jià)格也很難讓創(chuàng)業(yè)公司拒絕。
可壟斷狀態(tài)并不利于一個(gè)行業(yè)的健康成長(zhǎng)，「大公司通常不擅長(zhǎng)創(chuàng)新，他們擅長(zhǎng)消耗掉所有的資源，他們通常有很多既得利益股東需要回應(yīng)?！?/P>
從內(nèi)部來(lái)看，公司成長(zhǎng)到一定規(guī)模時(shí)，就容易涉及到股東利益競(jìng)爭(zhēng)。資本家對(duì)眼前經(jīng)濟(jì)利益的追求可能會(huì)迫使公司做出短視的決策，美國(guó)曾經(jīng)的電信巨頭 AT&T 的隕落就是鮮明的例子。
從整個(gè)市場(chǎng)看，資源的壟斷會(huì)阻礙創(chuàng)業(yè)公司的入場(chǎng)，缺乏充分競(jìng)爭(zhēng)的情況下，行業(yè)發(fā)展容易裹足不前。
要解決壟斷問(wèn)題，似乎只能從壟斷者本身入手，「從整個(gè)社會(huì)角度來(lái)看，給將巨頭拆分為不同的初創(chuàng)公司或許是可行的辦法?！笹ary 說(shuō)。
尾聲
回顧整篇對(duì)話，陸奇和 Gary 聚焦的問(wèn)題就是「重啟 AI」，從技術(shù)、倫理、規(guī)范等角度探討了如何才能構(gòu)建一個(gè)更穩(wěn)定的 AI。
今天的人工智能已經(jīng)發(fā)展到了一定高度，但與我們想要實(shí)現(xiàn)的人工智能相比，還是缺乏安全性和穩(wěn)定性。
「我們目前的技術(shù)可以以 90% 的準(zhǔn)確率解決某個(gè)問(wèn)題，對(duì)廣告推薦這類(lèi)問(wèn)題而言已經(jīng)足夠，但在自動(dòng)駕駛、照顧祖父母等場(chǎng)景中，90% 的信任度遠(yuǎn)遠(yuǎn)不夠。我們必須思考，如何才能將準(zhǔn)確率提高到 90% 以上，如何構(gòu)建值得信任的人工智能?！?/P>
「我希望更廣泛的世界能夠考慮到處理這些關(guān)鍵任務(wù)到人工智能，它們可以改變世界，但需要更高程度的安全性。希望 5 年、20 年、50 年之后，我們真的可以做到這些事情?！?/P>
（轉(zhuǎn)載）
