編譯 | Mr Bear
校對(duì) | 維克多
著名學(xué)者 Terence Mauri 以其對(duì)顛覆性技術(shù)的評(píng)論而聞名。他是麻省理工學(xué)院和倫敦商學(xué)院的客座教授，其觀點(diǎn)被廣為發(fā)表。2020 年 10 月，Tenrence Mauri 發(fā)表了一篇發(fā)人深省的的評(píng)論文章「Robot judges that can determine guilt will be 'commonplace' within 50 years」，討論了他對(duì)法律系統(tǒng)的預(yù)測(cè)。
這篇文章提到的「可以判定有罪/無罪的機(jī)器人法官將在 50 年內(nèi)普及開來」并不是一件令人沮喪的事情。事實(shí)上，這是一個(gè)相當(dāng)重大的論斷。正如諾貝爾物理學(xué)獎(jiǎng)獲得者玻爾所說，「預(yù)測(cè)是非常困難的，尤其是對(duì)于未來的預(yù)測(cè)」。然而，這種構(gòu)想?yún)s似乎為那些希望將人工智能技術(shù)用于司法公正和個(gè)人權(quán)利的人照亮了前路。
按照 Mauri 的假想，機(jī)器人法官可以按照如下所述的方式工作：機(jī)器人法官將分析從被告處收集到的音頻、視頻、熱量等數(shù)據(jù)，從而尋找判斷其是否說謊的線索，這些線索可能是不正常的語言模式、面部表型或身體溫度變化。這種分析可以檢測(cè)出人類察覺不到的線索，檢測(cè)出說謊的標(biāo)志的準(zhǔn)確率高達(dá) 99.9%。
然而，Mauri 的假想也存在一些漏洞，在以下情況下，其假想可能不成立：
首先，Mauri 似乎將正義和測(cè)謊混為一談，但這樣做過于簡(jiǎn)單了。有的說謊者可能很擅長(zhǎng)說謊。但是律師可能將正義稱之為「法律對(duì)事實(shí)的正確應(yīng)用」，而這不僅僅涉及測(cè)謊。在普通法系中，「犯罪」是指有「犯罪心理」或「犯罪意圖」的人實(shí)施了有罪行為。因此，在刑事法庭上(以及陪審員你的腦海里)，人們的工作之一就是試圖回答一些有關(guān)被告心理狀態(tài)的問題。
誠然，具有必要的犯罪意圖的被告可能不得不通過撒謊來掩蓋這種意圖，但是檢測(cè)這些謊言并不像對(duì)有關(guān)精神的問題做雙選題。例如，盜竊的部分犯罪意圖是「試圖永久奪取他人的被偷物」。陪審員需要評(píng)估被告的意圖，此時(shí)檢測(cè)到的謊言可能對(duì)該任務(wù)有所幫助。謊言可能存在于人類或其證據(jù)的一系列信息中，這些信息包括其它的謊言、真相、陳述、矛盾和推斷。
人們需要向法律及其應(yīng)用投入更多的思考。例如，人們的非法判定可能是無意間進(jìn)行的。有時(shí)人們會(huì)對(duì)真實(shí)場(chǎng)景下目擊的現(xiàn)象做出錯(cuò)誤的陳述，從而導(dǎo)致產(chǎn)生法律上的錯(cuò)誤。如果有待回答的問題是「行為是否合理」、「某種信念在民主社會(huì)中是否值得尊重」、或者「過失行為的后果是否可以預(yù)見」，我們應(yīng)該怎么應(yīng)對(duì)?可見，優(yōu)勢(shì)法律測(cè)試是十分微妙的。
不過，機(jī)器學(xué)習(xí)系統(tǒng)確實(shí)能夠發(fā)現(xiàn)人類觀察者無法發(fā)現(xiàn)的模式。Mauri 可能希望人工智能可以從大量有關(guān)案件及其涉案人員的大量數(shù)據(jù)中提取出犯罪的痕跡。只要人工智能系統(tǒng)不會(huì)始終直接將說謊等同于有罪，該系統(tǒng)就是相對(duì)可行的。如果人工智能將被用于幫助判定有罪或不當(dāng)行為，它將不僅僅是一個(gè)大型的測(cè)謊儀。
除此之外，我們還需要考慮「對(duì)信念的體現(xiàn)」，它往往是將人工智能應(yīng)用用于人類行為的基礎(chǔ)。
在 Mauri 看來，他構(gòu)想的人工智能法官將收集被告所有一絲一毫的數(shù)據(jù)，并且在缺乏有效的經(jīng)過標(biāo)注的訓(xùn)練標(biāo)簽或者手動(dòng)編碼的特征的情況下，對(duì)數(shù)據(jù)抽絲剝繭。但不幸的是，我們懷疑這種推斷方法很可能會(huì)像這樣發(fā)展：說謊者和講真話的人之間的差別必須表現(xiàn)在語言類線索和非語言線索中，而我們可以及時(shí)將人工智能發(fā)展到可以準(zhǔn)確識(shí)別這些區(qū)別的地步。
然而，「科學(xué)」思想并不支持這種「對(duì)信念的體現(xiàn)」。Vrij 等人給出了一些批判性的觀察：并不存在僅僅與說謊相關(guān)的非語言和語言線索——并不會(huì)像「匹諾曹」一樣，說謊鼻子就會(huì)邊長(zhǎng)。說真話的人和說謊者之間的差異往往非常小;說謊者會(huì)努力讓自己看起來可信。如上文所述，有些人真的很擅長(zhǎng)說謊。
有趣的是，心理學(xué)實(shí)驗(yàn)也會(huì)遇到與人工智能的訓(xùn)練集相類似的問題。在一個(gè)典型的實(shí)驗(yàn)設(shè)計(jì)中，一些被試會(huì)被要求執(zhí)行一項(xiàng)任務(wù)，而其它的人則被作為對(duì)照組。例如，Mann等人在論文「Unraveling the Misconception About Deception and Nervous Behavior」中所展示的，其試圖掌握個(gè)人走私非法物品時(shí)的行為變化。然而，如果我們要求「普通人」以犯罪的方式行事，這類研究真正的價(jià)值又何在?我們觀察的是并沒有犯罪的人在試圖扮演罪犯時(shí)的行為，而實(shí)際上我們想要觀察的是真正的罪犯的行為。
在機(jī)器學(xué)習(xí)的應(yīng)用中，我們也會(huì)看到系統(tǒng)使用錯(cuò)誤的「被試」的數(shù)據(jù)訓(xùn)練。招聘軟件就是一個(gè)很好的例子：我們往往會(huì)使用一些被認(rèn)為具有某項(xiàng)工作所需的特質(zhì)的雇員的數(shù)據(jù)訓(xùn)練招聘平臺(tái)軟件。在對(duì)這群?jiǎn)T工進(jìn)行采訪后，采訪記錄(例如，眼神交流、詞匯的范圍、面部表情、語音語調(diào))會(huì)被用作機(jī)器學(xué)習(xí)的行為特征。接著，「被試」會(huì)接受一個(gè)視頻采訪，系統(tǒng)會(huì)根據(jù)學(xué)習(xí)到的特征對(duì)其進(jìn)行評(píng)分。
然而，這種評(píng)價(jià)方式存在一些不合理的地方：根據(jù)定義，用于訓(xùn)練的人群已經(jīng)得到了工作，他們已經(jīng)帶上了某種社會(huì)偏見的印記;此外，完全無法勝任工作的人太少了，也有太多的人由于人脈而非才能得到了工作;這種系統(tǒng)深深地印刻上了企業(yè)雇主的文化烙印;用于訓(xùn)練的人群在職業(yè)道路上相較于待招聘者走得更遠(yuǎn)，他們對(duì)采訪結(jié)果并不會(huì)太緊張。而且，所有上述問題都建立在某種并不一定成立的「對(duì)信念的體現(xiàn)」上，它假設(shè)行為特征和能力之間存在關(guān)聯(lián)。
本文并非想要向讀者傳遞一種悲觀的情緒。我們只是想針對(duì)當(dāng)前的機(jī)器學(xué)習(xí)應(yīng)用和方法進(jìn)行一些外推的思考，即使在它們已經(jīng)取得巨大成功的領(lǐng)域中，這些應(yīng)用和方法也過于狹隘。我們的直覺是，人工智能將深刻地改變法律系統(tǒng)及其運(yùn)行模式。但是，這種深刻的變化將取決于對(duì)于更深入的人類課題的研究：相信某人意味著什么?何為公正?如何判斷是否公正?何為直覺(它在人類的判斷過程中，是一種很少被察覺到的影響)?本文作者「對(duì)信念的體現(xiàn)」是，認(rèn)為這些人類的概念都只不過是復(fù)雜的科學(xué)謎題，而非無法科學(xué)地解釋的東西。
讓我們把眼光重新投向機(jī)器學(xué)習(xí)應(yīng)用，本文所表達(dá)出的擔(dān)憂可能與 Matthew Syed 在「Rebel Ideas」一書中所提出的「認(rèn)知多樣性的缺乏」有關(guān)。從以技術(shù)為主的視角來看，考慮將人工智能用于個(gè)人權(quán)利并不可行。
參與這項(xiàng)工程的人太少了，在本文提出的例子中，律師和心理學(xué)家的加入可能會(huì)有所幫助。開發(fā)者們總是基于在薄弱的基礎(chǔ)上構(gòu)建優(yōu)雅而復(fù)雜的人工智能系統(tǒng)，然而我們底層的科學(xué)理論尚存疑慮，這種理論基礎(chǔ)并不牢固、或者沒有經(jīng)過嚴(yán)謹(jǐn)?shù)膶彶?，或者甚至沒有底層的科學(xué)理論。而也許，他們正試圖回答錯(cuò)誤的問題。
論文鏈接：https://thegradient.pub/robot-judges/
（轉(zhuǎn)載）
