自動化是人類不懈的追求，從簡單的洗衣機(jī)、洗碗機(jī)到開始具有復(fù)雜算法的掃地機(jī)器人、智能家居設(shè)備以及目前火熱的自動駕駛汽車，自動化開始從更多層面影響人們的生活。但是，你真的可以把控制權(quán)完全交給機(jī)器嗎?
經(jīng)典科幻電影《2001：太空漫游》(2001: A Space Odyssey)可能是很多讀者的科幻啟蒙，那么這個故事的寓意是什么?在影片中，主人公發(fā)現(xiàn) HAL 9000人工智能電腦開始自主控制飛船，完全脫離宇航員的控制，同時電腦開始變得偏執(zhí)、嘗試殺死船上的所有人。顯然，這個故事表現(xiàn)了作者對自動化科技的擔(dān)心，當(dāng)生命完全依賴于全自動系統(tǒng)，似乎存在很多隱患。
然而，自動化是人類不懈的追求，從簡單的洗衣機(jī)、洗碗機(jī)到開始具有復(fù)雜算法的掃地機(jī)器人、智能家居設(shè)備以及目前火熱的自動駕駛汽車，自動化開始從更多層面影響人們的生活。但是，你真的可以把控制權(quán)完全交給機(jī)器嗎?一起來看看近期幾個典型的反面案例。
自動化是人類不懈的追求，從簡單的洗衣機(jī)、洗碗機(jī)到開始具有復(fù)雜算法的掃地機(jī)器人、智能家居設(shè)備以及目前火熱的自動駕駛汽車，自動化開始從更多層面影響人們的生活。但是，你真的可以把控制權(quán)完全交給機(jī)器嗎?
PetNet 的失敗
PetNet 是發(fā)跡于眾籌平臺的一款智能寵物喂食機(jī)，通過連接到WIFI網(wǎng)絡(luò)、iOS遠(yuǎn)程控制，可以實(shí)現(xiàn)手動分配食物，當(dāng)然，你也可以通過應(yīng)用進(jìn)行自動化的預(yù)設(shè)。另外，它還能通過亞馬遜的Dash系統(tǒng)自動購買狗糧或貓糧。
聽上去，PetNet 完全可以解決很多寵物主人的麻煩，實(shí)現(xiàn)自動化、定時定量的喂食。然而，在發(fā)售后，PetNet基于谷歌的云服務(wù)一度發(fā)生中斷，時間長達(dá)10小時。也就是說，如果主人沒有發(fā)現(xiàn)，那么在這10小時里使用它的貓咪和狗狗得不到任何食物和水。雖然PetNet官方表示并沒有造成大的影響，但寵物挨餓是事實(shí)。
事后，PetNet還向用戶發(fā)送郵件，通知他們確保人工喂養(yǎng)寵物，直至問題完全解決。試想一下，一些外出度假的家庭，完全依靠PetNet來喂養(yǎng)寵物，是多么不靠譜的一件事。
Nest恒溫器崩潰
作為最著名的智能家居設(shè)備，Nest恒溫器一直備受關(guān)注。然而，最近一周在美國各地，均發(fā)生了Nest恒溫器失效的情況，事實(shí)上這已經(jīng)不是第一次。Nest發(fā)布聲明，聲稱僅有很少一部分產(chǎn)品發(fā)生離線情況。
雖然沒有任何人受傷或是死亡，但是作為家庭中的溫控中樞，Nest的不穩(wěn)定無疑降低了人們的生活品質(zhì)，而他們購買Nest的初衷，則是讓生活更方便。
特斯拉自動駕駛死亡車禍
特斯拉最近無疑處于風(fēng)口浪尖上，其自動駕駛汽車發(fā)生車禍、導(dǎo)致司機(jī)死亡，似乎為自動駕駛汽車的發(fā)展蒙上了一層陰影。
究其原因，目前最大的爭議在于其自動駕駛模式的機(jī)制，雖然當(dāng)時環(huán)境較為特殊，強(qiáng)烈日照致使自動駕駛系統(tǒng)和司機(jī)都沒有發(fā)現(xiàn)拖掛車的白色車身、沒有及時剎車，但從另一個角度來說，即便攝像頭失效、雷達(dá)也應(yīng)該監(jiān)測到障礙車輛。這是第一個問題：自動駕駛的障礙監(jiān)測系統(tǒng)并不能處理任何狀況，但在駕駛這種高危環(huán)境下，一個小失誤就會造成生命損失。
顯然，特斯拉自動駕駛汽車的傳感器部署并不完善，而在這種情況下，鼓勵用戶完全脫離駕駛的機(jī)制也是一個問題，事實(shí)上司機(jī)當(dāng)時正在汽車屏幕上玩游戲，顯然他過于相信自動化系統(tǒng)了。
不要過于依賴全自動化系統(tǒng)
顯然，上面三個實(shí)例告訴我們，不要過于依賴全自動化系統(tǒng)，尤其是涉及到生命安全時。其實(shí)這是一個非常簡單的道理：人會生病、產(chǎn)品會出現(xiàn)故障，你永遠(yuǎn)不能預(yù)知未來的事情?？萍及l(fā)展雖然迅猛，但即便是人工智能，也是人類所開發(fā)，而人類會犯錯誤，任何系統(tǒng)也是一樣。
特斯拉的例子其實(shí)非常有代表性，CEO馬斯克一方面積極抵制強(qiáng)人工智能發(fā)展，認(rèn)為在眾多不確定因素下，強(qiáng)人工智能一旦具有真正的思考能力，可能會危及人類;但另一方面，他又認(rèn)為特斯拉的自動駕駛技術(shù)并沒有問題，這顯然是矛盾的。所以，在目前這個技術(shù)橫流的時代，人類依然需要制定規(guī)則，并且始終相信，任何技術(shù)都沒有人類本身來的可靠。
（轉(zhuǎn)載）
