| 關(guān)于AI和機(jī)器人的七個(gè)錯(cuò)誤言論，AI沒(méi)那么容易 | |
| ? 我們周圍充斥著對(duì)于人工智能和機(jī)器人未來(lái)的歇斯底里——關(guān)于人工智能和機(jī)器人將會(huì)何等有力、何等迅速以及他們將對(duì)工作崗位造成何種沖擊。 ?? ??我最近在 MarketWatch 讀到一篇文章。文章講的是，在未來(lái) 10 到 20 年內(nèi)，機(jī)器人將取代一半的現(xiàn)有工作崗位。文中甚至給出了柱狀圖來(lái)證明這些數(shù)字的有效性。 ?? ??文章的結(jié)論太荒唐了。（我盡量使用學(xué)術(shù)語(yǔ)言，但有時(shí)候面對(duì)這種情況確實(shí)詞窮。）比如文章說(shuō)，在未來(lái) 10 到 20 年內(nèi)，地面維修工人數(shù)量將由 100 萬(wàn)名縮減到 5 萬(wàn)名，因?yàn)闄C(jī)器人將會(huì)取代這些工作崗位。那現(xiàn)在這些崗位上有多少機(jī)器人在運(yùn)行？一個(gè)都沒(méi)有。這一領(lǐng)域有多少具備實(shí)用價(jià)值的演示模型機(jī)器人工作著呢？一個(gè)都沒(méi)有。還有很多類似的文章認(rèn)為，對(duì)于那些目前需要在特定場(chǎng)合進(jìn)行體力勞動(dòng)的崗位，超過(guò) 90% 都將會(huì)被終結(jié)。這些適用于其他所有領(lǐng)域的文章也存在同樣的問(wèn)題。 ?? ??錯(cuò)誤的預(yù)測(cè)將導(dǎo)致我們害怕那些不會(huì)發(fā)生的事情，不論是對(duì)工作崗位的大范圍取代，奇點(diǎn)，還是與人類價(jià)值觀不同的甚至試圖毀滅人類的 AI 。對(duì)于這些錯(cuò)誤，我們需要反擊。但是，為什么人們會(huì)產(chǎn)生這些錯(cuò)誤呢？我找到了七個(gè)常見(jiàn)的原因。 ?? ??1. 高估和低估 ?? ??Roy Amara 是未來(lái)研究所（the Institute for the Future）的聯(lián)合創(chuàng)始人。該研究所位于 Palo Alto，也就是硅谷的智慧中心。他以現(xiàn)在被稱為 Amara 定律的格言而聞名： ?? ??技術(shù)的作用總是在短期內(nèi)被高估，而在長(zhǎng)期內(nèi)被低估。 ?? ??這短短的句子凝結(jié)了太多東西。樂(lè)觀主義者會(huì)有一種解讀，而悲觀主義者會(huì)有另一種解讀。 ?? ??有關(guān) Amara 定律兩面性的一個(gè)絕佳例子就是美國(guó)的全球定位系統(tǒng) GPS。1978 年開(kāi)始的時(shí)候，GPS 的衛(wèi)星軌道上包含由 24 顆衛(wèi)星（現(xiàn)在是 31 顆衛(wèi)星，含冗余）組成的星系。GPS 的目標(biāo)是為美國(guó)軍隊(duì)的彈藥投放提供精準(zhǔn)的位置支持。但是這一項(xiàng)目在 20 世紀(jì) 80 年代幾乎被一次次取消。符合 GPS 設(shè)計(jì)目的的第一次實(shí)戰(zhàn)使用是 1991 年的沙漠風(fēng)暴行動(dòng)，GPS 額外取得了數(shù)次成功，才使得軍方接受它。 ?? ??錯(cuò)誤的預(yù)測(cè)將導(dǎo)致我們害怕那些不會(huì)發(fā)生的事情。 ?? ??現(xiàn)在，GPS 已經(jīng)到了 Amara 所說(shuō)的“長(zhǎng)期”，而它現(xiàn)在的應(yīng)用方式是起初無(wú)法想象的。我外出跑步時(shí)，我的蘋(píng)果手表 2 代就會(huì)使用 GPS 功能足夠精確的記錄我的位置，精確到能夠確定我跑步時(shí)是在馬路的哪一側(cè)。蘋(píng)果手表中 GPS 接收器的微小尺寸和低廉價(jià)格是初期的 GPS 工程師們無(wú)法想象的。GPS 技術(shù)在全球范圍內(nèi)同步進(jìn)行物理實(shí)驗(yàn)的時(shí)間，并在同步美國(guó)電網(wǎng)的時(shí)間和保持電網(wǎng)運(yùn)轉(zhuǎn)方面發(fā)揮重要作用。它甚至允許那些真正操縱著股市的高頻交易員避免毀滅性的定時(shí)錯(cuò)誤。所有的飛機(jī)，無(wú)論大小，都使用 GPS 導(dǎo)航，GPS 還用來(lái)跟蹤假釋出獄的人。GPS 決定了世界各地的哪些地區(qū)種植哪種種子。GPS 技術(shù)可以跟蹤卡車車隊(duì)并匯報(bào)司機(jī)的駕駛行為。 ?? ??GPS 最開(kāi)始時(shí)只有一個(gè)軍事目標(biāo)，然而，要讓它像最初預(yù)期的那樣工作，絕沒(méi)那么簡(jiǎn)單?，F(xiàn)在 GPS 已經(jīng)滲透到我們生活的方方面面。如果沒(méi)有 GPS ，我們不僅會(huì)迷路 ，而且會(huì)受凍、挨餓，甚至很可能會(huì)死掉。 ?? ??在過(guò)去 30 年中，其他技術(shù)有著相似的模式。起初人們抱有巨大的期待，然后是巨大的失望，之后慢慢地對(duì)超出最初預(yù)期的結(jié)果產(chǎn)生了信心。這一模式在大規(guī)模計(jì)算、基因組測(cè)序、太陽(yáng)能、風(fēng)能，甚至是購(gòu)物送貨上門(mén)等方面都是如此。 ?? ??在 20 世紀(jì) 60 年代，在 20 世紀(jì) 80 年代，AI 一次又一次地被高估。我相信，現(xiàn)在它又被高估了。但它的長(zhǎng)期前景也可能被低估了。問(wèn)題在于，長(zhǎng)期是多長(zhǎng)？后面的 6 個(gè)錯(cuò)誤能幫我們解釋，為什么對(duì)于 AI 的未來(lái)而言，時(shí)間尺度被嚴(yán)重低估了。 ?? ??2. 想象中的魔法 ?? ??在我十幾歲的時(shí)候，亞瑟·克拉克是科幻小說(shuō)作家“三巨頭”之一，其余兩位是羅伯特·海因萊因和艾薩克·阿西莫夫。但是克拉克還是一位發(fā)明家、科學(xué)作家和未來(lái)主義者。在 1962 年到 1973 年之間，他發(fā)明了后來(lái)被稱為克拉克三定律的三條格言： ?? ??如果一位年高德劭的科學(xué)家認(rèn)為某事是可能的，那他幾乎肯定是正確的；如果他認(rèn)為某事是不可能的，那他很可能是錯(cuò)誤的。 ?? ??發(fā)現(xiàn)可能性的邊界的唯一途徑，就是跨越這一邊界，進(jìn)入到不可能的領(lǐng)域。 ?? ??任何非常先進(jìn)的技術(shù)，初看都與魔法無(wú)異。 ?? ??從個(gè)人角度而言，我對(duì)克拉克三定律的第一定律的后半句持保留意見(jiàn)，因?yàn)槲以谟嘘P(guān) AI 將在多久時(shí)間內(nèi)占據(jù)優(yōu)勢(shì)地位一事上比其他人更為保守。但是現(xiàn)在我要在克拉克第三定律上展開(kāi)論述。 ?? ??想象一下，我們有一臺(tái)時(shí)光機(jī)可以把艾薩克·牛頓從 18 世紀(jì)晚期穿越到現(xiàn)在，并把他安頓在他熟悉的環(huán)境中：劍橋大學(xué)三一學(xué)院教堂。 ?? ??現(xiàn)在給牛頓看一臺(tái)蘋(píng)果公司的產(chǎn)品。從你口袋中取出 iPhone，開(kāi)機(jī)讓屏幕亮起來(lái)并布滿圖標(biāo)，把 iPhone 給牛頓。牛頓曾經(jīng)利用菱鏡將太陽(yáng)光分解，揭示了白光是由不同顏色的光組成的，并將不同顏色的光又混合成了白光，但他毫無(wú)疑問(wèn)地將對(duì)在黑暗教堂中能發(fā)出如此耀眼色彩的裝置感到詫異?，F(xiàn)在播放一部英國(guó)鄉(xiāng)村場(chǎng)景的電影和一些他應(yīng)該聽(tīng)過(guò)的教堂音樂(lè)。然后向他展示這個(gè)網(wǎng)頁(yè)，網(wǎng)頁(yè)中有他個(gè)人批注的 500 多頁(yè)的皇皇巨著《自然哲學(xué)的數(shù)學(xué)原理》。教給他如何通過(guò)縮放手勢(shì)來(lái)放大網(wǎng)頁(yè)細(xì)節(jié)。 ?? ??要留意那些有關(guān)未來(lái)技術(shù)是不是魔法的爭(zhēng)論。 ?? ??牛頓有可能解釋這個(gè)小裝置是如何實(shí)現(xiàn)這一切的嗎？盡管他發(fā)明了微積分，還解釋了光學(xué)和重力的原理，但是他卻從未能正確區(qū)分煉金術(shù)和化學(xué)。所以我認(rèn)為他會(huì)非常困惑，并且根本想不出這個(gè)設(shè)備的最基本的輪廓。對(duì)他而言，這和超自然的化身沒(méi)什么不同。這個(gè)跟魔法是沒(méi)辦法區(qū)別的。同時(shí)要記住，牛頓可是那個(gè)年代相當(dāng)聰明的人物。 ?? ??如果某個(gè)事物是魔法，我們就很難知道它的邊界。假設(shè)我們更進(jìn)一步地給牛頓展示了這個(gè)裝置如何照亮黑暗，如何照相、錄像、錄音，如何用作放大鏡和鏡子。然后我們向他展示，它可以用來(lái)以極高的速度和極高的精度進(jìn)行算術(shù)計(jì)算。我們展示一下，牛頓拿著 iPhone 的時(shí)候，iPhone 記錄了他的步數(shù)，繼續(xù)向牛頓展示他可以用 iPhone 與世界任何地方的人們即時(shí)通話，就在教堂中即可。 ?? ??牛頓可能會(huì)推測(cè)這個(gè)設(shè)備能做的其他事情是什么？用來(lái)分散太陽(yáng)光的菱鏡是永遠(yuǎn)有效的。他會(huì)不會(huì)推斷 iPhone 可以一直用下去，忽略了自己沒(méi)有理解它還需要充電？回想一下，我們把牛頓從邁克爾·法拉利出生前 100 年的時(shí)代抓回來(lái)了，所以他根本沒(méi)有對(duì)于電力概念的科學(xué)理解。如果 iPhone 能在沒(méi)有火的情況下產(chǎn)生光，那它也有可能會(huì)將鉛變?yōu)榻鹱影桑?BR>?? ??這就是我們?cè)诓孪胛磥?lái)科技時(shí)遇到的問(wèn)題。如果未來(lái)科技距離我們現(xiàn)有的目前能理解的科技足夠遙遠(yuǎn)，那么我們就不知道未來(lái)科技的邊界。如果未來(lái)科技與魔術(shù)無(wú)法區(qū)分，那人們說(shuō)的有關(guān)未來(lái)科技的任何事情都將無(wú)法證偽。 ?? ??這就是我與人們爭(zhēng)論是否應(yīng)當(dāng)害怕廣義人工智能（artificial general intelligence，縮寫(xiě)為 AGI ） 時(shí)常常遇到的問(wèn)題。廣義人工智能（AGI）指的是我們將建造出與人類一樣運(yùn)作的自主機(jī)器人。我被告知自己還沒(méi)明白廣義人工智能會(huì)有多么強(qiáng)大。這不是爭(zhēng)論所在。我們對(duì)于廣義人工智能是否存在都沒(méi)有概念。我希望它是存在的——這一直都是我自己在機(jī)器人和 AI 領(lǐng)域工作的動(dòng)力所在。但是現(xiàn)代廣義人工智能（AGI）研究的進(jìn)展十分不好，不論是在廣義上還是在支持持續(xù)存在的獨(dú)立個(gè)體上。廣義人工智能（AGI）貌似主要受困于人工智能至少 50 年來(lái)一直存在的問(wèn)題上，即推理和常識(shí)。我看到的所有證據(jù)都證明我們目前在如何建造廣義人工智能方面毫無(wú)頭緒。它的特性完全未知，所以在修辭上他就很快變成了魔法，強(qiáng)大而沒(méi)有任何邊界限制。 ?? ??宇宙萬(wàn)物無(wú)不有邊界。 ?? ??小心有關(guān)未來(lái)科技是魔法的爭(zhēng)論。這樣的爭(zhēng)論永遠(yuǎn)無(wú)法駁斥，因?yàn)樗切叛鲋疇?zhēng)，而不是科學(xué)之爭(zhēng)。 ?? ??3. 性能與能力 ?? ??我們一直都在利用人們完成某一特定任務(wù)的表現(xiàn)作為線索，來(lái)推斷他們完成其他任務(wù)的能力。我們?cè)趪?guó)外城市向一位陌生人問(wèn)路，她自信地給出回復(fù)并指給我們看起來(lái)說(shuō)得通的方向，所以我們會(huì)覺(jué)得，想要乘坐公交的時(shí)候，還可以問(wèn)她如何支付公交車費(fèi)。 ?? ??現(xiàn)在，假設(shè)有人告訴我們，一張?zhí)囟ǖ恼掌故镜氖侨藗冊(cè)诠珗@里玩飛盤(pán)。我們自然會(huì)認(rèn)定此人能夠回答以下問(wèn)題：飛盤(pán)是什么形狀的？一個(gè)人大概能把飛盤(pán)扔多遠(yuǎn)？人能吃飛盤(pán)嗎？大概一次可以有多少人同時(shí)扔飛盤(pán)？三個(gè)月大的小孩兒可以扔飛盤(pán)嗎？今天的天氣適合扔飛盤(pán)嗎？ ?? ??計(jì)算機(jī)能夠給圖片打上“人們?cè)诠珗@里扔飛盤(pán)”的標(biāo)簽，卻不可能回答那些問(wèn)題。除去他們僅僅會(huì)給更多的圖片打標(biāo)簽卻根本不能回答前述問(wèn)題的事實(shí)之外，他們對(duì)于以下內(nèi)容根本沒(méi)有概念：人是什么、公園通常在室外、人是有年齡的、天氣除了讓照片顯示 ??事實(shí)證明，許多人工智能研究人員和人工智能專家，尤其是那些沉溺于人工智能失控和屠戮人類的預(yù)測(cè)的悲觀主義者，都是同樣的想象力匱乏的。他們忽略了這樣一個(gè)事實(shí)，如果我們最終能夠制造出如此智能的設(shè)備，彼時(shí)世界將已經(jīng)發(fā)生了巨大變化。我們不會(huì)瞬間驚訝于這種超級(jí)智能的存在。人工智能會(huì)隨著時(shí)間的推移而不斷進(jìn)化，我們的世界會(huì)被許多其他智能填充，并且我們將會(huì)擁有豐富的經(jīng)驗(yàn)。早在想要擺脫人類控制的邪惡超級(jí)智能出現(xiàn)之前，就會(huì)有不那么智能、不那么好戰(zhàn)的機(jī)器出現(xiàn)。在此之前，就會(huì)有脾氣相當(dāng)暴躁的機(jī)器出現(xiàn)。在那之前，就會(huì)有相當(dāng)煩人的機(jī)器出現(xiàn)。在他們之前，還會(huì)有傲慢和不開(kāi)心的機(jī)器出現(xiàn)。我們將在這個(gè)過(guò)程中一點(diǎn)點(diǎn)改變我們的世界，同時(shí)不斷調(diào)整新技術(shù)及其應(yīng)用環(huán)境。我并不是說(shuō)未來(lái)不會(huì)有什么挑戰(zhàn)。我要說(shuō)的是，挑戰(zhàn)不會(huì)像很多人想的那樣突然而至和不期而至 | |
| 來(lái)源：自動(dòng)化網(wǎng) 時(shí)間：2017-11-6 9:12:24 |  |
| 備案號(hào)：蘇ICP備14013079號(hào)-1
