| 人工智能發(fā)展何時突破枷鎖？ | |
近日，某品牌汽車在樣車測試期間發(fā)生事故，造成了很大的人員財產(chǎn)損失，第一時間沖上了新聞頭條。同時，被輿論關(guān)注的還有老生常談的汽車自動駕駛問題。自動駕駛是否安全？是否應(yīng)該開放自動駕駛？在自動駕駛的外殼下，人工智能能否擁有道德判斷作為問題的核心也難下定論。 “電車難題”人工智能面臨道德困境 美國MIT設(shè)計了一個名為道德機(jī)器（Moral Machine）的網(wǎng)站，網(wǎng)站設(shè)計汽車失控的各種情景讓觀眾做出選擇，通過收集300萬用戶的反饋，道德機(jī)器發(fā)現(xiàn)，人們更傾向于讓自動駕駛車自毀以保障更多人的生命，卻希望自己的車沒有這個特征。這一結(jié)論與文化、習(xí)俗無關(guān)，是人類通常普遍的選擇，與社會普遍認(rèn)知相契合，人們希望通過犧牲少數(shù)人的生命換取更多人的生命。但這與法律是相違背的，因為人的生命本身并不可以進(jìn)行比較和量化。 這是自動駕駛不可避免的道德問題。一方面，如果允許AI在失控中做出決策，根據(jù)權(quán)責(zé)一體的規(guī)定，也就意味著AI或其背后的自動駕駛公司應(yīng)當(dāng)對決策行為承擔(dān)責(zé)任。另一方面，如果不允許AI做出決策，則不能稱為自動駕駛——因為自動駕駛汽車的定義是不需要人為操作即能感測其環(huán)境及導(dǎo)航駕駛的汽車。 自動駕駛遇到的“電車難題”只是人工智能行業(yè)遭遇的困境的一個縮影。盡管隨著科技的進(jìn)步和大數(shù)據(jù)行業(yè)的發(fā)展，人工智能模型越發(fā)成熟，但是在涉及道德、意識等人性方面的問題時卻陷入尷尬的處境：根據(jù)人工智能“奇點”論，人工智能終會在理性和感性方面超過人類，但對人工智能的安全問題，人類又歷來有“弗蘭肯斯坦情結(jié)”，一般人類在心理上無法接受與非生物的機(jī)器產(chǎn)生共情。 今年6月上旬，谷歌2021年推出的對話應(yīng)用語言模型LaMDA被其負(fù)責(zé)人之一的工程師萊莫伊爆出“有意識”。他認(rèn)為LaMDA模型是一個有著自我意識能夠感知這個世界的“人”，擁有七八歲孩童的智力。萊莫伊說LaMDA模型不僅認(rèn)為自己是一個人，還要爭取自己作為一個人的權(quán)利并積極地為其進(jìn)行辯護(hù)。事情爆出后，許多網(wǎng)友支持萊莫伊，認(rèn)為人工智能的奇點已經(jīng)到來，相信人工智能已經(jīng)變得有意識和靈魂，可以像人一樣進(jìn)行獨立思考。 價值判斷人工智能的爆雷區(qū) 人工智能是否有道德，即人工智能是否應(yīng)當(dāng)有價值判斷？ 如果認(rèn)為人工智能有道德，意味著人工智能可以擺脫人的意志支配，對事件或事物進(jìn)行獨立評價。這一點在技術(shù)層面并不難實現(xiàn)，通過大量的數(shù)據(jù)“飼養(yǎng)”，人工智能可以將事件或事物數(shù)字化，按照深度學(xué)習(xí)形成的一套“判斷標(biāo)準(zhǔn)”進(jìn)行衡量。上文中的LaMDA模型也是如此。但事實上，LaMDA模型只是一個應(yīng)答機(jī)器，知名機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)專家Gary Marcus表示：“LaMDA只是在人類語料庫里提取字眼，然后匹配你的問題?！睆倪@一點分析，所謂的人工智能“道德”也只是對事件或事物的應(yīng)答，并不能深刻理解何為道德評價以及道德評價的意義。 再比如，不同的人工智能模型面對相同的情景時有不同的處理方式。仍以自動駕駛為例，以同樣的方式?jīng)_向同樣的樁桶，結(jié)果卻截然不同。有的直接沖撞，有的躲避。這能上升到道德高度嗎？很顯然不能，甚至這兩種模型沒有優(yōu)劣之分，因為基于不同的理念和要求設(shè)計出的模型有特殊性，前者認(rèn)為此種情況屬于駕駛員操作范疇，無需介入；而后者認(rèn)為應(yīng)當(dāng)介入。 再退一步講，假設(shè)人工智能擁有像人一樣的意識，可以獨立思考，就意味著可以寄希望于它能解決道德問題嗎？答案是否定的。簡單地說，人類本身不能解決的道德問題不能指望在無“人性”概念的數(shù)字身上得到解決。 在決策角度，盡管從法律角度懲罰行為不懲罰思想，但只是針對自然人。而現(xiàn)行人工智能的“思想”是可以通過數(shù)據(jù)的方式表達(dá)出來的，故從決策層面來看，人工智能仍存在管控需要。人工智能的“思想”存在錯誤，究其原因是訓(xùn)練算法的數(shù)據(jù)存在問題，即人工智能學(xué)習(xí)了社會存在的問題并加以運用。如美國的電商品牌亞馬遜在進(jìn)行員工錄取時運用人工智能算法對候選人的簡歷進(jìn)行初步篩選，結(jié)果更加傾向于男性，因為工程師在對該算法進(jìn)行訓(xùn)練時，用的是之前亞馬遜已經(jīng)被錄用員工的簡歷進(jìn)行訓(xùn)練的，而亞馬遜男性員工偏多。結(jié)果就是這樣的算法使得亞馬遜的簡歷篩選算法更加傾向于男性，造成了算法的“性別歧視”。記者認(rèn)為，如果是因為算法和訓(xùn)練數(shù)據(jù)的原因造成的法律結(jié)果，則結(jié)果應(yīng)當(dāng)對負(fù)責(zé)算法設(shè)計或訓(xùn)練的責(zé)任主體進(jìn)行追責(zé)。 在行為角度，即便是人工智能在行為執(zhí)行度上已經(jīng)能媲美甚至超越人類，在法律層面，人工智能仍被視為物而并非權(quán)利能力的主體。這也就意味著現(xiàn)在的法律否認(rèn)人工智能能獨立承擔(dān)法律責(zé)任，本質(zhì)上是因為人工智能不能對其所實施的行為負(fù)責(zé)，設(shè)立“負(fù)責(zé)人”制度類似于法人組織的法定代表人制度，由具體的自然人承擔(dān)由行為而產(chǎn)生的責(zé)任。而將“思維”和“行動”區(qū)別開，則可以在歸責(zé)方面更加細(xì)化，在保障有效承擔(dān)責(zé)任的同時不至于影響人工智能行業(yè)發(fā)展的積極性。在現(xiàn)行民事領(lǐng)域，人工智能產(chǎn)品侵權(quán)適用產(chǎn)品責(zé)任，強(qiáng)調(diào)對研發(fā)者、生產(chǎn)者和銷售者的責(zé)任。 近年來，我國接連發(fā)布了《新一代人工智能治理原則》《新一代人工智能倫理規(guī)范》等政策文件，明確提出八項原則，強(qiáng)調(diào)將倫理道德融入人工智能全生命周期，從原則性角度維護(hù)人工智能行業(yè)的健康發(fā)展。有關(guān)人士表示，國家科技倫理委員會人工智能分委會正在研究起草人工智能倫理高風(fēng)險清單，以更好地推動人工智能科研活動的倫理監(jiān)管工作。相信隨著更多法律規(guī)范的出臺，人工智能的應(yīng)用道德問題一定能得到極大緩解。 小貼士 人工智能都有哪些梗？ 電車難題：“電車難題（TrolleyProblem）”是倫理學(xué)領(lǐng)域最為知名的思想實驗之一，最早是由哲學(xué)家菲利帕·福特（PhilippaFoot）于1967年發(fā)表的《墮胎問題和教條雙重影響》論文中提出來的。大致內(nèi)容是假設(shè)在一個電車軌道上綁了5個人，備用軌道上綁了1個人，有一輛失控的電車飛速駛來。而你身邊正好有一個搖桿，你可以推動搖桿來讓電車駛?cè)雮溆密壍?，殺死?個人，救下5個人；你也可以什么都不做，殺死5個人，救下1個人。此類倫理道德困境問題被稱為“電車難題”。 人工智能“奇點”論：最先將“奇點”引入人工智能領(lǐng)域的是美國未來學(xué)家雷·庫茲韋爾。在他的《奇點臨近》《人工智能的未來》兩本書中，將二者結(jié)合，他用“奇點”作為隱喻，描述的是當(dāng)人工智能的能力超越人類的某個時空階段。而當(dāng)人工智能跨越了這個“奇點”之后，一切我們習(xí)以為常的傳統(tǒng)、認(rèn)識、理念、常識將不復(fù)存在，技術(shù)的加速發(fā)展會導(dǎo)致一個“失控效應(yīng)”，人工智能將超越人類智能的潛力和控制，迅速改變?nèi)祟愇拿鳌?/FONT> 弗蘭肯斯坦情結(jié)：源于小說家阿西莫夫，指人類懼怕機(jī)器的心理狀態(tài)。弗蘭肯斯坦是1818年瑪麗·雪萊創(chuàng)作的一本叫做《弗蘭肯斯坦——現(xiàn)代普羅米修斯的故事》的小說中的主人公，他制造出了一個類人生物，但他也因此被反噬。“弗蘭肯斯坦”現(xiàn)被用來指代人類制造的怪物。在現(xiàn)在的文學(xué)、電影等作品中，“弗蘭肯斯坦情結(jié)”常暗指人工智能征服人類并開始管理這個世界。記者 徐勇 實習(xí)生 楊成林 | |
| 來源：自動化網(wǎng) 時間：2022-7-4 10:37:47 |  |
| 備案號：蘇ICP備14013079號-1
