如果有一天，機器學(xué)會(huì )了互相通信，超越人類(lèi)的認知，這個(gè)世界會(huì )變成什么樣？美國前國務(wù)卿亨利·基辛格向人類(lèi)發(fā)出了一個(gè)嚴厲警告：人工智能的進(jìn)步可能導致一個(gè)人類(lèi)將無(wú)法理解的世界 ，而我們應該從現在就開(kāi)始準備，否則“不久后我們就會(huì )發(fā)現開(kāi)始得太晚了”。
“如果機器學(xué)會(huì )相互通信怎么辦？ 如果他們開(kāi)始建立自己的目標怎么辦？ 如果他們變得太聰明以至于做出超出人類(lèi)思維能力的決策呢？”
這些是95歲的基辛格發(fā)表在《大西洋月刊》的文章《啟蒙如何終結》(How The Enlightenment Ends)中提出的一些問(wèn)題。
基辛格對人工智能的興趣始于他了解到一個(gè)已經(jīng)成為Go專(zhuān)家的計算機程序的工作原理。在比國際象棋更復雜的圍棋比賽中，基于圍棋規則，機器在與自己對弈的實(shí)戰中來(lái)訓練自己去掌握游戲;它會(huì )從錯誤中吸取教訓，重新定義算法，完美呈現“熟能生巧”。
進(jìn)入未知世界
基辛格警告稱(chēng)，我們正處于“一場(chǎng)全面的技術(shù)革命中，這場(chǎng)革命的后果我們沒(méi)有完全考慮，其高潮可能是一個(gè)依賴(lài)數據和算法驅動(dòng)、不受倫理或哲學(xué)規范支配的機器的世界�！�
基辛格應用了自動(dòng)駕駛汽車(chē)的例子。駕駛汽車(chē)需要在不可預測的情況下做出判斷。他問(wèn)道，如果汽車(chē)發(fā)現自己必須在殺死祖父母或殺死一個(gè)孩子之間作出決定，會(huì )發(fā)生什么？它會(huì )選擇誰(shuí)，為什么？
他說(shuō)，人工智能遠遠超出了我們習慣的那種自動(dòng)化，因為人工智能有能力“建立自己的目標”，這使它“本質(zhì)上不穩定”。換句話(huà)說(shuō)，通過(guò)運行，AI“培養了一個(gè)以前人類(lèi)認為是為自己保留的能力�！�
蘇格蘭國家黨主席Nicola Sturgeon在Twitter上推薦基辛格的文章
意想不到的后果
典型的科幻小說(shuō)敘述是機器人將發(fā)展到他們成為自己的創(chuàng )造者并威脅全人類(lèi)的程度 。
但是，根據基辛格的說(shuō)法，雖然人工智能的危險性很大，但現實(shí)中它的威脅性可能會(huì )更溫和一點(diǎn)。他認為，更有可能的是危險將來(lái)自人工智能“由于語(yǔ)境理解的缺失”而誤解人類(lèi)指令。
最近的一個(gè)例子是一個(gè)名為T(mén)ay的AI聊天機器人。該機器被指示以一名19歲女孩的身份進(jìn)行友好交談，然而最終卻成為種族主義，產(chǎn)生了性別歧視和煽動(dòng)性反應�；粮裾f(shuō)，人工智能不能完全按照人類(lèi)的期望工作的風(fēng)險在于，它可能會(huì )從我們預期的結果“陷入災難性的偏離”。
對人類(lèi)來(lái)說(shuō)太聰明了
第二個(gè)危險是，人工智能將變得過(guò)于聰明，無(wú)論是為了它們自己的利益還是我們的利益。在Go游戲中，計算機能夠制造出人類(lèi)還沒(méi)想到的前所未有具有戰略意義的動(dòng)作。 “這些動(dòng)作是否超出了人類(lèi)大腦的能力？”基辛格問(wèn)道。 “或者人類(lèi)所了解的他們已經(jīng)被新主人掌控了嗎？”
事實(shí)是人工智能學(xué)習速度比人類(lèi)快得多。最近的另一個(gè)例子是計算機程序AlphaZero，它學(xué)會(huì )了國際象棋界史無(wú)前例的下棋風(fēng)格。在僅僅給出了游戲的基本規則后，它在短短幾個(gè)小時(shí)內便達到了人類(lèi)花費了1500年才達到的技能水平。
原英國財政大臣George sborne的Twitter
這種極快的學(xué)習過(guò)程意味著(zhù)人工智能也將犯下更多“比人類(lèi)更快，更大”的錯誤�；粮裰赋�，人工智能研究人員經(jīng)常設想通過(guò)將“道德”和“倫理”結果納入編程能夠避免這些錯誤，但是什么是符合道德的和倫理的？這些是人類(lèi)仍然在爭論如何定義的事情。
沒(méi)辦法解釋
如果AI達到預期目標但無(wú)法解釋其基本原理會(huì )發(fā)生什么？ “人工智能的決策能力是否會(huì )超越人類(lèi)語(yǔ)言和理性的解釋力？”基辛格問(wèn)道。
他認為，這種情況對人類(lèi)意識的影響將是深遠的。事實(shí)上，他認為這是我們所面臨的新世界最重要的問(wèn)題。
“如果人類(lèi)的認知被人工智能超越，那將會(huì )變成什么樣？社會(huì )是不是再也無(wú)法解釋他們賴(lài)以生存的世界對他們來(lái)說(shuō)是否還有意義？”
法律和機會(huì )
除了哲學(xué)問(wèn)題之外，基辛格還概述了一些合法性的問(wèn)題：在這個(gè)發(fā)生巨大變化的世界中，誰(shuí)將對人工智能的行為負責？ 如何為其錯誤承擔責任？ 人類(lèi)設計的法律體系能跟上一個(gè)能夠思考的人工智能世界的腳步嗎？
不過(guò)關(guān)于人工智能也并不全是這么黑暗又令人沮喪的事情。 基辛格承認，AI遲早會(huì )給醫療科學(xué)、清潔能源和環(huán)境問(wèn)題等領(lǐng)域帶來(lái)“巨大的好處”。
基辛格承認科學(xué)家更關(guān)心推動(dòng)發(fā)現的極限，而不是理解他們或思考他們的哲學(xué)后果。政府也更關(guān)心AI如何被用于安全和情報，而不是檢驗其對人類(lèi)狀況的結果。
最后，這位高級外交官懇求美國政府將人工智能作為國家重點(diǎn)關(guān)注的焦點(diǎn)，“最重要的是，從協(xié)調人工智能與人文傳統的關(guān)系角度去看�！�
他認為，應該建立一個(gè)由該領(lǐng)域杰出思想家組成的總統委員會(huì )，以幫助制定國家遠景計劃。 “如果我們不盡快開(kāi)始這項工作，”基辛格寫(xiě)道，“不久后我們就會(huì )發(fā)現開(kāi)始得太晚了�！�
今年3月，一則亞馬遜Echo音箱中搭載的虛擬助手Alexa在半夜發(fā)出令人毛骨悚然的笑聲的新聞傳遍網(wǎng)絡(luò )，亞馬遜隨后立即對其程序進(jìn)行修改防止誤報。雖然知道這是由于語(yǔ)音識別的誤判，但想象一下一個(gè)機器半夜發(fā)出的怪笑依然會(huì )讓人有點(diǎn)后怕。
如果有一天，機器真的發(fā)展到了互相通信、做出超越人類(lèi)認知的決策的地步，人類(lèi)將做出怎樣的應對措施呢？
首頁(yè)