前段時(shí)間的人機(jī)大戰(zhàn)已經(jīng)淹沒(méi)在眾多的新聞中，但是，從它能夠吸引人的巨大關(guān)注這一點(diǎn)來(lái)看，人工智能是值得我們持續(xù)探討的。由伊隆·馬斯克、斯蒂芬·霍金、比爾·蓋茨、比爾·喬伊和其他名人提出的關(guān)于人工智能有失控的也危險(xiǎn)引發(fā)了人們的擔(dān)心。

OpenAl（一所生命研究所，也是機(jī)器智能研究機(jī)構(gòu)）正在試圖減少這種威脅，而今，他們?nèi)〉昧酥匾陌l(fā)展。

沒(méi)有一個(gè)正常人或是組織想要看到人工智能的失控。然而，一個(gè)基本的問(wèn)題就是沒(méi)有人知道失控的臨界點(diǎn)在哪里，因此，我們不大可能能夠阻止失控的發(fā)生。換一種說(shuō)法，我們有很大的可能性會(huì)誤判臨界點(diǎn)的所在，因此會(huì)錯(cuò)過(guò)最佳處理時(shí)機(jī)。并且就人類(lèi)本身的心理來(lái)看，很容易忽視或者低估人工智能失控的可能性。

Elon Musk提出過(guò)概念“黑天鵝事件”（指非常難以預(yù)測(cè)，且不尋常的事件，通常會(huì)引起市場(chǎng)連鎖負(fù)面反應(yīng)甚至顛覆。隱喻那些意外性事件），也是我們看到的2008年金融危機(jī)的根源。在這里，如果僅僅因?yàn)榻y(tǒng)計(jì)學(xué)上低概率趨勢(shì)或事件的，統(tǒng)計(jì)學(xué)上的不可能就會(huì)變?yōu)榭赡?。這就導(dǎo)致了另一個(gè)問(wèn)題，人的本性是傲慢的，雖然我們現(xiàn)在正在說(shuō)著做好預(yù)防性措施，但那些正在做人工智能工作人員更愿意相信人類(lèi)的控制能力。

我們遇到的敵人，其實(shí)就是我們自己

機(jī)器學(xué)習(xí)在如今風(fēng)靡一時(shí)。它的基本思想非常簡(jiǎn)單，表現(xiàn)為一個(gè)計(jì)算機(jī)系統(tǒng)有足夠多你想讓它學(xué)習(xí)的案例：比如，語(yǔ)言翻譯，面部識(shí)別。通過(guò)剔除離群值，概率統(tǒng)計(jì)會(huì)出現(xiàn)一項(xiàng)正確的結(jié)果，而這個(gè)結(jié)果將會(huì)被作為最佳匹配結(jié)果識(shí)別出來(lái)。

真實(shí)的情況遠(yuǎn)沒(méi)有這么簡(jiǎn)單，事情往往是無(wú)規(guī)律可循的，模糊不清的，比如，到目前為止，沒(méi)有計(jì)算機(jī)程序可以評(píng)估質(zhì)量和評(píng)價(jià)網(wǎng)絡(luò)內(nèi)容的可靠性，不能分辨人類(lèi)交談的細(xì)微差別。但是，當(dāng)它可以做到的時(shí)候，我們將面臨非同尋常的困境。

更加讓人恐懼的是，評(píng)估質(zhì)量和網(wǎng)絡(luò)內(nèi)容可靠性的能力還可以程序化，變?yōu)殚喿x和評(píng)估人類(lèi)全部歷史和知識(shí)的能力，而且這種評(píng)估過(guò)程是以光速進(jìn)行的。當(dāng)然，評(píng)估和理解并不是一個(gè)同義詞，評(píng)估內(nèi)容的能力需要根據(jù)人類(lèi)的行為和意圖來(lái)建立機(jī)器學(xué)習(xí)的門(mén)檻標(biāo)準(zhǔn)。比如：聲控虛擬化的輔助理解功能，舉個(gè)例子像Siri、Now、Cortana、Echo，他們的計(jì)算機(jī)程序會(huì)在第三方數(shù)據(jù)庫(kù)中搜尋基本的匹配信息。當(dāng)然，機(jī)器學(xué)習(xí)是在后臺(tái)工作的。它的學(xué)習(xí)進(jìn)程不僅僅是建立人們交談的細(xì)微差別的標(biāo)準(zhǔn)，還要識(shí)別出花招，騙局和謊言等的不同方面。

考慮到人工智能的發(fā)展，新的AI防御組織和程序員們認(rèn)為，他們可以想辦法使人工智能短路，或是設(shè)置一些故障保護(hù)程序以防人工智能對(duì)我們有些負(fù)面的看法 。這是在最好的情況下的一個(gè)很高的要求，因?yàn)檫@需要前所未有的準(zhǔn)確性，如果做不到，就會(huì)出現(xiàn)錯(cuò)誤。

隨意給出一個(gè)范圍，人工智能的全部的變量和排列組合都可以被代碼捕捉到，代碼是不會(huì)騙人的，但是，只要看看我們?cè)跀?shù)千年的努力之后如今對(duì)宗教和法律文件仍有不同的解讀就知道了，人類(lèi)是沒(méi)有辦法去衡量那些從道德和倫理上理解是相互矛盾的事物。類(lèi)似的，也沒(méi)有一個(gè)寫(xiě)好的程序代碼，不會(huì)被黑客攻擊和復(fù)制，這就很有可能會(huì)導(dǎo)致競(jìng)爭(zhēng)（像我們見(jiàn)到的高頻次的交易一樣的應(yīng)用程序之間的競(jìng)爭(zhēng)）。

還有一個(gè)方法就是，也是最好的辦法，我們給人工智能洗腦，一開(kāi)始就寫(xiě)好這方面的程序。因此，最少可以看到，我們想要的就是人工智能不會(huì)對(duì)抗我們的工作。但是，鑒于生物捕獵者或者捕獵的本性，生物化學(xué)和情緒驅(qū)動(dòng)，作為文明的人類(lèi)社會(huì)，我們學(xué)會(huì)了懷疑“對(duì)立的事物”和權(quán)威（即使懷疑是一件永遠(yuǎn)做不完的事情），所以這種對(duì)抗我們認(rèn)為還是會(huì)發(fā)生的。

狹路相逢，非黑即白。

新的抵御人工智能組織開(kāi)發(fā)了許多有價(jià)值的策略。一個(gè)就是設(shè)計(jì)多個(gè)不同的系統(tǒng)來(lái)糾正潛在的隱患，這種隱患可以在人工智能系統(tǒng)程序化之前被糾正過(guò)來(lái)。另一件就是開(kāi)發(fā)先發(fā)制人的故障保護(hù)機(jī)制。再有就是可能開(kāi)發(fā)檢查機(jī)制，在人工智能的系統(tǒng)競(jìng)爭(zhēng)中尋求平衡方案。這些都是一些好想法，但是最難的往往存在在細(xì)節(jié)中。

雖然不同的系統(tǒng)設(shè)計(jì)會(huì)發(fā)現(xiàn)一些缺陷，但發(fā)現(xiàn)他們所有的可能性暗示了未來(lái)的知識(shí)會(huì)達(dá)到前所未有的水平，可能會(huì)創(chuàng)造無(wú)限的場(chǎng)景。故障保險(xiǎn)和電路短路聽(tīng)起來(lái)是不錯(cuò)的主意?，F(xiàn)在的問(wèn)題在于，當(dāng)我們正在利用一個(gè)人工智能的時(shí)候，人工智能可以同時(shí)識(shí)別進(jìn)攻或是防御策略的騙局。

戰(zhàn)爭(zhēng)是政治在某種形式上的延續(xù)

在冷戰(zhàn)期間，美國(guó)和蘇維埃政府提出來(lái)一個(gè)禁止使用“攻擊型”生化武器的協(xié)議。然而，在冷戰(zhàn)過(guò)后，我們發(fā)現(xiàn)，蘇維埃政府正在發(fā)展炭疽熱武器（這個(gè)武器是設(shè)計(jì)有致命性的微生物來(lái)組織有效反抗）。與此同時(shí)，美國(guó)及其同盟國(guó)也在制造你“攻擊型”生化武器，這個(gè)武器試圖在“攻擊性”武器中植入洞察力（不能否定的是這是科學(xué)上的一小步）。因此，雙方都不能遵守協(xié)議精神，生化武器的發(fā)展永遠(yuǎn)不會(huì)慢下來(lái)。

與此相似，斯諾登事件（又稱(chēng)棱鏡計(jì)劃，是一項(xiàng)由美國(guó)國(guó)家安全局（NSA）實(shí)施的絕密電子監(jiān)聽(tīng)計(jì)劃，內(nèi)容是要求電信巨頭威瑞森公司必須每天上交數(shù)百萬(wàn)用戶(hù)的通話記錄）的啟示之一就是國(guó)家安全局如何操控和弱化了南非共和國(guó)的密碼使用標(biāo)準(zhǔn)，這個(gè)標(biāo)準(zhǔn)是由美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究所發(fā)行建立。換言之，這是一個(gè)政府故意隱瞞和欺騙不同機(jī)構(gòu)的安全性能水平的案例，政府這樣做的目的是方便國(guó)家安全局可以秘密的監(jiān)聽(tīng)他們。

最后，美國(guó)和以色列的政府創(chuàng)造了一個(gè)非凡的復(fù)雜的網(wǎng)絡(luò)武器，叫做震網(wǎng)，用來(lái)攻擊伊朗核武器。這個(gè)攻擊起了作用。但，即使有了卓越的設(shè)計(jì)，操控者依然忽略了在他們?cè)O(shè)計(jì)的代碼中加入一個(gè)重要的細(xì)節(jié)。也就是說(shuō)，每一個(gè)政府和惡意黑客在互聯(lián)網(wǎng)上都能夠復(fù)制和學(xué)習(xí)它的尖端的惡意軟件技術(shù)，以便政府在全球的網(wǎng)絡(luò)軍備競(jìng)賽中加大賭注和勝算率。比賽可以繼續(xù)，但你已經(jīng)掌握到了要點(diǎn)。

盜亦無(wú)道

沒(méi)有理由認(rèn)為這些用心良苦的新的預(yù)防性AI組織對(duì)減輕潛在的威脅多么成功，世界各地的政府和軍事組織將通過(guò)同樣的規(guī)則參與到未來(lái)各項(xiàng)規(guī)則的制定中。相反，正如所有的歷史告訴我們，他們會(huì)彎曲或破壞規(guī)則，他們宣稱(chēng)為達(dá)目的可以適當(dāng)?shù)牟粨袷侄巍?nbsp; 這就是典型的現(xiàn)實(shí)政治 。他們認(rèn)為如果我們不這樣做，我們（這些政客亦或者是政府們）就輸了。

當(dāng)然，這些政府或軍事組織不能預(yù)料他們的AI系統(tǒng)將超出他們的控制。

被騙一次，其錯(cuò)在人；被騙兩次，其錯(cuò)在己

撇開(kāi)本文討論的基本評(píng)價(jià)和理解的問(wèn)題，我們轉(zhuǎn)向臨界點(diǎn)的討論。AI將具有自我意識(shí)，且經(jīng)歷一次相比于將人類(lèi)與其他靈長(zhǎng)類(lèi)動(dòng)物媲美的“智能爆炸”。

核心問(wèn)題不在于我們沒(méi)有看到威脅。相反，真正的問(wèn)題在傲慢的人性和機(jī)構(gòu)中。按照E.O.威爾遜的觀點(diǎn)，人類(lèi)的真正的問(wèn)題是我們有舊石器時(shí)代的感情，中世紀(jì)的機(jī)構(gòu)和神一樣的技術(shù)。

因此，短期很快創(chuàng)造真實(shí)的、更加真正民主的21世紀(jì)的機(jī)構(gòu)這種事情我們還是采用哲學(xué)態(tài)度來(lái)看待會(huì)比較好?；蛘呶覀兛梢赃@么打比方：人工智能就像我們的孩子，不管他是好還是壞，他們都將帶著我們的遺留的財(cái)富前進(jìn) ，超越恒星直到永恒。