第十二章
鮑勃的故事：機(jī)器人和未來風(fēng)險(xiǎn)

AI是什么
計(jì)算機(jī)說不�！�—卡蘿爾·比爾
關(guān)于AI的文章已經(jīng)有很多，這里沒有必要重復(fù)介紹。我強(qiáng)烈推薦斯圖爾特·羅素的《AI新生：破解人機(jī)共存密碼——人類*后一個(gè)大問題》這本書。但我想闡述一下我的立場(chǎng)，所以請(qǐng)耐心聽我說。AI背后的理念是計(jì)算機(jī)通過了解世界的種種來獨(dú)立決策。它能做像玩游戲一樣簡(jiǎn)單的事情，也能完成像開車一樣復(fù)雜的事情，它甚至可以監(jiān)管金融體系。對(duì)AI進(jìn)行描述并不簡(jiǎn)單，甚至連專家也無法達(dá)成共識(shí)。先從機(jī)器學(xué)習(xí)開始說，機(jī)器學(xué)習(xí)是一種計(jì)算機(jī)算法，使用可用數(shù)據(jù)來了解產(chǎn)生這些數(shù)據(jù)的世界。這種算法研究所有規(guī)律和復(fù)雜的因果關(guān)系。神奇的是，它可以在沒有人為干預(yù)的情況下做到這一點(diǎn)，即無監(jiān)督學(xué)習(xí)。這與我們通常從事科學(xué)研究的方式不同。一般的做法是，我們首先對(duì)世界運(yùn)行的可能方式提出一些想法（某種理論），然后看看數(shù)據(jù)是否與該理論相容。
一家超市可以用機(jī)器學(xué)習(xí)算法來確定店內(nèi)銷售可口可樂的*佳位置，以實(shí)現(xiàn)銷量*大化。數(shù)據(jù)科學(xué)家通常需要收集可口可樂的銷量、天氣和人口統(tǒng)計(jì)等歷史數(shù)據(jù)。他用機(jī)器學(xué)習(xí)算法處理這些數(shù)據(jù)，然后告知超市貨架上銷售可口可樂的*佳位置。這將涉及大量的數(shù)據(jù)。對(duì)于像沃爾瑪這樣的連鎖零售商來說，這通常意味著千萬億條數(shù)據(jù)，即所謂的大數(shù)據(jù)。*關(guān)鍵的是，機(jī)器學(xué)習(xí)算法不需要了解關(guān)于可口可樂或超市的任何信息，而只需要獲取銷售相關(guān)數(shù)據(jù)并發(fā)現(xiàn)規(guī)律即可。
但天下沒有免費(fèi)的午餐，有得就有失。機(jī)器學(xué)習(xí)需要大量的數(shù)據(jù)，遠(yuǎn)遠(yuǎn)超過大多數(shù)統(tǒng)計(jì)應(yīng)用所需要的。它需要大數(shù)據(jù)，因?yàn)樗鼘?duì)世界一無所知，所以必須從數(shù)據(jù)中學(xué)習(xí)一切。相比之下，人類了解世界，可以用先前掌握的信息，包括文化、經(jīng)濟(jì)、歷史等來解決問題，因此需要的數(shù)據(jù)要少得多。我們了解理論，所以小數(shù)據(jù)集就可以滿足傳統(tǒng)統(tǒng)計(jì)工具的需求。
機(jī)器學(xué)習(xí)為的是從數(shù)據(jù)集中提取信息，而AI的目標(biāo)是基于這些數(shù)據(jù)做出決策。如今，AI已經(jīng)被用來做很多決定。在21世紀(jì)初的一部英國喜劇《小不列顛》中，有一幕反復(fù)出現(xiàn)——銀行信貸職員卡蘿爾·比爾每次面對(duì)客戶的問詢，他都在電腦上打字，然后回答：“計(jì)算機(jī)說不。”即使是對(duì)*合理的要求也是如此。
不過，AI這個(gè)詞有點(diǎn)用詞不當(dāng)。當(dāng)下AI的智能和人類的聰明不一樣。它只知道很多假設(shè)性的指令。比如，如果交通信號(hào)燈紅燈閃爍，司機(jī)就停下來；如果綠燈閃爍，司機(jī)就看看交通狀況再走。AI在某種程度上想要復(fù)制人類的大腦。人類大腦平均有860億個(gè)神經(jīng)元，它們通過突觸相互連接，形成神經(jīng)網(wǎng)絡(luò)。理論上，一臺(tái)擁有足夠多人工神經(jīng)元的計(jì)算機(jī)，若以同樣的方式連接起來，就可以變得智能。但我們還沒到那個(gè)階段。現(xiàn)在AI的智能還只停留在普通昆蟲的水平，比如蟑螂。它們是較聰明的昆蟲之一，能夠?qū)W習(xí)和適應(yīng)環(huán)境，甚至還被認(rèn)為是唯一一種能在核戰(zhàn)爭(zhēng)中幸存的動(dòng)物。它們不是*具社會(huì)性的動(dòng)物，但確實(shí)表現(xiàn)出復(fù)雜的社會(huì)行為。AI還沒有趕上蟑螂。用理論物理學(xué)家加來道雄的話來說，“目前，我們*先進(jìn)的機(jī)器人加起來的智能和智慧與一只蟑螂相當(dāng)，還是大腦遲鈍的蟑螂，一只被切除額葉的智障蟑螂”。1
以英特爾聯(lián)合創(chuàng)始人戈登·摩爾的名字命名的摩爾定律指出，一個(gè)芯片中的晶體管數(shù)量每18個(gè)月會(huì)翻一番。這個(gè)定律有用嗎？與我辯論的那位技術(shù)愛好者所提倡的就是這個(gè)定律。我讀博士時(shí)，曾在一臺(tái)2 700萬美元的Cray Y-MP超級(jí)計(jì)算機(jī)上運(yùn)行過計(jì)算機(jī)代碼。當(dāng)時(shí)我們要排隊(duì)使用這臺(tái)計(jì)算機(jī)，一個(gè)經(jīng)濟(jì)學(xué)博士生的需求也得不到優(yōu)先滿足。但我了解到周日排隊(duì)的人不多，所以我周日早上4點(diǎn)起床去辦公室，就可以獨(dú)享這臺(tái)計(jì)算機(jī)一段時(shí)間了。我經(jīng)常這樣做。我*近在巴黎的時(shí)候，在科學(xué)博物館看到了一臺(tái)Cray Y-MP超級(jí)計(jì)算機(jī)。我口袋里蘋果手機(jī)的運(yùn)行速度是這臺(tái)計(jì)算機(jī)的很多倍。從我出生前到現(xiàn)在，計(jì)算速度一直呈指數(shù)級(jí)增長(zhǎng)，而且沒有放緩的跡象。
摩爾定律能幫助AI趕上人類智力嗎?簡(jiǎn)短的回答是否定的。摩爾定律是有關(guān)計(jì)算速度的增長(zhǎng)，但AI追趕人類的問題不在于速度，而在于概念。不管計(jì)算機(jī)有多快，現(xiàn)在的AI算法的質(zhì)量根本無法幫助我們走得很遠(yuǎn)。然而，突破可能會(huì)在一夜之間發(fā)生，有人可能已經(jīng)想出了一種全新的算法，讓AI超越人類。但這一切可能永遠(yuǎn)也不會(huì)發(fā)生。
專家稱這種可能性為技術(shù)奇點(diǎn)，一些人認(rèn)為這并不遙遠(yuǎn)。谷歌的工程總監(jiān)雷·庫茲韋爾表示：“2029年是我一直預(yù)測(cè)的年份，屆時(shí)AI將通過有效的圖靈測(cè)試，從而達(dá)到人類的智能水平。我把2045年定為‘奇點(diǎn)’年份，到那時(shí)，通過與我們創(chuàng)造的智能相結(jié)合，我們的有效智能可以實(shí)現(xiàn)10億倍的增長(zhǎng)�！�
然而，我們并不需要到達(dá)奇點(diǎn)才能讓AI發(fā)揮作用。AI不需要達(dá)到人類智能的水平，甚至不需要蟑螂或螞蟻智能的水平才能有用。問題越具體，AI的表現(xiàn)就越好。所以，AI擅長(zhǎng)玩規(guī)則已知且目標(biāo)明確的游戲。*近一個(gè)著名的AI應(yīng)用是谷歌的阿爾法元，它只接受了關(guān)于圍棋游戲規(guī)則的指導(dǎo)，就能在三天的時(shí)間里學(xué)會(huì)如何戰(zhàn)勝它的前身阿爾法狗，后者早些時(shí)候擊敗了圍棋世界冠軍。
擅長(zhǎng)玩復(fù)雜的游戲就意味著擅長(zhǎng)做其他事情嗎？很多人都這么認(rèn)為。蘇聯(lián)人很尊敬本國的棋手，認(rèn)為如果一個(gè)人能夠掌握國際象棋的復(fù)雜策略，就應(yīng)該能夠管理中央計(jì)劃經(jīng)濟(jì)或在戰(zhàn)爭(zhēng)中取勝。列寧是一個(gè)厲害的棋手，斯大林更是如此。然而，擅長(zhǎng)下棋的AI更像一個(gè)白癡神童，就像電影《雨人》中的主角一樣。擅長(zhǎng)下棋并不能說明它是否有做其他事情的能力，比如監(jiān)管金融體系或駕駛汽車。在像國際象棋這樣的游戲中，玩家可以采取的行動(dòng)數(shù)量事先是確定的，并且所有關(guān)于游戲狀態(tài)的信息對(duì)玩家來說都是可見的。用博弈論的語言來說：信息是完整的，行動(dòng)空間是有限的。
這也是AI可以（在一定程度上）駕駛汽車的原因：有很多信息可供AI學(xué)習(xí)，規(guī)則易于理解而且不會(huì)有太大變化。即便如此，AI也只能在高速公路上行駛，而且天氣不能太糟糕。AI是不可能在城市里開車的，更不用說在大雪天所有交通標(biāo)志都看不清楚的時(shí)候駕駛。也許對(duì)駕駛汽車的AI來說，*大的挑戰(zhàn)是人類。人類是不可預(yù)測(cè)的，我們的行為方式可能會(huì)讓自動(dòng)駕駛汽車感到不安。所以，一些AI設(shè)計(jì)師提議對(duì)人類行為進(jìn)行重新規(guī)范。3
當(dāng)AI面對(duì)的不再是棋盤游戲和高速公路駕駛這樣具體的任務(wù)時(shí)，它的表現(xiàn)就會(huì)變差。它不擅長(zhǎng)玩那些信息不完整、行動(dòng)空間不明確的游戲。我認(rèn)為它不會(huì)在我*喜歡的游戲《外交》中有很好的表現(xiàn)。我曾經(jīng)和幾個(gè)朋友在網(wǎng)上玩《外交》，其中一位是政客。他毫不費(fèi)力地?fù)魯×宋覀儯�表現(xiàn)出其他選手所沒有的狡猾和策略。我覺得人工智能在短時(shí)間內(nèi)不可能打敗他。如果規(guī)則在游戲過程中發(fā)生變化，那么AI面臨的挑戰(zhàn)就更大了，但大多數(shù)人類活動(dòng)都會(huì)出現(xiàn)規(guī)則的變化。
我自己有一個(gè)檢驗(yàn)機(jī)器人和AI的測(cè)試。我可以付給一個(gè)從未來過我家的人100美元來幫我洗衣服。他來到我的大學(xué)辦公室，我給他錢、鑰匙和我家地址。他找到我家，進(jìn)去找到我的洗衣籃和洗衣機(jī)，弄清楚如何操作機(jī)器，在哪里可以找到洗滌劑。他洗好衣服，放進(jìn)衣柜，離開，把鑰匙從我家門上塞郵件的縫里塞進(jìn)去。在做這一切的過程中，他都不需要任何解釋或指示。這種技術(shù)存在的時(shí)間比我的年齡還長(zhǎng)。要是AI有一天可以做到這一點(diǎn)，那我將相當(dāng)欽佩。
英格蘭銀行的機(jī)器人：鮑勃
幾年前，英格蘭銀行首席經(jīng)濟(jì)學(xué)家安迪·霍爾丹設(shè)想了一種控制金融體系的新方法，監(jiān)管者將“近乎實(shí)時(shí)地（想象一下他們坐在《星際迷航》中的椅子上，使用一組監(jiān)視器）跟蹤全球資金流動(dòng)，就像監(jiān)控全球天氣系統(tǒng)和全球互聯(lián)網(wǎng)流量一樣。他們關(guān)注的是全球金融流動(dòng)圖”。4我們就把這個(gè)監(jiān)管者稱為鮑勃，全稱英格蘭銀行機(jī)器人（見圖12-1）。鮑勃是監(jiān)管英國金融體系的未來AI。鮑勃將收集所有的數(shù)據(jù)和人類行為，并用它們來識(shí)別所有的突發(fā)事件，識(shí)別脆弱性、低效和系統(tǒng)性風(fēng)險(xiǎn)。進(jìn)一步假設(shè)，其他主要金融中心也開發(fā)了自己版本的鮑勃，比如弗蘭和伊迪斯，而且所有AI都展開友好合作。各個(gè)金融機(jī)構(gòu)也將有自己的AI，比如格斯、瑪麗和貝蒂等。這是一個(gè)注定要失敗的不切實(shí)的未來愿景，就像20世紀(jì)70年代的飛行汽車一樣嗎？不。雖然鮑勃和它的其他AI朋友還不存在，但是創(chuàng)造它們的技術(shù)已經(jīng)存在了，大部分都存在了，我們?nèi)狈Φ闹皇且庠浮?br /> 微觀審慎監(jiān)管機(jī)構(gòu)已有機(jī)器人監(jiān)管者。監(jiān)管科技（RegTech）——其英文為監(jiān)管（Regulation）和技術(shù)（Technology）兩個(gè)單詞的縮寫——成了備受關(guān)注的流行詞。其主要支持者英國金融行為監(jiān)管局將監(jiān)管科技定義為“使用新技術(shù)來促進(jìn)監(jiān)管要求的實(shí)施”。在過去的幾年里，我參與了英國金融行為監(jiān)管局、我所在的研究中心和其他感興趣的各方進(jìn)行的一個(gè)聯(lián)合監(jiān)管科技研究項(xiàng)目。
一切從規(guī)則手冊(cè)開始。如果把所有監(jiān)管規(guī)則和法規(guī)打印出來，打印出來的紙張會(huì)有兩米高。英國金融行為監(jiān)管局已將規(guī)則輸入AI引擎，以檢查規(guī)則是否存在矛盾之處，并提供更快、更好的建議。與英國金融行為監(jiān)管局機(jī)器人通信的金融機(jī)構(gòu)發(fā)現(xiàn)，它的回答比人類同事好得多。AI也正在徹底改變銀行的風(fēng)險(xiǎn)管理。建立風(fēng)險(xiǎn)管理AI的第一步是開發(fā)和管理風(fēng)險(xiǎn)測(cè)量方法，這對(duì)AI來說是一項(xiàng)簡(jiǎn)單的任務(wù)。它可以快速學(xué)習(xí)所有已批準(zhǔn)的模型，數(shù)據(jù)可以很容易獲得，并且設(shè)計(jì)風(fēng)險(xiǎn)測(cè)量方法也很容易。如今，許多金融機(jī)構(gòu)的AI引擎正是這樣做的。然后，AI需要了解一家銀行的所有投資，以及做出這些投資的個(gè)人。這樣，我們就有了一個(gè)可以正常運(yùn)行的風(fēng)險(xiǎn)管理AI。必要的信息已經(jīng)儲(chǔ)存在銀行的信息技術(shù)基礎(chǔ)設(shè)施中，風(fēng)險(xiǎn)管理過程中也不存在不可逾越的技術(shù)障礙。如果有，就使用阿拉丁系統(tǒng)或風(fēng)險(xiǎn)計(jì)量系統(tǒng)來克服。這樣做將節(jié)省巨大的成本。銀行可以用AI取代大多數(shù)風(fēng)險(xiǎn)建模師、風(fēng)險(xiǎn)經(jīng)理和合規(guī)官。技術(shù)已經(jīng)存在了，剩下要做的就是將銀行的高層目標(biāo)告知AI。然后，AI就可以自動(dòng)管理風(fēng)險(xiǎn)，建議誰被解雇或獲得獎(jiǎng)金，并就如何投資提出建議。
風(fēng)險(xiǎn)管理和微觀審慎監(jiān)管是AI的理想用途——利用大量結(jié)構(gòu)化數(shù)據(jù)確保明確的規(guī)則和流程得到遵守。它們可以接觸到有關(guān)人類行為的監(jiān)測(cè)數(shù)據(jù)，得到精確的高層目標(biāo)的指導(dǎo)，并產(chǎn)生可以直接觀察到的結(jié)果。就像玩游戲的應(yīng)用場(chǎng)景一樣，監(jiān)管場(chǎng)景中的信息大多是完整的，而行動(dòng)空間是有限的。雖然還有一定差距，但技術(shù)進(jìn)步的軌跡讓我們深信AI有一天可以完全實(shí)現(xiàn)當(dāng)前的許多功能。我們面臨的主要障礙不是技術(shù)，而是在法律、政治和社會(huì)方面的考慮。
但是宏觀審慎監(jiān)管是一個(gè)不同領(lǐng)域的問題，因?yàn)锳I在該領(lǐng)域?qū)崿F(xiàn)良好表現(xiàn)的所有先決條件都不存在。數(shù)據(jù)是稀缺的，宏觀審慎監(jiān)管涉及的事件大多是獨(dú)特且偶發(fā)的。畢竟，經(jīng)合組織成員平均每43年才會(huì)遭遇一次系統(tǒng)性危機(jī)，所以可供AI訓(xùn)練的數(shù)據(jù)很少。更糟糕的是，監(jiān)管當(dāng)局和私人機(jī)構(gòu)從過去的危機(jī)中吸取教訓(xùn)，往往不會(huì)重復(fù)犯錯(cuò)，但是會(huì)制造出新的錯(cuò)誤，使AI無法應(yīng)對(duì)。在*近的一篇論文《人工智能和系統(tǒng)性風(fēng)險(xiǎn)》（本章其余部分基于該研究）中，我與兩位合作者羅伯特·麥克雷和安德烈亞斯·烏特曼一起研究了AI執(zhí)行宏觀審慎政策所面臨的主要問題。我們認(rèn)為有四個(gè)方面需要特別關(guān)注：順周期性、未知的未知因素、缺乏信任，以及反系統(tǒng)的優(yōu)化。
銀行業(yè)本質(zhì)上是順周期的。銀行在經(jīng)濟(jì)景氣時(shí)自由放貸，刺激了繁榮；而當(dāng)形勢(shì)惡化時(shí)，它們反過來又收縮放貸，導(dǎo)致信貸緊縮。現(xiàn)代金融法規(guī)和風(fēng)險(xiǎn)管理實(shí)踐對(duì)風(fēng)險(xiǎn)計(jì)量?jī)x和風(fēng)險(xiǎn)儀表盤的依賴，進(jìn)一步加劇了順周期性。風(fēng)險(xiǎn)計(jì)量?jī)x查看近期的歷史價(jià)格數(shù)據(jù)，如果數(shù)據(jù)看起來穩(wěn)定，那么風(fēng)險(xiǎn)計(jì)量?jī)x的風(fēng)險(xiǎn)讀數(shù)就低。問題在于，價(jià)格數(shù)據(jù)在上漲時(shí)往往比在下跌時(shí)更穩(wěn)定，任何回顧式的、數(shù)據(jù)驅(qū)動(dòng)的過程，包括AI背后的機(jī)器學(xué)習(xí)過程，都將認(rèn)為在市場(chǎng)平靜時(shí)期風(fēng)險(xiǎn)較低，在危機(jī)之后較高，所以測(cè)量風(fēng)險(xiǎn)過程本身就是順周期的。我們對(duì)風(fēng)險(xiǎn)計(jì)量?jī)x輸出結(jié)果的使用也是順周期的。這些結(jié)果會(huì)影響風(fēng)險(xiǎn)控制系統(tǒng)和監(jiān)管，因此那些負(fù)責(zé)風(fēng)險(xiǎn)投資決策的業(yè)務(wù)經(jīng)理、信貸員及交易員也會(huì)放大金融周期。當(dāng)然，這并非源于AI本身的問題。但我認(rèn)為，由于AI以特殊的方式與風(fēng)險(xiǎn)測(cè)量和管理產(chǎn)生相互作用，這個(gè)問題變得更加嚴(yán)重。
金融機(jī)構(gòu)和監(jiān)管機(jī)構(gòu)的AI引擎都可以使用相同的數(shù)據(jù)和機(jī)器學(xué)習(xí)技術(shù)，都擁有重要的計(jì)算資源。各種AI引擎將不可避免地以比人類風(fēng)險(xiǎn)建模者更快的速度選擇同一個(gè)風(fēng)險(xiǎn)計(jì)量?jī)x，從而實(shí)現(xiàn)知識(shí)的統(tǒng)一。AI還將統(tǒng)一行動(dòng)，協(xié)調(diào)金融機(jī)構(gòu)對(duì)新信息的反應(yīng)。它比人類更能理解*佳實(shí)踐，知道應(yīng)該做什么，不該做什么。AI將推動(dòng)銀行以同樣的方式管理風(fēng)險(xiǎn)。所有這些都是順周期的，因?yàn)樗鼈兣c銀行的客觀功能相互作用，在已有限制下實(shí)現(xiàn)利潤*大化。各家銀行獲得的信息越相似，它們的解決方案就越接近。這意味著出現(xiàn)擁擠交易，金融周期被放大。歸根結(jié)底，AI之所以具有順周期屬性，是因?yàn)樗鼉A向于單一栽培。由于AI比人類風(fēng)險(xiǎn)管理人員擁有更多的信息，因此從整個(gè)行業(yè)來看，它推薦的解決方案會(huì)變得越來越相似。但即便如此，如果沒有所有外部約束（*重要的是監(jiān)管法規(guī)），AI也不一定是順周期的。監(jiān)管法規(guī)和AI之間的相互反饋，是單一栽培和系統(tǒng)性風(fēng)險(xiǎn)*危險(xiǎn)的驅(qū)動(dòng)因素。
如果我們要求AI管理金融穩(wěn)定，那它會(huì)去哪里尋找危險(xiǎn)？從事后來看，2008年金融危機(jī)有很多預(yù)警信號(hào)，許多人批評(píng)人類監(jiān)管者錯(cuò)過了所有這些信號(hào)。AI能做得更好嗎？不太可能。對(duì)于基于次級(jí)抵押貸款開發(fā)結(jié)構(gòu)性信貸產(chǎn)品并為其提供隱形流動(dòng)性擔(dān)保的做法，如果沒有對(duì)其在多個(gè)行政轄區(qū)、不同類別機(jī)構(gòu)和國家產(chǎn)生的后果進(jìn)行觀察和總結(jié)，那么AI就無法進(jìn)行學(xué)習(xí)�？梢韵胂螅�在2008年，一個(gè)設(shè)計(jì)良好的AI引擎可能已經(jīng)注意到房?jī)r(jià)、抵押貸款違約和違約相關(guān)性（決定CDOs價(jià)格的幾個(gè)因素）之間的聯(lián)系。它還可能意識(shí)到流動(dòng)性蒸發(fā)時(shí)結(jié)構(gòu)性信貸產(chǎn)品的脆弱性。但是，即使AI識(shí)別出了每一個(gè)單獨(dú)的元素，它將所有元素組合在一起的可能性也相當(dāng)?shù)�，而這是發(fā)現(xiàn)體系的一系列脆弱性所必需的。這對(duì)AI、銀行和各國金融當(dāng)局都提出了很高的要求，各國金融當(dāng)局必須允許數(shù)據(jù)驅(qū)動(dòng)式的國際監(jiān)管深度介入各國的數(shù)據(jù)和監(jiān)管中。
能否成功發(fā)現(xiàn)金融體系中的系統(tǒng)性風(fēng)險(xiǎn)，取決于脆弱性在哪里。有充分經(jīng)濟(jì)理論支撐的日常因素會(huì)驅(qū)動(dòng)金融危機(jī)出現(xiàn)。然而，每個(gè)危機(jī)事件的底層細(xì)節(jié)通常都是獨(dú)特的。每次危機(jī)過后，監(jiān)管者和金融機(jī)構(gòu)都會(huì)吸取教訓(xùn)，調(diào)整流程，避免再犯同樣的錯(cuò)誤。