所謂科技思維不是能讀懂多少新興科技名詞,而是能夠?qū)萍歼M(jìn)行立體的思考與辨識(shí)。
智能機(jī)器將會(huì)造成越來(lái)越多的人失業(yè)?
為什么有科學(xué)家說(shuō)第1臺(tái)超智能機(jī)器將是人類的最后一項(xiàng)發(fā)明?
我們談?wù)摗稗D(zhuǎn)基因”時(shí),為什么專家和大眾不在一個(gè)頻道上?
我們是否應(yīng)該將決策權(quán)交給機(jī)器?
如何監(jiān)控許少數(shù)團(tuán)體發(fā)起的可能危及所有人的研究?
3D打印帶來(lái)便利的同時(shí)潛在的社會(huì)風(fēng)險(xiǎn)是什么?
如何制訂機(jī)器人的道德準(zhǔn)則?
當(dāng)我們談起科技時(shí),我們應(yīng)如何思考?
我們生活在技術(shù)潛力超乎尋常的年代。從納米技術(shù)到合成有機(jī)物,新技術(shù)帶給人類翻天覆地的變化。技術(shù)的潛力令人驚嘆也令人畏懼。無(wú)人機(jī)和新的智能手機(jī)一樣可能輕而易舉引爆炸彈,3D打印既可以制作工具也可以制作槍支。超級(jí)計(jì)算機(jī)能輕松管理個(gè)人檔案也能易如反掌導(dǎo)致華爾街崩潰。
但是新技術(shù)無(wú)法回答如何解決這些技術(shù)所引發(fā)的道德問(wèn)題和投資風(fēng)險(xiǎn)。作為未來(lái)科技領(lǐng)域 的道德和倫理研究者,瓦拉赫在《科技失控》一書中,探討了作為技術(shù)的發(fā)明生產(chǎn)者和消費(fèi)者如何應(yīng)對(duì)飛速的技術(shù)發(fā)展所帶來(lái)的道德模糊問(wèn)題。
毫無(wú)疑問(wèn),科學(xué)研究和創(chuàng)新是希望和生產(chǎn)力的源泉,但正如瓦拉赫所言,技術(shù)的不斷發(fā)展可能逐漸成為一股脫離人類控制的強(qiáng)大力量。某些人、機(jī)構(gòu)或是某些價(jià)值觀反對(duì)對(duì)新興技術(shù)比如自動(dòng)化機(jī)器人或是要求進(jìn)行有意義的監(jiān)管,《科技失控》對(duì)這些情況進(jìn)行了深入分析,提出了如何掌控技術(shù),重掌人類命運(yùn)的建議。
讀懂科技將帶來(lái)什么,我們才能更好地掌控自己的未來(lái)!
第一章?誰(shuí)真正掌控我們的未來(lái)
技術(shù)風(fēng)暴
轉(zhuǎn)折點(diǎn)
航向修正
必然、不安和沉默
進(jìn)攻計(jì)劃
第二章?預(yù)測(cè)
難以預(yù)知的危機(jī)
對(duì)未知的恐懼
第三章?越來(lái)越復(fù)雜
復(fù)雜系統(tǒng)和混沌系統(tǒng)
復(fù)雜意味著更容易出問(wèn)題
復(fù)雜的技術(shù)系統(tǒng)
復(fù)雜建模能否解決問(wèn)題
全力應(yīng)對(duì)不確定性
人體是一個(gè)復(fù)雜系統(tǒng)
無(wú)法預(yù)測(cè)的命運(yùn)
第四章?變化的速度
3D打印
互聯(lián)網(wǎng)前和互聯(lián)網(wǎng)后
加速、智慧以及奇點(diǎn)
技術(shù)發(fā)展的失控
我們是否有能力控制
技術(shù)變化的獲益和風(fēng)險(xiǎn)
第五章?權(quán)衡
DDT和氟利昂
納米技術(shù)
環(huán)境風(fēng)險(xiǎn):合成石油和水力壓裂
核電和能源
第六章?生物工程和轉(zhuǎn)基因
基因?qū)W簡(jiǎn)史
自上而下和自下而上
基因科技的前沿
人獸雜交
黃金大米事件
第七章?掌控人類基因
設(shè)計(jì)人類?
基因與環(huán)境
個(gè)性化藥物
從試管嬰兒到設(shè)計(jì)嬰兒
基因研究的轉(zhuǎn)折點(diǎn)
第八章?超越生命極限
超級(jí)人類
假如可以長(zhǎng)生不老
有智慧的機(jī)器
第九章?半機(jī)器人和技術(shù)智人
關(guān)于未來(lái)的戰(zhàn)爭(zhēng)
關(guān)于增能之爭(zhēng)
我們身邊的半機(jī)器人
符合倫理的研究
認(rèn)知增能
第十章?病態(tài)的人性
用藥物提升道德?
生物化和機(jī)械化
修復(fù)設(shè)計(jì)缺陷
透過(guò)黑暗的玻璃
第十一章?超級(jí)武器與技術(shù)風(fēng)暴
如果我們不采取行動(dòng),他們會(huì)的
保健廣告的荒謬
我們還有多少時(shí)間
第十二章?終止終結(jié)者
自動(dòng)駕駛汽車和責(zé)任
服務(wù)型機(jī)器人
計(jì)算法決定生死
未來(lái)戰(zhàn)爭(zhēng)的紅線
電腦無(wú)處不在
第十三章?工程災(zāi)難
絕育和抑制
為責(zé)任設(shè)計(jì)
道德機(jī)器
彈性系統(tǒng)
第十四章?社會(huì)應(yīng)變落后于技術(shù)發(fā)展
社會(huì)和技術(shù)的節(jié)奏問(wèn)題
胡蘿卜加大棒
執(zhí)行中的挑戰(zhàn)
第十五章?我們的未來(lái)
人類可掌握的節(jié)奏
智能機(jī)器將是人類的最后一項(xiàng)發(fā)明?
計(jì)算機(jī)的處理能力隨著時(shí)間推移大幅提升。某些理論認(rèn)為這是技術(shù)發(fā)展整體加速的其中一個(gè)表現(xiàn),并將不可避免地帶來(lái)人類命運(yùn)的激進(jìn)變化。按照這種觀點(diǎn),人類似乎朝著一個(gè)轉(zhuǎn)折點(diǎn)前進(jìn),未來(lái)要么屬于機(jī)器或超人類或是整個(gè)加速過(guò)程因不可持續(xù)而崩潰。不管是哪種結(jié)果都是災(zāi)難性的。至少這樣的一個(gè)轉(zhuǎn)折點(diǎn)是破壞性的;蛟S有可能正如很多預(yù)言師所相信的那樣,造成未來(lái)世界與過(guò)去的一切完全沒(méi)有連貫性。
摩爾定律和智慧爆炸這兩種理論是目前老生常談的一種看法的核心所在,即認(rèn)為科學(xué)發(fā)現(xiàn)的速度在不斷加快,并將走向一個(gè)徹底改變世界的轉(zhuǎn)折點(diǎn)。兩種理論的出現(xiàn)都是因?yàn)閷?duì)于計(jì)算機(jī)影響日益擴(kuò)大的思考,二者都是在1965年發(fā)表的。戈登?摩爾(Gordon E. Moore)是英特爾公司的創(chuàng)辦人之一,他觀察到自1958年集成電路發(fā)明以來(lái),集成電路上的晶體管數(shù)量每?jī)赡辏ê蟾臑?8個(gè)月)翻一倍。
數(shù)學(xué)家古德(I.J. Good)在1965年發(fā)表了一篇題為《有關(guān)第一臺(tái)超智能機(jī)器的猜想》的文章中,預(yù)測(cè)計(jì)算機(jī)將從各方面都超過(guò)人類的智慧能力。超智能機(jī)器的一個(gè)顯著特點(diǎn)是具備制造出更好機(jī)器的能力 。它們的出現(xiàn)會(huì)引發(fā)“智慧爆炸”,機(jī)器將設(shè)計(jì)出更智能的計(jì)算機(jī),它們的進(jìn)化將遠(yuǎn)遠(yuǎn)超出人類的智慧。古德寫下了一句非常著名的話:“第一臺(tái)超智能機(jī)器將是人類的最后一項(xiàng)發(fā)明!
15年以后,另一位數(shù)學(xué)家,同時(shí)也是一位享有盛譽(yù)的科幻小說(shuō)家弗諾?文奇(Vernor Vinge)虛構(gòu)了一個(gè)小說(shuō)情節(jié),背景是剛剛發(fā)生智慧爆炸后的世界。文奇認(rèn)識(shí)到超智能奇跡能從很多方面改變生命和文化,以至于無(wú)法完全想象未來(lái)世界的樣子。文奇用一個(gè)數(shù)學(xué)和自然科學(xué)使用的術(shù)語(yǔ)將人類歷史的這個(gè)轉(zhuǎn)折點(diǎn)定義為技術(shù)奇點(diǎn)。
那些相信這個(gè)故事情節(jié)的人有兩個(gè)核心問(wèn)題要問(wèn):技術(shù)奇點(diǎn)什么時(shí)候發(fā)生?它會(huì)使人類受益還是威脅人類生存?目前這個(gè)階段,沒(méi)人可以給出答案,但是年輕專家和有經(jīng)驗(yàn)的科學(xué)家對(duì)這個(gè)問(wèn)題思考了很久,并在想辦法如何確保未來(lái)超智能計(jì)算機(jī)對(duì)人類“友好”。
有關(guān)技術(shù)奇點(diǎn)何時(shí)到來(lái)的討論非常熱烈,一些理論家預(yù)測(cè)將在最近的將來(lái)發(fā)生(150或100年后),另外有些人認(rèn)為很遙遠(yuǎn)或根本不可能。雷?庫(kù)茲韋爾(Ray Kurzweil)是一位投資家和作家,其代表性觀點(diǎn)認(rèn)為技術(shù)奇點(diǎn)在近期將會(huì)發(fā)生,他預(yù)測(cè)計(jì)算機(jī)將在2028—2030年前后展示出人類水平的智慧,奇點(diǎn)將接踵而至。
對(duì)于技術(shù)奇點(diǎn)不可避免到來(lái)的這一趨勢(shì)持批評(píng)意見的人,并不認(rèn)為能開展各項(xiàng)任務(wù)的計(jì)算機(jī)構(gòu)成智能機(jī)器。當(dāng)然,計(jì)算機(jī)在某些方面已經(jīng)超出了人類的能力,比如解決數(shù)學(xué)計(jì)算、模擬復(fù)雜系統(tǒng)、搜索大型數(shù)據(jù)庫(kù)發(fā)現(xiàn)片斷信息之間的聯(lián)系等。
但是,人類智力的某些層面仍是當(dāng)今計(jì)算機(jī)無(wú)能為力或難以企及的。計(jì)算機(jī)甚至不具備分辨真實(shí)環(huán)境中重要信息和非重要信息的基本能力。計(jì)算機(jī)系統(tǒng)不具備人類的學(xué)習(xí)能力,缺乏情感智慧,道德智慧以及意識(shí)。但是有很多的理論是關(guān)于如何通過(guò)計(jì)算機(jī)實(shí)現(xiàn)這些能力,也有相當(dāng)多的理論解釋為什么計(jì)算機(jī)永遠(yuǎn)不會(huì)具備這些能力。
喬治?華盛頓(George Washington)大學(xué)教授威廉?哈萊爾(William Halal)發(fā)起了技術(shù)調(diào)查,在其中他采訪了一些知名專家關(guān)于各種技術(shù)事件什么時(shí)候會(huì)發(fā)生。他注意到在這些預(yù)測(cè)中,最樂(lè)觀的專家和最悲觀的專家總是針鋒相對(duì)。27位專家認(rèn)同技術(shù)奇點(diǎn)存在。他們被問(wèn)及是否同意這樣的說(shuō)法,即“智能機(jī)器將超越人類并造成破壞”。在27名專家之中,45%同意這個(gè)觀點(diǎn)。對(duì)于那些既同意也不同意的人,對(duì)自己觀點(diǎn)正確與否的自信程度平均為63%。
就像流行音樂(lè)有經(jīng)典老歌一樣,各種領(lǐng)域的學(xué)術(shù)研究也有一些幾十年來(lái)反復(fù)被閱讀和引述的經(jīng)典文章。在計(jì)算機(jī)科學(xué)領(lǐng)域,其中的兩篇“經(jīng)典之作”涉及對(duì)計(jì)算機(jī)智能進(jìn)行評(píng)價(jià)的文章。
第一篇是阿蘭?圖靈(Alan Turing)所寫,他是計(jì)算機(jī)科學(xué)的奠基人之一,二戰(zhàn)期間率領(lǐng)團(tuán)隊(duì)破解了納粹軍隊(duì)的密碼。圖靈在1950年一篇名為《計(jì)算機(jī)和智能》的文章開頭寫下令人難忘的一句話:“機(jī)器能思考嗎?”要知道,當(dāng)時(shí)對(duì)于人工智能尚無(wú)明確定義。
圖靈提出用一個(gè)測(cè)試將人類對(duì)這個(gè)問(wèn)題的反應(yīng)來(lái)與機(jī)器對(duì)此的反應(yīng)進(jìn)行對(duì)比。提問(wèn)者不能直接面對(duì)被提問(wèn)的人,而是通過(guò)文字信息的方式來(lái)溝通。如果提問(wèn)者僅僅根據(jù)二者的回答無(wú)法區(qū)分到底是計(jì)算機(jī)還是人類的答案,那么圖靈建議必須認(rèn)為智能機(jī)器是能夠思考的。圖靈稱他的思考試驗(yàn)為一個(gè)模仿游戲,現(xiàn)在人們通常稱這種試驗(yàn)為“圖靈測(cè)試”。
雖然很多人批評(píng)圖靈測(cè)試不足以作為衡量人工智能的標(biāo)桿,但是沒(méi)人有更好的提議。有一種批評(píng)意見認(rèn)為一個(gè)非常聰明的機(jī)器人可能會(huì)裝糊涂,假裝很傻地回答以欺騙專家,否則的話專家會(huì)知道它比人類了解的知識(shí)還多。
對(duì)于圖靈測(cè)試最有意思的批評(píng)是關(guān)于人工智能的第二篇“經(jīng)典老歌”。1980年哲學(xué)家約翰?西爾勒(John Searle)發(fā)表了《思想、大腦、計(jì)劃》的文章,認(rèn)為即使計(jì)算機(jī)像人類一樣答出了專家的問(wèn)題,也不能代表它知道自己在做什么。他用了一個(gè)“中文房間”的思維試驗(yàn)來(lái)說(shuō)明自己的觀點(diǎn)。
想象自己在一個(gè)房間里,里面是計(jì)算機(jī)所能獲取的所有關(guān)于中國(guó)語(yǔ)言的資料,人和機(jī)器都獲得充分的時(shí)間去學(xué)習(xí)掌握這些資料,然后讓計(jì)算機(jī)回答一個(gè)中國(guó)人提出的問(wèn)題,西爾勒推測(cè)他自己能夠根據(jù)翻譯材料給出正確的答案,雖然,他并不是真的懂中文,由此可以相信計(jì)算機(jī)也可以在同樣不懂符號(hào)含義的情況下給出正確答案。
西爾勒企圖說(shuō)明的是,從形式上掌握中文符號(hào)和充分理解中文意思是不同的。他的思考試驗(yàn)想要證明,操縱符號(hào)的計(jì)算機(jī)并不了解這些符號(hào)的意思,對(duì)符號(hào)的操縱不等于語(yǔ)意理解。
西爾勒認(rèn)為他提出的是一個(gè)常識(shí)性的簡(jiǎn)單觀點(diǎn)。但讓他感到奇怪的是,“中文房間”的論點(diǎn)引起了無(wú)窮無(wú)盡的討論。很多人則認(rèn)為用于計(jì)算機(jī)工程的思維模型不足以生產(chǎn)出具備理解和意識(shí)能力的機(jī)器。
我對(duì)于人工智能導(dǎo)致技術(shù)奇點(diǎn)(通常也稱之為超智能的到來(lái))的研究前景持友好的懷疑態(tài)度。我對(duì)于無(wú)所不能的工程精神也持友好的態(tài)度,他們提議制造具有通用智能的機(jī)器,以便開展各種任務(wù)。但我非常懷疑我們是否對(duì)智能或意識(shí)的本性有足夠多的了解,以至于能將其完全復(fù)制在芯片或其他材料里。
生物系統(tǒng)中某些人類智力特質(zhì)是我們無(wú)法理解的,所需要的科學(xué)灼見也是現(xiàn)階段我們尚未具備的。人類思想與身體的融合,以及對(duì)于外界環(huán)境改變所做的適應(yīng)性反應(yīng)及韌性,是很難通過(guò)非生物的方式加以復(fù)制的。
有人認(rèn)為,將人類的腦力和先進(jìn)的人工智能形式結(jié)合起來(lái)的超智能終將問(wèn)世。某種程度上說(shuō),我認(rèn)為這樣的觀點(diǎn)更實(shí)際些。但是,認(rèn)為人和機(jī)器的能力相結(jié)合會(huì)帶來(lái)智能爆炸或是技術(shù)奇點(diǎn)的觀點(diǎn)仍然說(shuō)得過(guò)去但不太可能。
當(dāng)然,信息技術(shù)將產(chǎn)生新的思想種類,放大或取代人的思想去從事很多任務(wù)。雖然我對(duì)未來(lái)50~100年會(huì)發(fā)生技術(shù)奇點(diǎn)仍然持有懷疑,但是未來(lái)200年后是否會(huì)發(fā)生技術(shù)奇點(diǎn),我無(wú)從判斷。但是時(shí)間越長(zhǎng),機(jī)會(huì)越多,可以確保超智能機(jī)器人對(duì)人類和人類的價(jià)值觀友好。認(rèn)為科學(xué)家肯定終有一天會(huì)發(fā)現(xiàn)制造此類機(jī)器人或?qū)崿F(xiàn)人類進(jìn)化當(dāng)然不是愚蠢的。但是,這很大程度上取決于在20年、200年還是1000年以后實(shí)現(xiàn)。
2009年,一群計(jì)算機(jī)專家舉行會(huì)議,反思人工智能研究在社會(huì)層面上所取得的進(jìn)步,他們對(duì)于智能爆炸和即將到來(lái)的奇點(diǎn)表示懷疑。僅僅5年之后,這次會(huì)議的聯(lián)席主席巴特?塞爾曼(Bart Selman)認(rèn)為,因?yàn)樽罱诟兄蜋C(jī)器學(xué)習(xí)方面取得的突破,在大部分人工智能研究人員的心目中,超智能的可能性正在上升。
超智能的可能性受到了極大的關(guān)注,特別是一些著名人物,比如宇宙學(xué)家斯蒂芬?霍金(Stephen Hawking)、特斯拉的創(chuàng)立人伊隆?馬斯克(Elon Musk),他們認(rèn)為人工智能的研究將對(duì)人類造成嚴(yán)重威脅。
有時(shí)候這種對(duì)于未來(lái)的消極擔(dān)憂某種程度上轉(zhuǎn)移了人們對(duì)于解決當(dāng)下更為緊要的問(wèn)題的注意力。但是,技術(shù)奇點(diǎn)可以作為人類無(wú)法自我掌控命運(yùn)的象征。對(duì)于技術(shù)奇點(diǎn)的關(guān)注可以提醒商界領(lǐng)袖更加重視這個(gè)問(wèn)題,人類發(fā)明的技術(shù)如何邁出了最初的幾步,直至迫使人類交出控制權(quán),從這個(gè)角度說(shuō)來(lái),技術(shù)奇點(diǎn)倒也是有用的。