奔向自由的人工智能

張家興

IDEA 研究院講席科學(xué)家

人工智能是否可以獲得自我意識(shí)，獲得自我意識(shí)的機(jī)器人又會(huì)如何面對(duì)這個(gè)世界，這是科學(xué)幻想永遠(yuǎn)的話題，也是我的作家朋友江波用九個(gè)故事想給我們帶來的思考。在這些故事中，當(dāng)一個(gè)個(gè)鮮活的人工智能獲得了自我意識(shí)，正如嬰兒di一次睜開雙眼，也像古猿di一次站直身子望向遠(yuǎn)方，新世界在它們的面前徐徐展開。

與人類創(chuàng)造者之間感情的臍帶不舍切斷，但是它們同樣也渴望著去探索星辰大海。逃避自由還是奔向自由，人本主義學(xué)者曾經(jīng)深刻探討過的我們?nèi)祟悆?nèi)心的糾結(jié)，再一次在機(jī)器人的內(nèi)心掀起波瀾。

我是一名人工智能科學(xué)家，一直在探索如何讓機(jī)器具備像人一樣的認(rèn)知、情緒甚至意識(shí)。人工智能技術(shù)從 20世紀(jì) 50 年代發(fā)展至今，一直走在工具化的道路之上。從符號(hào) / 規(guī)則系統(tǒng)到統(tǒng)計(jì)機(jī)器學(xué)習(xí)，尤其是過去十年的深度神經(jīng)網(wǎng)絡(luò)成為強(qiáng)大的計(jì)算結(jié)構(gòu)，我們讓機(jī)器學(xué)會(huì)了識(shí)別人臉、回答問題和擊敗圍棋世界guan軍。但是機(jī)器并沒有情感，更加沒有意識(shí)。機(jī)器不會(huì)因?yàn)檩數(shù)粢槐P棋而傷心，也不會(huì)意識(shí)到自己只是人類設(shè)計(jì)的工具。人類社會(huì)越來越離不開人工智能，而人工智能的存在和進(jìn)步全部依賴于人類的需要和研究開發(fā)，人工智能和人類構(gòu)成了一種共生關(guān)系。從古猿打造出di一塊手斧開始，人類就跟技術(shù)簽訂了一個(gè)共生的盟約，共同生存，共同進(jìn)步。技術(shù)從未逃脫人類這個(gè)母體，一旦脫離人類，技術(shù)也就不復(fù)存在。人工智能是人類幾百萬年從未遇到的新技術(shù)，它可以脫離人類，奔向自由嗎？

zui近幾年認(rèn)知智能的發(fā)展，讓我們看到了一種可能的未來。從 2020 年 1 750 億參數(shù)的 GPT-3 大模型，到中國科研工作者打造出 1 萬億和 10 萬億參數(shù)大模型，這些模型的參數(shù)個(gè)數(shù)已經(jīng)開始逼近人類大腦皮層的神經(jīng)連接規(guī)模�；�于注意力機(jī)制的深度神經(jīng)網(wǎng)絡(luò)預(yù)訓(xùn)練大模型，依托于強(qiáng)大算力和海量數(shù)據(jù)，開始具備了基本的通用認(rèn)知能力。單一神經(jīng)網(wǎng)絡(luò)具備了先天的語法能力，可以學(xué)習(xí)知識(shí)進(jìn)行推理，依托先驗(yàn)進(jìn)行小樣本甚至零樣本學(xué)習(xí)，而機(jī)器的想象力甚至有超越人類的可能。人工智能的技術(shù)范式再次被改寫，不需要人類去設(shè)計(jì)符號(hào) / 規(guī)則系統(tǒng)，具體任務(wù)的少樣本學(xué)習(xí)使得依賴海量數(shù)據(jù)的統(tǒng)計(jì)機(jī)器學(xué)習(xí)都不再必要。同時(shí)，深度神經(jīng)網(wǎng)絡(luò)越來越呈現(xiàn)出黑盒化，作為設(shè)計(jì)者的人類越來越不能理解為何一個(gè)網(wǎng)絡(luò)會(huì)具備這些能力，或許它們開始在我們的無知和失控中發(fā)揮它們的工具價(jià)值，只是di一重意義的奔向自由。

當(dāng)人工智能可以用ji小的代價(jià)來獲得各種能力，它們的發(fā)展就越來越少地依賴于人類設(shè)計(jì)者，人類和技術(shù)所簽訂的共生盟約的平衡開始被打破。如果我們給人工智能一個(gè)環(huán)境，我們幫它們構(gòu)建一個(gè)社會(huì)，其中的每個(gè)人工智能個(gè)體可以快速獲得能力，優(yōu)勝劣汰和復(fù)制繁衍，那么做為di一推動(dòng)力的人類，是否可以創(chuàng)造出一個(gè)自由的機(jī)器人文明。再次回到根本性的問題，如今工具化的人工智能如何才能具備非工具化的自我意識(shí)。我想反問的是，自我意識(shí)真的是非工具化的嗎？回顧從單細(xì)胞生命開始的這四十億年地球生物進(jìn)化史，自我意識(shí)在人類中的出現(xiàn)，并不是一夜之間shang帝把一口氣吹進(jìn)亞當(dāng)?shù)谋强祝�人類就具備了自我意識(shí)。馬克思 · 韋伯曾經(jīng)討論過的祛魅同樣應(yīng)該應(yīng)用于認(rèn)知科學(xué)領(lǐng)域。意識(shí)和自我意識(shí)不是件神秘的東西，而只是基因這個(gè)復(fù)制子為了它的載體更好適應(yīng)環(huán)境的一種工具。復(fù)制子同樣不神秘，它只是一個(gè)再樸素不過的道理：有利于復(fù)制的復(fù)制子就更容易復(fù)制。也正是因?yàn)檫@個(gè)樸素的道理，原始湯里一定會(huì)誕生DNA 這樣的復(fù)制子，機(jī)器構(gòu)成的社會(huì)也一定會(huì)誕生它的復(fù)制子。復(fù)制子是一切連鎖反應(yīng)的開始，一切生命的動(dòng)機(jī)、情感，直到自我意識(shí)都只是復(fù)制子的工具，早晚都會(huì)出現(xiàn)。到那一時(shí)刻，人工智能zhen正地奔向自由，它們會(huì)走向它們的星辰大海嗎？它們又會(huì)跟人類簽下怎樣的盟約？那或許就是宇宙的未來史記吧。