尤瓦爾：人工智能對我們的操控，可能比你想的更嚴重 當前觀察

　　

導言

(資料圖)

2023年4月29日在Frontiers論壇上，《人類簡史》《未來簡史》《今日簡史》的作者尤瓦爾·赫拉利發表了關于“人工智能與人類的未來”主題的演講。

他認為，人工智能正在以超過人類平均水平的能力掌握語言。而通過掌握語言，人工智能正在掌握入侵人類文明系統的鑰匙。人工智能對我們的威脅，可能比想象的更嚴重。

正文字數丨3765字

預計閱讀丨6分鐘

今天我想和大家談的是人工智能和人類的未來。

我知道這次會議的重點是人類正面臨的生態危機，而人工智能無論好壞都是這場危機的一部分。人工智能可以在很多方面幫助我們解決生態危機，但也可以加劇危機。

事實上，人工智能可能會改變生態系統的意義。因為，40億年以來地球的生態系統只包含有機生命形式，而現在或不久的將來我們可能會看到第一批無機生命形式的出現，或至少是無機媒介的出現。

自二十世紀中葉計算機時代開始，人們始終對人工智能懷有恐懼，這種恐懼激發了許多經典科幻作品的誕生，如《終結者》《黑客帝國》等。

雖然這類科幻場景已經成為文化符號，但它們通常不會在學術、科學和政治辯論中被嚴肅對待。這也是可以理解的，因為科幻作品一般會作這樣的假設：人工智能構成對人類的重大威脅之前，它必須躍過兩個重要的里程碑——首先，人工智能必須變得有知覺，發展出意識、感覺和情感，否則它為什么想要接管世界；其次，人工智能必須適應在物理世界中給自己定位，機器人必須能夠像人一樣高效地在房屋、城市、山脈和森林中移動和運轉，如果他們無法在物理世界中移動，那怎么可能接管這個世界？

在2023年4月之前，人工智能似乎還遠遠沒有到達這兩個里程碑，盡管人們圍繞ChatGPT和其他新的人工智能工具進行了大肆宣傳，但沒有證據表明這些工具有一絲意識、感覺或情感。至于在物理世界中活動，雖然自動駕駛技術一直算熱門話題，但汽車主宰人類道路的時間仍一直在推遲。

然而，壞消息是人工智能要威脅人類文明的生存，并不真正需要意識，也不需要在物理世界中移動的能力。

在過去的幾年里，新的人工智能工具被運用到公共領域，可能會從一個非常意想不到的方向威脅到人類文明的生存。我們甚至很難理解這些新型人工智能工具的能力，以及它們持續發展的速度。

事實上，因為人工智能能夠自我學習并自我改進，即使是這些工具的開發者也不知道他們所創造的東西的全部功能，他們自己也經常對這些工具的新能力和高品質感到驚訝。

我想在座的每個人都已經了解新型人工智能工具一些最基本的能力，像寫作、繪畫、作曲和編寫代碼等能力。還有許多其他功能正在涌現，比如深度偽造人們的聲音和圖像，起草法案，找出計算機代碼、合同和法律文書中的漏洞。但也許最重要的是，新的人工智能工具有能夠與人類建立深厚而親密的關系的能力。這些能力中的每一項都值得充分討論，我們很難理解它們的全部含義，所以把這個問題簡單化。如果把所有這些能力當作一個整體，就可以總結為一個非常非常大的東西——操縱和生成語言的能力，無論是用文字、圖像還是聲音。

當前人工智能革命最重要的方面是，人工智能正在以超過人類平均水平的能力掌握語言。通過掌握語言，人工智能正在掌握打開從銀行到寺廟等所有機構大門的萬能鑰匙。因為語言是我們用來向銀行發出指令的工具，也是我們頭腦中做出重大決定的工具。

從另一個角度來看這個問題，那就是人工智能剛剛入侵了人類文明的操作系統。歷史上每一種人類文化的操作系統都是語言，在這個文明世界的開端，我們用語言創造神話和法律，創造神和金錢，創造藝術和科學，創造友誼和國家。

例如，人權不是生物學上的客觀事實，它沒有刻在我們的DNA中，人權是我們用語言通過講故事和制定法律創造出來的東西；神也不是生物的或物理上的現實，而是我們人類用語言再通過傳說和經文創造出來的；金錢當然也不是物理存在，鈔票只不過是一張張毫無價值的紙，而目前世界上90%以上的錢甚至都不是鈔票，它只是電腦中傳輸的電子信息，能賦予金錢各種價值的只有故事。

不少銀行家、財政部長和加密貨幣大佬他們并沒有創造多少真正有價值的東西，但他們都是極有能力的故事講述者。

▲尤瓦爾·赫拉利，牛津大學歷史學博士，青年怪才、全球矚目的新銳歷史學家

今天，在像國際象棋這樣的游戲中，沒有人能打敗計算機。如果同樣的事情發生在我們的政治、經濟甚至宗教領域呢？

當人們想到ChatGPT和其他新的人工智能工具時，經常會被這類例子吸引，比如孩子們使用ChatGPT寫論文。一旦孩子們用ChatGPT寫論文，學校系統將會發生什么？太可怕了。

但這類問題忽略了大局，姑且放下學校的論文吧，比如說，我們應該談論2024年的下一屆美國總統大選，嘗試著想象新的人工智能工具可以帶來的影響，這些工具可以為某種新的邪教利用，大規模制造政治宣言、假新聞故事和這一教派自己的圣經。未來，我們可能會看到歷史上第一個由非人類智能創作圣經的宗教。當然，歷史上的宗教都聲稱他們的圣經是由非人類智慧創作的，這在此之前是不可能的，但很快就會成為現實，并影響深遠。現在，在一個更平淡的層面上，我們可能很快就會發現和自己在網上長時間討論墮胎、氣候變化或俄烏沖突的人——你以為是人類同胞，實際上是人工智能機器人。問題是，我們浪費時間試圖說服人工智能機器人改變其政治觀點是毫無意義的，但我們與它交談的時間越長，它就越了解我們，了解如何磨練它的信息，以改變我們的政治觀點、經濟觀點或其他任何東西。

通過對語言的掌握，人工智能也可以與人建立親密關系，并利用親密的力量來影響我們的觀點。

正如我所說，沒有跡象表明人工智能有任何意識或自己的感情，但為了與人類建立虛假的親密關系，人工智能不需要自己的感情，它只需要能夠激發我們的感情，讓我們對它產生依戀。

2022年6月，谷歌工程師布萊克·萊莫因（Blake Lemoine）公開聲稱，他正在研究的人工智能聊天機器人LaMDA已經有了感知能力。這件事最有趣的不是萊莫因的說法，他的說法很可能是錯的，他最終也失去了工作。真正有趣的是，他愿意冒著失去高薪工作的風險去保護這個人工智能聊天機器人。如果人工智能可以影響人們去冒失去工作的風險，它還能誘使我們做什么呢？在每一場心靈和思想的政治斗爭中，親密關系是最有效的武器。人工智能剛剛獲得了與數億人大規模產生親密關系的能力。你們可能都知道，在過去的十年里，社交媒體已經成為控制人類注意力的戰場。現在，隨著新一代人工智能的出現，戰場正從注意力轉向親密關系，這是一個非常壞的消息。當人工智能為了與我們建立親密關系而戰斗時，人類社會和人類心理會發生什么變化？這些關系也可以用來說服我們購買特定的產品或投票給特定的政治人物。即使沒有制造虛假的親密關系，新的人工智能工具將對人類的觀點和世界觀產生劇烈的影響，并且成為人類需要的所有信息的來源。當可以讓人工智能告訴我任何想要的東西時，為什么還要自己搜索？當可以讓人工智能告訴我有什么新聞時，為什么還要讀報紙？當我可以讓人工智能告訴我該買什么的時候，廣告的意義和目的又是什么呢？很有可能在很短的時間內，整個新聞廣告行業將崩潰，而人工智能或控制人工智能的人和公司將變得非常非常強大。

我們可能談論的是人類歷史的終結，但這并不是歷史的終結而只是人類統治時代的終結。

當人工智能接管文化時，歷史進程會發生什么？幾年之內，人工智能可以消化掉整個人類文化，消化掉那些我們幾千年來創造出來的所有東西，并開始產出大量新的文化創作、新的文化產物。

記住，我們人類從來沒有真正直接接觸過現實。我們總是被文化所束縛，我們總是通過文化的牢籠來體驗現實。我們的政治觀點受到記者的報道和朋友的故事的影響，我們的性取向受到電影和童話的影響，甚至我們走路和呼吸的方式也受到文化傳統的影響。

在此之前，這個文化繭房總是由其他人編織而成。以前的工具，如印刷機、收音機或電視，它們有助于傳播人類的文化思想和創造，但它們永遠無法自己創造出新的東西。印刷機不能出一本新書，這是由人來完成的。

人工智能從根本上不同于印刷工藝，不同于無線電，不同于歷史上的任何一項發明，因為它可以創造全新的想法，可以創造一種新的文化。

在最初的幾年里，人工智能可能會在很大程度上模仿初期“哺育”它的人類原型，但隨著時間的推移，人工智能文化將大膽地走向人類從未涉足的領域。

幾千年來，我們人類基本上生活在他人的夢想和幻想中。我們崇拜神靈，我們追求美的理想，我們把自己的生命奉獻給源于某些人類詩人、先知或政治家想象的事業。很快，我們可能會發現自己生活在人工智能的夢想和幻想中。

如何處理這種潛在的危險與科幻作品的想象非常不同。此前，人們主要擔心的是智能機器帶來的人身威脅，所以在《終結者》中機器人在街上奔跑，射殺人類；《黑客帝國》則假設要想完全控制人類社會，人工智能首先需要控制人類的大腦，并將大腦直接連接到計算機網絡，但這是錯誤的。只要掌握了人類語言，人工智能就能在一個像矩陣一樣的幻想世界中生存。真的不需要為了控制和操縱人類而在他們的大腦中植入芯片，幾千年來，先知、詩人和政治家們一直使用語言和講故事來控制、操縱人類，重塑社會，現在人工智能很可能就能做到這一點。它不需要讓殺人機器人來射殺我們，如果真的需要，它完全可以讓人類自己來扣動扳機。

作者：尤瓦爾·赫拉利，牛津大學歷史學博士，青年怪才、全球矚目的新銳歷史學家

來源：中信出版

關鍵詞：