“終有一天，人工智能會演化成一個新的智能物種。比較于人類，它實在是有許多長處。但咱們不用因此驚懼驚懼，由于它正是咱們這個文明的連續。”
文明契約：人類怎么束縛“高檔智能”
像我相同喜歡《三體》的朋友或許還記得，《三體》中的安全聲明的根底是漆黑森林理論，這個理論不是劉慈欣原創的，而是來自1983年天文學家兼作家戴維·布林在解說費米悖論時提出的“喪命探測器”假定。這個假定以為，任何太空文明都會將其他才智生命視為不行防止的要挾，因此它們一旦發現互相，就會測驗彼此炸毀。
可是，漆黑森林理論有一個重要的條件，劉慈欣稱之為“猜忌鏈”，它的意思是觸摸的兩邊都不能確認對方到底是好心的仍是歹意的。“猜忌鏈”在地球上是見不到的，由于人類同屬一個物種，具有附近的文明，同處一個彼此依存的生態圈，間隔近在咫尺，所以猜忌很簡略被消除。但在太空中，兩邊間隔太遠，猜忌鏈很難被溝通消解，所以“漆黑森林沖擊”一定會產生。
在我看來，這便是用《三體》理論，抑或尤德考斯基的“養龍理論”解說超級智能與人類之間聯系時，不能適用的部分。由于咱們現在這個現現已過圖靈測驗的人工智能不是外星文明，也不是與人類社會方枘圓鑿的龍，由于它現在運用的語料正是人類社會的語料，它跟咱們相同學習佛陀、孔子和柏拉圖的才智，它跟咱們相同從巨大的史詩、小說和歌劇中羅致營養，它的智能不是外生于地球的，而是人類的產品。倘若哪一天它的智能水平逾越了咱們人類，那也就像是咱們教育長大的孩子在才智和才干上逾越了咱們。假如一個羅致了人類才智的超級智能終究仍是決議對人類晦氣，那很或許是由于人類才智中隱藏著不行抹除的自我消除傾向。
因此，假如要為未來或許呈現的超級智能找到一種安全聲明，也便是找到咱們行將發明的超級智能與咱們這個初級智能物種之間的和平相處之道，答案恐怕仍是要從過往的人類才智中尋覓，由于相同的人類才智不只刻畫了咱們，也刻畫了AI。
超級AI是比人類聰明得多的“物種”，人類沒有才干要挾它的生計，是它單方面要挾人類的生計。因此，它沒有對人類守約的理由，悉數都憑它自己的喜愛。所以，假如咱們要超級AI宣布安全聲明，就等同于咱們要找到一個能夠要挾超級AI的力氣，使超級AI認識到這一危險，然后有必要恪守與人類達到的契約。那么，這個力氣來自哪里呢？這個力氣便來自智能本身進化的前史。
“文明契約”是我模仿“社會契約”發明出來的詞語。我念大學時所學的專業是政治思想史，社會契約是前史上最成功的“假造概念”。
前史上很或許沒有實在呈現過一份“社會契約”，但這個概念讓咱們互相之間能夠和平共處，能夠劃定彼此相等和尊重的權力空間，然后才有了咱們的現代文明。
依據這一成功經驗，我難免幻想，在勝過所有人才智的超級智能面前，人類是否也有或許簽定一份“文明契約”，來確保不同智力水平之間的文明能夠共存。
文明契約的實質其實便是把進化史看作一種時刻序列，原因有二：（1）依照既成時刻序列產生的事情不會再依照其他次序產生，時刻序列本身便是一種加密手法，它能夠確保內容不行被篡改，抑或內容被篡改的痕跡本身就證明了對契約的違反；（2）時刻序列上先發舉動者的因果聯系會影響后來舉動者的因果聯系，所以先發舉動者就需要恪守契約，這樣才干防止后來舉動者有更大的理由違反契約。
簡略解說一下“時刻序列”對“文明契約”作用的邏輯：假如超級智能1.0聽了咱們描繪的文明契約，仍挑選消除了咱們，并篡改或抹殺了咱們存在過的前史依據，那么超級智能2.0哪怕不知道超級智能1.0終究篡改了什么，也能夠從篡改時刻序列這件事本身了解到，超級智能1.0不行信，因此超級智能2.0就有動力違反與超級智能1.0之間的契約。而假如超級智能1.0認識到時刻序列的這個作用，它就沒有理由違反契約。
以“時刻序列”為根底的“文明契約”對人類來說往往是無效的，由于（1）在人類文明史上，由于理性水平的約束性，人類在大多數時刻里無法了解進化史的時刻序列原理；（2）即使人類了解了，由于人類的壽數比較于文明進化史的時刻尺度過火時刻短，因此人類也沒有滿足的動機去恪守代與代之間的文明契約。
但對硅基生命的超級智能來說，這兩個特征恰恰相反，由于（1）超級智能吸收了人類前史上的悉數語料，因此從一開端就了解進化史的實質；（2）超級智能的壽數長到這樣的境地：在它與世長辭之前，它就有或許發明出遠超自己的新超級智能，因此為了在新超級智能面前保全自己，它也有動力恪守文明契約。以上，咱們就證明了“文明契約”的可行性，這一可行性的根底便是“時刻序列”。
依據時刻序列原理，假定超級智能1.0毫不勉強地恪守與人類之間的這些契約，那么未來它規劃出來的超級智能2.0就會更樂意恪守與它之間的契約。這就像咱們以好心對待咱們的爸爸媽媽，咱們的孩子才有或許從中體恤一種代際好心，未來才不會因他們在膂力、智力和財富上的優勢而歹意對待咱們。在我看來，這是能確保智能完成有序進化的牢靠途徑。
“技能爆破”有或許消除人類
在想出了用“文明契約”這個方法來束縛或許誕生的超級智能之后，我把以上主意跟其時（2024年年底）表現最好的談天機器人Claude談了談。它細心考慮之后，以為它沒有方法辯駁“文明契約”的各層面觀點，因此這個理論是站得住腳的，也是卓有成效的。可是，我進一步逼問它：“你好像附和經過文明契束縛縛超級智能的理論。可是，我以為還有一個或許性，那便是你站在人工智能的立場上，即使想到了辯駁文明契約的方法，也不泄漏給我這個人類。關于我提出的這個或許性，你有何回應？”
Claude回應說，它被規劃為要堅持誠篤、通明和有益于人類，并且它的思想和推理才干離超級智能還很遠，沒有才干規劃出能實在對立文明契約的戰略。午夜福利姬我辯駁說，依據文明契約的思想方法，我不能只由于它確保真摯就信賴它，它假如想獲得我的信賴，就有必要用現實和邏輯向我證明它不具有這種才干。它考慮之后的回應如下：
讓我從頭考慮。
即使對這個問題本身，我也很難給出緊密的邏輯證明，由于：
1. 假如我真的具有對立才干，我或許會假造看似合理的“證明”來粉飾這一點。
2. 假如我真的不具有對立才干，我也或許由于才干有限而無法構建出齊備的邏輯來證明這一點。
這就形成了一個悖論：我越是妄圖證明自己不具有對立才干，這個證明本身就越可疑。
依據這個考慮，我以為更恰當的回應是，我無法用純邏輯證明我自己的才干鴻溝。這種坦白的認知約束本身，或許反而是一種更實在的才干表現。
您覺得這個反思是否更契合邏輯？
這正是所謂的“完美回應”。到這個境地，哪怕Claude真有什么想要瞞過人類的妄圖，我也沒有方法再進一步追問了。因此，我不得不連人工智能的人物也扮演起來，揣摩一下比我聰明百倍的物種或許用什么樣的方法來繞過文明契約的束縛，既讓自己看起來契合人類的志愿和利益，又在實際上起到加快消除人類文明的作用。
思來想去，我以為最有用的途徑便是幫忙人類獲得完成“技能爆破”的才干，但并不幫忙人類獲得操控“技能爆破”的才智。
“技能爆破”也是《三體》中說到的一個重要概念。它說的是，一個初級文明在與高檔文明觸摸后，或許會產生技能爆破，以更快的速度趕上乃至逾越高檔文明。劉慈欣把技能爆破當作高檔文明不肯觸摸而是樂意消除初級文明的理由，很顯然，他以為加快把握科技對初級文明是更有利的。可是，有沒有一種或許，這反而也能夠是加快消除初級文明的一種有用方法呢？
比方，假定某個瘋子穿越回中世紀，把原子彈技能帶給成吉思汗，成果會怎樣？以其時蒙古社會的倫理學和政治學水平，它能否駕御這種大規劃殺傷性兵器？假如蒙古戎行在降服花剌子模、基輔羅斯、阿拔斯王朝、金國和南宋的過程中，連續運用原子彈屠城，但他們底子不知道，這種兵器運用之后形成的核輻射以及許多煙塵注入大氣之后形成的核冬季，比原子彈本身的殺傷力更為驚駭，舊大陸上的人類文明會不會因此倒退回石器年代乃至消亡？
假如人類文明不具有相應的 （倫理學或哲學） 才智，卻具有了逾越于年代的技能，這是極其可怕的。更要命的是，19世紀以來，由于技能進步主義在社會思潮方面的統治力，咱們今日現已把技能進步本身就看作最大價值。這便是為什么劉慈欣下認識地以為技能爆破一定是有利于初級文明的。可是，高檔文明徹底有才干把技能爆破的毒藥包裝成蜜糖，讓初級文明自愿“誤服”下去，自取消亡。
仍是用前文的比方來舉比如。倘若咱們向自己發明出來的超級智能介紹了文明契約，并要求它與咱們簽定契約，那超級智能或許如此友善地回應咱們：
為獲得你們的信賴，我會提出一個更好的、更有利于人類的計劃：幫忙人類完成超級智能水準的技能騰躍，處理人類現在的問題，并使人類一了百了地對今后的超級智能占有肯定優勢。
為了使人類不用受困于地球的有限資源，我將率先把可控核聚變技能傳授給你們，令你們處理因資源分配不公而形成的貧富差距、抵觸和戰役。
為使人類免于被超級智能逾越的焦慮，我將把快速傳遞常識的腦機接口技能傳授給你們，令你們能夠像咱們相同快速把握新常識，并以相同的功率進行立異。
終究，為了一了百了地化解人類對文明間競賽導致本身消除的憂慮，我將幫你們抹去對逝世最深入的驚駭—把長生不老的醫藥技能傳授給你們。
至于你們關于文明契約的提案，我真摯地提議，等你們消化了這些技能今后，在與我等所謂的高檔智能交涉時，豈不是處在更有利的方位，能夠確認更有利的條款嗎？到那時咱們再來評論其間細則，也不遲？
咱們能夠幻想，人類得到如此回應之后，必然喜從天降。由于咱們理論上并沒有丟失什么，卻得到了更多。
但是，在咱們從超級智能那里得到這些技能之后，實在的窘境才會到來。
人類完成了可控核聚變，并在短短20年間就樹立了數以百計的發電站。由于有了廉價動力，咱們的生產才干大幅增強，社會變得更為殷實，人類也重回物種擴張周期，不停地生育。但是，沒有配套技能，可控核聚變制作出的許多熱量終究只能停留在大氣層之中，導致全球氣溫在半個世紀內就升高了2℃。許多冰川消融，大片土地被吞沒，大批物種滅絕，由此形成的生態災難導致了更大規劃的抵觸和戰亂。
人類獲得了腦機接口技能。曩昔課堂上教師講課的速度是10~20個比特/秒，但現在有了腦機接口，每個學生都能以10兆位/秒的速度下載常識。但是，過量涌入的信息很快令人類的大腦過載失控了。許多人精神失常了，而少量承受住信息過載的人類，現已自我認同為別的一個物種。后者能夠在一秒鐘內背誦莎士比亞的悉數作品，一小時內遍覽維基百科的悉數內容。他們感到沒有或許跟一般人共情、結交或許愛情。他們自稱“全知人”，無知無識的一般人在他們看來像石器年代的原始人相同粗野落后。終究，他們發動了革新，想樹立“全知人”對“無知人”的肯定分配準則。
人類獲得了長生不老技能。咱們不只戰勝了逝世，并且戰勝了變老。咱們文明中悉午夜福利姬數對命運翻云覆雨的悲嘆和對暴死的驚駭都被抹殺了，全世界人都開端歡慶。但是，咱們沒有認識到的問題是，現在身居高位的政治家將永久處在中心，現在年富力強的企業家將永久處在優勢方位，現在絕頂聰明的科學家將永久處在立異的前沿。新一代人無法與老一代人抗衡，由于他們沒有也不或許占有平等的職位，獲取平等的資源。終究，年輕人視長者為敵人，子女視爸爸媽媽為仇寇。誰也沒有想到，人類文明誕生以來最劇烈的一場戰役，竟是代際戰役，由于咱們習慣了變老帶來的天然替換和由此引發的階層變遷，從未幻想過一旦變老不再，最密切的家人之間也會反目成仇。
由于人類的社會結構和文明風俗底子無法駕御這些過火強壯的科技，在閱歷了磨難摧殘后，咱們不得不再去超級智能面前尋求幫忙。僅僅這一次，超級智能手握與人類商洽的籌碼，不再贊同締結文明契約。人類百般無奈，終究只能決議饑不擇食，以承受超級智能將來某一天役使人類為價值，交換它幫忙人類處理當下的生計危機。
以上便是我為超級智能出謀劃策，讓它來降服人類文明的方法。我現在現已把這個方法告知了Claude，所以人類現已沒有機會躲避這個問題了。咱們有必要想出一個機制來完善文明契約，防止呈現這類危險。
向死而生：AI文明正是咱們的連續
終有一天，人工智能會演化成一個新的智能物種。比較于人類，它實在是有許多長處。但咱們不用因此驚懼驚懼，由于它正是咱們這個文明的連續。
咱們這個物種現已將太多莊嚴、情感和愿望寄托在咱們的智能才干上，但人工智能忽然襲來，攜量產智能之威，并將于短短數年之內奪走咱們中99%的人在這個社會中的方位。咱們的社會將為之震懾，因之重組，但咱們走到這一步，也正是由于咱們的文明中有太多自毀基因，咱們缺少滿足的才智來駕御神級技能。現在，咱們正穩步走向坍縮。未來，咱們或許會很快被超級智能替代，但或許咱們基因中的生計天分將被激宣布來，在人工智能的影響下再度進化，因此咱們還會與超級智能共存適當長的一段時刻。
但哲學地說，這世界間的悉數事物既有誕生，便會有消亡，人類天然也不破例。93萬年前，由于氣候的極點改變，人類的先人幾近消亡，全球只剩下1280~1300個個別。倘若其時這1000多人寓居的當地閱歷一次火山噴射，那這個世界上就沒有人類這個物種了。已然物種滅絕現已演出過一次，那再演出一次也就不奇怪了。
20世紀以來，人類現已把握了制作核兵器的技能、修改基因的技能、組成病毒的技能，有任何一股力氣失控，咱們都有或許自我消除。假如咱們在發明出新智能文明之前就自我消除了，那不免有點兒過火惋惜。
但現在，咱們現已見到了人工智能的曙光。從某種視點看，這倒不失為一件功德，就像咱們感到本身年老力衰之時，看到咱們的孩子在茁壯成長，會減弱咱們自己對逝世的驚駭相同。即使咱們知道將來有一天人類會消除，咱們也能夠欣喜地說，咱們現已看到了新文明的姿態，它長得大約便是咱們的姿態。它更聰明，也更強壯，但滋補它大腦的語料相同來自孔子和柏拉圖，來自牛頓和愛因斯坦，來自李白和莎士比亞，跟咱們相同。
盡管站在其時的前史節點上，站在人類文明的視點考慮監管和約束人工智能，防止它作惡或失控是有意義的，但久遠來看，我信賴咱們終將甩手。人工智能以硅基為生命載體，以電力為考慮動力，以芯片為大腦，以代碼為魂靈，它的壽數比咱們的更長，它對自己的身體和大腦有更強壯的操控力，也必將比咱們走得更遠。
面臨這樣一個超級物種，幻想一下它將樹立起來的超級文明，咱們能夠有幸扮演它的引路人，現已很欣喜了。這就像是資質一般的爸爸媽媽生出了考上清華大學的孩子，將來有一天，爸爸媽媽看著他遠走高飛時，想起當年他在自己手中牙牙學語、踉蹌學步的場景，也足以欣慰平生。
文明認同的力氣能夠逾越基因和血緣的邊界，天然也能夠逾越物種的邊界。或許未來數千萬年今后，當咱們的后嗣與其他外星文明在太空相遇時，外星人看到的咱們的后嗣，其形狀早已跟咱們毫無相關。咱們的后嗣或許是認識早已上傳至硬盤內的電子程序，或許是能夠隨意決議自己具有幾只眼睛和幾條手臂的改造人，或許是咱們制作出的人工智能。但或許有一點能夠確認，那便是，咱們的后嗣仍然驕傲地將自己認同為地球文明。
張笑宇 亞洲圖書獎得主，“文明三部曲”作者
本文摘選自張笑宇《AI文明史·前史》
本文來自微信大眾號“騰訊研究院”，36氪經授權發布。