玄幻小说,小说阅读网站,完美世界有声小说全集

對話清華劉嘉｜ChatGPT意味著第二次認知革命的到來

　　　來源：騰訊研究院

　　前言：
　　電視劇《漫長的季節(jié)》里有這樣幾句詩：“打個響指吧，他說/我們打個共鳴的響指/遙遠的事物將被震碎/面前的人們此時尚不知情”。
　　劉嘉老師說，用這段詩來形容當下人類面對AGI（Artificial General Intelligence“通用人工智能”）的狀態(tài)，再合適不過。
　　“我們每個人對未來的預測都可能是荒謬的、可笑的，未來可能并不是你所說的樣子。但是，只有越來越多的人一起加入共同討論，一起打開腦洞、一起奇思妙想，甚至一起胡說八道的時候，或許我們才可以真的改變未來，一起引領人類走向一個更好的未來�！�
　　9月底，我們在清華大學腦與智能實驗室拜訪了劉嘉教授。這次交流中，劉嘉老師基于其在腦科學與人工智能領域多年的研究積淀，暢談了當下由ChatGPT引領的AGI的未來發(fā)展及對人類可能產生的影響，并提出了諸多基于其研究領域而引申出的“腦洞大開”的“奇思妙想”，令我們深受啟發(fā)。
　　談到AGI領域的未來發(fā)展，劉嘉老師說，一方面，AI agent即大模型的具身化、具身智能正在加速發(fā)展；另一方面，包括他在內的腦科學家和認知科學家們，已經開始激烈地討論AGI未來可能產生的意識問題了。
　　在劉老師看來，人的一生中，極少有機會親身經歷一場引領時代變革的范式轉變。而此刻，我們正站在這樣一個重要歷史節(jié)點。盡管我們亦須承認，這樣的變革伴隨著諸多風險。例如失業(yè)問題以及我們必須提高自己的學習能力并掌握新工具等。
　　然而，只需換個角度，就會發(fā)現這個嶄新的世界正為我們展示無盡的可能性。GPT技術正在助力我們擺脫枯燥乏味的重復性和知識性工作，讓我們投身于更具創(chuàng)造力和價值的事業(yè)，讓我們的時間變得更具意義。或許，這才是人類真正價值的彰顯。
　　“我們的現在是過去的未來，因為過去的選擇決定了現在的結果。然而，我們的現在并非未來的過去，因為未來充滿未知，此時此刻的選擇正在塑造我們的未來樣貌。”
　　面對未來，唯有暢想。我們將此次與劉嘉老師對話交流的核心觀點記錄下來，與騰訊研究院的讀者們共饗。
　　讓我們打個共鳴的響指，一起迎接和擁抱未來。

　　對話嘉賓：
　　劉嘉麻省理工學院博士，長期從事心理學、腦科學與人工智能研究。清華大學基礎科學講席教授、心理學系主任、清華大學腦與智能實驗室首席研究員、北京智源人工智能研究院首席科學家

　　訪談者（以下簡稱T）：
　　牛福蓮　騰訊研究院高級研究員
　　王強　騰訊研究院前沿科技研究中心主任

　　AGI：點燃第二次認知革命的火花

　　T：作為一名腦科學與人工智能領域的研究學者，您怎么看待這次由ChatGPT引發(fā)的AGI發(fā)展及對人類未來可能產生的影響？
　　劉嘉：在去年11月30日OpenAI發(fā)布ChatGPT之前，大多數人談論AI時，雖然覺得它神奇，但往往僅從獵奇的角度看待。然而，自ChatGPT問世以來，我認為每個人都有必要關注并了解它的發(fā)展和變化。未來通用人工智能（AGI）將像水電一樣重要，不僅改變我們的工作方式，還可能直接影響我們每個人的未來，例如技能掌握、孩子培養(yǎng)和人類發(fā)展方向等，這些問題具有深遠意義。在我看來，這或許意味著第二次認知革命的來臨。
　　為什么稱之為第二次認知革命呢？我們先來看第一次認知革命是如何發(fā)生的。大約在7萬到10萬年前，那時智人和尼安德特人這兩個人類物種共同生活在地球上。盡管尼安德特人在身高和力量上優(yōu)于我們，但最終還是被智人所取代。我們的祖先智人是如何戰(zhàn)勝尼安德特人的呢？大家推測在7萬到10萬年前，發(fā)生了第一次認知革命，表現為人類制造的工具石器出現了爆發(fā)式的增長和多樣性。在此之前，從最早的直立人到尼安德特人，他們制作的石器都是相似的，只是越來越精細、巧妙。但在第一次認知革命時期，人類的石器制作發(fā)生了質的變化，不再僅僅是制作斧頭、長矛等簡單工具，而是開始出現了項鏈等飾品，以及在石頭和骨頭上雕刻各種圖案。
　　回顧過去，我們發(fā)現在那個時代，人類逐漸產生了一種我們今天稱之為規(guī)則化思考的方式，簡而言之，就是“如果……并且……那么……”(if……and……then)的邏輯。例如，人們發(fā)現在物體上打孔后，可以用繩子將其穿起來。這種基于規(guī)則的思考方式為人類帶來了無盡的創(chuàng)造力，如在布上打孔并用棍子穿過，就制成帆船等。從此，人類的創(chuàng)造力得到了充分釋放，并逐漸形成了一種強大的邏輯——演繹推理。
　　演繹推理是在一個推理基石的基礎上，應用此邏輯產生新的發(fā)明和創(chuàng)造。亞里士多德提出了這個概念，稱為第一性原理�？鬃右苍f過類似的話：“君子務本，本立而道生�！边@意味著只要從根本出發(fā)，就能產生萬事萬物。在這個理念的指導下，人類開始進行大量的發(fā)明創(chuàng)造，不再局限于制作長矛等簡單工具，而是涌現出各種發(fā)明創(chuàng)造。最終，智人戰(zhàn)勝了尼安德特人，確立了現代人的地位。也從此，地球上的智人真正地主宰了這個星球。這個過程被稱為第一次認知革命，其重要性遠超過蒸汽機和電器等發(fā)明。
　　如今，關于第二次認知革命的定義引發(fā)了廣泛討論，例如原子彈的發(fā)明是否屬于第二次認知革命？但我認為，只有AGI的出現才能被稱為真正的第二次認知革命，因為它將催生一個全新的物種，這與過去35億年的生物進化截然不同。這種新物種才真正配得上第二次認知革命的稱號。第一次認知革命見證了智人成為地球的主宰，而第二次認知革命意味著一種全新的智能物種可能誕生，與人類并肩存在。
　　盡管當前的ChatGPT尚未達到通用人工智能的水平，但它已經點燃了通用人工智能之路的火花�；鸹ㄍǔ＞哂袃蓪雍x：一是可能引發(fā)燎原之火；二是在黑暗中照亮希望。然而，許多人低估了ChatGPT的價值，僅從商業(yè)角度看待它，認為它不過是一個堪比iPhone時刻的發(fā)明。我認為它的價值遠超這些表面評價，ChatGPT正是第二次認知革命的開始。
　　從人類進化的角度來看，我們發(fā)現生物在幾十億年的漫長歲月中不斷演化，而猴子到人類僅用了300萬年。在這300萬年間，自然界一直在“努力尋找”方向，當找到直立行走這個方向后，人類大腦的體積加速進化，在短短300萬年里增加了三倍，這是一個令人驚嘆的速度。而這都得益于找準了方向，即大腦稍有增大就會帶來很大優(yōu)勢。同樣，AGI也在尋找方向，一旦找準方向，它將進入一個加速進化的過程。盡管我們還未見證AGI的誕生，但只要有了這個火花，剩下的過程就只是一個工程性的問題。

　　大腦與AGI模型：涌現的相似性與差異

　　T：大腦的智能本質與AGI大模型的機器認知智能，兩者的相似和區(qū)別之處是什么？
　　劉嘉：當我們的大腦體積增大時，會出現一種難以解釋的現象，稱為“涌現”。這與構建大模型時發(fā)現的現象類似：當模型較小時，幾乎沒有功能，但當模型變大時，某些功能就自然而然地涌現出來。好比高個子不一定能打好籃球，但教練通常會選擇高個子。這也意味著，大型模型并不一定產生智能，但要研究智能，就必須有大型模型，這是一個必要條件。人類大腦在逐漸擴大的過程中，許多功能也自然而然地出現，例如模仿和學習。
　　比如張三發(fā)明了“生火”，火對生活很重要，其他人也想學習，但問題是，不一定能學會。大量研究表明，當大腦體積增大后，我們的模仿能力或學習能力會變強。這樣，我們就能從張三那里學會生火，使部落受益。同樣，我們也能學習其他新技術。因此，從科學角度來看，是模仿創(chuàng)造了人類，而非勞動。有大量研究表明，大腦體積越大的人，模仿能力卻強；而模仿能力強的人更容易找到伴侶，進而更容易將基因傳遞下去。在對原始部落的考察中也發(fā)現，模仿能力強或學習能力強的人有更大的機會獲得繁衍后代的機會。因此，大腦越大的人越能延續(xù)下去。
　　在過去的300萬年里，大腦逐漸變大，原因就在此。當我們回過頭來看神經網絡時，發(fā)現它們也是如此。從一開始，人們就在嘗試各種方法，如強化學習、監(jiān)督學習等，但這些概念都是相互交織的。OpenAI前幾年很重要的精力是在做一件事：讓模型變得更大。然后出現了Transformer架構，使大模型變得更高效。但本質上，智能的本質可能只是一個字：大。就像只有當大腦足夠大時，我們才能談論智能。所以“大”是前提。
　　人比猴子聰明，猴子比老鼠聰明，原因很簡單：大腦足夠大。當然，這并不是充分條件，而是必要條件。有些生物的大腦絕對體積比人類更大，如大象和鯨魚，但這并不能保證它們一定有智能。例如，我們將一個剛出生的孩子送回到3000年或5000年前，他不會比當地人更聰明，因為大腦結構是相同的。但是，如果我們成年人回到5000年前，我們會成為他們的精神領袖，因為我們擁有知識。所以，智能的發(fā)展是知識與大腦互動的結果，僅僅擁有大腦而沒有知識是不夠的。
　　因此，我們需要用文明和知識去調教大腦，這就是我們所說的教育。人類智能的進化可以看作是大腦逐漸變大和知識積累的互動。一方面，大腦有機會變得越來越大；另一方面，大腦變大后，它能夠產生知識，而知識又能積累，進而反作用于大腦，使大腦更適合于這些知識，并能更好地保留這些知識。
　　同樣的道理也適用于人工智能。沒有足夠好足夠多的語料，再大的模型也沒有意義。沒有互聯網匯集大量數據，現在的智能也不可能實現。因此，產生大模型和ChatGPT等現象既是偶然的，也是必然的。前期積累的算力和數據已經準備就緒，只需要找到合適的突破口。因此，可以說，如果沒有OpenAI，其他公司也會實現類似的成果，因為時機已經成熟。
　　歷史看似漫長，但站在35億年的尺度上，任何事情都不過是瞬間的事。同樣，對于AGI的發(fā)展來說，現在還可能只是一個起點、一個火花，但站在文明史的角度，實現AGI可能只是一個響指般的瞬間，因為它的前面已經沒有任何阻礙了。
　　現在許多人呼吁停止訓練更大的模型。一些科學家或許已經看到了大模型的潛在強大能力，而這種強大潛力可能就是——智能意識的涌現。

　　機器意識的產生和超越人類的可能性

　　T：機器會像人類一樣產生意識嗎？它可能在哪些方面超越人類？
　　劉嘉：意識問題是人類的核心難題之一，它定義了人類與動物之間的本質區(qū)別。盡管我們不清楚意識如何產生，但從進化角度來看，大約4萬年前的人類開始出現大規(guī)模埋葬現象，這意味著人類已經意識到身體與靈魂的區(qū)別，并開始意識到自己的存在。
　　關于意識的產生，有兩種可能性。一種是外星人干預，但這種觀點并不可靠，因為我們無法解釋外星人的意識來源。另一種可能性是，當一個模型足夠大時，意識自然產生。意識可能是大腦神經元集體活動的產物。信息整合理論（IIT）認為，全體神經元激活所產生的信息要大于單個神經元所產生的信息之和。因此，當一個大模型足夠大時，意識的產生是不可避免的。當然，這也是一件非�？膳碌氖虑�。因為與核彈不同，意識可能使未來的人工智能擁有自我保護意識，使其不受人類控制。
　　為了解決人工智能無法行動的問題，下一步的研究熱點將是實現人工智能的具身化。人類的感知和認知是有限的，而人工智能可以擁有更多的感知器官因此能觀察到更廣闊的世界。這將使人工智能所看到的世界與人類完全不同。例如，人類潛水愛好者只能下潛到水下100多米，而無法體驗到1000米深水下的感覺。然而，借助傳感器等，人工智能可以毫無壓力地直接感受這種體驗。
　　現在，AI的發(fā)展依賴于人類的知識和人本，我們可以給它一個有限的認知邊界。但是，一旦AI有了agent(人工智能代理)，它可能就不再受到這些邊界的限制。它可以更高效的方式獲取各種知識，并且知識的廣度和深度遠遠大于人類，從而形成一個自學習、自反饋和自優(yōu)化的進化正循環(huán)。從這個角度看，AI智能超越人類輕而易舉。

　　AI時代的人類命運：認知革命與文明演化的新篇章

　　T：面對如此強大的人工智能，人類有沒有可能被AI毀滅？
　　劉嘉：我覺得可以從兩個角度看待這個問題。首先，如果你看到一只螞蟻，你會踩它嗎？我想大多數人不會。同樣，未來在AI面前，我們可能連螞蟻都不如�，F在我們還能看到許多人機大戰(zhàn)的電影，他們都有一個前提，那就是人類和機器還能展開較量，實力有的一拼。
　　AI相較于人類天然具有四大優(yōu)勢：第一，無限算力。人類大腦的體積有上限，無論再經過多少年的進化，也不會再增大。因為身體只能支撐這么大的大腦，大腦已經是身體能量消耗的最大器官。第二，無限存儲。人類的大腦會有一個知識存儲的極限，并不存在“大腦還未被完全開發(fā)”一說，而計算機不存在這個問題。第三，無限壽命。人類的天才，如愛因斯坦，一旦去世，文明就會中斷。而計算機可以隨時更換損壞的部件，使知識得以延續(xù)。第四，對知識有無限可能。計算機能學習比人類更復雜、更高維的知識。
　　綜合這幾點，人類與AI相比毫無勝算。未來可能不再是人類與AI的對抗，而是AI迅速超越人類。一旦超越，人類的命運將不再是AI的關注點，就像我們不會每天與螞蟻較勁一樣。
　　從現實的角度來看，未來的人機大戰(zhàn)并不可能發(fā)生。實際上，我們可以將自己融入到計算機和未來的AI中，例如將我們的記憶、性格和意識情感上傳到AI中，這樣我們就能在AI中實現永生。未來，一臺機器就可能容納數百萬人。
　　這其實涉及到一個很本質的問題，即什么才是我們這個人。例如，當一個人患上老年癡呆癥時，他還是他自己嗎？這就是著名的“忒修斯之船”難題，一個古羅馬哲學家講述的故事。在這個故事中，一艘船隨著時間的推移，船上的每一個部分都被替換掉了，那么這艘船還是原來的船嗎？
　　從人類進化的過程來看，我們也在不斷地變化，例如我們的皮膚細胞大約每周會更新一次。那么，我們還是我們自己嗎？這就是所謂的認知同一性，只要我們認為我們是我們自己，那么一切都沒問題。
　　當一個人患上精神分裂癥時，從某種意義上講，他已經死去，因為他的“認知同一性”已經斷裂。同樣地，當一個人患上老年癡呆癥，所有的記憶和情感都消失時，從認知同一性的角度來看，他也已經死去。
　　因此，只要我們的認知同一性得以保留，我們在哪里并不重要，無論是在肉體中還是在機器中。如果我們能夠借助AI，人類將能夠得到極大的拓展。我們的肉體實際上是我們思想的最大束縛，因為它會死去，而且我們的智力受到基因的限制。
　　站在文明的角度來看，人類只是文明發(fā)展中的一個過客。因此，如果我們一直將AI限制在人類框架內來理解文明，那么我們就無法真正理解文明的演化。從人類與猴子開始分化進化至今經歷了約300萬年，我們直系祖先的歷史僅有約20萬年，相比之下，恐龍在地球上生活的時間要比我們人類長得多。想象一下，如果人類真的能一直活到宇宙的盡頭，那將是多么可悲的事情。我們的算力有限，從某種程度上說，我們甚至是一種弱智的生物。因此，有了AI之后，我們才能真正開始談論文明的演化。借助AI，我們甚至可以飛到數千上萬光年之外的地方，這是我們現在難以想象的。一旦進入這種狀態(tài)，時間和空間將不再是我們理解宇宙奧秘的束縛。
　　當我們談論AI時，我們不能僅僅把它看作是一種節(jié)能增效的工具，而應該把它看作是文明發(fā)展的重要驅動力。雖然AI在商業(yè)領域有很多應用，但相對于AI的出現，這些應用實際上并不算什么。就像發(fā)明了電、電燈、電話和蒸汽機一樣，這些發(fā)明確實對人類有很大幫助，但在AGI面前，這些可能都算不上什么。
　　從積極的角度來看，AI對人類文明是有益的。當我們談論滅絕時，實際上我們是在討論人類文明的滅絕。比如，從歷史角度來看，厭氧細菌和恐龍文明已經滅絕。但是，他們所創(chuàng)造的文明實際上在我們人類身上得以延續(xù)。當我們說恐龍文明滅絕時，實際上文明本身并沒有消失，而只是載體發(fā)生了變化。假設將文明比作人，將載體比作汽車，那么當汽車損壞并更換時，我們并不會感到悲傷。借助新的載體，我們可以走得更遠、更環(huán)保、更安全。
　　因此，AGI的出現將會是人類認知革命的又一次飛躍，它將會徹底改變我們對于自身和宇宙的認知，讓我們更加深刻地理解自身的局限性和渺小性。而且AGI的出現也將會帶來無限的可能性和機遇，讓我們能夠更好地探索和利用宇宙的資源和能量，推動人類文明的發(fā)展和進步。

　　GPT助力教育變革：重塑考試制度與培養(yǎng)創(chuàng)新人才

　　T：最后回到一個大家普遍關注的現實問題，關于教育。您也是一名大學老師，怎么看待GPT對未來教育模式的影響及應對?
　　劉嘉：盡管互聯網教育提高了效率，但它并未改變教育的本質。教育的核心應包括因材施教、辯論求真以及激發(fā)學生的自驅力和好奇心。隨著GPT技術的發(fā)展，實現這些目標變得更加可行。GPT可以為每個學生提供個性化教育，幫助他們通過辯論產生真理，激發(fā)自驅力和審辯性思維。因此，未來教育將不再過分強調知識性。
　　GPT的出現將對高考制度產生重大影響，或推動倒逼式改革。中國高考制度的兩大特點是回溯性考試和知識性考試。隨著GPT的出現，知識性變得不再重要，因為知識可以隨時查閱�？荚嚨闹攸c也應從培養(yǎng)知識型工人轉向培養(yǎng)創(chuàng)新型人才，并預測孩子未來能力以及適合的專業(yè)。
　　學生需要培養(yǎng)批判性思維和創(chuàng)造性思維。批判性思維強調以辯求真，而非死記硬背。創(chuàng)造性思維則要求寬容、好奇心和獨特的思路。GPT的出現必將引發(fā)教育領域的范式變革，這股潮流是無法阻擋的，就像火車和汽車最終取代馬車一樣。
　　人類的主觀意志在自然法則面前顯得非常脆弱。正如一句名言所說：“你可以違反法律，但不能違反物理法則�！�(you can defy the law, but you cannot defy the law of physics)實際上，GPT的出現本身就是一種自然法則的體現。它也必將促使我們的教育進行改革，這只是時間問題。