大主宰之灵路天蚕土豆,《完美世界》txt全集,玄幻小说排行榜完本

對(duì)話 Max Tegmark：掌控權(quán)必須掌握在人類手中

　
　　來源：騰訊研究院

　　8月26日，集智俱樂部與騰訊研究院共同舉辦“AIS2系列學(xué)術(shù)報(bào)告和研討活動(dòng)”沙龍，共同提出AIS2倡議，意指AI+Society與AI+Science這兩大如火如荼的前沿領(lǐng)域，并預(yù)言人工智能即將在跨學(xué)科研究中形成的集體涌現(xiàn)。

　　此次學(xué)術(shù)沙龍活動(dòng)的第一部分以“智能邊界：大語言模型能否再次涌現(xiàn)”為主題，麻省理工學(xué)院物理學(xué)教授、未來生命研究所（Future of Life Institute）創(chuàng)始人Max Tegmark 進(jìn)行了主題報(bào)告，并與騰訊研究院院長(zhǎng)司曉進(jìn)行對(duì)談。本文為對(duì)談實(shí)錄，由ChatGPT-4轉(zhuǎn)寫翻譯生成，并經(jīng)人工編輯校對(duì)：

　　司曉：你剛才的演講對(duì)我很有啟發(fā)。我不禁想起2019年在波多黎各參加未來生命研究所召開的AI國(guó)際會(huì)議的經(jīng)歷。我記得當(dāng)時(shí)會(huì)議的主題是“有益AGI”（Beneficial AGI）。當(dāng)時(shí)大家預(yù)期，通用人工智能(AGI)何時(shí)到來的平均預(yù)期時(shí)間是2045年。你在會(huì)上講到了當(dāng)時(shí)常見的關(guān)于AGI的迷思（myth，意指錯(cuò)誤觀點(diǎn)），比如只有超級(jí)智能變壞、產(chǎn)生自我意識(shí)才會(huì)給人類帶來嚴(yán)重安全風(fēng)險(xiǎn)，并且提出可以通過將AI與人類的價(jià)值觀“對(duì)齊”(alignment)來大幅降低這些風(fēng)險(xiǎn)。

　　當(dāng)時(shí)，我們大部分人都覺得AGI距離現(xiàn)實(shí)仍然相當(dāng)遙遠(yuǎn)，防止AGI變壞聽著像科幻小說，而隱私保護(hù)、數(shù)據(jù)安全、算法透明是更值得關(guān)注的現(xiàn)實(shí)問題。那時(shí)候?qū)GI的討論，通常不是很聚焦。四年后的今天，隨著大模型的突破，我們對(duì)AGI的設(shè)想更清晰了。當(dāng)然我們還是對(duì)如何應(yīng)對(duì)AGI莫衷一是，但這些意見分歧定義很清晰，可以對(duì)下一步AGI發(fā)展的指導(dǎo)原則進(jìn)行細(xì)節(jié)討論。那么，如果像4年前那樣再組織下一次人工智能國(guó)際會(huì)議，你會(huì)討論哪些議題，會(huì)將什么問題放在議程最優(yōu)先的位置？

　　Tegmark：是的，我們?cè)诓ǘ嗬韪髡劦煤芎�。�?duì)于AGI來說，確保它未來發(fā)展方向的措施是顯而易見的，也就是說，像對(duì)待生物制藥行業(yè)那樣對(duì)待AI行業(yè)。生物制藥公司應(yīng)該首先獲得相關(guān)監(jiān)管機(jī)構(gòu)的許可，才能銷售創(chuàng)新的生物制藥產(chǎn)品。制藥公司必須要做臨床試驗(yàn)，提供證據(jù)證實(shí)自己的藥品安全有效、獲益大于風(fēng)險(xiǎn)，才能從監(jiān)管機(jī)構(gòu)得到銷售許可。人工智能產(chǎn)業(yè)還處于監(jiān)管的早期階段。在我看來，受到恰如其分的監(jiān)管，是生物制藥行業(yè)發(fā)展相對(duì)較好的原因。人工智能產(chǎn)業(yè)還處于監(jiān)管的早期階段。我相信不論是在美國(guó)還是在中國(guó)，沒人會(huì)同意免除所有臨床試驗(yàn)，為一些不負(fù)責(zé)任的公司售賣有害產(chǎn)品開方便之門。

　　所以，如果要再舉辦一場(chǎng)AI國(guó)際論壇，將如何監(jiān)管人工智能發(fā)展作為重要主題，可能是比較合適的。讓來自全球的嘉賓開放討論他們是如何監(jiān)督航空業(yè)、汽車業(yè)、生物制藥的，這些行業(yè)的最佳實(shí)踐是什么，是否也可以用到對(duì)人工智能產(chǎn)業(yè)發(fā)展的監(jiān)管中來。這樣的討論是可以很快出成果的。這樣也能為我們爭(zhēng)取時(shí)間，去研究解決你剛提到的一些更困難的問題爭(zhēng)取時(shí)間。

　　司曉：好的，謝謝你的回答，對(duì)你的回答我很有感觸。人工智能尚處在爆發(fā)期，在技術(shù)和商業(yè)上都有很多不確定性，監(jiān)管的難度是比較大的，各方面的爭(zhēng)議也比較多。
　　我的另一個(gè)問題是，數(shù)月前，Geoffrey Hinton提出了“可朽計(jì)算”(mortal computer)的概念。大意是把AI與硬件綁定，比如以很低的成本給烤箱裝上GPT，用數(shù)瓦的電力就可以驅(qū)動(dòng)，很像人類這樣的有機(jī)生物智慧，能耗低，智慧會(huì)隨著硬件的損耗而流逝，所以叫作“可朽計(jì)算”。在你的《生命3.0》一書中，你設(shè)想通過將AI與人類結(jié)合，打破很多生命體的生物局限。機(jī)器變成凡人，人類可以不朽。大型語言模型的出現(xiàn)，讓人類文明第一次如此接近AGI。這些新變化，是否讓你對(duì)未來人類的生存形態(tài)有新的設(shè)想？如果有機(jī)會(huì)重新寫《生命3.0》，你最想修改書中的哪部分？

　　Tegmark：是的，我同意你的說法，AI的發(fā)展仍然有很多可能性。
　　我想，未來會(huì)變得如何，仍然一個(gè)非常開放的問題。但無論如何，掌控權(quán)必須掌握在人類手中。一般來說，技術(shù)創(chuàng)新帶來功能更強(qiáng)大的技術(shù)，如果掌控權(quán)在我們手中，就好比你可以很好控制你的智能手機(jī)，那么智能手機(jī)就會(huì)是一個(gè)有幫助的工具，讓你更好完成以前做不到的事情。但如果我們對(duì)創(chuàng)新的成果沒有掌控權(quán)，那情況可能會(huì)很糟糕。
　　如果某天超級(jí)智能問世，我們不應(yīng)該只把它看作是蒸汽機(jī)或電這樣的新技術(shù)發(fā)明，而是把它看作出現(xiàn)在地表的新物種。與新發(fā)明不同，新物種會(huì)自我復(fù)制，并且有自己的想法和目的，所以我們必須非常、非常小心。我們不會(huì)擔(dān)心像牛羊這樣的既有物種搗亂，因?yàn)檫@些物種很容易控制，就智力水平而言，我們遠(yuǎn)遠(yuǎn)勝出。而如果我們創(chuàng)造出超級(jí)智能這樣比我們聰明得多的新物種，事情就反過來了，控制這一新物種異常困難，很容易就失去對(duì)它的控制。
　　所以我想，如果我們把事情做對(duì)了，找到方法確保讓機(jī)器與我們的目標(biāo)一致、始終站在我們一邊，輔助我們，人類的未來就十分美好。像剛才主持人提到的，人工智能協(xié)助我們治療所有疾病、消除饑餓和貧困、實(shí)現(xiàn)世界和平、探索未知宇宙。但這些的前提都是掌控權(quán)在我們手里。所以與其問超級(jí)智能將如何改變未來，不如問我們到底想要一個(gè)什么樣的未來？然后再看如何走向我們想要的未來。
　　在我看來，中國(guó)在這些方面可以扮演非常關(guān)鍵的角色。中國(guó)是存續(xù)了數(shù)千年的古老文明，有更加深厚的長(zhǎng)遠(yuǎn)思考的傳統(tǒng)。我真的建議大家多想想，人工智能對(duì)人類的未來意味著什么，詳細(xì)闡述出來與所有人分享。如果全球能夠?qū)ξ磥碓妇斑_(dá)成積極的共識(shí)，每個(gè)人都會(huì)從中獲益，互相合作共同建設(shè)這樣的未來愿景也會(huì)容易很多。

　　司曉：是的，同意，掌控權(quán)必須抓在我們手里。你剛才在主題演講中提到了未來生命研究所最近發(fā)布的公開信，呼吁將研發(fā)比GPT-4更加強(qiáng)大的AI系統(tǒng)暫停至少6個(gè)月。Elon Musk和AI領(lǐng)域的一些重量級(jí)人物都在信上署名。這一呼吁得到相當(dāng)多的關(guān)注，并引發(fā)了廣泛討論。我記不太清這封信具體的發(fā)布日期了，是不是已經(jīng)過去六個(gè)月了。Geoffrey Hinton為了敲響AGI的警鐘，在今年早些時(shí)候從Google離職，距離他談?wù)摗翱尚嘤?jì)算”僅僅幾個(gè)月的時(shí)間。馬斯克則一度認(rèn)為AGI是人類走向星際文明的必由之路。
　　如果我沒理解錯(cuò)的話，今年以來，Hinton對(duì)AI的態(tài)度發(fā)生了180度的大轉(zhuǎn)變。那么，你對(duì)AI發(fā)展的未來仍然持樂觀態(tài)度嗎？你是否同意AGI總體上對(duì)人類有益，未來生命研究所提出的阿西洛馬AI原則是否足以保護(hù)人類免受AGI的威脅？

　　Tegmark：我一直相信AI要么成為人類歷史上最棒的事情，要么成為人類歷史上最糟的事情。而到底是最棒還是最糟，選擇權(quán)在我們手中。對(duì)于我們是否能很好處理人工智能挑戰(zhàn)，說實(shí)話，在過去的一年里，我多少感覺更悲觀一點(diǎn)。我一開始曾經(jīng)期待，當(dāng)人工智能的挑戰(zhàn)越來越明顯的時(shí)候，政策制定者會(huì)更快采取行動(dòng),對(duì)人工智能的發(fā)展進(jìn)行監(jiān)管。就像我剛才提到的，他們已經(jīng)在生物、航空和其他領(lǐng)域做了很長(zhǎng)時(shí)間的監(jiān)管，已經(jīng)有經(jīng)驗(yàn)了。
　　但到目前為止，各國(guó)的監(jiān)管還比較初步，雖然有很多討論。但我希望能有更多的政策出臺(tái)。
　　重要的是要記住，我們幾乎可以肯定未來會(huì)發(fā)展出強(qiáng)大的、超過人類的AI，但不能保證它會(huì)是友好的。我們必須做出努力，統(tǒng)籌協(xié)調(diào)監(jiān)管、合作和安全技術(shù)，確保AI是對(duì)人類有益的，而不是指望這一點(diǎn)會(huì)自動(dòng)實(shí)現(xiàn)。在這個(gè)問題上，我們沒有任何懈怠的空間。

　　司曉：好的，我問得更具體一點(diǎn)，價(jià)值對(duì)齊（Value alignment）被認(rèn)為是解決AI挑戰(zhàn)的一個(gè)重要方法，確保AI的決策與人類的價(jià)值觀和道德觀念一致。對(duì)齊也是阿西洛馬AI原則的基本思想之一。對(duì)齊不是自動(dòng)實(shí)現(xiàn)的，需要大量的資源投入來保障對(duì)齊。Open AI說他們打算將20%的計(jì)算資源用來支持價(jià)值對(duì)齊研究和技術(shù)實(shí)踐。這個(gè)投入力度不小，但你認(rèn)為這足夠嗎？大模型公司需要如何保障價(jià)值對(duì)齊的投入？全球不同的組織在不同的地區(qū)訓(xùn)練不同的大語言模型，又如何確保在不同實(shí)體、地區(qū)之間實(shí)現(xiàn)普遍的對(duì)齊？

　　Tegmark：我認(rèn)為Open AI現(xiàn)在能做的最好的事情，就是停止訓(xùn)練GPT-5或其他更強(qiáng)大的模型，并承諾在我們弄清楚如何保障人工智能安全性之前，不會(huì)發(fā)布比GPT-4更強(qiáng)大的東西。但問題是，人工智能公司同時(shí)面臨來自同行的競(jìng)爭(zhēng)壓力，沒有公司會(huì)自覺獨(dú)立停止研發(fā)，因?yàn)檫@么做除了讓自己輸?shù)舾?jìng)爭(zhēng)之外，不會(huì)有其他作用。所以這就是為什么我覺得我們必須達(dá)成一個(gè)覆蓋全球的安全標(biāo)準(zhǔn)。所有人都必須遵守這個(gè)標(biāo)準(zhǔn)，都在同一個(gè)水平上公平競(jìng)爭(zhēng)。這樣我們才能實(shí)現(xiàn)有意義的“暫�！薄�
　　對(duì)于第二個(gè)問題，我們應(yīng)該在什么基礎(chǔ)上達(dá)成一致，盡管不同國(guó)家不同企業(yè)往往有不同的角度和觀點(diǎn)，但實(shí)際上我覺得情況比大多數(shù)人想象的要樂觀。我在前面主題演講的開頭提到了聯(lián)合國(guó)的可持續(xù)發(fā)展目標(biāo)(SDG)。SDG是非常大、非常有雄心的目標(biāo)，而且全球大多數(shù)國(guó)家，不管是中國(guó)美國(guó)俄羅斯還是印度，都贊同這些目標(biāo)。那就從這些我們都贊同的目標(biāo)開始，然后再去一點(diǎn)點(diǎn)深入到細(xì)節(jié)。我們應(yīng)該相信，與機(jī)器相比，人類之間的共同點(diǎn)非常多，我們都要吃飯睡覺、都敬畏生命、都珍視家庭。
　　而對(duì)大語言模型、對(duì)AI來說，那是我們完全陌生的思維方式。這些AI的思維空間遠(yuǎn)遠(yuǎn)大于人類的思維空間，不難想象，這樣一個(gè)AI完全不關(guān)心上面提到的這些、對(duì)我們來說非常重要的東西。它可能只是想把地球變成一個(gè)越來越大的GPU服務(wù)器農(nóng)場(chǎng)，或者把太陽變成戴森球（弗里曼·戴森設(shè)想的開采恒星能源的人造天體），或者把行星排列成其他形狀，等等。所以，我說這些的意思是，人類所一致希望的那些東西跟機(jī)器的瘋狂想法相比，是根本沒有可比性的。先弄清楚如何讓機(jī)器與我們都同意的全球價(jià)值對(duì)齊，是個(gè)很好的起點(diǎn)。

　　司曉：AGI的挑戰(zhàn)一方面是如何負(fù)責(zé)任地開發(fā)，另一方面是如何負(fù)責(zé)任地使用。為了能夠與智能機(jī)器共存，我們需要對(duì)今天的教育系統(tǒng)進(jìn)行更新，讓每個(gè)人都做好準(zhǔn)備，特別是年輕一代。因?yàn)榻逃亲钕缺籄I改變、受到AI影響的領(lǐng)域。
　　我最近與香港大學(xué)的一位教授朋友交談。他告訴我，GPT在校園里被廣泛誤用。學(xué)生們現(xiàn)在使用ChatGPT來做作業(yè)，寫論文。他問我是否有可能開發(fā)一些算法來檢測(cè)學(xué)生作業(yè)的“含GPT量”。他也感慨，未來教育會(huì)不會(huì)變成一個(gè)不同的智能工具之間的競(jìng)賽，一個(gè)AI做作業(yè)，一個(gè)AI檢測(cè)“含GPT量”。學(xué)生和老師之間的教和學(xué)，是不是會(huì)變成一場(chǎng)誰能更好使用AI的攻防戰(zhàn)。Max您是MIT的教授，對(duì)這樣的攻防戰(zhàn)應(yīng)該有一手經(jīng)驗(yàn)。那么，你如何看待AI對(duì)人類教育和學(xué)習(xí)模式的長(zhǎng)期影響？這樣的攻防戰(zhàn)是為了讓年輕一代適應(yīng)即將到來的AI時(shí)代的必要之惡?jiǎn)幔?BR>
　　Tegmark：我同意你說的，它對(duì)教育有深遠(yuǎn)的影響。確實(shí)會(huì)有這樣一場(chǎng)競(jìng)賽，一個(gè)AI檢測(cè)作業(yè)是否是機(jī)器生成的，另一方面學(xué)生使用AI來做作業(yè)，而且教授們將輸?shù)暨@場(chǎng)競(jìng)賽，因?yàn)檫@些大型語言模型，本身就是為了把人工智能訓(xùn)練得越來越像人類，并且確實(shí)做到了。但我認(rèn)為，我們必須做的是真正地改變，是如何教學(xué)和測(cè)試學(xué)生。更深層次的問題是，如果機(jī)器能比人類更高效更好地完成所有工作，那么我們首先就要問問自己，生而為人的意義是什么。一開始，我們就不應(yīng)把自己置于非要與機(jī)器競(jìng)爭(zhēng)的境地，畢竟它們可以以極低成本做得比我們更出色。
　　我們可能決定保留一些工作，這些工作可以賦予人生意義，即便機(jī)器可以更便宜地完成這些工作。我們不應(yīng)該只是考慮工程師或者AI研究這樣的工作，可能要談?wù)勏裥睦韺W(xué)家、教師和社會(huì)工作者這些工作，談?wù)勈裁茨軒硇腋�，我們想要什么？我們想在AI時(shí)代建立什么樣的社會(huì)，使AI讓我們變成更好的自己，使生活更有意義，而不是與機(jī)器競(jìng)爭(zhēng)工作崗位。

　　司曉：好的。由于時(shí)間關(guān)系，我想我應(yīng)該在這里停下。非常感謝Max的精彩發(fā)言和這次引人入勝的討論。我認(rèn)為你所有的新觀點(diǎn)都為人類和AGI共同創(chuàng)造一個(gè)更美好的未來帶來了希望。再次感謝你的分享。