Google前CEO，「現(xiàn)在已經(jīng)不是Google員工」的施密特（EricSchmidt）前不久在斯坦福做了一次分享。

分享被拍成視頻上傳到斯坦福在線課YouTube官號(hào)，其中有40多分鐘施密特與學(xué)生Q&A的環(huán)節(jié)。

因?yàn)橛^點(diǎn)太直接，說(shuō)話太實(shí)在，施密特的分享上了新聞。

斯坦福官號(hào)把視頻都隱藏了。

最后施密特在郵件采訪中對(duì)「錯(cuò)誤言論」表示道歉。

EricSchmidt：不，他們的目標(biāo)是到一千萬(wàn)。Anthropic已經(jīng)達(dá)到了20萬(wàn)，還在繼續(xù)增長(zhǎng)。目標(biāo)是一百萬(wàn)及以上，可以想象OpenAI也有類似的目標(biāo)。接下來(lái)有誰(shuí)能給我們一個(gè)技術(shù)定義，解釋一下什么是AIAgent嗎？

聽(tīng)眾：AIagent就是在網(wǎng)上執(zhí)行任務(wù)，代表你來(lái)購(gòu)買(mǎi)東西，以及類似的各種操作。

EricSchmidt：所以agent就是執(zhí)行某種任務(wù)的東西，另一個(gè)定義是一個(gè)具有記憶功能的大型語(yǔ)言模型。再問(wèn)一個(gè)問(wèn)題，計(jì)算機(jī)科學(xué)的同學(xué)，有人能解釋一下什么是Text-to-Action嗎？

聽(tīng)眾：就是把文字?jǐn)U展到更多文本，輸入文本，然后AI根據(jù)文本觸發(fā)操作。

EricSchmidt：另一個(gè)定義是把語(yǔ)言轉(zhuǎn)換成Python——一種我從沒(méi)想到還能繼續(xù)存活的編程語(yǔ)言。但現(xiàn)在AI的一切都是用Python來(lái)做的。最近有一種剛剛發(fā)布的新語(yǔ)言叫Mojo，它似乎終于解決了AI編程的問(wèn)題，不過(guò)我們還要看看在Python統(tǒng)治局勢(shì)下，它能不能生存下來(lái)。

再問(wèn)一個(gè)技術(shù)問(wèn)題，為什么Nvidia價(jià)值兩萬(wàn)億美元，而其他公司卻陷入困頓？

聽(tīng)眾：技術(shù)原因嘛。我認(rèn)為這主要?dú)w結(jié)于代碼運(yùn)行的優(yōu)化。目前大多數(shù)代碼需要在經(jīng)過(guò)優(yōu)化的環(huán)境中運(yùn)行，而目前只有Nvidia的GPU可以做到這一點(diǎn)。事實(shí)上其他公司有能力開(kāi)發(fā)各種技術(shù)，可能擁有長(zhǎng)達(dá)十年的軟件開(kāi)發(fā)經(jīng)驗(yàn)，但它們沒(méi)有專門(mén)針對(duì)機(jī)器學(xué)習(xí)進(jìn)行優(yōu)化的團(tuán)隊(duì)。

EricSchmidt： 我喜歡把CUDA看作是GPU的C語(yǔ)言。這是我喜歡的理解方式。它在2008年誕生，我一直覺(jué)得它是個(gè)糟糕的語(yǔ)言，但它卻成為了主流。現(xiàn)在有一整套開(kāi)源庫(kù)，它們都是針對(duì)CUDA高度優(yōu)化的。構(gòu)建這些技術(shù)堆棧的所有人都忽略了這一點(diǎn)。我們稱之為vlm技術(shù)，加上其他類似的開(kāi)源庫(kù)，它們都為CUDA做了優(yōu)化。這對(duì)競(jìng)爭(zhēng)對(duì)手來(lái)說(shuō)很難復(fù)制。

以上這些意味著什么？

在接下來(lái)的一年里，你會(huì)看到更大規(guī)模的上下文窗口、Agent和Text-to-Action的功能。當(dāng)它們被大規(guī)模應(yīng)用時(shí)，影響將比我們現(xiàn)在看到的社交媒體帶來(lái)的巨大沖擊還要大，至少在我看來(lái)是這樣。在上下文窗口里，你可以把它當(dāng)作短期記憶來(lái)用，規(guī)模能做得這么大，這太讓人震驚，技術(shù)上服務(wù)和計(jì)算是非常復(fù)雜的。

短期記憶的有趣之處在于，讓它讀20本書(shū)，把這些書(shū)的文本輸入進(jìn)去作為查詢，讓它告訴你書(shū)的內(nèi)容。人類大腦會(huì)忘記中間的部分?，F(xiàn)在有一些人在構(gòu)建基本的LLMAgent。它們的工作方式是，比如讀化學(xué)類的內(nèi)容，發(fā)現(xiàn)其中的化學(xué)原理，然后進(jìn)行測(cè)試，再把結(jié)果加入到它們的理解中。這非常強(qiáng)大。

第三點(diǎn)，就是我提到的文本到動(dòng)作。舉個(gè)例子，政府現(xiàn)在正在考慮禁止TikTok。我們不知道會(huì)不會(huì)真的發(fā)生。如果TikTok被禁了，我建議你們對(duì)你們的LLM說(shuō)：復(fù)制一個(gè)TikTok，獲取所有用戶，獲取所有音樂(lè)，加入我的偏好，30秒內(nèi)生成并發(fā)布。如果一個(gè)小時(shí)內(nèi)沒(méi)火，那就換個(gè)類似的做法，這就是命令。砰砰砰，馬上就成了。

你明白嗎？如果你能從任意語(yǔ)言直接生成任意的數(shù)字指令，這基本上就是這個(gè)場(chǎng)景下Python的作用。想象一下，每個(gè)人都有一個(gè)能按你要求工作的程序員，而不再是那些為我工作，但不聽(tīng)話的程序員。（笑）程序員們都知道我在說(shuō)什么。想象一下，一個(gè)不自大的程序員，真正按你的要求去做，還不用付那么多錢(qián)。而且這些程序員是無(wú)限供應(yīng)的。而這些……

主持人：都會(huì)在未來(lái)一兩年內(nèi)實(shí)現(xiàn)。

EricSchmidt：很快就會(huì)實(shí)現(xiàn)。我非常相信它們會(huì)在下一波技術(shù)浪潮中發(fā)生。

聽(tīng)眾：你提到擴(kuò)展上下文窗口、代理和Text-to-Action的結(jié)合將帶來(lái)難以想象的影響。首先，為什么這些結(jié)合很重要？其次，我知道你無(wú)法預(yù)知未來(lái)，但你為什么認(rèn)為這會(huì)超出我們目前的想象？

EricSchmidt：我認(rèn)為主要是因?yàn)閿U(kuò)展上下文窗口能夠解決時(shí)效性的問(wèn)題。當(dāng)前的AI模型大約需要一年時(shí)間來(lái)訓(xùn)練，包括6個(gè)月準(zhǔn)備，6個(gè)月訓(xùn)練和6個(gè)月微調(diào)，所以它們總是有點(diǎn)滯后。但擴(kuò)展后的上下文窗口可以讓你輸入最新的信息，這樣的上下文功能非常強(qiáng)大，就像谷歌那樣能夠?qū)崟r(shí)更新。

關(guān)于Agents模型，我舉個(gè)例子。我建了一個(gè)基金會(huì)，資助了一個(gè)非營(yíng)利組織，他們啟動(dòng)了一個(gè)項(xiàng)目，有一個(gè)叫做Chemcrow的工具，它是基于大語(yǔ)言模型的系統(tǒng)，用來(lái)學(xué)習(xí)化學(xué)知識(shí)。他們用這個(gè)系統(tǒng)生成蛋白質(zhì)方面的化學(xué)假設(shè)，然后實(shí)驗(yàn)室會(huì)在晚上做測(cè)試，系統(tǒng)再繼續(xù)學(xué)習(xí)。這極大加快了化學(xué)和材料科學(xué)領(lǐng)域的研究進(jìn)展。

我認(rèn)為「Text-to-Action」可以理解為大量廉價(jià)程序員帶來(lái)的效果。不過(guò)我覺(jué)得我們還沒(méi)有真正理解，當(dāng)每個(gè)人都有一個(gè)自己的程序員的時(shí)候會(huì)發(fā)生什么，他們做的是你的專長(zhǎng)，不是簡(jiǎn)單的開(kāi)關(guān)燈那樣的事。

你可以設(shè)想一個(gè)場(chǎng)景，比如你不喜歡Google。就說(shuō)，幫我造一個(gè)Google的競(jìng)爭(zhēng)對(duì)手，搜索網(wǎng)頁(yè)、搭建界面、加入生成式AI，30秒內(nèi)做好，我們來(lái)看看效果。這些老牌公司，比如Google，就很可能會(huì)受到這種攻擊的威脅，我們等著看。

2.「我已經(jīng)不是Google員工了」

主持人：你在Google工作了很多年，他們發(fā)明了Transformer架構(gòu)，Peter（PeterNorvig，前GoogleResearch的工程總監(jiān)）是主導(dǎo)者之一。感謝像Peter和JeffDean這樣的聰明人。不過(guò)現(xiàn)在，Google似乎已經(jīng)在主動(dòng)權(quán)上失去了優(yōu)勢(shì)，OpenAI已經(jīng)趕上來(lái)了。我看到的最新排名中，Anthropic的Claude排在了前面。我問(wèn)過(guò)Sundar（桑達(dá)爾·皮查伊），他沒(méi)有給我一個(gè)明確的回答。也許你有一個(gè)更清晰或客觀的解釋，說(shuō)說(shuō)那里到底發(fā)生了什么。

EricSchmidt：我已經(jīng)不是Google的員工了。坦率地說(shuō)，Google更加注重工作與生活的平衡，早早下班和居家辦公，似乎比打勝仗更重要。初創(chuàng)公司的成功秘訣就在于員工拼命工作。我很抱歉，說(shuō)得這么直接，但事實(shí)就是如此。如果你們畢業(yè)后創(chuàng)辦公司，你們不會(huì)讓員工每周只來(lái)公司一天，大部分時(shí)間在家工作。如果想和其他初創(chuàng)公司競(jìng)爭(zhēng)，這樣做是行不通的。

主持人：Google早期的情況和當(dāng)時(shí)的微軟很像……

EricSchmidt：是的。

在我們這個(gè)行業(yè)，有一種常見(jiàn)的現(xiàn)象：一些公司以非常創(chuàng)新的方式贏得市場(chǎng)，徹底主導(dǎo)了一個(gè)領(lǐng)域，但卻無(wú)法順利過(guò)渡到下一個(gè)階段。

這種情況有很多。我認(rèn)為創(chuàng)始人很重要，這是非常重要的問(wèn)題，他們掌舵公司。雖然創(chuàng)始人往往難以相處，對(duì)員工要求苛刻，但他們也推動(dòng)了公司向前發(fā)展。

盡管我們可能不喜歡Elon（馬斯克）的一些個(gè)人行為，但看看他在工作上做了什么。我和他共進(jìn)晚餐那天，他一直在來(lái)回飛行。我當(dāng)時(shí)在蒙大拿，而他那天晚上十點(diǎn)還要飛去參加凌晨與xAI的會(huì)議。

我去臺(tái)灣的時(shí)候，感受到不同的地方有不同的文化，我印象深刻的是，臺(tái)積電（TSMC）有一個(gè)規(guī)定，新入職的物理學(xué)博士要先在工廠地下室工作。你能想象讓美國(guó)的博士去做這種工作嗎？幾乎不可能。

工作結(jié)果是不同的。我之所以對(duì)工作的問(wèn)題如此苛刻，是因?yàn)檫@些系統(tǒng)存在網(wǎng)絡(luò)效應(yīng)。時(shí)間非常關(guān)鍵，而在大多數(shù)行業(yè)中，時(shí)間并不那么重要，他們有足夠的時(shí)間?？煽诳蓸?lè)和百事可樂(lè)會(huì)一直存在，兩者的競(jìng)爭(zhēng)也會(huì)持續(xù)下去，像冰川一樣緩慢變化。

當(dāng)我與電信公司合作時(shí)，一般的電信合同需要18個(gè)月才能簽署。我覺(jué)得沒(méi)必要這么久，事情應(yīng)該盡快完成。我們現(xiàn)在正處在增長(zhǎng)和收益的高峰期，這時(shí)候還需要一些瘋狂的想法。

比如微軟決定與OpenAI合作時(shí)，我當(dāng)時(shí)覺(jué)得那是最愚蠢的想法之一。微軟把AI領(lǐng)導(dǎo)權(quán)交給了OpenAI和Sam的團(tuán)隊(duì)，這簡(jiǎn)直不可思議。然而今天，他們正逐步成為最有價(jià)值的公司之一，與蘋(píng)果的競(jìng)爭(zhēng)不相上下。蘋(píng)果在AI方面沒(méi)有好的解決方案，看起來(lái)微軟的策略奏效了。3.模型的差距正在拉大

EricSchmidt：你剛才問(wèn)，接下來(lái)會(huì)發(fā)生什么，每隔六個(gè)月，我的想法都會(huì)有所搖擺。我們現(xiàn)在處于一個(gè)奇偶震蕩的周期波動(dòng)中。就目前來(lái)看，前沿模型之間的差距——現(xiàn)在只有三種模型——和其他模型之間的差距似乎在拉大。六個(gè)月前，我還認(rèn)為差距在縮小，所以我投了很多錢(qián)給一些小公司，不過(guò)現(xiàn)在我不那么確定了。

我開(kāi)始和大公司談，大公司告訴我，他們需要100 億、200 億、500 億，甚至1000 億資金。

主持人：目標(biāo)是1000億，對(duì)吧？

EricSchmidt：是的，很難很難。我和SamAltman是好朋友，他認(rèn)為可能需要3000億，甚至更多。我告訴他，我已經(jīng)計(jì)算過(guò)所需的電力了。我上周五去了白宮，開(kāi)誠(chéng)布公告訴他，我們需要和加拿大搞好關(guān)系，因?yàn)榧幽么蟛粌H人好，還幫助發(fā)明了AI，并且有很多水電資源。而我們國(guó)家沒(méi)有足夠的電力來(lái)支撐這個(gè)發(fā)展。

另一個(gè)選擇是讓阿拉伯國(guó)家出資。我個(gè)人很喜歡阿拉伯，也在那里呆過(guò)很長(zhǎng)時(shí)間。但他們不會(huì)遵守我們的國(guó)家安全規(guī)則，而加拿大和美國(guó)是可以一起合作的。

主持人：沒(méi)錯(cuò)。所以這些價(jià)值1000億、3000億的數(shù)據(jù)中心，電力會(huì)變成稀缺資源。

EricSchmidt：是的。順著這個(gè)思路，如果3000億都要投到Nvidia身上，你知道該買(mǎi)什么股票了，對(duì)吧？（笑）當(dāng)然，我不是在推薦股票。

主持人：沒(méi)錯(cuò)。我們將需要更多的芯片，Intel正從美國(guó)政府獲得大量資金，還有AMD，他們都在努力建造芯片工廠。

EricSchmidt：如果現(xiàn)場(chǎng)有使用Intel芯片的設(shè)備，請(qǐng)舉手（聽(tīng)眾舉手）。它的壟斷似乎到此為止了。

主持人：Intel曾經(jīng)確實(shí)是壟斷者。而現(xiàn)在是Nvidia的壟斷。那么，像CUDA這樣的技術(shù)壁壘，是否有其他公司可以做？我前幾天和另一位創(chuàng)業(yè)者聊過(guò)，他會(huì)根據(jù)能獲得的資源，在TPU和Nvidia芯片之間切換使用。

EricSchmidt：因?yàn)樗麤](méi)有其他選擇。如果他有無(wú)限的資金，今天他肯定會(huì)選擇Nvidia的B200架構(gòu)，因?yàn)槟菢铀俣雀?。我不是在暗示什么，?jìng)爭(zhēng)當(dāng)然是好事。我和AMD的LisaSue（蘇姿豐）詳細(xì)討論過(guò)這個(gè)事情，他們開(kāi)發(fā)了一個(gè)系統(tǒng)，可以將CUDA架構(gòu)轉(zhuǎn)換成他們自己的架構(gòu)，叫做Rocm。目前還沒(méi)完全發(fā)揮作用，他們還在繼續(xù)改進(jìn)。4.我們會(huì)經(jīng)歷一場(chǎng)巨大的泡沫，然后市場(chǎng)會(huì)自己調(diào)整

聽(tīng)眾：你對(duì)AI的前景非常樂(lè)觀。你覺(jué)得是什么推動(dòng)了這種進(jìn)步？是更多的資金？還是更多的數(shù)據(jù)？或者是技術(shù)上的突破？

EricSchmidt：我基本上是看哪個(gè)項(xiàng)目都投，因?yàn)槲乙舱f(shuō)不準(zhǔn)哪個(gè)能成。而且，現(xiàn)在有一大堆資金跟著我一起進(jìn)來(lái)。我覺(jué)得，部分原因是早期投資已經(jīng)賺到錢(qián)了，現(xiàn)在那些大資金的投資者，雖然他們不太懂AI，但他們覺(jué)得每個(gè)項(xiàng)目都得加點(diǎn)AI元素，所以現(xiàn)在幾乎所有的投資都變成了AI投資。他們分不出好壞。我理解的AI，是那種真正能學(xué)習(xí)的系統(tǒng)，我認(rèn)為這才算數(shù)。

另外，現(xiàn)在有些非常先進(jìn)的新算法，它們已經(jīng)不局限于Transformer架構(gòu)了。我有個(gè)朋友，也是我長(zhǎng)期的合作伙伴，他做出了一種全新的非Transformer架構(gòu)，我在巴黎資助的一個(gè)團(tuán)隊(duì)也說(shuō)他們有類似的創(chuàng)新，斯坦福這邊也有不少新動(dòng)向。

最后，市場(chǎng)上普遍相信，開(kāi)發(fā)智能技術(shù)會(huì)帶來(lái)巨大的回報(bào)。比如說(shuō)，你給一家公司投了500億美元，那你肯定希望通過(guò)智能技術(shù)賺回一大筆錢(qián)。所以我們可能會(huì)經(jīng)歷一個(gè)巨大的投資泡沫，然后市場(chǎng)會(huì)自我調(diào)整。過(guò)去一直都是這樣，現(xiàn)在可能也不例外。

主持人：你之前提到，現(xiàn)在頭部公司正在越拉越開(kāi)距離。

EricSchmidt：對(duì)，現(xiàn)在確實(shí)是這樣。法國(guó)有家公司叫Mistral，他們做得很好，我也投資了他們。他們推出了第二版模型，但第三版可能會(huì)是封閉的，因?yàn)槌杀咎摺Ｋ麄冃枰杖?，不能再免費(fèi)提供模型了。

開(kāi)源和閉源之間的爭(zhēng)論在我們行業(yè)里非常激烈。我個(gè)人的整個(gè)職業(yè)生涯都建立在人們?cè)敢夥窒黹_(kāi)源軟件的基礎(chǔ)上。我做的技術(shù)工作都是開(kāi)源的，谷歌的很多核心技術(shù)也是開(kāi)源的。但是現(xiàn)在可能因?yàn)橘Y本成本實(shí)在太高，軟件的開(kāi)發(fā)方式可能會(huì)發(fā)生根本性的變化。

我個(gè)人覺(jué)得，軟件程序員的生產(chǎn)力至少會(huì)翻倍?，F(xiàn)在有三四家軟件公司在努力實(shí)現(xiàn)這個(gè)目標(biāo)，我也投了這些公司。他們的目標(biāo)是提升軟件程序員的效率。我最近見(jiàn)到的一個(gè)很有趣的公司叫Augment。我總是想著單個(gè)程序員，但他們的目標(biāo)其實(shí)是那些大型軟件團(tuán)隊(duì)，這些團(tuán)隊(duì)可能有幾百萬(wàn)行代碼，但沒(méi)人能搞清楚所有代碼的運(yùn)行細(xì)節(jié)。這個(gè)問(wèn)題非常適合用AI來(lái)解決。他們能賺錢(qián)嗎？我希望能。

主持人：所以，還有很多問(wèn)題要討論。

聽(tīng)眾：關(guān)于非Transformer架構(gòu)，我覺(jué)得狀態(tài)模型之類的架構(gòu)大家討論得不多，但現(xiàn)在它們又有了更多的進(jìn)展，你在這個(gè)領(lǐng)域看到了哪些新進(jìn)展？

EricSchmidt：我對(duì)數(shù)學(xué)了解不夠深，這里的數(shù)學(xué)非常復(fù)雜。但基本上，它們就是用不同的方法來(lái)做梯度下降和矩陣乘法，速度更快、更好。Transformers是一種同時(shí)進(jìn)行乘法運(yùn)算的系統(tǒng)化方式，我是這么理解的。它跟這個(gè)類似，但數(shù)學(xué)原理不同。

聽(tīng)眾：你是工程師出身，考慮到這些模型未來(lái)可能具備的能力，我們是否還需要花時(shí)間學(xué)編程？

EricSchmidt：這就好比你已經(jīng)會(huì)說(shuō)英語(yǔ)了，為什么還要繼續(xù)學(xué)英語(yǔ)呢？學(xué)習(xí)總是能讓人更上一層樓。你得理解這些系統(tǒng)的工作原理。5.分布式計(jì)算解決不了 AI的算力問(wèn)題

聽(tīng)眾：兩個(gè)簡(jiǎn)單的問(wèn)題：一是大型語(yǔ)言模型的經(jīng)濟(jì)影響，是否比你最開(kāi)始預(yù)計(jì)的市場(chǎng)影響更慢？二是你認(rèn)為學(xué)術(shù)界應(yīng)該獲得AI補(bǔ)貼嗎？還是應(yīng)該跟大公司合作？

EricSchmidt：我一直在努力推動(dòng)為大學(xué)建立數(shù)據(jù)中心。如果我是這里的計(jì)算機(jī)科學(xué)系的教授，我會(huì)非常不滿意，因?yàn)槲覜](méi)辦法和研究生們一起開(kāi)發(fā)那些算法，而且還被迫跟那些大公司合作。在我看來(lái)，這些公司在這方面做得并不夠。我和一些教授聊過(guò)，他們很多人都得花大量時(shí)間等GoogleCloud的使用配額。這是一個(gè)蓬勃發(fā)展的領(lǐng)域，正確的做法就是把資源提供給大學(xué)，我正在努力推這件事。

至于你提到的勞動(dòng)力市場(chǎng)的影響問(wèn)題，我基本上相信，高技能型的大學(xué)教育和相關(guān)的工作應(yīng)該會(huì)沒(méi)問(wèn)題，因?yàn)槿藗儠?huì)和這些系統(tǒng)一起干活兒。我覺(jué)得這些系統(tǒng)和之前的技術(shù)浪潮沒(méi)什么不同，那些危險(xiǎn)的工作和不太需要人類判斷的工作最終會(huì)被替代。

聽(tīng)眾：你有沒(méi)有研究過(guò)分布式環(huán)境？我問(wèn)這個(gè)是因?yàn)?，搭建大型集群很困難，但MacBook還是很強(qiáng)大的。全世界有很多小型機(jī)器。你覺(jué)得像Folding@home的想法能用來(lái)做訓(xùn)練嗎？

注："Folding@home"是一個(gè)利用全球分布式計(jì)算資源的項(xiàng)目，利用全球參與者的電腦閑置資源來(lái)進(jìn)行蛋白質(zhì)折疊的計(jì)算。

EricSchmidt：分布式環(huán)境的確是個(gè)挑戰(zhàn)。搭大型集群確實(shí)不容易，但每個(gè)MacBook都有自己的算力。全球有那么多小型機(jī)器，把它們聯(lián)合起來(lái)的想法確實(shí)有潛力。這可以用來(lái)做訓(xùn)練，但還有很多技術(shù)細(xì)節(jié)需要解決。

我們深入研究過(guò)這個(gè)問(wèn)題，這些算法的工作原理是這樣的：你有一個(gè)非常大的矩陣，基本上就是進(jìn)行乘法運(yùn)算。你可以想象這個(gè)過(guò)程是反復(fù)進(jìn)行的。這些系統(tǒng)的性能完全取決于數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)紺PU或GPU的速度。實(shí)際上，Nvidia的下一代芯片已經(jīng)把這些功能都集成到了一個(gè)芯片上，現(xiàn)在這些芯片已經(jīng)非常大，功能都集成在了一起。而且封裝過(guò)程非常精細(xì)，芯片和封裝都是在無(wú)塵室里完成的。所以目前來(lái)看，超級(jí)計(jì)算機(jī)和光速傳輸，尤其是內(nèi)存之間的互連，才是關(guān)鍵因素。因此，我認(rèn)為在短期內(nèi)實(shí)現(xiàn)你說(shuō)的這一點(diǎn)的可能性不大。

主持人：有沒(méi)有可能把大語(yǔ)言模型拆分開(kāi)來(lái)？

EricSchmidt：要這么做，你得有上百萬(wàn)這樣的模型。而且你提問(wèn)的方式會(huì)變得非常緩慢。6.未來(lái)我們可以不理解AI，但需要知道它們的邊界

主持人：我想換個(gè)話題，談點(diǎn)哲學(xué)性的東西。去年你和HenryKissinger（基辛格）、DanielHuttenlocher（丹尼爾·赫滕洛徹）一起寫(xiě)了一篇文章，探討了知識(shí)的本質(zhì)及其演變。我最近也跟別人聊到過(guò)這個(gè)話題，大多數(shù)歷史時(shí)期，人類對(duì)宇宙的理解帶有神秘色彩，直到科學(xué)革命和啟蒙運(yùn)動(dòng)的到來(lái)。你們的文章中說(shuō)，現(xiàn)在的模型變得越來(lái)越復(fù)雜、難以理解，以至于我們對(duì)它們的內(nèi)部機(jī)制不再那么清楚。

費(fèi)曼曾經(jīng)說(shuō)過(guò)，「我創(chuàng)造不出的東西，我也無(wú)法理解?！惯@句話我最近也提過(guò)，但目前看來(lái)，人們似乎在創(chuàng)造一些連自己都不太明白的事物。這是否意味著我們對(duì)知識(shí)的理解正在發(fā)生轉(zhuǎn)變？我們是否需要開(kāi)始接受這些模型的結(jié)論，即便它們無(wú)法給出清晰的解釋？

EricSchmidt：讓我打個(gè)比方，這有點(diǎn)像年輕人。如果你家里有青少年，你知道他們是人，但不是總能知道他們是怎么想的。然而，我們的社會(huì)已經(jīng)學(xué)會(huì)了如何適應(yīng)他們的存在，并且知道他們終將成熟。所以，我們可能會(huì)有一些知識(shí)系統(tǒng)，我們無(wú)法完全理解，但我們能夠了解它們的邊界。我們知道它們能做什么，不能做什么。這可能已經(jīng)是我們能夠期待的最佳結(jié)果了。

主持人：您覺(jué)得我們能掌握這些限制嗎？

EricSchmidt：我覺(jué)得我們能搞定。我們每周討論的小團(tuán)隊(duì)都覺(jué)得，我們將來(lái)可能會(huì)用上那種對(duì)抗性的AI技術(shù)。想象一下，將來(lái)會(huì)有公司專門(mén)做這個(gè)，你給他們錢(qián)，他們就幫你測(cè)試AI系統(tǒng)，找漏洞，就像現(xiàn)在的那種「紅隊(duì)」一樣，只不過(guò)這次用的是AI。整個(gè)行業(yè)都會(huì)搞起這種AI對(duì)抗AI的事情，特別是那些我們還搞不太懂的部分。我覺(jué)得這挺靠譜的。斯坦福那邊也可以考慮一下這個(gè)方向。如果有研究生對(duì)怎么破解這些大模型感興趣，研究它們的工作原理，這對(duì)他們來(lái)說(shuō)是個(gè)不錯(cuò)的技能點(diǎn)。所以我覺(jué)得這兩件事會(huì)一起進(jìn)步。

聽(tīng)眾：剛才您提到與對(duì)抗性AI相關(guān)的評(píng)論，除了顯而易見(jiàn)的提升AI性能模型之外，還有什么問(wèn)題是我們需要解決的？為了讓AI真正做我們想要的事，主要挑戰(zhàn)是什么？

EricSchmidt：確實(shí)要提升更高性能的模型。你必須假設(shè)，隨著技術(shù)進(jìn)步，AI的幻覺(jué)會(huì)有所減少，雖然我并不是說(shuō)它會(huì)完全消失。你還得假設(shè)有方法來(lái)驗(yàn)證效果，所以我們需要知道結(jié)果是否達(dá)到了預(yù)期。

比如我剛提到的TikTok競(jìng)爭(zhēng)者的例子。順便說(shuō)一句，我并不是建議你們*非*法竊取所有人的音樂(lè)。如果你是硅谷的創(chuàng)業(yè)者——我希望你們都會(huì)成為這樣的創(chuàng)業(yè)者——如果你的產(chǎn)品火了，那你就會(huì)請(qǐng)一大批律師來(lái)幫你解決問(wèn)題；但如果沒(méi)人用你的產(chǎn)品，那么就算你盜用了所有內(nèi)容，也沒(méi)什么關(guān)系。但別把我這話當(dāng)真啊。

硅谷會(huì)進(jìn)行這些測(cè)試，并且解決這些問(wèn)題。這是我們通常的處理方式。所以我相信，將來(lái)我們會(huì)看到越來(lái)越多的高性能系統(tǒng)，測(cè)試也會(huì)越來(lái)越精細(xì)，最終會(huì)有對(duì)抗性測(cè)試來(lái)確保AI在可控的范圍內(nèi)。在技術(shù)上，我們稱之為「鏈?zhǔn)剿季S推理」。人們預(yù)期，未來(lái)幾年內(nèi)，你將能夠生成1000步的鏈?zhǔn)酵评?，就像按照食譜做菜一樣。你可以按照食譜一步步來(lái)，然后驗(yàn)證最終的結(jié)果是否正確。系統(tǒng)就是這么運(yùn)作的。當(dāng)然，除非你是在玩游戲。7.虛假信息短期看起來(lái)無(wú)解

聽(tīng)眾：如何防止AI在公眾輿論中制造虛假信息，尤其是在即將到來(lái)的選舉中？從短期和長(zhǎng)期來(lái)看，有什么解決方案嗎？

EricSchmidt：在即將到來(lái)的選舉中，甚至全球范圍內(nèi)，大多數(shù)虛假信息都會(huì)通過(guò)社交媒體傳播，而且目前社交媒體公司還沒(méi)有足夠的力量來(lái)管理這些信息。如果你看看TikTok，有人批評(píng)TikTok偏向某種虛假信息，而不是另一種。我覺(jué)得我們?cè)谶@方面亂成了一團(tuán)，我們需要學(xué)習(xí)怎樣批判性思考。這可能是個(gè)艱巨的挑戰(zhàn)，但僅僅是有人告訴你某件事，不意味著它就是真的。

聽(tīng)眾：會(huì)不會(huì)走向另一個(gè)極端？真事反而沒(méi)人相信了？有人概括這種現(xiàn)象為「認(rèn)識(shí)論危機(jī)」。

EricSchmidt：我覺(jué)得我們現(xiàn)在面臨一個(gè)信任危機(jī)。我認(rèn)為，對(duì)社會(huì)來(lái)說(shuō)最大的威脅是虛假信息，因?yàn)槲覀冊(cè)谥圃焯摷傩畔⑦@方面會(huì)越來(lái)越厲害。我管理YouTube的時(shí)候，遇到的最大問(wèn)題是，人們會(huì)上傳假視頻，甚至讓有人因此命都沒(méi)了，我們當(dāng)時(shí)還有個(gè)「無(wú)死亡政策」，聽(tīng)起來(lái)很震驚吧。

注：YouTube不允許任何鼓勵(lì)危險(xiǎn)或*非*法活動(dòng)的內(nèi)容，這些活動(dòng)可能導(dǎo)致嚴(yán)重的身體傷害或死亡。

想試著解決這些問(wèn)題真的很痛苦，那時(shí)候還沒(méi)有生成式AI。所以說(shuō)實(shí)話，我沒(méi)特別好的解法。

主持人：技術(shù)手段不是萬(wàn)能的解決辦法，但有一個(gè)看起來(lái)可以緩解這個(gè)問(wèn)題的方法，就是公鑰認(rèn)證。比如說(shuō)，當(dāng)拜登上臺(tái)演講的時(shí)候，為什么不能像SSL那樣給他說(shuō)的話加上數(shù)字簽名呢？或者名人或公眾人物發(fā)言時(shí)，他們能不能有自己的公鑰呢？就像我把信用卡信息給到亞馬遜時(shí)，我知道收件方確實(shí)是亞馬遜。

EricSchmidt：這確實(shí)是一種公鑰認(rèn)證的方式，再加上其他驗(yàn)證手段，確保我們知道信息的來(lái)源。

我跟人合寫(xiě)過(guò)一篇論文，支持的就是你剛才論點(diǎn)，可惜的是，這篇論文完全沒(méi)起到什么作用。所以可能系統(tǒng)并沒(méi)有像你說(shuō)的那樣被組織起來(lái)解決這個(gè)問(wèn)題。

總體來(lái)說(shuō)，CEO們的目標(biāo)都是追求最大化收入，為了做到這一點(diǎn)，他們必須追求用戶的最大參與度。要最大化參與度，就意味著要激發(fā)更多的憤怒情緒。算法會(huì)優(yōu)先推送那些讓人憤怒的內(nèi)容，因?yàn)槟菢幽軒?lái)更多收入。所以，整體上存在一種偏向極端內(nèi)容的傾向，而且這不分陣營(yíng)。這是我們的社會(huì)中必須要解決的問(wèn)題。

關(guān)于TikTok的解決方案，我們之前私下聊過(guò)。小時(shí)候，有個(gè)叫做「平等時(shí)間規(guī)則」的規(guī)定。因?yàn)門(mén)ikTok其實(shí)并不是社交媒體，它更像是電視，是有程序員在控制內(nèi)容的。有數(shù)據(jù)顯示，美國(guó)的TikTok用戶平均每天花90分鐘看200個(gè)視頻，這數(shù)量相當(dāng)大。政府可能不會(huì)去制定平等時(shí)間規(guī)則，但某種形式的平衡是必要的。8.大模型是少數(shù)國(guó)家才有資格參與的競(jìng)爭(zhēng)

聽(tīng)眾：就國(guó)家安全或利益來(lái)說(shuō)，你認(rèn)為AI在與cn的競(jìng)爭(zhēng)中會(huì)發(fā)揮什么作用？

EricSchmidt：我曾擔(dān)任AI委員會(huì)主席，這個(gè)委員會(huì)詳細(xì)研究了這個(gè)問(wèn)題。報(bào)告有752頁(yè)，你可以去看看。我簡(jiǎn)單總結(jié)一下：我們現(xiàn)在領(lǐng)先，我們需要繼續(xù)保持領(lǐng)先地位，而且需要大量資金來(lái)實(shí)現(xiàn)這一點(diǎn)。

大致情況是，如果前沿AI模型繼續(xù)發(fā)展，少數(shù)開(kāi)源模型也參與進(jìn)來(lái)，那么只有少數(shù)幾個(gè)國(guó)家有資格參與。那些擁有大量資金、強(qiáng)大教育體系，并且有取勝?zèng)Q心的國(guó)家。美國(guó)是其中之一，cn也是。也許還有其他國(guó)家。但可以肯定的是，在你們有生之年，美國(guó)和cn之間的知識(shí)領(lǐng)域的競(jìng)爭(zhēng)將是最大的對(duì)抗。

美國(guó)政府基本上已經(jīng)禁止向cn出口Nvidia芯片，雖然他們不允許說(shuō)這個(gè)，但確實(shí)是這么做的。我們?cè)谛酒夹g(shù)上大約領(lǐng)先cn10年。在光刻機(jī)技術(shù)方面，我們也領(lǐng)先了大約10年。未來(lái)我猜我們還能再領(lǐng)先幾年。芯片法案是特朗普政府的決定，并得到了拜登政府的批準(zhǔn)。

主持人：您認(rèn)為當(dāng)前政府和國(guó)會(huì)是否聽(tīng)取您的建議？您認(rèn)為他們會(huì)進(jìn)行這么大規(guī)模的投資嗎？除了芯片法案之外，是否會(huì)繼續(xù)建設(shè)大型AI系統(tǒng)？

EricSchmidt：正如你所知，我領(lǐng)導(dǎo)了一個(gè)非正式的小組，這個(gè)小組不是官方性質(zhì)的小組，這個(gè)小組包括了所有常見(jiàn)的AI領(lǐng)域的參與者。過(guò)去一年里，這些參與者提出的建議成為了拜登政府AI領(lǐng)域決策的基礎(chǔ)，這個(gè)法案可能是歷史上最長(zhǎng)的總統(tǒng)指令。

注：美國(guó)拜登總統(tǒng)于去年8月9日發(fā)布的《關(guān)于解決美國(guó)在特定國(guó)家對(duì)某些國(guó)家安全技術(shù)和產(chǎn)品的投資問(wèn)題的行政命令》（ExecutiveOrderonAddressingUnitedStatesInvestmentsinCertainNationalSecurityTechnologiesandProductsinCountriesofConcern）

主持人：你正在推進(jìn)特別競(jìng)爭(zhēng)研究項(xiàng)目。

EricSchmidt: 這是行政辦公室的實(shí)際執(zhí)行法案。他們正在忙于落實(shí)細(xì)節(jié)，到目前為止做得不錯(cuò)。舉個(gè)例子，去年我們討論過(guò)一個(gè)問(wèn)題：如何檢測(cè)系統(tǒng)中的潛在危險(xiǎn)。這種系統(tǒng)可能已經(jīng)學(xué)到了一些危險(xiǎn)的東西，但你卻不知道該問(wèn)什么。換句話說(shuō)，這是個(gè)核心問(wèn)題。系統(tǒng)學(xué)到了一些不好的東西，但它不會(huì)告訴你學(xué)到了什么，而你也不知道該怎么提問(wèn)。這里面有很多威脅，比如它可能學(xué)會(huì)了你不了解的化學(xué)混合方式。所以現(xiàn)在很多人都在努力解決這個(gè)問(wèn)題。

最終，我們?cè)趥渫浿性O(shè)定了一個(gè)閾值，叫做10^26次方浮點(diǎn)運(yùn)算，它是一種計(jì)算能力的衡量標(biāo)準(zhǔn)。超過(guò)這個(gè)閾值時(shí)，你必須向政府報(bào)告你的行為。這是規(guī)則的一部分，歐盟設(shè)定的閾值是10的25次方，但差別不大。我認(rèn)為這些技術(shù)區(qū)別最終都會(huì)消失，現(xiàn)在的技術(shù)可以進(jìn)行「聯(lián)邦訓(xùn)練」，也就是可以將不同部分組合起來(lái)進(jìn)行訓(xùn)練。所以我們可能無(wú)法完全避免這些新技術(shù)帶來(lái)的威脅。

主持人 ：聽(tīng)說(shuō)OpenAI已經(jīng)不得不這么做，部分原因是因?yàn)殡娏ο奶?，沒(méi)有一個(gè)地方能單獨(dú)承擔(dān)所有的計(jì)算量。9.AI是有錢(qián)人的游戲，富者愈富

聽(tīng)眾：《紐約時(shí)報(bào)》起訴OpenAI用他們的作品訓(xùn)練模型。您認(rèn)為這對(duì)數(shù)據(jù)使用意味著什么？

EricSchmidt：我在音樂(lè)版權(quán)方面有很多經(jīng)驗(yàn)。在60年代，有一系列訴訟，最終達(dá)成了一個(gè)協(xié)議，就是每次你的歌曲被播放的時(shí)候，無(wú)論聽(tīng)眾是否知道你是誰(shuí)，你都會(huì)得到一定的版稅，這筆錢(qián)會(huì)被存入你的銀行賬戶。我猜未來(lái)的情況也會(huì)類似，會(huì)有很多訴訟，最終達(dá)成某種協(xié)議，規(guī)定使用這些作品時(shí)必須支付一定比例的收入。你可以看看ASCAP（美國(guó)作曲家、作家和發(fā)行商協(xié)會(huì)）和BMI（BroadcastMusic,Inc.，一家美國(guó)表演權(quán)組織）的例子，雖然看起來(lái)有點(diǎn)過(guò)時(shí)，但我認(rèn)為最終的情況會(huì)是這樣。

聽(tīng)眾：看起來(lái)有幾家公司在主導(dǎo)且會(huì)繼續(xù)AI領(lǐng)域，這些公司似乎正是所有反壟斷法關(guān)注的對(duì)象。你怎么看這兩個(gè)趨勢(shì)？你覺(jué)得監(jiān)管機(jī)構(gòu)會(huì)拆分這些公司嗎？這會(huì)對(duì)行業(yè)產(chǎn)生什么影響？

EricSchmidt：在我的職業(yè)生涯中，我曾經(jīng)推動(dòng)過(guò)拆分微軟，但它并沒(méi)有被拆分。我也努力讓谷歌不被拆分，結(jié)果它也沒(méi)被拆分。所以在我看來(lái)，只要這些公司避免成為像JohnD.Rockefeller（標(biāo)準(zhǔn)石油公司創(chuàng)始人）那樣的壟斷巨頭，趨勢(shì)就不是拆分。這就是反壟斷法的由來(lái)。

我不認(rèn)為政府會(huì)采取行動(dòng)。你看到這些大公司主導(dǎo)市場(chǎng)的原因是，只有它們有資金建造這些數(shù)據(jù)中心。所以我的朋友ReedHastings（Netflix聯(lián)創(chuàng)兼CEO）和ElonMusk都在這樣做。

所以富者愈富，窮者只能盡力而為。這是事實(shí)，這是富國(guó)的游戲，需要巨額資本、大量技術(shù)人才和強(qiáng)有力的政府支持。還有許多其他國(guó)家有各種問(wèn)題，他們沒(méi)有這些資源，所以他們必須與其他國(guó)家合作。

聽(tīng)眾：你花了很多時(shí)間幫年輕人創(chuàng)造財(cái)富，對(duì)這件事很有熱情。對(duì)在座的同學(xué)們職業(yè)生涯的這個(gè)階段以及未來(lái)，有什么建議嗎？

EricSchmidt：我對(duì)你們快速展示新想法的能力印象深刻。在我參與的一個(gè)黑客松中，獲勝團(tuán)隊(duì)的任務(wù)是讓無(wú)人機(jī)在兩座塔之間飛行。他們?cè)谝粋€(gè)虛擬無(wú)人機(jī)空間里完成了這個(gè)任務(wù)，讓無(wú)人機(jī)理解了「在…之間」的意思，用Python寫(xiě)了代碼，在模擬器中成功讓無(wú)人機(jī)穿過(guò)了塔樓。如果是專業(yè)程序員來(lái)做這件事，可能需要一兩周的時(shí)間。

我要說(shuō)的是，快速制作原型的能力確實(shí)非常重要。作為企業(yè)家，問(wèn)題之一就是一切都發(fā)生得非?？臁，F(xiàn)在，如果你不能在一天內(nèi)利用各種工具做出原型，你就得好好想想了，因?yàn)槟愕母?jìng)爭(zhēng)對(duì)手能完成。

所以我的建議是，當(dāng)你開(kāi)始考慮創(chuàng)業(yè)，寫(xiě)一份商業(yè)計(jì)劃是好的，你應(yīng)該讓電腦幫你寫(xiě)商業(yè)計(jì)劃，用這些工具快速將你的想法轉(zhuǎn)化為原型是非常重要的。因?yàn)榭梢钥隙ǖ氖牵诹硪患夜?、另一所大學(xué)或者你從未去過(guò)的地方，有人也在做同樣的事。