馬斯克宣布打造 ChatGPT 競(jìng)品！OpenAI CEO 給他潑了一盆冷水，GPT-5 或?qū)⒋笞?/h4>
發(fā)表時(shí)間：2023-04-19 18:48:26
來(lái)源：愛范兒
(資料圖片)
當(dāng)你在 ChatGPT 或者新 bing 里輸入一個(gè)問(wèn)題，AI 會(huì)調(diào)用它的云端大腦，思索一番，生成一段較為合理的回答。 而在 OpenAI 開發(fā) GPT 時(shí)，也反復(fù)提到了參數(shù)正變得龐大，模型的規(guī)模也在逐代變得復(fù)雜。 訓(xùn)練大規(guī)模的語(yǔ)言模型，需要極大算力的 GPU 集群，并且隨著用戶數(shù)量的指數(shù)級(jí)增長(zhǎng)，運(yùn)行它們同樣會(huì)占用相當(dāng)?shù)乃懔Α? 每個(gè)想要入局 AIGC 的企業(yè)，最先考慮的是如何布局大規(guī)模的云計(jì)算中心，仿佛 AIGC 的競(jìng)爭(zhēng)已然成為硬件資源的角力。 OpenAI CEO Sam Altman 圖片來(lái)自：wired 有了更強(qiáng)算力的計(jì)算中心，就能夠跑得起更大規(guī)模的語(yǔ)言模型和算法，最終的 AI 產(chǎn)品，可能也會(huì)變得更「聰明」。 然而，近期 OpenAI CEO Sam Altman 在麻省理工的演講里，給那些想憑借「大力出奇跡」的后來(lái)者潑了盆冷水。 Altman：無(wú)腦擴(kuò)大模型規(guī)模已經(jīng)過(guò)時(shí) 「大型模型時(shí)代已經(jīng)到頭了，我們需要用新的思路和方法，讓 AIGC 取得新的進(jìn)展。」 擴(kuò)大模型規(guī)模，利用更復(fù)雜的參數(shù)，調(diào)用更大的算力，基本上是 OpenAI 過(guò)去幾年在 GPT 上所使用的迭代方法。 GPT-2 大概擁有 15 億參數(shù)，而 GPT-3 則擁有 1750 億參數(shù)，而 GPT-4 雖然沒有官方數(shù)字驗(yàn)證，但不少機(jī)構(gòu)也推測(cè)出，它使用了數(shù)萬(wàn)億字的文本和上萬(wàn)臺(tái)云計(jì)算服務(wù)器，訓(xùn)練它的成本已經(jīng)超過(guò)了 1 億美元。 隨著 ChatGPT 的影響力越來(lái)越大，微軟也使用了其底層技術(shù)，推出了新 bing。 隨之，Google 推出了 Bard，Adobe 推出了 Firefly，除了這些大企業(yè)外，硅谷許多資金充裕的初創(chuàng)企業(yè)，像是 Anthropic、AI21、Cohere 和 Character.AI，也在瘋狂地投入，構(gòu)建更大規(guī)模的算法，以趕上 ChatGPT 和 OpenAI。 對(duì)于硬件資源的極大需求，也造成了英偉達(dá) A100、H100 GPU 的搶購(gòu)潮。 在 eBay 上，英偉達(dá)的 H100 已經(jīng)成熱門商品，價(jià)格更是炒到了 4 萬(wàn)美元，而其官方售價(jià)只是 3.3 萬(wàn)美元。并且，H100 一般是打包 8 張組成一個(gè)服務(wù)器銷售。 目前，并沒有其他的第三方對(duì)外銷售的 GPU 與英偉達(dá)競(jìng)爭(zhēng)，在 AI 浪潮之下，誰(shuí)的英偉達(dá) GPU 越多，仿佛就掌握了 AIGC 行業(yè)的取勝之匙。 與傳統(tǒng)行業(yè)的資本壟斷、大企業(yè)壟斷類似，對(duì)于算力的追求，也催生了「算力壟斷」。 而 Sam Altman 也表示，OpenAI 還沒有開發(fā) GPT-5 的計(jì)劃。言下之意便是，無(wú)腦的擴(kuò)大模型規(guī)模，并不會(huì)讓 GPT 保持無(wú)限的迭代。 目前來(lái)說(shuō)，ChatGPT 與微軟的新 bing 都遇到了不少因?yàn)樗懔Σ惶珘蚨霈F(xiàn)宕機(jī)、服務(wù)不穩(wěn)定的狀況。 同時(shí)，新 bing 也并未面向所有用戶，「排隊(duì)等待」的狀況仍然存在。 而這也是 Google 還無(wú)法將類似的生成式 AI 完全引入其搜索的一個(gè)原因。 曾在 Google 從事 AI 工作，現(xiàn)在是 Cohere 創(chuàng)始人的 Nick Frosst 也表示 Altman 很有先見之明，并且也表示，新的人工智能模型設(shè)計(jì)或架構(gòu)可能會(huì)基于人類反饋進(jìn)行調(diào)整。 按照這個(gè)思路來(lái)說(shuō)，OpenAI 或許已經(jīng)在用新的思路在構(gòu)思 GPT-5 了。 Musk：挖人、買顯卡、組團(tuán)隊(duì)入局 即便 Sam Altman 公開表示，現(xiàn)階段繼續(xù)走 OpenAI 的老路，通過(guò)擴(kuò)大模型規(guī)模來(lái)提升，很難追得上 ChatGPT。 但曾是 Altman 的老朋友 Musk，毅然決然地投入到了 AIGC 行業(yè)之中。 根據(jù)華爾街日?qǐng)?bào)的消息，Musk 悄悄地注冊(cè)了一家名為 X.AI Crop 的公司，并從 Google 挖了幾名研究員，向英偉達(dá)買了幾千張顯卡。 Musk 的目的很明確，就是為了與 OpenAI 和 Google 展開競(jìng)爭(zhēng)。 就在相關(guān)報(bào)道發(fā)出之后，Musk 在接受 Fox News 采訪時(shí)，就承認(rèn)了想要推出一款類似 ChatGPT 的產(chǎn)品，取名為 TruthGPT。 Musk 的意圖很明確，TruthGPT 將會(huì)「最大化尋求真理的 AI」，并試圖理解宇宙的本質(zhì)，希望能帶來(lái)更多的好處而不是壞處。 Musk 的采訪和回應(yīng)，其實(shí)有點(diǎn)無(wú)厘頭，畢竟按照現(xiàn)在大語(yǔ)言模型的規(guī)模來(lái)看，X.AI Crop 可能還不如硅谷的一些初創(chuàng)團(tuán)隊(duì)。 且 TruthGPT 這個(gè)名字也像是在向 ChatGPT 抗議。 Musk 一直認(rèn)為 GPT-4 類的生成式 AI 會(huì)有相當(dāng)大的風(fēng)險(xiǎn)，呼吁暫停開發(fā)六個(gè)月，并且呼吁推出相應(yīng)的監(jiān)管。 甚至也說(shuō)出了「ta 有毀滅文明的潛力」。 只是一邊說(shuō)暫停研究，自己一邊成立 X.AI Crop 開始入局 AIGC，很難不相信這是在炒作。 另外，暫停六個(gè)月的研發(fā)，也更像是封印 OpenAI，給自己留出六個(gè)月的時(shí)間來(lái)迎頭追上進(jìn)度。 不可否認(rèn)地說(shuō)，Musk 的 SpaceX、Tesla 都顛覆了一個(gè)行業(yè)，成為當(dāng)下名氣最響亮的企業(yè)。 而當(dāng)初離開 OpenAI，看到如今的成就，并用一些比較有爭(zhēng)議的言論，反而展示了 Musk 早就錯(cuò)失機(jī)會(huì)的不甘。 至于 TruthGPT 是否能像他說(shuō)的那樣，只能等六個(gè)月再看看了。 目前生成式 AI 僅存在于對(duì)話框中，以一種很古典的形式出現(xiàn)在當(dāng)下所有的智能設(shè)備當(dāng)中。 不論是插件，還是第三方 App，最終大眾與其交互的都是一個(gè)個(gè)對(duì)話文本框。 這也是計(jì)算機(jī)剛剛出現(xiàn)時(shí)，最初級(jí)的人機(jī)交互方式。 而在 Nicolai Tangen 的一期播客里，他與英偉達(dá) CEO 黃仁勛 暢聊了 AI 將會(huì)如何改變?nèi)藗兩詈凸ぷ鞣绞健? 當(dāng)下 AI 的快速發(fā)展，離不開英偉達(dá)的 GPU 的助力，英偉達(dá)幾乎壟斷了云算力的市場(chǎng)。 如 Altman 的觀點(diǎn)，當(dāng)下 AI 還無(wú)法擺脫超高算力，超大型模型以及龐大算法的支持。 對(duì)于初創(chuàng)公司來(lái)說(shuō)，這是一個(gè)挑戰(zhàn)，而對(duì)于英偉達(dá)來(lái)說(shuō)也是。 英偉達(dá)需要不斷地開發(fā)制造更強(qiáng)大的 GPU 來(lái)適應(yīng) AI 的發(fā)展。并且目前 AI 仍然存在于巨大的數(shù)據(jù)中心，以及需要多臺(tái)超級(jí)計(jì)算機(jī)提供算力。 它不像此前任何的一個(gè)應(yīng)用程序，或者軟件。GPT-3 有著 1750 億個(gè)參數(shù)，在面對(duì)如此的計(jì)算量時(shí)，英偉達(dá)的 AI GPU 從底層重新進(jìn)行了設(shè)計(jì)。 但目前，處理大規(guī)模的數(shù)據(jù)和學(xué)習(xí)大模型，仍然需要數(shù)周的時(shí)間。它現(xiàn)在還無(wú)法濃縮到一個(gè) App 或者個(gè)人 PC 當(dāng)中。 如此其實(shí)也解答了到目前為止 AI 對(duì)于軟件的促進(jìn)，其實(shí)都是以云和插件的形式存在。 而英偉達(dá)也表示，AI 已經(jīng)開始深入到自己芯片的設(shè)計(jì)當(dāng)中，「當(dāng)芯片架構(gòu)師在睡覺的時(shí)候，AI 仍然在不斷地迭代和優(yōu)化改進(jìn)相應(yīng)架構(gòu)」。 「它能幫助我們更好地設(shè)計(jì)和制造芯片?！? 換句話說(shuō)，AI 介入芯片的生產(chǎn)，而生產(chǎn)出的芯片又用于云算力來(lái)運(yùn)行 AI，這算是 AI 的自給自足了吧。 另外，黃仁勛也認(rèn)為 AI 也將會(huì)引發(fā)下一次工業(yè)革命，它暫時(shí)不會(huì)自我覺醒取代人類。 反而會(huì)極大地解放人力，增加每個(gè)人的生產(chǎn)力。人們可以利用自然語(yǔ)言直接編程，而無(wú)需學(xué)習(xí)復(fù)雜的 Python、Java、C 語(yǔ)言。 并且，他也拿英偉達(dá)的軟件工程師舉例，在 AI 的幫助下，大概有 40~50% 的代碼和軟件由生成式 AI 補(bǔ)充，工程師只要提供建議與思路。 黃仁勛也預(yù)估，AI 的加入，會(huì)讓目前英偉達(dá)軟件工程師的生產(chǎn)效率提升 10 倍。 AI 的介入，能夠讓人們以一萬(wàn)倍的速度完成很多繁瑣的事情，間接提高了生產(chǎn)力。 在 GPT-4 出現(xiàn)之前，AI 行業(yè)可以以簡(jiǎn)單地依靠擴(kuò)大模型規(guī)模，增加硬件部署來(lái)保持高速迭代。 隨著算力瓶頸的出現(xiàn)，不得不讓 OpenAI 重新思考如何優(yōu)化，找到 AI 的下一步發(fā)展方向。 同樣地，黃仁勛也清晰地認(rèn)識(shí)到，目前 AI 對(duì)于算力的需求過(guò)于龐大，且它需要存在于一個(gè)空間巨大、芯片眾多的位置，現(xiàn)在的 AI 就仿佛像是世界上第一代計(jì)算機(jī) ENIAC 一般。 AI 的下一步，減少對(duì)資源需求的同時(shí)，也需要瘦身，并且能獨(dú)立存在于一個(gè) App 或者軟件當(dāng)中。 從目前來(lái)說(shuō)，這還不太現(xiàn)實(shí)，不過(guò)好消息是 OpenAI 已經(jīng)開始招聘 Android、iOS 工程師，相應(yīng)的 App 也應(yīng)該很快就來(lái)了。 ChatGPT 們難以復(fù)制的原因，除了耗顯卡，還有水電費(fèi)太貴？
ChatGPT 之父承認(rèn) GPT-5 并不存在，為什么 OpenAI 總是這么實(shí)誠(chéng)？｜萬(wàn)字詳述
標(biāo)簽：
