當(dāng)前位置：原創(chuàng) >

天天觀天下！谷歌大腦與 DeepMind 合二為一！為對(duì)抗 OpenAI 打造全新大模型

文章來(lái)源：量子位　發(fā)布時(shí)間： 2023-04-23 08:06:31　責(zé)任編輯：cfenews.com

+|-

谷歌突發(fā)大動(dòng)作，旗下兩大頂級(jí) AI 團(tuán)隊(duì)谷歌大腦與 DeepMind 合二為一！

雙方人才將并肩作戰(zhàn)，以谷歌算力資源為后盾，只為一個(gè)目標(biāo)：

(資料圖)

加速 AI 研究。

△原 DeepMind 研究 VP

而且體量小很多的 DeepMind，似乎要占主導(dǎo)地位：

重組后，原 DeepMind 創(chuàng)始人Demis Hassabis擔(dān)任一把手。

新部門(mén)定名 Google DeepMind，專(zhuān)攻 AI 相關(guān)的戰(zhàn)略級(jí)技術(shù)，并透露第一個(gè)項(xiàng)目就是一系列多模態(tài)大模型。

而 Google Research 中剩下的部分繼續(xù)負(fù)責(zé)算法和理論、隱私和安全、健康、氣候和可持續(xù)性、量子計(jì)算等其他方向，由原高級(jí)副總裁 James Manyika 領(lǐng)導(dǎo)。

原谷歌大腦掌門(mén)人Jeff Dean則同時(shí)在新 Google DeepMind 和新 Goole Research 兩個(gè)部門(mén)任首席科學(xué)家。

Hassabis 表示，對(duì)有機(jī)會(huì)構(gòu)建 AI 并最終構(gòu)建 AGI 造福人類(lèi)感到興奮。Jeff Dean 暫未以個(gè)人身份發(fā)表觀點(diǎn)。

這已不是今年谷歌整合內(nèi)部 AI 資源的第一個(gè)動(dòng)作。

二月底，專(zhuān)注大語(yǔ)言模型的藍(lán)移團(tuán)隊(duì)（Blueshift）就整體移入 Deepmind。

三月底，谷歌的 ChatGPT 競(jìng)品 Bard 進(jìn)展受阻后，又傳出谷歌大腦與 DeepMind 在新的大模型項(xiàng)目雙子星（Gemini）上合作，這次要直接對(duì)標(biāo) GPT-4。但即便如此，谷歌在追趕微軟 +OpenAI 的道路上并不順利。另外包括 BERT 之父 Jacob Devlin 在內(nèi)的數(shù)位頂尖人才都離開(kāi)谷歌跳槽到 OpenAI。

這一次，谷歌終于下定決心搞出大動(dòng)作。

谷歌大腦，誕生了Tensorflow與 GPT 中的 "T" 即Transformer的地方。

DeepMind，創(chuàng)造過(guò)AlphaGo掀起上一波 AI 熱潮，也創(chuàng)造過(guò)AlphaFold預(yù)測(cè)全世界已知蛋白質(zhì)如何折疊的 DeepMind。

兩大傳奇團(tuán)隊(duì)，折疊在了一起。

如此便能抗衡微軟 +OpenAI 的強(qiáng)勢(shì)組合了嗎？

樂(lè)觀的一面，DeepMind 雖更以 AI 下棋、AI 輔助科學(xué)研究聞名，但近年來(lái)在大語(yǔ)言模型上也有不少進(jìn)展。

21 年發(fā)布的 2800 億參數(shù)大模型Gopher（地鼠），已在聊天對(duì)話(huà)方面表現(xiàn)出驚人的連貫性。

22 年的大模型Chinchilla（龍貓），又以 GPT-3 參數(shù)量的零頭（700 億 vs1750 億）在很多任務(wù)上超越其效果。

Chinchilla 的研究中發(fā)現(xiàn)，此前主流大模型雖數(shù)據(jù)規(guī)模不斷擴(kuò)大但相應(yīng)的訓(xùn)練量通常不充分，限制了最終效果。

DeepMind 據(jù)此提出計(jì)算優(yōu)化的模型縮放公式，在今天指導(dǎo)著各大語(yǔ)言模型的訓(xùn)練，被業(yè)界稱(chēng)為龍貓定律（Chinchilla Law）。

不過(guò)也有很多人對(duì)谷歌這次的調(diào)整并不看好。

有網(wǎng)友覺(jué)得這種動(dòng)作就是 CEO 做給股東看的。