埃隆·馬斯克在社交平臺(tái)公開宣布,由xAI、X和英偉達(dá)等合力打造的“Supercluster”已開始投入訓(xùn)練。它由10萬塊H100組成,是目前世界上最強(qiáng)訓(xùn)練集群。10萬個(gè)英偉達(dá)H100,每個(gè)就高達(dá)3-4萬美元,總價(jià)值將達(dá)40億美元(折合人民幣超290億)。
2023年7月馬斯克成立了xAI,其核心初創(chuàng)成員來自O(shè)penAI、谷歌DeepMind、微軟研究院、特斯拉等知名企業(yè)。為了讓它能和ChatGPT直接競(jìng)爭(zhēng),馬斯克將最近兩年的大部分精力用xAI。
值得一提的是,這個(gè)全球最大超級(jí)計(jì)算中心在今年3月方才動(dòng)工,計(jì)劃是2025年竣工,沒想到僅僅只用了四個(gè)月,就提前完成了。超級(jí)計(jì)算中心所需要的資源非常多,除了英偉達(dá)芯片等基礎(chǔ)硬件之外,工廠每小時(shí)可能使用高達(dá)150兆瓦的電力,相當(dāng)于10萬戶家庭所需電量,這可能會(huì)對(duì)當(dāng)?shù)貋碚f會(huì)造成巨大的負(fù)擔(dān)。除了電力資源之外,超級(jí)計(jì)算中心的冷卻預(yù)計(jì)每天需要130萬加侖的水,也就是說每天需要從孟菲斯的主要水源中抽取。
巨額的資金投入就算馬斯克貴為“世界首富”,也很是吃不消,于是他聯(lián)合戴爾和超微一起建設(shè)集群,并從甲骨文拿到了24000塊H100的資源。
|