Elon Musks AI-start-up, xAI, tillkännagav nyligen att “Colossus”, världens mest kraftfulla AI (artificiell intelligens) superdator för träning, nu är online. Baserad i Memphis, Tennessee, byggdes denna nya AI-superdator på bara fyra månader (122 dagar).
Det nya xAI-träningsklustret konstruerades med hjälp av 100 000 NVIDIA benchmark Hopper H100 GPU:er, en mycket efterfrågad komponent för att träna nya AI-modeller. Denna modell är designad för att träna nästa generation av xAI:s stora språkmodell (LLM), Grok.
Företaget planerar också att fördubbla GPU-antalet till 200 000 på några månader genom att lägga till ytterligare 50 000 chips av NVIDIAs nya, mer avancerade H200-serie, som erbjuder högre beräkningsminne.
Vidare har NVIDIAs nya benchmark Hopper H200 GPU:er upp till 141 GB snabbare HBM3E-minne, i motsats till H100, som har upp till 80 GB HBM3-minne.
I helgen kommer @xAI team lade vårt Colossus 100k H100 träningskluster online. Från början till slut gjordes det på 122 dagar.
Colossus är det mest kraftfulla AI-träningssystemet i världen. Dessutom kommer den att fördubblas i storlek till 200k (50k H200s) på några månader.
Excellent…
— Elon Musk (@elonmusk) 2 september 2024
“I helgen tog xAI-teamet vårt Colossus 100K H100 träningskluster online. Från början till slut gjordes det på 122 dagar. Colossus är det mest kraftfulla AI-träningssystemet i världen. Dessutom kommer den att fördubblas i storlek till 200K (50K H200s) på några månader. Utmärkt arbete av teamet, NVIDIA och våra många partners/leverantörer”, twittrade Musk på X (tidigare Twitter).
“Spännande att se Colossus, världens största GPU #superdator, komma online på rekordtid. Colossus drivs av @nvidias #accelerateddatorplattform, som levererar banbrytande prestanda med exceptionella vinster i #energieffektivitet. Grattis till hela laget!” NVIDIA Data Centers X-handtag skrev på sin plattform.
NVIDIA GPU kostar cirka 30 000 dollar, vilket tyder på att Musk spenderade minst 3 miljarder dollar för att bygga den nya superdatorn, en anläggning som också kommer att kräva betydande el- och kylresurser.
För närvarande är Musks Grok 2, xAI:s andra generationens AI-modell tränad med 15 000 H100 GPU: er, exklusivt tillgänglig för X premium- och X premium plus-prenumeranter med bild- och textgenereringsmöjligheter. Han sa att de förväntar sig att släppa xAI:s tredje generationens AI-modell, Grok-3, i december.