Nvidia predstavila Veru Rubin, svoju sljedeću veliku AI platformu

Nvidia Rubin platformu predstavlja kao idealnu za agentnu umjetnu inteligenciju, napredne modele zaključivanja i modele mješavine stručnjaka (MoE), koji kombiniraju niz „stručnih“ umjetne inteligencije i usmjeravaju upite odgovarajućoj ovisno o pitanju koje korisnik postavi.

„Rubin dolazi u točno pravom trenutku, jer potražnja za umjetnom inteligencijom, kako za obuku tako i za zaključivanje, raste do neba“, rekao je izvršni direktor Nvidije Jensen Huang u izjavi.

„S našom godišnjom frekvencijom isporuke nove generacije AI superračunala – i ekstremnim kodnim dizajnom na šest novih čipova – Rubin čini veliki skok prema sljedećoj granici umjetne inteligencije.“

Uz Vera CPU i Rubin GPU, Rubin platforma uključuje još četiri mrežna i memorijska čipa: Nvidia NVLink 6 Switch, Nvidia ConnectX-9 SuperNIC, Nvidia BlueField-4 DPU i Nvidia Spectrum-6 Ethernet Switch.

Sve se to zatim može objediniti u Nvidijin Vera Rubin NVL72 poslužitelj, koji kombinira 72 GPU-a u jedan sustav. Spojite nekoliko NVL72 i dobit ćete Nvidijin DGX SuperPOD, svojevrsno masivno AI superračunalo. Ovi ogromni sustavi su ono što hiperskaleri poput Microsofta, Googlea, Amazona i diva društvenih medija Mete troše milijarde dolara kako bi ih nabavili.

Nvidia također promovira svoju AI pohranu, nazvanu Nvidia Inference Context Memory Storage, za koju tvrtka kaže da je potrebna za pohranu i dijeljenje podataka generiranih AI modelima s bilijun parametara i višekoračnim zaključivanjem