GDPR Cookie Consent by Free Privacy Policy

Nvidia predstavlja H200, svoj najnoviji vrhunski čip za AI modele

Nvidia predstavlja H200, svoj najnoviji vrhunski čip za AI modele
ČIPOVI
SEEbiz.eu - regionalni poslovni portal
Objavljeno: 14.11.2023 / 07:51
Autor: SEEbiz
NEW YORK - Nvidia je u ponedjeljak predstavila H200, jedinicu za grafičku obradu dizajniranu za obuku i implementaciju vrsta modela umjetne inteligencije koji pokreću generativni procvat AI.

Novi GPU je nadogradnja H100, čipa koji je OpenAI koristio za treniranje svog najnaprednijeg modela velikog jezika, GPT-4. Velike tvrtke, startupi i vladine agencije natječu se za ograničenu ponudu čipova.

Čipovi H100 koštaju između 25.000 i 40.000 dolara, prema procjeni Raymonda Jamesa, a tisuće njih potrebno je raditi zajedno kako bi se stvorili najveći modeli u procesu koji se zove "obuka".

Uzbuđenje oko Nvidijinih AI GPU-a dodatno je povećalo dionice tvrtke, koje su do sada porasle za više od 230% u 2023. Nvidia očekuje oko 16 milijardi dolara prihoda za svoje treće fiskalno tromjesečje, što je 170% više nego prije godinu dana.

Ključno poboljšanje kod H200 je to što uključuje 141 GB "HBM3" memorije sljedeće generacije koja će pomoći čipu da izvede "zaključivanje" ili korištenje velikog modela nakon što se osposobi za generiranje teksta, slika ili predviđanja.

Nvidia je rekla da će H200 generirati izlaz gotovo dvostruko brže od H100. To se temelji na testu koji koristi Meta's Llama 2 LLM.

H200, čija se isporuka očekuje u drugom kvartalu 2024., natjecat će se s AMD-ovim MI300X GPU-om. AMD-ov čip, sličan H200, ima dodatnu memoriju u odnosu na svoje prethodnike, što pomaže u uklapanju velikih modela na hardver za izvođenje zaključaka.

Tagovi: nVIDIA, ČIPOVI, mETA
PROČITAJ I OVO
Dionice ASML-a potonule nakon upozorenja o slabijoj prodaji u Kini
POTONUĆE
Dionice ASML-a potonule nakon upozorenja o slabijoj prodaji u Kini
NEW YORK - Dionice proizvođača poluvodičke opreme ASML pale su u utorak 15,6% nakon što je nizozemska tvrtka objavila razočaravajuće prognoze prodaje u rezultatima dan ranije.
SpaceX lansirao svoj peti, dosad najsmjeliji testni let Starshipa
USPJESI
SpaceX lansirao svoj peti, dosad najsmjeliji testni let Starshipa
BROWNNSVILLE - SpaceX je u nedjelju lansirao svoj peti testni let svoje rakete Starship i napravio dramatičan prvi ulov više od 20 katova visokog boostera rakete.
Što bi donijela podjela Googlea?
SCENARIJI
Što bi donijela podjela Googlea?
NEW YORK - Američka vlada razmatra mogućnost razbijanja Googlea, ali čini se da ulagači uglavnom nisu uznemireni prijetnjom pretraživačkom divu vrijednom 2 bilijuna dolara.
Najveće cyber prijetnje i dalje dolaze od samih ljudi koji nisu dovoljno educirani
CYBER SIGURNOST
Najveće cyber prijetnje i dalje dolaze od samih ljudi koji nisu dovoljno educirani
ZAGREB – Danas je u prepunoj dvorani Algebra Spark Spacea održana prva konferencija na temu nove Uredbe o kibernetičkoj sigurnosti koja se prošlog utorka našla na e-savjetovanju. Razgovaralo se, između ostalog, o globalnoj potrebi za dizanjem kompetencija i prekvalifikaciji te dodatnoj edukaciji stručnjaka u području kibernetičke sigurnosti.
TikTok najavio otpuštanja
OTKAZI
TikTok najavio otpuštanja
PEKING - Platforma društvenih medija TikTok u kineskom vlasništvu otpušta zaposlenike u sklopu preuređenja svojih operacija moderiranja sadržaja.
@ 2020 SEEbiz. All Rights Reserved.
CLOSE