[bozvaci]

Nvidia prezinta noul cip Blackwell B200 - cel mai puternic cip pt AI


Era o vorba - Viitorul suna bine.
Nvidia a prezentat Blackwell B200 ca fiind cel mai puternic cip din lume pt domeniul AI.
Surpriza vine de la GB200, un "super cip" cu 208 miliarde de tranzistori.


"Iar Blackwell B200 este doar „felul principal”, Nvidia prezentând și un „supercip ” GB200, cu 208 miliarde de tranzistori. Cu până la 20 de petaflopi de putere de procesare FP4, cip-ul este gândit să funcționeze în pereche. Nvidia susține că un sistem de calcul echipat cu două cipuri GB200 plus un procesor Grace Hopper poate oferi de 30 de ori mai multă performanță pentru sarcinile de lucru de inferență LLM, totodată fiind substanțial mai eficient în privința consumului de energie. Roluția ”reduce costurile și consumul de energie de până la 25 de ori” față de un H100, spune Nvidia.

Dacă anterior, antrenarea unui model cu 1,8 trilioane de parametri ar fi necesitat o configurație cu 8000 de unități GPU bazate pe arhitectura Hopper și 15 megawați putere consumată, acum poți face asta cu 2000 de GPU-uri Blackwell, la un consum de doar 4 megawați.

Compania spune că Amazon, Google, Microsoft și Oracle și-au exprimat deja intenția de a include soluția NVL72 în infrastructura lor de servicii cloud, însă volumul comandat rămâne confidențial.

Mai există și DGX Superpod pentru DGX GB200, care combină opt sisteme într-unul pentru un total de 288 de procesoare, 576 de GPU-uri, 240 TB de memorie și 11,5 exaflopi de calcul FP4"

https://www.theverge.com/2024/3/18/2410 ... pu-b200-ai

https://zonait.ro/nvidia-blackwell-b200 ... pentru-ai/

[Super Sylver]

nVidia să facă progrese la plăcile din viitoarea serie 5000, că pînă acum ne-a dat cu lingurița.