Grafické procesory Hopper predstavujú najnovšiu generáciu vysokovýkonných grafických procesorov spoločnosti NVIDIA, ktoré sú špeciálne navrhnuté pre umelú inteligenciu a vysokovýkonné výpočty (HPC). Vďaka špičkovej architektúre s pokročilými jadrami Tensor integrujú viacero inovatívnych technológií, ktoré zabezpečujú maximálnu efektívnosť. Grafické procesory Hopper sú ideálne pre širokú škálu pracovných úloh a podporujú umelú inteligenciu, hlboké učenie, generatívnu umelú inteligenciu a ďalšie funkcie.

Aká je architektúra grafických procesorov NVIDIA Hopper?

Názov „Hopper GPU“ je odvodený od architektúry Hopper, ktorá je mikroarchitektúrou GPU tvoriacou základ vysokovýkonných grafických procesorov a je optimalizovaná pre pracovné zaťaženie umelej inteligencie a aplikácie HPC. GPU Hopper vyrába spoločnosť TSMC pomocou 4-nanometrového procesu a majú viac ako 80 miliárd tranzistorov, čo z nich robí jedny z najpokročilejších grafických kariet dostupných na trhu.

V architektúre Hopper kombinuje NVIDIA najnovšiu generáciu jadier Tensor s piatimi prelomovými inováciami: transformátorovým motorom, prepínačovými systémami NVLink/NVSwitch/NVLink, dôverným výpočtom, grafickými procesormi druhej generácie s viacerými inštanciami (MIG) a inštrukciami DPX. Tieto technológie umožňujú GPU Hopper dosiahnuť až 30-násobné zrýchlenie AI inferencie v porovnaní s predchádzajúcou generáciou (na základe chatbota NVIDIA Megatron 530B – najkomplexnejšieho generatívneho jazykového modelu na svete).

Aké sú inovatívne vlastnosti grafických procesorov Hopper?

Grafické procesory Hopper majú niekoľko nových funkcií, ktoré pomáhajú zlepšiť výkon, efektivitu a škálovateľnosť. Nižšie uvádzame najdôležitejšie inovácie:

  • Transformátorový engine: S pomocou transformátorového enginu sú grafické procesory Hopper schopné trénovať modely umelej inteligencie až deväťkrát rýchlejšie. Pri úlohách inferencie v oblasti jazykových modelov dosahujú grafické procesory až 30-násobné zrýchlenie v porovnaní s predchádzajúcou generáciou.
  • Systém prepínačov NVLink: Štvrtá generácia NVLink poskytuje obojsmernú šírku pásma GPU 900 GB/s, zatiaľ čo NVSwitch zabezpečuje lepšiu škálovateľnosť klastrov H200. To zaručuje, že modely umelej inteligencie s biliónmi parametrov môžu byť spracované efektívne.
  • Dôverné výpočty: Architektúra Hopper zabezpečuje, že vaše dáta, modely umelej inteligencie a algoritmy sú chránené aj počas spracovania.
  • Multi-instance GPU (MIG) 2.0: Druhá generácia technológie MIG umožňuje rozdelenie jedného GPU Hopper až na sedem izolovaných inštancií. To umožňuje viacerým ľuďom spracovávať rôzne pracovné zaťaženia súčasne bez vzájomného rušenia.
  • Pokyny DPX: Pokyny DPX umožňujú dynamicky programované algoritmy vypočítať až sedemkrát rýchlejšie ako s GPU architektúry Ampere.

Na aké použitie sú vhodné grafické procesory Hopper?

Grafické procesory NVIDIA založené na architektúre Hopper sú navrhnuté pre širokú škálu vysokovýkonných úloh. Hlavné oblasti použitia grafických procesorov Hopper sú: ¬

  • Úlohy inferencie: GPU patria medzi špičkové riešenia v odvetví pre produktívne využitie inferencie umelej inteligencie. Či už ide o odporúčacie systémy v elektronickom obchode, lekárskej diagnostike alebo predikcie v reálnom čase pre autonómne riadenie, GPU Hopper dokážu rýchlo a efektívne spracovať obrovské množstvá údajov.
  • Generatívna umelá inteligencia: Špičkové GPU poskytujú potrebný výpočtový výkon na trénovanie a vykonávanie nástrojov s generatívnou umelou inteligenciou. Paralelné spracovanie umožňuje efektívnejšie výpočty pre kreatívne úlohy, ako je generovanie textu, obrázkov a videí.
  • Trénovanie hlbokého učenia: Vďaka svojmu vysokému výpočtovému výkonu sú GPU Hopper ideálne na trénovanie veľkých neurónových sietí. Architektúra Hopper výrazne skracuje čas trénovania modelov umelej inteligencie.
  • Konverzačná umelá inteligencia: GPU Hopper sú optimalizované pre spracovanie prirodzeného jazyka (NLP) a sú ideálne pre jazykové systémy poháňané umelou inteligenciou, ako sú virtuálni asistenti a chatboty s umelou inteligenciou. Umožňujú rýchlejšie spracovanie veľkých modelov umelej inteligencie a zabezpečujú rýchlu interakciu, ktorú možno hladko integrovať do obchodných procesov, ako je napríklad podpora.
  • Analýza dát a veľké dáta: GPU Hopper spracúvajú obrovské množstvá dát vysokou rýchlosťou a urýchľujú zložité výpočty prostredníctvom masívneho paralelného spracovania. To umožňuje spoločnostiam rýchlejšie vyhodnocovať veľké dáta, aby mohli robiť prognózy a iniciovať správne opatrenia.
  • Veda a výskum: Keďže sú GPU navrhnuté pre aplikácie HPC, sú ideálne pre vysoko komplexné simulácie a výpočty. GPU Hopper sa používajú napríklad v astrofyzike, modelovaní klímy a výpočtovej chémii.

Aktuálne modely od spoločnosti NVIDIA

S uvedením modelov NVIDIA H100 a NVIDIA H200 na trh americká spoločnosť predstavila dva grafické procesory Hopper. Na rozdiel od nich je model NVIDIA A30 stále postavený na predchádzajúcej architektúre Ampere. Z technického hľadiska nie je model H200 úplne nový model, ale skôr vylepšená verzia modelu H100. Nasledujúci prehľad poukazuje na kľúčové rozdiely medzi týmito dvoma grafickými procesormi:

  • Pamäť a šírka pásma: Kým NVIDIA H100 je vybavená 80 GB pamäťou HBM3, GPU H200 má pamäť HBM3e s kapacitou 141 GB. H200 má tiež jasný náskok v šírke pásma pamäte s 4,8 TB/s v porovnaní s 2 TB/s u H100.
  • Výkon pre AI inferenciu: V porovnaní s tým NVIDIA H200 poskytuje dvojnásobný inferenčný výkon pre modely ako LLaMA 2-70 B. To umožňuje nielen rýchlejšie spracovanie, ale aj efektívne škálovanie.
  • HPC aplikácie a vedecké výpočty: H100 už ponúka prvotriednu úroveň výkonu pre zložité výpočty, ktorú H200 prekonáva. Rýchlosť inferencie je až dvakrát vyššia, výkon HPC je o 20 percent vyšší.
Prejsť na hlavné menu