2. delavnica NVIDIA: Pospeševanje aplikacij CUDA C++ z več grafičnimi procesorji

Opis: Ta delavnica pokriva, kako napisati aplikacije CUDA C++, ki učinkovito in pravilno uporabljajo vse razpoložljive grafične procesorje v enem samem vozlišču, kar dramatično izboljša zmogljivost vaših aplikacij in naredi najbolj stroškovno učinkovito uporabo sistemov z več grafičnimi procesorji.
Podrobnejši opis: Računalniško intenzivne aplikacije CUDA® C++ v visokozmogljivem računalništvu, znanosti o podatkih, bioinformatiki in globokem učenju je mogoče pospešiti z uporabo več grafičnih procesorjev, kar poveča prepustnost in/ali skrajša vaš skupni čas izvajanja. V kombinaciji s sočasnim prekrivanjem prenosov izračunov in pomnilnika je mogoče izračun povečati na več grafičnih procesorjih brez povečanja stroškov prenosa pomnilnika. Te tehnike vam omogočajo, da dosežete vrhunsko zmogljivost iz aplikacij, pospešenih z GPE, za organizacije s strežniki z več GPE, bodisi v oblaku, omrežju ali lokalnih sistemih. Implementacija tehnik z več GPE-ji na enem vozlišču je pomembna pred skaliranjem vaših aplikacij na več vozliščih.
Gradivo delavnice in naloge je v angleščini, predavanja pa bodo potekala v slovenskem jeziku.
Potek izobraževanja: Delavnica bo potekala v interaktivnem oblačnem okolju z dostopom preko brskalnika.
Zahtevnost: Napredna
Jezik: Slovenski
Priporočeno predznanje: Srednje izkušnje s programiranjem aplikacij CUDA C/C++, vključno z uporabo prevajalnika nvcc, zagonom jedra, mrežnimi zankami, prenosi pomnilnika med napravami (host-to-device in device-to-host) ter obravnavanjem napak CUDA. Poznavanje ukazne vrstice Linux. Izkušnje z uporabo datotek Make za prevajanje kode C/C++.
Ciljna publika: Študenti, akademiki in praktiki, ki jih zanima.
Na izobraževanju pridobljena znanja:
–
Uporabite sočasne tokove CUDA za prekrivanje prenosov pomnilnika z izračunom grafičnih procesorjev.
–
Uporabite vse razpoložljive grafične procesorje na enem vozlišču, da povečate delovne obremenitve na vse razpoložljive grafične procesorje.
–
Združite uporabo prekrivanja kopiranja/računanja z več grafičnimi procesorji.
–
Zanesite se na časovnico NVIDIA Nsight™ Systems Visual Profiler, da opazujete priložnosti za izboljšave in vpliv tehnik, obravnavanih v delavnici.
Omejitev števila udeležencev: 20
Virtualna lokacija: MS Teams
Speaker(s): Domen Verber, Jani Dugonik
Agenda:
Delavnica: Pospeševanje aplikacij CUDA C++ z več grafičnimi procesorji – Apr 16, 2024 –
Apr 16, 2024, MS Teams.
Daily Program: Tuesday, April 16, 2024
Session: Uvod (Spoznajte inštruktorja. Ustvarite račun na courses.nvidia.com/join.
Spoznajte svoje interaktivno okolje JupyterLab, ki ga pospešuje GPE.)
Time and Place: (10:00 AM – 10:30 AM)
Conveners: Domen Verber; Jani Dugonik
Session: Pregled aplikacije (Usmerite se z eno samo aplikacijo GPU CUDA C++, ki bo
izhodišče za tečaj. Opazujte trenutno zmogljivost posamezne aplikacije GPU CUDA C++ z
uporabo Nsight Systems.)
Time and Place: (10:30 AM – 10:45 AM)
Session: Uvod v tokove CUDA (- Naučite se pravil, ki urejajo sočasno vedenje toka CUDA. –
Uporabite več tokov CUDA za izvajanje hkratnih prenosov pomnilnika od gostitelja do
naprave in od naprave do gostitelja. – Uporabite več tokov CUDA za zagon jeder GPE. –
Opazujte več tokov v pogledu časovne osi Nsight Systems Visual Profiler.)
Time and Place: (10:45 AM – 12:15 PM)
Session: Odmor
Time and Place: (12:15 PM – 1:15 PM)
Session: Prekrivanje kopiranja/računanja s tokovi CUDA (- Naučite se ključnih konceptov za
učinkovito izvajanje prekrivanja kopiranja/računanja. – Raziščite zanesljive strategije
indeksiranja za prilagodljivo uporabo prekrivanja kopiranja/računanja v aplikacijah. –
Preoblikujte aplikacijo CUDA C++ z enim GPE-jem za izvedbo prekrivanja
kopiranja/računanja. – Oglejte si prekrivanje kopiranja/računanja na časovnici
vizualnega profilerja Nsight Systems.)
Time and Place: (1:15 PM – 2:45 PM)
Session: Več grafičnih procesorjev s CUDA C++ (- Naučite se ključnih konceptov za
učinkovito uporabo več grafičnih procesorjev na enem vozlišču s CUDA C++. – Raziščite
robustne strategije indeksiranja za prilagodljivo uporabo več grafičnih procesorjev v
aplikacijah. – Preoblikujte aplikacijo CUDA C++ z enim GPE-jem za uporabo več GPE. –
Oglejte si uporabo več grafičnih procesorjev na časovnici Nsight Systems Visual
Profiler.)
Time and Place: (2:45 PM – 3:45 PM)
Session: Odmor
Time and Place: (3:45 PM – 4:00 PM)
Session: Prekrivanje kopiranja/računanja z več grafičnimi procesorji (- Naučite se
ključnih konceptov za učinkovito izvajanje prekrivanja kopiranja/računanja na več
grafičnih procesorjih. – Raziščite robustne strategije indeksiranja za prilagodljivo
uporabo prekrivanja kopiranja/računanja na več grafičnih procesorjih. – Preoblikujte
aplikacijo CUDA C++ z enim GPE-jem za izvajanje prekrivanja kopiranja/računanja na več
GPE-jih. – Opazujte prednosti zmogljivosti za prekrivanje kopiranja/računanja na več
grafičnih procesorjih. – Oglejte si prekrivanje kopiranja/računanja na več grafičnih
procesorjih na časovnici vizualnega profilerja Nsight Systems. )
Time and Place: (4:00 PM – 5:00 PM)
Session: Ocena tečaja (Opravite nalogo za oceno in pridobite certifikat.)
Time and Place: (5:00 PM – 5:30 PM)
Session: Končni pregled (- Pregled ključnih spoznanj. – Naučite se zgraditi svoje okolje
za usposabljanje iz vsebnika osnovnega okolja DLI. – Izpolnite anketo na delavnici. )
Time and Place: (5:30 PM – 6:00 PM)
Virtual: https://events.vtools.ieee.org/m/408287