Výkonný GPU Cluster pre AI výpočty

Využite službu HPC Virtual Server naplno. Získate prístup k virtuálnemu serveru s predinštalovaným systémom Ubuntu alebo AlmaLinux a výkonnou grafickou kartou NVIDIA HGX A100.

Grafická karta NVIDIA A100 má 8 GPU (grafických jadier), pričom 1GPU má veľkosť pamäte 80 GB a výkon pre "HPC a AI compute FP64" = 19,5 TF (TF = teraFLOPS). Táto výkonná grafická karta vám umožní ľahko a rýchlo zvládnuť aj tie najnáročnejšie výpočtové úlohy.

Služba sa ponúka v šablónach virtuálnych serverov podľa počtu GPU, ktoré si zákazník objedná. Poskytovateľ ponúka možnosť využívať službu so zárukou alebo bez záruky. Tieto možnosti sa líšia výškou platby za poskytnuté výpočtové zdroje.

Služba je vhodná pre spoločnosti, ktoré využívajú vysoký výpočtový výkon, najmä na učenie neurónových sietí, analýzu veľkých súborov údajov, vedecké výpočty alebo spracovanie obrazu a videa.

Pri garantovanom výpočtovom výkone GPU si zákazník vyberie medzi mesačným prenájmom virtuálneho servera alebo hodinovým prenájmom bez ohľadu na to, či vykonáva alebo nevykonáva výpočtové úlohy pomocou GPU. Poskytovateľ zákazníkovi vždy garantuje pridelený počet GPU. Zákazník platí plnú sadzbu za výpočtový výkon.
 

V prípade negarantovaného výpočtového výkonu GPU zákazník využíva iba hodinový prenájom. Ak zákazník nevyužíva GPU na výpočtové úlohy, poskytovateľ môže GPU použiť pre iného zákazníka tak, že odstráni GPU z virtuálneho servera. Keď GPU znovu prenajme iný zákazník, po dohode sa vráti na pôvodný virtuálny server. Zákazník platí zníženú hodinovú sadzbu za čas, keď sa GPU nepoužíva na výpočtový výkon.

Pri nastavovaní služby získa zákazník tieto prístupy:

• SSL VPN pre užívateľov,
• prístup do vCenter k pridelenému virtuálnemu serveru,
• SSH prístup na virtuálny server s operačným systémom.

Softwarové doplnky na mieru:
Vzhľadom na široké možnosti využitia výpočtového výkonu GPU pre AI/ML/NN sa zákazník môže s poskytovateľom dohodnúť na inštalácii nasledujúcich softvérových nástrojov.

Pre GPU výpočty:

• Apache Spark 3.0 + (podporuje GPU)
• TensorFlow
• PyTorch
• Knime/Knime Server
• NVIDIA Triton Server

Pre správu:

• Label Studio
• MLFlow
• GitLab

Pre prácu s dátami:

• Úložisko NAS: NFS/CIFS (TrueNAS)
• Objektový storage: S3 (MinIO, TrueNAS)
• Blokový storage: iSCSI (TrueNAS)
• DB: PostgreSQL, CitusData

Základné komponenty služby:

• šablóna virtuálneho serveru s GPU
• statická verejná IP adresa
• prístupy pre SSL VPN
• prístupy pre SSH na operačný systém virtuálneho serveru
• prístupy do vCenter k pridelenému virtuálnemu serveru
• inštalácia podľa špecifikácie zákazníka

Dodatočné komponenty služby:

• rozšírenie kapacity diskového priestoru SATA 10k
• rozšírenie diskového priestoru SSD
• privátne dátové úložisko Green Drive
• inštalácia kontajnerovej platformy podľa špecifikácie zákazníka
• konzultačné práce špecialistov

Služba je spoplatnená za objednané výpočtové šablóny virtuálnych serverov mesačne podľa výberu zákazníka formou celého mesačného prenájmu alebo za spotrebované hodiny. Okrem toho za inštalačné a konzultačné práce, verejnú IP adresu a podľa objednaných ďalších komponentov služby.