Výkonný GPU Cluster pro AI výpočty

Využijte naplno službu HPC Virtual Server. Získáte přístup k virtuálnímu serveru s předinstalovaným operačním systémem Ubuntu nebo AlmaLinux a vysoce výkonné grafické kartě NVIDIA HGX A100.

Grafická karta NVIDIA A100 má 8 GPU (grafických jader), přičemž 1GPU má velikost paměti 80 GB a výkon pro "HPC and AI compute FP64" = 19,5 TF (TF = teraFLOPS). Tato výkonná grafická karta umožní zvládnout i ty nejnáročnější výpočetní úlohy s lehkostí a rychlostí.

Služba je nabízena v šablonách virtuálních serverů dle počtu GPU, které si zákazník objednává. Poskytovatel nabízí možnost využívat službu garantovaně nebo negarantovaně. Tyto možnosti se liší výší úhrady za poskytnuté výpočetní prostředky.

Služba je vhodná pro společnosti, které využijí vysoký výpočetní výkon zejména pro účely učení neuronových sítí, analýzu velkých datových sad,vědeckých výpočtů či zpracování obrazu a videí.
 

U garantovaného výpočetního výkonu GPU si zákazník volí mezi měsíčním pronájmem virtuálního serveru nebo hodinovým pronájmem bez ohledu na to, zdali provádí výpočetní úlohy pomocí GPU či ne. Po celou dobu poskytovatel zákazníkovi garantuje přidělený počet GPU. Zákazník platí plnou sazbu za výpočetní výkon.
 

U negarantovaného výpočetního výkonu GPU zákazník využívá pouze hodinový pronájem. V případě, že zákazník nevyužívá GPU pro výpočetní úlohy, může poskytovatel daný GPU využít pro jiného zákazníka tím, že GPU odebere z virtuálního serveru. Po opětovném uvolnění GPU jiným zákazníkem se vrací po domluvě do původního virtuálního serveru. Zákazník po dobu, kdy nevyužívá GPU pro výpočetní výkon, platí sníženou hodinovou sazbu.

Zákazník při zřízení služby obdrží následující přístupy:

• SSL VPN pro uživatele,
• přístup do vCenter k přidělenému virtuálnímu serveru,
• SSH přístup na virtuální server s operačním systémem.

Softwarové doplňky na míru:
Vzhledem k širokým možnostem využití GPU výpočetního výkonu pro AI/ML/NN si zákazník s poskytovatelem může domluvit instalaci následujících softwarových nástrojů.

Pro GPU výpočty:

• Apache Spark 3.0 + (podporuje GPU)
• TensorFlow
• PyTorch
• Knime/Knime Server
• NVIDIA Triton Server

Pro správu:

• Label Studio
• MLFlow
• GitLab

Pro práci s daty:

• Úložiště NAS: NFS/CIFS (TrueNAS)
• Objektová storage: S3 (MinIO, TrueNAS)
• Bloková storage: iSCSI (TrueNAS)
• DB: PostgreSQL, CitusData

Základní komponenty služby:

• šablona virtuálního serveru s GPU
• statická veřejná IP adresa
• přístupy pro SSL VPN
• přístupy pro SSH na operační systém virtuálního serveru
• přístupy do vCenter k přidělenému virtuálnímu serveru
• instalace dle specifikace zákazníka

Dodatečné komponenty služby:

• rozšíření kapacity diskového prostoru SATA 10k
• rozšíření diskového prostoru SSD
• privátní datové úložiště Green Drive
• instalace kontejnerové platformy dle specifikace zákazníka
• konzultační práce specialisty

Služba je účtována za objednané výpočetní šablony virtuálních serverů měsíčně dle volby zákazníka formou celého měsíčního pronájmu nebo za spotřebované hodiny. Dále za instalační a konzultační práce, veřejnou IPadresu a podle objednaných dodatečných komponent služby.