Jak utworzyć nową maszynę wirtualną Linux z NVIDIA Virtual GPU w Dashboardzie OpenStack Horizon na NSIS Cloud

Można utworzyć maszynę wirtualną Linux z NVIDIA RTX A6000 jako dodatkową kartą graficzną. Karta zawiera:

10,752 rdzeni CUDA do renderowania, operacji graficznych i obciążeń obliczeniowych,

336 rdzeni Tensor, które przyspieszają szkolenie modeli AI i data science,

84 rdzeni RT, które przyspieszają śledzenie promieni (ray tracing) z cieniowaniem lub redukcją szumu, renderowanie fotorealistyczne itp.

Istnieją cztery warianty, wykorzystujące 6, 12, 24 lub 48 GB pamięci VGPU RAM. Możesz wybrać konkretny model, wybierając odpowiedni flavor podczas tworzenia instancji w Horizon (zobacz poniżej).

Co obejmuje ten artykuł?

Jak utworzyć instancję z obsługą NVIDIA

Jak wybrać odpowiedni flavor dla posiadanych danych

Jak dodać odpowiednią parę kluczy

Łączenie się z maszyną wirtualną za pomocą SSH

Użycie konsoli w interfejsie Horizon

Weryfikację, że używa się NVIDIA vGPU

Krok 1 Utwórz nową instancję z obsługą obrazu NVIDIA

Aby zdefiniować nową instancję, użyj następującej serii poleceń:

Project → Compute → Instances.

Kliknij Launch Instance, aby uzyskać następujący ekran:

Wpisz nazwę instancji (np. „vm_with_vgpu”) i kliknij przycisk Next. Na następnym ekranie wybierzesz system operacyjny dla nowej maszyny wirtualnej którą definujesz:

Twoim celem jest użycie obrazu z predefiniowaną obsługą NVIDIA. Aby wyświetlić wszystkie takie obrazy, kliknij pole Available i wpisz «NVIDIA» do niego. Wyświetlone zostaną tylko obrazy z NVIDIA w ich nazwach:

Wybierz źródło uruchamiania instancji (np. „Image”), a następnie wybierz pożądany obraz (np. „Ubuntu 20.04 NVIDIA”) klikając strzałkę.

Obrazy oznaczone jako „NVIDIA” są w pełni funkcjonalne. Są one wyposażone w:

specjalne sterowniki NVIDIA Grid

token licencyjny

bibliotekę CUDA.

Informacja

Jeśli nie potrzebujesz, aby dysk systemowy był większy niż rozmiar określony w wybranym flavorze, zalecamy ustawienie funkcji „Create New Volume” na stan „No”.

Kliknij przycisk Next i przejdź do następnego ekranu:

Teraz wybierzesz jeden z czterech modeli karty RTX A6000.

Krok 2 Wybierz model karty / flavor

Cztery dostępne: RTXA6000-6C, RTXA6000-12C, RTXA6000-24C i RTXA6000-48C, są opisane w poniższej tabeli:

Kolumna VM Name zawiera nazwy flavorów vm.a6000.1, vm.a6000.2, vm.a6000.4, vm.a6000.8. Ponownie, wpisz a6000 w pole Available i wyświetl tylko flavory NVIDIA:

Uwzględniając dane z tabeli powyżej, jeśli wybierzesz flavor vm.a6000.2, będziesz używał 4 wirtualnych rdzeni i 28 GB „normalnej” pamięci RAM, a jednocześnie wybierzesz model RTXA6000-12C z 12 GB pamięci VGPU RAM.

Żółte trójkąty w liście oznaczają, że nie można wybrać tego wiersza, ponieważ jeden z zasobów systemowych jest już zajęty przez inne instancje. Jeśli chciałbyś wybrać najmocniejszy flavor NVIDIA, vm.a6000.8, najpierw musiałbyś uzyskać 112 GB lub więcej dostępnej pamięci RAM, a dopiero wtedy mógłbyś wybrać ten flavor.

W sytuacji powyżej wybierz vm.a6000.2 i kontynuuj wykonywanie standardowych czynności wyboru elementów instancji, aby zakończyć procedurę.

Krok 3 Zakończ tworzenie instancji

Kliknij „Networks” i następnie wybierz pożądane sieci.

Otwórz „Security Groups” Po tym, wybierz „allow_ping_ssh_icmp_rdp” i „default”.

Wybierz lub wygeneruj parę kluczy SSH, jak opisano w artykule /cloud/Jak_utworzyć_parę_kluczy_w_dashboardzie_OpenStack_na_NSIS-Cloud dla twojej maszyny wirtualnej. Następnie uruchom instancję, klikając niebieski przycisk.

Zobaczysz menu „Instances” z twoją nowo utworzoną maszyną wirtualną.

Informacja

Jeśli chcesz, aby twoja maszyna wirtualna była dostępna z Internetu, zobacz ten artykuł: /networking/Jak_dodać_lub_usunąć_pływające_IP_do_Twojej_maszyny_wirtualnej_na_NSIS-Cloud

Krok 4 Wydaj polecenia z konsoli

Otwórz rozwijane menu i wybierz „Console”.

Możesz połączyć się z twoją maszyną wirtualną za pomocą SSH, zobacz ten artykuł: /networking/Jak_połączyć_się_z_Twoją_maszyną_wirtualną_przez_SSH_w_Linuxie_na_NSIS-Cloud

Możesz również użyć konsoli SPICE przy użyciu Openstack Dashboard.

Kliknij na czarnym obszarze terminala (aby aktywować dostęp do konsoli). Wpisz:

eoconsole

i naciśnij Enter na klawiaturze.

Wpisz i powtórz nowe hasło.

Teraz możesz wprowadzać polecenia.

Aby sprawdzić stan urządzenia vGPU, wpisz polecenie:

nvidia-smi

Po zakończeniu wpisz „exit”.

exit

To zamknie sesję.