Zawartość

• Kroki
• Porady
• Ostrzeżenia

Szukasz maszyny zdolnej do wykonywania setek bilionów obliczeń zmiennoprzecinkowych na sekundę? A może po prostu chcesz pochwalić się znajomym superkomputerem zamontowanym w Twoim pokoju? Zbudowanie wysokowydajnego klastra obliczeniowego lub superkomputera to wyzwanie, które może podjąć każdy entuzjasta z wolnym weekendem i resztą pieniędzy. Z technicznego punktu widzenia superkomputer wieloprocesorowy to sieć komputerów, które współpracują ze sobą, aby rozwiązać problem. W tym artykule krótko opiszemy każdy etap procesu, koncentrując się na sprzęcie i oprogramowaniu.

Kroki

1. 

   Najpierw określ wymagane składniki sprzętowe i zasoby. Będziesz potrzebował węzła głównego, co najmniej 12 identycznych węzłów sieciowych, przełącznika Ethernet, jednostki dystrybucji zasilania i szafy. Określ wymaganą energię elektryczną, chłodzenie i zapotrzebowanie na miejsce. Zdecyduj również, który adres IP chcesz dla swoich sieci prywatnych, jak nazwać węzły, które pakiety oprogramowania chcesz zainstalować i która technologia będzie używana do wykonywania obliczeń równoległych (więcej o tym później).
   • Chociaż sprzęt jest drogi, wszystkie programy wymienione w przewodniku są bezpłatne, a większość z nich jest open source.
   • Jeśli chcesz zobaczyć, jak szybki byłby Twój superkomputer, użyj tego narzędzia: http://hpl-calculator.sourceforge.net/

2. 

   
   
   Utwórz węzły. Będziesz musiał zamontować węzły lub kupić wstępnie zmontowane serwery.
   • Wybierz obudowę serwerową, która maksymalizuje przestrzeń, chłodzenie i zużycie energii.
   • Możesz też skorzystać z kilku przestarzałych serwerów - których łączny koszt będzie większy niż suma części, ale i tak dużo zaoszczędzisz. Aby system działał dobrze, wszystkie procesory, karty sieciowe i płyty główne muszą być identyczne. Oczywiście pamiętaj, aby uwzględnić pamięć RAM i pamięć masową w każdym węźle oraz co najmniej jeden napęd optyczny dla węzła głównego.

3. 

   
   
   Zainstaluj serwery w stojaku. Zacznij od dołu, aby góra nie była zbyt ciężka. Będziesz potrzebował do tego pomocy znajomych - gęste serwery mogą być bardzo ciężkie, a prowadzenie ich po torach, które je utrzymują, jest trudne.

4. 

   Zainstaluj przełącznik Ethernet nad obudową serwera. Poświęć trochę czasu na skonfigurowanie przełącznika: włącz duże ramki o rozmiarze 9000 bajtów, ustaw adresy IP na adresy statyczne określone w pierwszym kroku i wyłącz niepotrzebne protokoły routingu, takie jak SMTP Snooping.

5. 

   
   
   Zainstaluj jednostkę dystrybucji zasilania. W zależności od tego, ile prądu będą wymagały węzły przy pełnym obciążeniu, do obliczeń o wysokiej wydajności może być potrzebne 220 woltów.

6. 

   Po zainstalowaniu wszystkiego możesz rozpocząć proces konfiguracji. Linux jest idealnym systemem operacyjnym dla klastrów HPC - jest to nie tylko idealne środowisko do obliczeń naukowych, ale można go również bezpłatnie zainstalować na setkach, a nawet tysiącach węzłów. Wyobraź sobie, ile kosztowałaby instalacja systemu Windows na wszystkich tych węzłach?
   • Zacznij od zainstalowania najnowszej wersji BIOS-u płyty głównej i oprogramowania układowego, które muszą być identyczne na wszystkich węzłach.
   • Zainstaluj swoją ulubioną wersję Linuksa na każdym węźle, z interfejsem graficznym w węźle głównym. Popularne opcje obejmują CentOS, OpenSuse, Scientific Linux, RedHat i SLES.
   • Możesz także użyć dystrybucji klastra skał. Oprócz zainstalowania wszystkich narzędzi niezbędnych do działania klastra, Rocks wykorzystuje doskonałą metodę bardzo szybkiego rozpowszechniania wielu swoich instancji do węzłów przy użyciu rozruchu PXE i procedury „Kick Start” firmy Red Hat.

7. 

   Zainstaluj interfejs wiadomości, zarządzanie zasobami i inne niezbędne biblioteki. Jeśli nie zainstalowałeś Rocks w poprzednim kroku, będziesz musiał ręcznie skonfigurować oprogramowanie potrzebne do włączenia równoległych mechanizmów obliczeniowych.
   • Po pierwsze, będziesz potrzebować przenośnego systemu zarządzania na dużą skalę, takiego jak Torque Resource Manager, który umożliwia dzielenie i dystrybucję zadań na wiele maszyn.
   • Sparuj Torque z Maui Cluster Scheduler, aby zakończyć instalację.
   • Następnie musisz zainstalować interfejs transmisji wiadomości, niezbędny do współdzielenia tych samych danych przez poszczególne procesy różnych węzłów. OpenMP jest łatwy w użyciu.
   • Nie zapomnij o wielowątkowych bibliotekach matematycznych do programów do obliczeń równoległych. Jest to naprawdę łatwiejsze, jeśli zainstalujesz Rocks.

8. 

   Połącz węzły komputerów. Węzeł główny wysyła zadania do węzłów komputera, które następnie muszą odesłać wynik, a także wysyłać do siebie wiadomości. Im szybciej, tym lepiej.
   • Użyj prywatnej sieci Ethernet, aby połączyć wszystkie węzły w klastrze.
   • Węzeł główny może również działać jako serwer NFS, PXE, DHCP, TFTP i NTP w sieci Ethernet.
   • Musisz oddzielić tę sieć od sieci publicznych, co gwarantuje, że pakiety transmisji nie będą kolidować z innymi sieciami w twojej sieci LAN.

9. 

   Przetestuj klaster. Ostatnią rzeczą, którą chcesz zrobić, zanim udostępnisz użytkownikom całą moc obliczeniową, jest przetestowanie ich wydajności. Benchmark HPL (High Performance Lynpack) jest popularnym wyborem do pomiaru szybkości obliczeniowej klastra. Będziesz musiał skompilować go ze źródła ze wszystkimi możliwymi optymalizacjami oferowanymi przez kompilator dla wybranej architektury.
   • Oczywiście musisz skompilować ze źródła ze wszystkimi możliwymi optymalizacjami dla swojej platformy. Na przykład, używając procesorów AMD, skompiluj z Open 64 z poziomem optymalizacji -0fast.
   • Porównaj wyniki na TOP500.org, aby porównać swój klaster z 500 najszybszymi superkomputerami na świecie!

Porady

• IPMI może ułatwić administrowanie dużym klastrem, zapewniając KVM-over-IP, przekaźnik zdalnego przetwarzania i wiele więcej.
• Aby osiągnąć naprawdę wysokie prędkości w sieci, szukaj interfejsów sieciowych InfiniBand. Ceny nie są jednak zbyt przystępne.
• Użyj Ganglia do monitorowania obciążenia obliczeniowego na węzłach.

Ostrzeżenia

• Upewnij się, że Twoja infrastruktura poradzi sobie z nałożonym na nią obciążeniem.