Seminar

Skalierbare KI- und ML-Infrastrukturen mit NVIDIA Datacenter GPUs, Kubernetes und Red Hat OpenShift

mit Oliver Liebel

Online
‡‡‡ 1-tägig

Das Seminar

Dieser eintägige Kurs findet in Form einer Präsentation (Demo/Showcases) statt. Die Teilnehmenden bekommen einen Überblick über die aktuellen Technologie-Stacks sowie Best Practices zur Planung und Implementierung von (auto-)skalierbaren KI-/ML-Clustern mit NVIDIA Datacenter GPUs auf Hypervisoren von VMware (vSphere), AWS und GCP, containerisiert mit Kubernetes und Red Hat OpenShift. Oliver Liebel vermittelt Ihnen wichtige infrastrukturrelevante Konzepte und Best Practices rund um Planung, Aufbau und Betrieb von (auto-)skalierbaren KI-/ML-Clustern. Dabei legt er den Fokus auf den langfristig planbaren und kosteneffizienten Betrieb mithilfe maximaler Automation (IaaS/IaC und Operatoren). Betrachtet werden zudem die Vor- und Nachteile der jeweiligen Implementierungsvarianten. Im Rahmen der Schulung kann, soweit technisch, thematisch und zeitlich realisierbar, auch auf konkrete Problemstellungen der Teilnehmenden eingegangen werden.

Die Seminarthemen

  • Skalierbare KI-/ML-Cluster: Schlüsseltechnologien und Stacks
  • Kostenfaktoren, effizienter Betrieb
  • Implementierungen in der Cloud und On-Premise
  • Virtualisierte GPUs, Autoscaling
  • Security/Tenancy und LTS-Perspektiven

Die Zielgruppen

Dieser Kurs richtet sich an Entscheiderinnen, Architekten, Projektleitung und Admins/DevOps-Teams aus dem Linux-Umfeld. Der Fokus der Schulung liegt ausdrücklich auf Operations/Infrastruktur – Developer- und Data-Scientist-spezifische Themen oder ML-Coding werden in diesem Kurs nicht betrachtet! Grundlegende theoretische Vorkenntnisse in den Bereichen Container/Kubernetes, Virtualisierung und HA-Clustering sind hilfreich, aber nicht zwingend erforderlich.

Bei Unsicherheiten und Fragen bezüglich des Lern-Levels kontaktieren Sie uns gerne!

Ihr Trainer

None

Dipl.-Ing. Oliver Liebel ist LPI-zertifizierter Linux-Enterprise Experte, Partner von Red Hat und SUSE und steht in engem Kontakt mit NVIDIAs EGX Abteilung. Seit vielen Jahren ist er Dozent, Autor, Berater und Systemarchitekt für Unternehmen, internationale Konzerne und Institutionen auf Landes- und Bundesebene. Er blickt auf 27 Jahre Berufserfahrug als Spezialist für skalierbare und GPU-beschleunigte Container-Cluster, High-Availability-Cluster und SDS zurück.

Agenda des Seminars

Skalierbare KI-/ML-Cluster im Überblick: zwischen Hype und Realität

  • Welche Unternehmen(sbereiche) können von ML profitieren
  • ML-Cluster-Stack: Architektur von GPU-Accelerated Clusters im Überblick
  • Wichtige Schlüsselkomponenten und Technologien für (auto-) skalierbaren ML-Betrieb
  • Cloud vs. On-Premise: plattformspezifisch verfügbare Technologie-Stacks, Aufwand für Setup und Betrieb, Anschaffungs-/Betriebskosten und ROI im Überblick
  • Hybrid-Lösungen für Kosteneffizienz: Pay-per-Use Cloud-Training, sicherer Inferenz-Produktivbetrieb im RZ

GPU-Accelerated ML Cluster: Kernkonzepte

  • Architektur und Arbeitsweise von containerisierten GPU-Clustern im Detail
  • Datacenter GPUs und ihre Technologien: NVIDIA vs. AMD vs. Intel „Pure“ TPUs vs. GPUs
  • Infrastruktur-Virtualisierung und Containerisierung als Schlüsselkonzepte
  • Bare Metal vs. VM: Performance vs. IaaS-/IaC-Automation und -Autoscaling
  • Betrieb von GPU Nodes On-Premise (vSphere) und in der Cloud (AWS/GCP)
  • NVIDIA Datacenter GPU Certified Server
  • NVIDIA Datacenter GPUs nach Einsatzzweck
  • Komponenten des NVAIE-Stacks (NVIDIA AI Enterprise)
  • NVIDIA Ampere GPUs und MIG: Flexibilität und Multi-Tenancy
  • NVIDIA DGX: Hardware-Komplettlösungen für Unternehmen
  • GPU-Modi: Passthrough-MIG vs. MIG-backed vGPU vs. vGPU
  • Optimale Auslastung durch GPU-Sharing
  • Next-Generation MIG und Confidential Computing mit NVIDIAs Hopper GPUs

GPU-Accelerated ML Cluster: Fortgeschrittene Konzepte

  • GPU Nodes in Container-Plattformen: OpenShift vs. Vanilla Kubernetes, LTS-Perspektiven
  • IaaS und IaC: Best Practices für maximale GPU-Cluster-Automation
  • GPU-Node-Vollautomation mit NVIDIAs GPU Operator Stack
  • GPU-Connect local: NVLink und NVSwitch
  • GPU-Connect remote: GPUDirect RDMA und Network-Operator
  • Überblick: AI End-to-End mit Kubeflow/Vertex AI/Open Data Hub und NVIDIA AI Enterprise
  • The Road Ahead

Seminarunterlagen und technisches Set-up

Der Seminartag startet um 9:00 Uhr und endet um 16:00 Uhr, Pausen inklusive.

Das Seminar selbst findet online über Zoom Meetings statt. Sie können über die Zoom-Software bzw. direkt per Webbrowser teilnehmen; über Ihren PC oder Ihr Notebook (Windows, Linux, Mac). Alle Teilnehmenden erhalten ca. eine Woche vor Schulungsbeginn einen exklusiv erstellten, einfach gehaltenen Setup-Leitfaden für ihre PCs/Notebooks, um sich die Clients ordentlich einzurichten.

Bitte beachten Sie: Audio- und Videoaufzeichnungen sind nicht zulässig. Alle Rechte bleiben vorbehalten.

Materialien für Teilnehmende

  • Skript in digitaler Form (speziell für den Kurs aufbereitete kompakte Folien)

  • Alle im Seminar verwendeten Beispieldateien

  • Installationshinweise und technische Anweisungen erhalten Sie rechtzeitig vor Beginn des Kurses.

  • Ein Goodie-Paket erhalten Sie vorab direkt nach Hause.

  • Nach Abschluss des Seminars schicken wir Ihnen Ihre persönliche Teilnahmebescheinigung.

Fragen? Wir helfen gerne!

Sie haben noch weitere Fragen zu diesem Seminar oder besondere Terminwünsche für ein individuelles firmeninternes Gruppentraining? Melden Sie sich gerne bei uns, wir sind für Sie da und finden das für Sie und Ihr Team passende Seminar. So erreichen Sie uns:
 

Montag bis Freitag
9:00–16:00 Uhr
Tel.: +49 228 42150-55
E-Mail: seminare@rheinwerk-verlag.de

FAQ

Was bietet mir die Seminarteilnahme?

Die Seminarbuchung berechtigt zur Teilnahme an einem der angebotenen Seminare, sie gilt nicht für andere Veranstaltungen des Rheinwerk Verlags. Die Auswahl des Seminars erfolgt im Kaufprozess. Die Anzahl der Plätze ist limitiert.

Gibt es bei den Präsenz-Seminaren ein Sicherheits- und Hygienekonzept?

Ihre Sicherheit liegt uns am Herzen. Deshalb setzen wir alles daran, dass Sie sich auf unseren Präsenz-Seminaren rundum wohl und sicher fühlen. Wir kümmern uns darum, dass die geltenden Hygiene- und Abstandsregeln sowie das zum Zeitpunkt der Veranstaltung gültige Konzept (derzeit 2G) eingehalten werden.

Für den nötigen Sicherheitsabstand mieten wir Räume mit viel Platz an. Außerdem stehen Ihnen Stationen mit Masken und Desinfektionsmittel zur Verfügung. Selbstverständlich werden die Räume gut gelüftet und die Oberflächen regelmäßig desinfiziert. So stellen wir sicher, dass Sie sorgenfrei an Ihrem Seminar teilnehmen können.

Wie sichere ich mir meinen Platz?

Die Anmeldung zu unseren Weiterbildungs-Angeboten führen Sie nicht direkt auf unserer Website durch. Die Seminarbuchung übernimmt unser Partner Eventbrite.

Wie funktioniert das genau?

  1. Klicken Sie oben auf dieser Seite auf den Button »Jetzt buchen«, um zur Buchungsseite von Eventbrite zu gelangen.
  2. Auf der Buchungsseite von Eventbrite können Sie Ihr gewünschtes Seminar wählen, ggf. haben Sie die Wahl zwischen verschiedenen Seminaren.
  3. Nun wählen Sie unter »Anzahl« die gewünschte Ticketmenge, geben ggf. unter »Werbecode eingeben« einen Rabattcode ein und können dann auf »Jetzt bestellen« klicken. Hinweis: Die Anzahl der Seminarplätze ist limitiert.
  4. Danach werden Sie auf ein Bestellformular weitergeleitet, das Sie bitte ausfüllen.
  5. Wenn Sie bereits ein Nutzerprofil bei Eventbrite haben, können Sie sich auch damit dort anmelden. Einige Angaben werden dann aus Ihrem Profil bereits für die Bestellung übernommen. Das ist freiwillig, die Bestellung ist natürlich auch ohne Eventbrite-Profil möglich.
  6. Im Bestellformular machen Sie Angaben zu Ihrer Person, zur Rechnungsanschrift und wählen das gewünschte Zahlungsmittel.
  7. Bei mehreren Teilnehmern machen Sie zusätzlich auch noch Angaben zu jedem einzelnen Seminarteilnehmer. Wichtig: Bitte hinterlegen Sie für jeden Seminarteilnehmer mindestens die persönliche E-Mail-Adresse. Das ist besonders wichtig für online stattfindende Seminare, damit wir vor der Veranstaltung die Zugangscodes direkt an die Teilnehmer versenden können.
  8. Die Bestellung schließen Sie mit »Jetzt bezahlen« ab.
  9. Sobald die Bestellung verarbeitet wurde, erhalten Sie von Eventbrite eine Auftragsbestätigung per E-Mail. Diese Mail enthält neben der Bestellbestätigung auch nähere Informationen zu unserem Seminar, die Tickets und die Rechnung als PDF.
Wie kann ich bezahlen?

Wir können Ihnen derzeit folgende Zahlungsmöglichkeiten anbieten: Kreditkarte, PayPal und SOFORT-Überweisung. Selbstverständlich erhalten Sie für Ihren Kauf eine ordentliche Rechnung

Kann ich meine Seminarteilnahme stornieren?

Für Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.

Für Präsenz-Seminare gilt: Grundsätzlich ist das für Präsenz-Seminare möglich, bis 30 Tage vor Veranstaltungsbeginn sogar kostenfrei. Bis 14 Tage vor Seminarbeginn fallen 50 % der Teilnahmegebühr an, bis sieben Tage vor Veranstaltungsbeginn 75 % der Teilnahmegebühr. Danach müssen wir Ihnen leider die vollen Seminargebühren berechnen. Sie können die Stornierung entweder bei Eventbrite über den Button »Rückerstattung anfordern« durchführen, oder Sie wenden sich hierzu wie folgt an uns:

Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de

Kann ich einen Ersatzteilnehmer für mein Seminar benennen?

Bis sieben Tage vor Veranstaltung können Sie uns kostenfrei einen Ersatzteilnehmer für unsere Seminare benennen, ab sieben Tage vor Veranstaltungsbeginn ist dies leider nicht mehr möglich.

Bei Eventbrite können Sie den Namen des Seminarteilnehmers im Bestellprozess ändern. Wichtig ist, dass Sie neben dem Namen auch die persönliche E-Mail-Adresse des Ersatzteilnehmers angeben.

Selbstverständlich können Sie uns den Ersatzteilnehmer auch schriftlich mitteilen. In diesem Fall benötigen wir die genauen Angaben des bisherigen Seminarteilnehmers sowie die Ticketnummer und die Angaben des Ersatzteilnehmers. Wenden Sie sich dazu an:

Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de

Was geschieht, wenn ich kurz vor dem Seminar krank werde?

Für die Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.

Für die Präsenz-Seminare gilt: Können Sie aufgrund einer Erkrankung nicht an dem Präsenz-Seminar teilnehmen, so wird nach Übersendung eines ärztlichen Attestes ein Gutschein über die geleistete Teilnahmegebühr erstellt. Diesen können Sie in einem Zeitraum von drei Jahren für alle offenen Seminare des Rheinwerk Verlags einlösen.

Wie melde ich mich auf der Rheinwerk-Plattform zu meinem Online-Seminar an?

Einige Tage vor dem Online-Seminar schicken wir Ihnen eine E-Mail mit allen Informationen zur Anmeldung auf unserer Online-Plattform. Wenn Sie unsere E-Mail nicht bekommen haben, schauen Sie bitte nach, ob die Nachricht in Ihrem Spam-Ordner liegt. Sollten Sie die E-Mail nicht finden, melden Sie sich bitte bei uns. Sie erreichen uns unter seminare@rheinwerk-verlag.de oder +49 (0)228 42150-55.

* Es fallen keine weiteren Verkaufsgebühren an. Alle Preise verstehen sich zzgl. der gesetzlichen Mehrwertsteuer. Die von uns angebotenen Leistungen richten sich nur an Unternehmer gemäß § 14 BGB. Dies sind natürliche oder juristische Personen oder rechtsfähige Personengesellschaften, die bei Abschluss eines Rechtsgeschäfts in Ausübung ihrer gewerblichen oder selbstständigen beruflichen Tätigkeit handeln. Unsere Leistungen richten sich nicht an Verbraucher.

Wählen Sie Ihren Termin
01.12.2022
Online
€ 1.190,00*
Freie Plätze verfügbar
Jetzt buchen
03.05.2023
Online
€ 1.190,00*
Freie Plätze verfügbar
Jetzt buchen
06.06.2023
Online
€ 1.190,00*
Freie Plätze verfügbar
Jetzt buchen
Einfacher Bestellprozess
über unseren Partner Eventbrite
Bequem zahlen
per Kreditkarte, PayPal und SOFORT-Überweisung
Gruppen- und Studentenrabatte
Kontaktieren Sie uns für ein Angebot
Wir sind gerne für Sie da
Hilfe zur Bestellung

Montag bis Donnerstag
9:00 bis 17:30 Uhr

Freitag
9:00 bis 12:30 Uhr

+49 228 42150-0
service@rheinwerk-verlag.de