Seminar
Skalierbare KI/ML-Infrastrukturen
mit NVIDIA Datacenter GPUs, Kubernetes und Red Hat OpenShift
mit Oliver Liebel
Dieses Seminar bieten wir derzeit für Sie ausschließlich als firmeninterne Schulung an. Die Schulung ist als Einzel- oder Gruppentraining buchbar. Auch inhaltliche Schwerpunkte lassen sich individuell setzen.
Lernziele für dieses Seminar über KI/ML-Cluster
- Sie haben sich vertraut gemacht mit wichtigen infrastrukturrelevante Konzepten und Best Practices rund um Planung, Aufbau und Betrieb von (auto-)skalierbaren KI/ML-Clustern.
- Sie kennen die Vor- und Nachteile der jeweiligen Implementierungsvarianten.
- Im Rahmen der Schulung kann, soweit technisch, thematisch und zeitlich realisierbar, auch auf konkrete Problemstellungen der Teilnehmenden eingegangen werden.
Kursbeschreibung
Dieser eintägige Kurs findet in Form einer Präsentation (Demo/Showcases) statt. Die Teilnehmenden bekommen einen Überblick über die aktuellen Technologie-Stacks sowie Best Practices zur Planung und Implementierung von (auto-)skalierbaren KI/ML-Clustern mit NVIDIA Datacenter GPUs auf Hypervisoren von VMware (vSphere), AWS und GCP, containerisiert mit Kubernetes und Red Hat OpenShift. Dabei legt Ihr Seminarleiter Oliver Liebel den Fokus auf den langfristig planbaren und kosteneffizienten Betrieb mithilfe maximaler Automation (IaaS/IaC und Operatoren).
Dieser Kurs ist geeignet für
-
Entscheiderinnen, Architekten, Projektleitung und Admins/DevOps-Teams aus dem Linux-Umfeld.
-
Der Fokus der Schulung liegt ausdrücklich auf Operations/Infrastruktur – Developer- und Data-Scientist-spezifische Themen oder ML-Coding werden in diesem Kurs nicht betrachtet!
-
Grundlegende theoretische Vorkenntnisse in den Bereichen Container/Kubernetes, Virtualisierung und HA-Clustering sind hilfreich, aber nicht zwingend erforderlich.
Wenn Sie mehr Infos zum Lern-Level benötigen, fragen Sie diese gerne bei uns an.
Ihr Trainer
Dipl.-Ing. Oliver Liebel ist LPI-zertifizierter Linux-Enterprise-Experte, Partner von Red Hat und SUSE und steht in engem Kontakt mit NVIDIAs EGX-Abteilung. Er ist seit vielen Jahren als Dozent, Autor, Berater und Systemarchitekt für namhafte Unternehmen, internationale Konzerne und Institutionen auf Landes- und Bundesebene tätig. Der Spezialist für skalierbare und GPU-beschleunigte Container-Cluster auf Kubernetes-/OpenShift-Basis, High-Availability Cluster, Software-Defined Storage und Verzeichnisdienste kann dabei auf eine 27-jährige Berufserfahrung zurückgreifen.
Die Seminarthemen
🕒 täglich 09:00–16:00 Uhr
Skalierbare KI/ML-Cluster im Überblick: zwischen Hype und Realität
- Welche Unternehmen(sbereiche) können von ML profitieren
- ML-Cluster-Stack: Architektur von GPU-Accelerated Clusters im Überblick
- Wichtige Schlüsselkomponenten und Technologien für (auto-) skalierbaren ML-Betrieb
- Cloud vs. On-Premise: plattformspezifisch verfügbare Technologie-Stacks, Aufwand für Setup und Betrieb, Anschaffungs-/Betriebskosten und ROI im Überblick
- Hybrid-Lösungen für Kosteneffizienz: Pay-per-Use Cloud-Training, sicherer Inferenz-Produktivbetrieb im RZ
GPU-Accelerated ML Cluster: Kernkonzepte
- Architektur und Arbeitsweise von containerisierten GPU-Clustern im Detail
- Datacenter GPUs und ihre Technologien: NVIDIA vs. AMD vs. Intel „Pure“ TPUs vs. GPUs
- Infrastruktur-Virtualisierung und Containerisierung als Schlüsselkonzepte
- Bare Metal vs. VM: Performance vs. IaaS-/IaC-Automation und -Autoscaling
- Betrieb von GPU Nodes On-Premise (vSphere) und in der Cloud (AWS/GCP)
- NVIDIA Datacenter GPU Certified Server
- NVIDIA Datacenter GPUs nach Einsatzzweck
- Komponenten des NVAIE-Stacks (NVIDIA AI Enterprise)
- NVIDIA Ampere GPUs und MIG: Flexibilität und Multi-Tenancy
- NVIDIA DGX: Hardware-Komplettlösungen für Unternehmen
- GPU-Modi: Passthrough-MIG vs. MIG-backed vGPU vs. vGPU
- Optimale Auslastung durch GPU-Sharing
- Next-Generation MIG und Confidential Computing mit NVIDIAs Hopper GPUs
GPU-Accelerated ML Cluster: Fortgeschrittene Konzepte
- GPU Nodes in Container-Plattformen: OpenShift vs. Vanilla Kubernetes, LTS-Perspektiven
- IaaS und IaC: Best Practices für maximale GPU-Cluster-Automation
- GPU-Node-Vollautomation mit NVIDIAs GPU Operator Stack
- GPU-Connect local: NVLink und NVSwitch
- GPU-Connect remote: GPUDirect RDMA und Network-Operator
- Überblick: AI End-to-End mit Kubeflow/Vertex AI/Open Data Hub und NVIDIA AI Enterprise
- The Road Ahead
So lernen Sie mit Rheinwerk
- Der Seminartag startet um 9:00 Uhr und endet um 16:00 Uhr, Pausen inklusive.
- Die Teilnehmenden erhalten kursbegleitend ausführliche, aktuelle Unterlagen, sodass alle Informationen auch nach dem Workshop jederzeit reproduzierbar zur Verfügung stehen.
- Das Seminar selbst findet online über Zoom Meetings statt. Sie können über die Zoom-Software bzw. direkt per Webbrowser teilnehmen; über Ihren PC oder Ihr Notebook (Windows, Linux, Mac).
- Nach Abschluss des Seminars schicken wir Ihnen Ihre persönliche Teilnahmebescheinigung.
- Bitte beachten Sie: Audio- und Videoaufzeichnungen sind während des Seminars nicht zulässig. Alle Rechte bleiben vorbehalten.
FAQ
Was bietet mir die Seminarteilnahme?
Die Seminarbuchung berechtigt zur Teilnahme an einem der angebotenen Seminare, sie gilt nicht für andere Veranstaltungen des Rheinwerk Verlags. Die Auswahl des Seminars erfolgt im Kaufprozess. Die Anzahl der Plätze ist limitiert.
Wie sichere ich mir meinen Platz?
Die Anmeldung zu unseren Weiterbildungs-Angeboten führen Sie nicht direkt auf unserer Website durch. Für die Ticketbuchung werden Sie in den Ticketshop unseres Partners pretix weitergeleitet. Der Klick auf den Jetzt-buchen-Button stellt noch keine verbindliche Buchung dar, sondern führt Sie zum Bestellformular, das Sie zunächst ausfüllen müssen.
Wie funktioniert das genau?
- Klicken Sie oben auf dieser Seite auf den Button »Jetzt buchen«, um zur Buchungsseite von pretix zu gelangen.
- Den Bstellvorgang leiten Sie ein, indem Sie im pretix-Ticketshop oder im pretix-Widget im Drop-down-Menü die gewünschte Ticketanzahl auswählen und auf »Zum Warenkorb hinzufügen« klicken.
- Sie werden dann auf die Warenkorb-Übersicht weitergeleitet. Dort wird Ihnen eine Bestellübersicht angezeigt. Stimmen alle Angaben, klicken Sie auf »Zur Kasse«. Hinweis: Die Anzahl der Seminarplätze ist limitiert.
- In den folgenden Schritten werden Sie gebeten, Angaben zu den erfoderlichen Rechnungsdaten zu machen, das Zahlungsmittel auszuwählen und, im Falle von Sammelbestellungen, Inforamtionen zu den einzelnen Ticketbesitzern zu hinterlgen. Bevor Sie Ihre Bestellung abschließen, erhalten Sie noch einmal eine Übersicht über Ihre Daten.
- Um den Kauf abzuschließen, müssen Sie nach der Überprüfung Ihrer Bestelldaten auf »Jetzt kaufen« klicken. Mit Ihrer Bestellung erklären Sie verbindlich, dass Sie das Seminarticket erwerben wollen.
- Sobald die Bestellung verarbeitet wurde, werden Sie auf die Auftragsbestätigungsseite weitergeleitet und erhalten von pretix eine Auftragsbestätigungs-E-Mail. Diese E-Mail enthält neben den Tickets und der Rechnung auch nähere Inforamtionen zu unsere Veranstaltung sowie Links zu den zwischen Ihnen und pretix gültigen Nutzungsbedingungen und Datenschutzbestimmungen. Die Tickets sind als PDF angehängt.
Wie kann ich bezahlen?
Wir können Ihnen derzeit folgende Zahlungsmöglichkeiten anbieten: Banküberweisung (auf Rechnung), Kreditkarte und PayPal. Selbstverständlich erhalten Sie für Ihren Kauf in allen Fällen eine ordentliche Rechnung.
Kann ich meine Seminarteilnahme stornieren?
Für Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.
Für Präsenz-Seminare gilt: Grundsätzlich ist das für Präsenz-Seminare möglich, bis 30 Tage vor Veranstaltungsbeginn sogar kostenfrei. Bis 14 Tage vor Seminarbeginn fallen 50 % der Teilnahmegebühr an, bis sieben Tage vor Veranstaltungsbeginn 75 % der Teilnahmegebühr. Danach müssen wir Ihnen leider die vollen Seminargebühren berechnen. Sie können die Stornierung entweder bei pretix durchführen, oder Sie wenden sich hierzu wie folgt an uns:
Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de
Kann ich einen Ersatzteilnehmer für mein Seminar benennen?
Bis sieben Tage vor Veranstaltung können Sie uns kostenfrei einen Ersatzteilnehmer für unsere Seminare benennen, ab sieben Tage vor Veranstaltungsbeginn ist dies leider nicht mehr möglich.
Bei pretix können Sie den Namen des Seminarteilnehmers im Bestellprozess ändern. Wichtig ist, dass Sie neben dem Namen auch die persönliche E-Mail-Adresse des Ersatzteilnehmers angeben.
Selbstverständlich können Sie uns den Ersatzteilnehmer auch schriftlich mitteilen. In diesem Fall benötigen wir die genauen Angaben des bisherigen Seminarteilnehmers sowie die Ticketnummer und die Angaben des Ersatzteilnehmers. Wenden Sie sich dazu an:
Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de
Was geschieht, wenn ich kurz vor dem Seminar krank werde?
Für die Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.
Für die Präsenz-Seminare gilt: Können Sie aufgrund einer Erkrankung nicht an dem Präsenz-Seminar teilnehmen, so wird nach Übersendung eines ärztlichen Attestes ein Gutschein über die geleistete Teilnahmegebühr erstellt. Diesen können Sie in einem Zeitraum von drei Jahren für alle offenen Seminare des Rheinwerk Verlags einlösen.
Wie melde ich mich auf der Lernplattform zu meinem Online-Seminar an?
Einige Tage vor dem Online-Seminar schicken wir Ihnen eine E-Mail mit allen Informationen zur Anmeldung auf unserer Lernplattform. Wenn Sie unsere E-Mail nicht bekommen haben, schauen Sie bitte nach, ob die Nachricht in Ihrem Spam-Ordner liegt. Sollten Sie die E-Mail nicht finden, melden Sie sich bitte bei uns.
Gibt es bei den Präsenz-Seminaren ein Sicherheits- und Hygienekonzept?
Ihre Sicherheit liegt uns am Herzen. Deshalb setzen wir alles daran, dass Sie sich auf unseren Präsenz-Seminaren rundum wohl und sicher fühlen. Wir kümmern uns darum, dass die geltenden Hygiene- und Abstandsregeln sowie das zum Zeitpunkt der Veranstaltung gültige Konzept eingehalten werden.
Sie haben Fragen zu dieser Schulung? Wir helfen gerne.
Sie haben noch weitere Fragen zu diesem Seminar oder besondere Terminwünsche für ein individuelles firmeninternes Gruppentraining? Melden Sie sich gerne bei uns, wir sind für Sie da und finden das für Sie und Ihr Team passende Seminar.
Montag bis Freitag
9:00–16:00 Uhr
Tel.: +49 228 42150-55
E-Mail: seminare@rheinwerk-verlag.de
Weitere Seminare zu Container-Technologien
Dieser stark praxisorientierte Workshop konzentriert sich auf Red Hats OpenShift Container Platform (OCP) 4.x unter Linux mit dem Schwerpunkt Operations. Sie erlangen an 4 Tagen fundierte Kenntnisse zu Planung, Aufbau, Betrieb und Troubleshooting von OpenShift-Clustern. Zu allen Themen und praktischen Übungen gibt es umfassende Unterlagen und Beispieldateien.
Online
Dieses 4-tägige Online-Seminar mit Oliver Liebel fokussiert auf den Einsatz von Vanilla-Kubernetes-Clustern unter Linux. Sie vertiefen Ihr Wissen über den Stand der aktuellen Container-Technologien und machen sich intensiv mit den Verfahren und Konzepten rund um Kubernetes vertraut. Die Praxis steht dabei im Vordergrund, eine kleine Seminargruppe ermöglicht eine profunde Weiterbildung.
Online
Unser Seminarangebot für IT-Admins
Sie sind auf der Suche nach Schulungen zu weiteren Themen für IT-Admins? Wir bieten Ihnen Seminare zu Hacking & Security, SQL Server, DevOps und mehr.
* Es fallen keine weiteren Verkaufsgebühren an. Alle Preise verstehen sich zzgl. der gesetzlichen Mehrwertsteuer. Die von uns angebotenen Leistungen richten sich nur an Unternehmer gemäß § 14 BGB. Dies sind natürliche oder juristische Personen oder rechtsfähige Personengesellschaften, die bei Abschluss eines Rechtsgeschäfts in Ausübung ihrer gewerblichen oder selbstständigen beruflichen Tätigkeit handeln. Unsere Leistungen richten sich nicht an Verbraucher.
über den Ticketshop unseres Partners pretix
per Banküberweisung (auf Rechnung), Kreditkarte und PayPal
Kontaktieren Sie uns für ein Angebot
