Seminar
Skalierbare KI/ML-Infrastrukturen
mit NVIDIA Datacenter GPUs, Kubernetes und Red Hat OpenShift
mit Oliver Liebel
Lernziele für dieses Seminar über KI/ML-Cluster
- Sie haben sich vertraut gemacht mit wichtigen infrastrukturrelevante Konzepten und Best Practices rund um Planung, Aufbau und Betrieb von (auto-)skalierbaren KI/ML-Clustern.
- Sie kennen die Vor- und Nachteile der jeweiligen Implementierungsvarianten.
- Im Rahmen der Schulung kann, soweit technisch, thematisch und zeitlich realisierbar, auch auf konkrete Problemstellungen der Teilnehmenden eingegangen werden.
Dieser eintägige Kurs findet in Form einer Präsentation (Demo/Showcases) statt. Die Teilnehmenden bekommen einen Überblick über die aktuellen Technologie-Stacks sowie Best Practices zur Planung und Implementierung von (auto-)skalierbaren KI/ML-Clustern mit NVIDIA Datacenter GPUs auf Hypervisoren von VMware (vSphere), AWS und GCP, containerisiert mit Kubernetes und Red Hat OpenShift. Dabei legt Ihr Seminarleiter Oliver Liebel den Fokus auf den langfristig planbaren und kosteneffizienten Betrieb mithilfe maximaler Automation (IaaS/IaC und Operatoren).
Dieser Kurs ist geeignet für
-
Entscheiderinnen, Architekten, Projektleitung und Admins/DevOps-Teams aus dem Linux-Umfeld.
-
Der Fokus der Schulung liegt ausdrücklich auf Operations/Infrastruktur – Developer- und Data-Scientist-spezifische Themen oder ML-Coding werden in diesem Kurs nicht betrachtet!
-
Grundlegende theoretische Vorkenntnisse in den Bereichen Container/Kubernetes, Virtualisierung und HA-Clustering sind hilfreich, aber nicht zwingend erforderlich.
Wenn Sie mehr Infos zum Lern-Level benötigen, fragen Sie diese gerne bei uns an.
Ihr Trainer
Dipl.-Ing. Oliver Liebel ist LPI-zertifizierter Linux-Enterprise-Experte, Partner von Red Hat und SUSE und steht in engem Kontakt mit NVIDIAs EGX-Abteilung. Er ist seit vielen Jahren als Dozent, Autor, Berater und Systemarchitekt für namhafte Unternehmen, internationale Konzerne und Institutionen auf Landes- und Bundesebene tätig. Der Spezialist für skalierbare und GPU-beschleunigte Container-Cluster auf Kubernetes-/OpenShift-Basis, High-Availability Cluster, Software-Defined Storage und Verzeichnisdienste kann dabei auf eine 27-jährige Berufserfahrung zurückgreifen.
Die Seminarthemen
Skalierbare KI/ML-Cluster im Überblick: zwischen Hype und Realität
- Welche Unternehmen(sbereiche) können von ML profitieren
- ML-Cluster-Stack: Architektur von GPU-Accelerated Clusters im Überblick
- Wichtige Schlüsselkomponenten und Technologien für (auto-) skalierbaren ML-Betrieb
- Cloud vs. On-Premise: plattformspezifisch verfügbare Technologie-Stacks, Aufwand für Setup und Betrieb, Anschaffungs-/Betriebskosten und ROI im Überblick
- Hybrid-Lösungen für Kosteneffizienz: Pay-per-Use Cloud-Training, sicherer Inferenz-Produktivbetrieb im RZ
GPU-Accelerated ML Cluster: Kernkonzepte
- Architektur und Arbeitsweise von containerisierten GPU-Clustern im Detail
- Datacenter GPUs und ihre Technologien: NVIDIA vs. AMD vs. Intel „Pure“ TPUs vs. GPUs
- Infrastruktur-Virtualisierung und Containerisierung als Schlüsselkonzepte
- Bare Metal vs. VM: Performance vs. IaaS-/IaC-Automation und -Autoscaling
- Betrieb von GPU Nodes On-Premise (vSphere) und in der Cloud (AWS/GCP)
- NVIDIA Datacenter GPU Certified Server
- NVIDIA Datacenter GPUs nach Einsatzzweck
- Komponenten des NVAIE-Stacks (NVIDIA AI Enterprise)
- NVIDIA Ampere GPUs und MIG: Flexibilität und Multi-Tenancy
- NVIDIA DGX: Hardware-Komplettlösungen für Unternehmen
- GPU-Modi: Passthrough-MIG vs. MIG-backed vGPU vs. vGPU
- Optimale Auslastung durch GPU-Sharing
- Next-Generation MIG und Confidential Computing mit NVIDIAs Hopper GPUs
GPU-Accelerated ML Cluster: Fortgeschrittene Konzepte
- GPU Nodes in Container-Plattformen: OpenShift vs. Vanilla Kubernetes, LTS-Perspektiven
- IaaS und IaC: Best Practices für maximale GPU-Cluster-Automation
- GPU-Node-Vollautomation mit NVIDIAs GPU Operator Stack
- GPU-Connect local: NVLink und NVSwitch
- GPU-Connect remote: GPUDirect RDMA und Network-Operator
- Überblick: AI End-to-End mit Kubeflow/Vertex AI/Open Data Hub und NVIDIA AI Enterprise
- The Road Ahead
So lernen Sie mit Rheinwerk
- Der Seminartag startet um 9:00 Uhr und endet um 16:00 Uhr, Pausen inklusive.
- Die Teilnehmenden erhalten kursbegleitend ausführliche, aktuelle Unterlagen, sodass alle Informationen auch nach dem Workshop jederzeit reproduzierbar zur Verfügung stehen.
- Das Seminar selbst findet online über Zoom Meetings statt. Sie können über die Zoom-Software bzw. direkt per Webbrowser teilnehmen; über Ihren PC oder Ihr Notebook (Windows, Linux, Mac).
- Nach Abschluss des Seminars schicken wir Ihnen Ihre persönliche Teilnahmebescheinigung.
- Bitte beachten Sie: Audio- und Videoaufzeichnungen sind während des Seminars nicht zulässig. Alle Rechte bleiben vorbehalten.
FAQ
Was bietet mir die Seminarteilnahme?
Die Seminarbuchung berechtigt zur Teilnahme an einem der angebotenen Seminare, sie gilt nicht für andere Veranstaltungen des Rheinwerk Verlags. Die Auswahl des Seminars erfolgt im Kaufprozess. Die Anzahl der Plätze ist limitiert.
Wie sichere ich mir meinen Platz?
Die Buchung der Veranstaltung führen Sie nicht direkt auf unserer Website durch. Für den Ticketkauf werden Sie auf die Website unseres Partners pretix weitergeleitet.
Wie funktioniert das genau?
- Klicken Sie auf dieser Seite auf den Button »Jetzt buchen«, um zur Buchungsseite zu gelangen.
- Auf der Buchungsseite wählen Sie unter »Anzahl« die gewünschte Ticketmenge und klicken dann auf »Zum Warenkorb hinzufügen«. Hinweis: Die Anzahl der Seminarplätze ist limitiert.
- Ihr Warenkorb bleibt eine gewisse Zeit lang für Sie reserviert. Klicken Sie auf »Zur Kasse«. Sie werden auf ein Bestellformular weitergeleitet, in dem Sie bitte Angaben zu Ihrer Person und zur Rechnungsanschrift machen.
- Bei mehreren Teilnehmer*innen benötigen wir für jeden einzelnen Ticketbesitzer die jeweiligen Angaben. Wichtig: Bitte hinterlegen Sie für jeden Ticketbesitzer die persönliche E-Mail-Adresse, damit wir vor der Veranstaltung die Teilnehmenden auf der Lernplattform anmelden können. Klicken Sie dann auf »Fortfahren«.
- Im nächsten Schritt wählen Sie Ihre gewünschte Zahlungsmethode aus. Klicken Sie auf »Fortfahren«.
- Zuletzt prüfen Sie alle Daten Ihrer Bestellung, haken die Bestätigungen ab und klicken auf »Zahlungspflichtig bestellen«. Sobald die Bestellung verarbeitet wurde, erhalten Sie eine Auftragsbestätigung per E-Mail. Diese E-Mail enthält neben der Bestellbestätigung auch nähere Informationen zur Veranstaltung sowie die Rechnung als PDF.
Wie kann ich bezahlen?
Wir bieten derzeit folgende Zahlungsmöglichkeiten: Banküberweisung (auf Rechnung), Kreditkarte, und PayPal. Selbstverständlich erhalten Sie für jeden Kauf eine ordentliche Rechnung.
Kann ich meine Seminarteilnahme stornieren?
Für Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.
Für Präsenz-Seminare gilt: Grundsätzlich ist eine Stornierung für Präsenz-Seminare möglich, bis 30 Tage vor Veranstaltungsbeginn sogar kostenfrei. Bis 14 Tage vor Seminarbeginn fallen 50 % der Teilnahmegebühr an, bis sieben Tage vor Veranstaltungsbeginn 75 % der Teilnahmegebühr. Danach müssen wir Ihnen leider die vollen Seminargebühren berechnen. Sie können die Stornierung entweder bei Eventbrite über den Button »Rückerstattung anfordern« durchführen, oder Sie wenden sich hierzu wie folgt an uns:
Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de
Kann ich einen Ersatzteilnehmer für mein Seminar benennen?
Bis sieben Tage vor Veranstaltung können Sie uns kostenfrei einen Ersatzteilnehmer für unsere Seminare benennen, ab sieben Tage vor Veranstaltungsbeginn ist dies leider nicht mehr möglich.
Sie können in pretix den Namen der teilnehmenden Person im Bereich »Ihre Informationen« ändern, den Link finden Sie in Ihrer Bestellbestätigung. Wichtig ist, dass Sie neben dem Namen auch die persönliche E-Mail-Adresse der Teilnehmenden angeben.
Selbstverständlich können Sie uns den Ersatzteilnehmer auch schriftlich mitteilen. In diesem Fall benötigen wir die genauen Angaben des bisherigen Seminarteilnehmers sowie die Ticketnummer und die Angaben des Ersatzteilnehmers. Wenden Sie sich dazu an:
Rheinwerk Verlag GmbH
Rheinwerkallee 4
53227 Bonn
Fax: +49 (0)228 42150-77
E-Mail: seminare@rheinwerk-verlag.de
Was geschieht, wenn ich kurz vor dem Seminar krank werde?
Für die Online-Seminare gilt: Erworbene Tickets für digitale Inhalte sind von der Rückgabe und vom Umtausch leider ausgeschlossen.
Für die Präsenz-Seminare gilt: Können Sie aufgrund einer Erkrankung nicht an dem Präsenz-Seminar teilnehmen, so wird nach Übersendung eines ärztlichen Attestes ein Gutschein über die geleistete Teilnahmegebühr erstellt. Diesen können Sie in einem Zeitraum von drei Jahren für alle offenen Seminare des Rheinwerk Verlags einlösen.
Wie melde ich mich auf der Lernplattform zu meinem Online-Seminar an?
Einige Tage vor dem Online-Seminar schicken wir Ihnen eine E-Mail mit allen Informationen zur Anmeldung auf unserer Lernplattform. Wenn Sie unsere E-Mail nicht bekommen haben, schauen Sie bitte nach, ob die Nachricht in Ihrem Spam-Ordner liegt. Sollten Sie die E-Mail nicht finden, melden Sie sich bitte bei uns.
Gibt es bei den Präsenz-Seminaren ein Sicherheits- und Hygienekonzept?
Ihre Sicherheit liegt uns am Herzen. Deshalb setzen wir alles daran, dass Sie sich auf unseren Präsenz-Seminaren rundum wohl und sicher fühlen. Wir kümmern uns darum, dass die geltenden Hygiene- und Abstandsregeln sowie das zum Zeitpunkt der Veranstaltung gültige Konzept (derzeit 2G) eingehalten werden.
Für den nötigen Sicherheitsabstand mieten wir Räume mit viel Platz an. Außerdem stehen Ihnen Stationen mit Masken und Desinfektionsmittel zur Verfügung. Selbstverständlich werden die Räume gut gelüftet und die Oberflächen regelmäßig desinfiziert. So stellen wir sicher, dass Sie sorgenfrei an Ihrem Seminar teilnehmen können.
Sie haben Fragen zu dieser Schulung? Wir helfen gerne.
Sie haben noch weitere Fragen zu diesem Seminar oder besondere Terminwünsche für ein individuelles firmeninternes Gruppentraining? Melden Sie sich gerne bei uns, wir sind für Sie da und finden das für Sie und Ihr Team passende Seminar.
Montag bis Freitag
9:00–16:00 Uhr
Tel.: +49 228 42150-55
E-Mail: seminare@rheinwerk-verlag.de
Weitere Seminare zu Container-Technologien
Dieser stark praxisorientierte Workshop konzentriert sich auf Red Hats OpenShift Container Platform (OCP) 4.x unter Linux mit dem Schwerpunkt Operations. Sie erlangen an 4 Tagen fundierte Kenntnisse zu Planung, Aufbau, Betrieb und Troubleshooting von OpenShift-Clustern. Zu allen Themen und praktischen Übungen gibt es umfassende Unterlagen und Beispieldateien.
Online
Dieses 4-tägige Online-Seminar mit Oliver Liebel fokussiert auf den Einsatz von Vanilla-Kubernetes-Clustern unter Linux. Sie vertiefen Ihr Wissen über den Stand der aktuellen Container-Technologien und machen sich intensiv mit den Verfahren und Konzepten rund um Kubernetes vertraut. Die Praxis steht dabei im Vordergrund, eine kleine Seminargruppe ermöglicht eine profunde Weiterbildung.
Online
Unser Seminarangebot für IT-Admins
Sie sind auf der Suche nach Schulungen zu weiteren Themen für IT-Admins? Wir bieten Ihnen Seminare zu Hacking & Security, SQL Server, DevOps und mehr.
* Es fallen keine weiteren Verkaufsgebühren an. Alle Preise verstehen sich zzgl. der gesetzlichen Mehrwertsteuer. Die von uns angebotenen Leistungen richten sich nur an Unternehmer gemäß § 14 BGB. Dies sind natürliche oder juristische Personen oder rechtsfähige Personengesellschaften, die bei Abschluss eines Rechtsgeschäfts in Ausübung ihrer gewerblichen oder selbstständigen beruflichen Tätigkeit handeln. Unsere Leistungen richten sich nicht an Verbraucher.
über unsere Partner Eventbrite und pretix
per Kreditkarte, PayPal und SOFORT-Überweisung
Kontaktieren Sie uns für ein Angebot
