Generative AI in Production (GAIP)

Ziele der Schulung

In dieser 1-tägigen Schulung "Generative AI in Production (GAIP)" lernen Sie die unterschiedlichen Herausforderungen kennen, die sich bei der Produktion von generativen KI-gestützten Anwendungen im Vergleich zur traditionellen ML ergeben. Sie werden lernen, wie Sie das Experimentieren und die Abstimmung Ihrer LLMs verwalten, dann werden Sie besprechen, wie Sie Ihre LLM-gestützten Anwendungen bereitstellen, testen und warten. Schließlich werden Sie Best Practices für die Protokollierung und Überwachung Ihrer LLM-gestützten Anwendungen in der Produktion diskutieren.

Kursziele:

• Beschreiben Sie die Herausforderungen bei der Produktion von Anwendungen mit generativer KI.
• Verwalten Sie die Erprobung und Bewertung von LLM-gestützten Anwendungen.
• Produktion von LLM-gestützten Anwendungen.
• Implementierung von Protokollierung und Überwachung für LLM-gestützte Anwendungen.

Zielgruppe Seminar

Entwickler und Ingenieure für maschinelles Lernen, die KI-basierte Anwendungen einsetzen möchten

Voraussetzungen

Abschluss von Introduction to Developer Efficiency on Google Cloud (IDEGC) oder gleichwertige Kenntnisse.

Seminarinhalt

Modul 1 - Einführung in die generative KI in der Produktion

Themen:

• AI-System-Demo: Kaffee auf Rädern
• Traditionelle MLOps vs. GenAIOps
• Generative KI-Operationen
• Bestandteile eines LLM-Systems

Zielsetzungen:

• Verstehen generativer KI-Operationen
• Vergleich zwischen traditionellen MLOps und GenAIOps
• Analysieren Sie die Komponenten eines LLM-Systems

Modul 2 - Verwaltung von Experimenten

Themen:

• Datensätze und Prompt Engineering
• RAG- und ReACT-Architektur
• LLM-Modellevaluation (Metriken und Rahmen)
• Experimente zur Verfolgung

Zielsetzungen:

• Experimentieren Sie mit Datensätzen und Prompt-Engineering.
• Nutzung der RAG- und ReACT-Architektur.
• Bewertung von LLM-Modellen.
• Experimente verfolgen.

Aktivitäten:

• Labor: Unit Testing generativer KI-Anwendungen
• Optionales Labor: Generative AI mit Vertex AI: Prompt Design

Modul 3 - Generative KI in der Produktion

Themen:

• Bereitstellung, Paketierung und Versionierung (GenAIOps)
• Testen von LLM-Systemen (Einheit und Integration)
• Wartung und Aktualisierung (Betrieb)
• Prompte Sicherheit und Migration

Zielsetzungen:

• Modelle bereitstellen, verpacken und versionieren
• LLM-Systeme testen
• Pflege und Aktualisierung von LLM-Modellen
• Prompte Sicherheit und Migration bewältigen

Aktivitäten:

• Lab: Vertex AI Pipelines: Qwik Start
• Labor: Absicherung mit Vertex AI Gemini API

Modul 4 - Protokollierung und Überwachung für produktive LLM-Systeme

Themen:

• Cloud-Protokollierung
• Zeitnahe Versionierung, Bewertung und Verallgemeinerung
• Überwachung auf Bewertungsverzerrung
• Kontinuierliche Validierung

Zielsetzungen:

• Cloud Logging nutzen
• Version, Bewertung und Verallgemeinerung von Aufforderungen
• Überwachen Sie die Schieflage bei der Bewertung
• Kontinuierliche Validierung nutzen

Aktivitäten:

• Labor: Vertex AI: Playbook für Gemini-Evaluierungen
• Optionales Labor: Überwachtes Fine Tuning mit Gemini für Fragen und Antworten

Hinweise

Partner

Dieses Seminar bieten wir in Kooperation mit unserem Google LLC Learning Partner Fast Lane Institute for Knowledge Transfer GmbH an.

Open Badge für dieses Seminar - Ihr digitaler Kompetenznachweis

Durch die erfolgreiche Teilnahme an einem Kurs bei IT-Schulungen.com erhalten Sie zusätzlich zu Ihrem Teilnehmerzertifikat ein digitales Open Badge (Zertifikat) – Ihren modernen Nachweis für erworbene Kompetenzen.

Ihr Open Badge ist jederzeit in Ihrem persönlichen und kostenfreien Mein IT-Schulungen.com-Konto verfügbar. Mit wenigen Klicks können Sie diesen digitalen Nachweis in sozialen Netzwerken teilen, um Ihre Expertise sichtbar zu machen und Ihr berufliches Profil gezielt zu stärken.

Übersicht: Google Cloud Schulungen Portfolio

Mehr zu den Vorteilen von Badges