Schulungsübersicht

Einführung in die Fine-Tuning-Herausforderungen

  • Überblick über den Feinabstimmungsprozess
  • Allgemeine Herausforderungen bei der Feinabstimmung großer Modelle
  • Verstehen der Auswirkungen von Datenqualität und Vorverarbeitung

Umgang mit Datenungleichgewichten

  • Identifizieren und Analysieren von Datenungleichgewichten
  • Techniken für den Umgang mit unausgewogenen Datensätzen
  • Verwendung von Datenerweiterungen und synthetischen Daten

Umgang mit Überanpassung und Unteranpassung

  • Verstehen von Overfitting und Underfitting
  • Regularisierungstechniken: L1, L2 und Dropout
  • Anpassen der Modellkomplexität und Trainingsdauer

Verbessern der Modellkonvergenz

  • Diagnose von Konvergenzproblemen
  • Auswählen der richtigen Lernrate und des Optimierers
  • Implementieren von Lernratenplänen und Aufwärmübungen

Fehlersuche in Fine-Tuning Pipelines

  • Werkzeuge zur Überwachung von Trainingsprozessen
  • Protokollierung und Visualisierung von Modellmetriken
  • Fehlersuche und Behebung von Laufzeitfehlern

Optimierung der Trainingseffizienz

  • Stapelgröße und Gradientenakkumulationsstrategien
  • Nutzung von Training mit gemischter Präzision
  • Verteiltes Training für groß angelegte Modelle

Fallstudien zur Fehlerbehebung in der realen Welt

  • Fallstudie: Feinabstimmung für die Stimmungsanalyse
  • Fallstudie: Lösung von Konvergenzproblemen bei der Bildklassifizierung
  • Fallstudie: Behandlung von Überanpassung bei der Textzusammenfassung

Zusammenfassung und nächste Schritte

Voraussetzungen

  • Erfahrung mit Deep-Learning-Frameworks wie PyTorch oder TensorFlow
  • Verständnis von Konzepten des maschinellen Lernens wie Training, Validierung und Bewertung
  • Vertrautheit mit der Feinabstimmung vorab trainierter Modelle

Zielgruppe

  • Datenwissenschaftler
  • KI-Ingenieure
 14 Stunden

Teilnehmerzahl


Price per participant (excl. VAT)

Kommende Kurse

Verwandte Kategorien