Praxisleitfaden zur Feinabstimmung großer Sprachmodelle mit PyTorch und Hugging Face

Praxisleitfaden zur Feinabstimmung großer Sprachmodelle mit PyTorch und Hugging Face
Deutsch | April 19, 2026 | ASIN: B0GXT3FP7F | 549 Seiten | Epub | 13.91 MB
Überarbeitete Ausgabe (Oktober/2025)Sind Sie bereit, Ihre eigenen LLMs feinabzustimmen?Dieses Buch ist ein praktischer Leitfaden zur Feinabstimmung großer Sprachmodelle (LLMs), der übergeordnete Konzepte mit Schritt-für-Schritt-Anleitungen kombiniert, um diese leistungsstarken Modelle für Ihre spezifischen Anwendungsfälle zu trainieren.Für wen ist dieses Buch gedacht?Dies ist eine Ressource für Fortgeschrittene - angesiedelt zwischen dem Aufbau eines großen Sprachmodells von Grund auf und dem produktiven Einsatz eines LLMs - konzipiert für Praktiker mit einigen Vorkenntnissen im Deep Learning.Wenn Ihnen Begriffe wie Transformers, Attention-Mechanismen, Adam-Optimizer, Tokens, Embeddings oder GPUs vertraut sind, dann sind Sie hier richtig. Vertrautheit mit Hugging Face und PyTorch wird vorausgesetzt. Falls Ihnen diese Konzepte neu sind, sollten Sie zunächst mit einer einsteigerfreundlichen Einführung in Deep Learning mit PyTorch beginnen, bevor Sie einsteigen.Was Sie lernen werden:Laden von quantisierten Modellen mit BitsAndBytes.Konfiguration von Low-Rank Adaptern (LoRA) mit Hugging Face's PEFT.Effektive Formatierung von Datensätzen mit Chat-Templates und Formatierungsfunktionen.Feinabstimmung von LLMs auf handelsüblichen GPUs mit Techniken wie Gradient Checkpointing und Accumulation.Lokales Deployment von LLMs im GGUF-Format mit Llama.cpp und Ollama.Troubleshooting häufiger Fehlermeldungen und Exceptions, um Ihren Feinabstimmungsprozess auf Kurs zu halten.Dieses Buch kratzt nicht nur an der Oberfläche; es konzentriert sich auf die kritischen Anpassungen und Konfigurationen - jene äußerst wichtigen „Stellschrauben" -, die über Erfolg oder Misserfolg des Feinabstimmungsprozesses entscheiden.Am Ende werden Sie über die Fähigkeiten und das Selbstvertrauen verfügen, LLMs für Ihre eigenen realen Anwendungen feinabzustimmen. Ob Sie bestehende Modelle verbessern oder sie für Nischenaufgaben anpassen möchten - dieses Buch ist Ihr unverzichtbarer Begleiter.InhaltsverzeichnisHäufig gestellte Fragen (FAQ)Kapitel 0: TL;DRKapitel 1: Achten Sie auf LLMsKapitel 2: Laden eines quantisierten BasismodellsKapitel 3: Low-Rank Adaptation (LoRA)Kapitel 4: Formatierung Ihres DatensatzesKapitel 5: Feinabstimmung mit SFTTrainerKapitel 6: Lokales DeploymentKapitel -1: TroubleshootingAnhang A: Einrichtung Ihres GPU-PodsAnhang B: Interne Darstellung von Datentypen