LLMs, Tokenizer und Prompt-Design
"Generative Modelle als Wahrscheinlichkeitsmodelle einordnen."
Konzepte verständlich erklärt (für Einsteiger jeden Alters)
Lernziele
Generative Modelle als Wahrscheinlichkeitsmodelle einordnen. Nach dieser Lektion kannst du das Konzept erklären, ein kleines Beispiel umsetzen und typische Grenzen benennen.
Erklärung
Ein Sprachmodell berechnet Wahrscheinlichkeiten für nächste Tokens anhand des bisherigen Kontexts. Tokenizer teilen Text in modellabhängige Einheiten. System- und User-Anweisungen liefern Kontext; Prompting beeinflusst Verhalten, macht Ausgaben aber nicht automatisch wahr.
Schrittweises Beispiel
Für ein Extraktionssystem gib Schema, erlaubte Werte und Beispiele vor. Fordere strukturierte Ausgabe an und validiere sie anschließend mit Parser und fachlichen Regeln.
prompt = "Extrahiere name, date und status als JSON. Erfinde fehlende Werte nicht; nutze null."
print(prompt)
Zusammenfassung
LLMs erzeugen plausible Fortsetzungen; Verifikation braucht externe Evidenz und Regeln.
Lerncheck & Übung
Etwa 35 Minuten · intermediate
Das lernst du
- Erkläre die Kernidee von „LLMs, Tokenizer und Prompt-Design“ in eigenen Worten.
- Wähle eine passende Technik für einen konkreten Anwendungsfall.
- Erkenne mindestens eine typische Fehlerquelle.
Voraussetzungen
- Keine Zugriffsvoraussetzungen. Vorwissen wird in der Erklärung eingeführt.
Häufige Fehler
- Temperatur 0 ist keine Wahrheitsgarantie. Ein gut formulierter Prompt kann Halluzinationen reduzieren, nicht ausschließen. Tokenlimits schneiden Kontext ab.
Wissenscheck
Praktische Aufgabe
Schreibe einen Prompt, der drei Felder aus einer Notiz extrahiert und Unbekanntes als null markiert.
Quellen und Einordnung
Prüfe meine Erklärung zu „LLMs, Tokenizer und Prompt-Design“: Nenne eine fehlende Annahme und stelle mir eine Gegenfrage.
Interaktive Übung & lokaler Testlauf
Schreibe einen Prompt, der drei Felder aus einer Notiz extrahiert und Unbekanntes als null markiert.
Hinweise auf Wunsch anzeigen
- Zerlege die Aufgabe in Eingabe, Verarbeitung und erwartete Ausgabe.
- Prüfe auch einen leeren oder ungültigen Fall.