LLM-Anwendungen mit Python entwickeln
Sprachmodelle zuverlässig in Python-Anwendungen integrieren
01 Intro
Ein Sprachmodell aufzurufen ist einfach. Eine belastbare Anwendung daraus zu
entwickeln ist deutlich anspruchsvoller. Eingaben müssen strukturiert,
Modellantworten verarbeitet und validiert, Fehler behandelt, Kosten
kontrolliert und Ergebnisse getestet werden. Hinzu kommen Anforderungen an
Security, Datenschutz, Observability und den produktiven Betrieb.
Der Kurs vermittelt die Entwicklung professioneller LLM-Anwendungen mit
Python. Die Teilnehmer bauen schrittweise eine vollständige Anwendung auf
und integrieren Sprachmodelle über APIs in eine saubere Softwarearchitektur.
Im Mittelpunkt steht nicht ein bestimmtes Framework, sondern die Frage, wie
sich probabilistische Modelle zuverlässig in klassische, testbare und
wartbare Software integrieren lassen.
Kurs-ID
AI-011
Dauer
3 Tage
Format
Präsenz · Live Online · Inhouse
Vorkenntnisse
Sichere Python-Grundkenntnisse und praktische Erfahrung in der Softwareentwicklung
02 Trainingsprogramm
Inhalte
Architektur einer LLM-Anwendung
- Benutzer oder aufrufendes System
- Application Layer
- Model Client
- Prompt und Kontext
- Modell
- klare Verantwortlichkeiten
Python-Projekt und Modellzugriff
- Projektstruktur
- virtuelle Umgebung
- Abhängigkeiten
- Konfiguration
- API Credentials
- reproduzierbares Setup
Modellwahl und API-Abstraktion
- Sprachmodell und Anwendung unterscheiden
- Modell als externe Komponente
- probabilistische und deterministische Software
- typische LLM-Anwendungen
- Textverarbeitung
- Grenzen geeigneter Anwendungsfälle
Prompts und Templates im Code
- System Instructions
- Benutzerinput
- Anwendungskontext
- klare Aufgabenbeschreibung
- gewünschtes Ausgabeformat
- Prompt Engineering nicht mit Anwendungsarchitektur verwechseln
Strukturierte Ausgaben und Validierung
- Freitext gegenüber strukturierten Ergebnissen
- JSON
- Schemas
- typisierte Python-Objekte
- Enums
- maschinenlesbare Antworten
Fehlerbehandlung, Retry und Streaming
- API nicht erreichbar
- Timeout
- Rate Limit
- ungültige Modellantwort
- abgeschnittene Antwort
- kontrollierte Fehlerzustände
Asynchrone Aufrufe und Conversation State
- einzelne Anfrage
- mehrstufiger Dialog
- Conversation History
- relevante Nachrichten
- Systemkontext
- Anwendung kontrolliert den Zustand
Kontextmanagement und Persistenz
- begrenztes Kontextfenster
- relevante Informationen auswählen
- Gesprächsverlauf
- Anwendungsdaten
- unnötigen Kontext entfernen
- Kontext nicht unbegrenzt wachsen lassen
Mehrstufige LLM-Workflows
- mehrere Modellaufrufe
- Ausgabe eines Schritts als Eingabe des nächsten
- Analyse und Generierung trennen
- deterministische Zwischenschritte
- Validierung zwischen Schritten
- nicht automatisch einen Agenten bauen
Function Calling und sichere Tools
- Modell erzeugt strukturierten Tool-Aufruf
- Tool-Auswahl
- Parameter
- Validierung
- Python-Funktion ausführen
- Anwendung behält Kontrolle
RAG, MCP und Agenten integrieren
- Agent als externe oder interne Komponente
- Auftrag übergeben
- Status
- Ergebnisse
- Fehler
- Agent Engineering bleibt Gegenstand des Agentenkurses
Dokumentverarbeitung und Information Extraction
- Entitäten
- Attribute
- Klassifikation
- Beziehungen
- strukturierte Daten aus Text
- Confidence nicht erfinden
Klassifikation, Transformation und Multimodalität
- Kategorien
- Label
- Few-Shot-Beispiele
- strukturierte Antwort
- unbekannte Kategorie
- klassische Verfahren als Alternative
Halluzinationen, Input und Output absichern
- Modellantwort klingt plausibel
- erfundene Fakten
- erfundene Quellen
- fehlende Informationen
- Unsicherheit
- Anwendung muss mit Fehlern rechnen
Datenschutz, Secrets und Prompt Injection
- Benutzer versucht Instruktionen zu verändern
- indirekte Prompt Injection
- Dokumente
- Webseiten
- externe Daten
- Auswirkungen auf Tools begrenzen
Tests, Evaluation und Regression
- Model Gateway abstrahieren
- Test Doubles
- gespeicherte Antworten
- deterministische Tests
- Validierungslogik
- Modelltests separat durchführen
Model Gateway, Fallback und Caching
- Providerzugriff kapseln
- einheitliche Anwendungsschnittstelle
- Modellwahl
- Konfiguration
- Fehlerbehandlung
- Testbarkeit
Performance, Kosten und Observability
- Latenz
- Time-to-first-token
- Modellgeschwindigkeit
- Netzwerk
- Parallelisierung
- Benutzererwartungen
Deployment, CI/CD und Praxisarchitektur
- Konfiguration
- Umgebungen
- Container
- Secrets
- Skalierung
- Modellprovider als externe Abhängigkeit
03 Durchführung
Rahmen und Organisation
Dauer
3 Tage
Durchführung
Präsenz oder Live Online, vorzugsweise als Inhouse-Schulung
Schwerpunkt
Inhouse-Schulungen für Unternehmen und Teams
Sprache
Deutsch, englische Fachbegriffe und Dokumentation
Unterlagen
Kursunterlagen, Beispiele und Übungsaufgaben
Technik
Eigener Rechner mit Python, Entwicklungsumgebung und Zugang zu einer LLM-API
Inhouse-Schulungen
Vorhandene Python-Services, APIs, Datenmodelle und typische fachliche
Anwendungsfälle können als Grundlage für die Übungen verwendet werden.
04 Zielgruppe
Für wen ist der Kurs gedacht?
Der Kurs richtet sich an Python-Entwickler, Softwareentwickler, AI Engineers und technische Consultants, die Sprachmodelle in eigene Anwendungen, Services und Geschäftsprozesse integrieren möchten.
Er eignet sich insbesondere für Entwickler, die über einzelne API-Aufrufe und experimentelle Skripte hinaus wartbare, testbare und produktionsfähige LLM-Anwendungen entwickeln wollen.
Voraussetzungen
Sichere Python-Grundkenntnisse und praktische Erfahrung in der
Softwareentwicklung werden vorausgesetzt. Die Teilnehmer sollten
Funktionen, Klassen, Type Hints, Exceptions, Module und grundlegende
automatisierte Tests kennen; Kenntnisse von HTTP und REST APIs sind
hilfreich. Grundkenntnisse über generative KI und LLMs sind sinnvoll,
RAG-, MCP- oder Agentenkenntnisse werden nicht vorausgesetzt.
05 Lernziele
Was Sie nach dem Kurs können
Nach dem Kurs können die Teilnehmer:
- LLMs sauber in Python-Anwendungen integrieren
- Modellzugriffe von der Anwendungslogik entkoppeln
- Prompts und Templates strukturiert verwalten
- strukturierte Modellantworten definieren und validieren
- robuste Fehler- und Retry-Strategien entwickeln
- Streaming und asynchrone Modellaufrufe einsetzen
- Conversation State und Kontext kontrollieren
- mehrstufige LLM-Workflows entwickeln
- Function Calling sicher integrieren
- RAG-, MCP- und Agentenkomponenten über klare Schnittstellen anbinden
- LLM-Ausgaben als nicht vertrauenswürdige Eingaben behandeln
- Prompt-Injection- und Datenschutzrisiken berücksichtigen
- deterministische Komponenten unabhängig vom Modell testen
- LLM-Komponenten systematisch evaluieren
- Regressionen bei Prompt- und Modelländerungen erkennen
- Kosten, Performance und Modellwahl berücksichtigen
- Logging und Tracing integrieren
- LLM-Anwendungen als Services bereitstellen
- eine Python-LLM-Anwendung vom Prototyp zur produktionsnahen Architektur weiterentwickeln
06 FAQ
Häufige Fragen
Was unterscheidet diesen Kurs vom RAG-Kurs?
Der RAG-Kurs konzentriert sich auf Wissenssysteme: Ingestion, Chunking, Embeddings, Retrieval, Ranking, Quellen und Evaluation des Wissenszugriffs.
Dieser Kurs behandelt die umgebende Python-Anwendung. Ein RAG-System kann angebunden werden, seine Entwicklung ist aber nicht Gegenstand dieses Kurses.
Was unterscheidet ihn vom Agentenkurs?
Hier stehen überwiegend explizit gesteuerte Anwendungen und Workflows im Mittelpunkt. Die Python-Anwendung entscheidet, wann ein Modell aufgerufen wird und welche Verarbeitungsschritte folgen.
Der Agentenkurs behandelt Systeme, in denen ein Agent selbst über weitere Arbeitsschritte und Tool-Aufrufe entscheidet. Agentische Autonomie ist deshalb bewusst kein Schwerpunkt dieses Kurses.
Was unterscheidet ihn vom MCP-Entwicklungskurs?
Der MCP-Kurs entwickelt Python-Komponenten, die Fähigkeiten über MCP für KI-Anwendungen bereitstellen. Hier wird die KI-Anwendung selbst entwickelt, die vorhandene MCP-Server als externe Integrationen nutzen kann.
Ist das ein Prompt-Engineering-Kurs?
Nein. Prompts sind Bestandteil jeder LLM-Anwendung und werden entsprechend behandelt. Die systematische Vertiefung von Prompt-Techniken und Prompt-Evaluation ist Gegenstand des Prompt-Engineering-Kurses.
Wird RAG programmiert?
Ein vorhandener Retrieval- oder RAG-Dienst kann in die Anwendung integriert werden. Der Aufbau einer vollständigen RAG-Pipeline gehört in den RAG-Kurs und wird hier bewusst nicht wiederholt.
Werden Agenten programmiert?
Nein. Der Kurs zeigt die Grenze zwischen klassischen LLM-Workflows und Agenten und kann einen vorhandenen Agenten anbinden. Die Entwicklung agentischer Systeme gehört in den Agentenkurs.
Wird MCP behandelt?
Aus Anwendungssicht ja: Ein vorhandener MCP-Server kann als Integrationskomponente verwendet werden. Protokollarchitektur und Serverentwicklung sind Gegenstand der MCP-Kurse.
Wird ein bestimmtes LLM-Framework vorausgesetzt?
Nein. Der Schwerpunkt liegt auf Python- und Software-Engineering-Prinzipien. Provider-SDKs und geeignete Bibliotheken werden praktisch verwendet, die Architektur soll jedoch nicht von einem bestimmten Framework abhängen.
Werden mehrere Modellanbieter behandelt?
Die Anwendung wird so strukturiert, dass Provider-spezifische Details gekapselt werden können. Je nach Kursumgebung können unterschiedliche Modelle verglichen werden. Der Kurs ist keine Produktschulung für einzelne Anbieter.
Werden LLM-Anwendungen wirklich automatisiert getestet?
Ja. Ein wesentlicher Bestandteil des Kurses ist die Trennung zwischen deterministisch testbarer Anwendungslogik und probabilistischem Modellverhalten. Für letzteres werden Evaluation und Regressionstests eingesetzt.
Warum dauert der Kurs drei Tage?
Der eigentliche Modellaufruf ist nur ein kleiner Teil einer LLM-Anwendung. Strukturierte Ausgaben, Validierung, State, Workflows, Fehlerbehandlung, Tests, Evaluation, Security, Kosten und Betrieb müssen gemeinsam praktisch behandelt werden. Zwei Tage würden im Wesentlichen für einen Prototypen-Workshop reichen, nicht für den beschriebenen Engineering-Anspruch.
Kann der Kurs an unsere Python-Anwendung angepasst werden?
Ja. Bei Inhouse-Schulungen können vorhandene Python-Services, APIs, Datenmodelle und typische fachliche Anwendungsfälle als Grundlage für die Übungen verwendet werden.