KI in Qualitätssicherung und Testautomatisierung
Generative KI systematisch für Softwarequalität und Test einsetzen
01 Intro
02 Trainingsprogramm
Inhalte
KI im Quality Engineering einordnen
- generative KI als Werkzeug im Test- und QS-Prozess
- LLMs, Coding Agents und unterschiedliche Autonomiegrade
- geeignete und ungeeignete QS-Aufgaben
- deterministische und probabilistische Verfahren unterscheiden
- AI-generierte Software und neue Fehlerquellen
- unabhängige Verifikation und Verantwortung für das Testergebnis
Anforderungen und Testbarkeit analysieren
- funktionale und nichtfunktionale Anforderungen strukturieren
- Mehrdeutigkeiten, Widersprüche und Lücken aufdecken
- Annahmen und implizite Randbedingungen sichtbar machen
- Vor- und Nachbedingungen sowie Zustände untersuchen
- Akzeptanzkriterien und Geschäftsregeln präzisieren
- AI-Analyse konsequent gegen die Originalquelle prüfen
Testideen und Testentwurf mit KI
- positive, negative und adversariale Testideen entwickeln
- Äquivalenzklassen und Grenzwertanalyse unterstützen
- Entscheidungstabellen und Zustandsübergänge ableiten
- Use Cases und kombinatorische Verfahren einbeziehen
- Risiken und Qualitätsmerkmale als Treiber verwenden
- KI als Unterstützung statt Ersatz der Testmethodik
Testfälle erzeugen und ihre Qualität prüfen
- Testfälle aus Anforderungen, Stories und Akzeptanzkriterien
- Geschäftsregeln, Schnittstellen und vorhandenen Code einbeziehen
- fachliche Richtigkeit und Relevanz prüfen
- Redundanz und falsche Annahmen erkennen
- Requirements-, Risk-, Daten- und Zustandsabdeckung betrachten
- Traceability und tatsächliche Lücken statt scheinbarer Coverage
Bestehende Tests und Testdaten analysieren
- Testabsichten und Struktur vorhandener Testsuiten erschließen
- Redundanzen, Lücken und schwache Assertions erkennen
- gültige, ungültige und grenzwertige Testdaten ableiten
- Feldabhängigkeiten und strukturierte Datensätze erzeugen
- synthetische Daten statt unnötiger Produktionsdaten einsetzen
- Datenschutz und Plausibilität der Testdaten sicherstellen
API- und UI-Testing mit KI
- Schnittstellenbeschreibungen und Request-/Response-Strukturen analysieren
- positive, negative und Schema-basierte API-Tests entwickeln
- Benutzerabläufe und UI-Anforderungen in Tests überführen
- Locators, Assertions und Synchronisation kritisch behandeln
- Testcode in bestehende Frameworks integrieren
- Grenzen AI-generierter API- und UI-Tests erkennen
Testautomatisierung und Wartbarkeit
- Testfälle in Automatisierungscode überführen
- Framework-Konventionen, Fixtures und Testdatenkonzepte übernehmen
- Lesbarkeit, Duplikate und Abstraktionen beurteilen
- stabile Schnittstellen und wartbaren Testcode entwickeln
- AI-generierte Tests wie Produktionscode reviewen
- Refactoring durch ausführbare Tests absichern
Assertions und Testorakel
- prüfbare Erwartungen explizit formulieren
- schwache und übermäßig spezifische Assertions erkennen
- Referenzdaten, Regeln und Invarianten nutzen
- Oracle-Problem bei generativen Ergebnissen verstehen
- deterministische Prüfungen und menschliche Bewertung kombinieren
- Zirkelschlüsse durch Selbstbewertung vermeiden
Fehleranalyse, Flakiness und Testreports
- Logs, Stacktraces, Screenshots und Reports analysieren
- Produkt-, Test-, Daten- und Umgebungsfehler unterscheiden
- Fehlerhypothesen experimentell überprüfen
- Flaky Tests und ihre Ursachen systematisch untersuchen
- Fehlermuster gruppieren und Folgefehler erkennen
- Zusammenfassungen erstellen, ohne relevante Details zu verlieren
Exploratives und risikobasiertes Testen
- Testcharter und alternative Nutzungsszenarien entwickeln
- KI als Sparringspartner für Exploration einsetzen
- Produkt-, Änderungs- und Qualitätsrisiken analysieren
- Testintensität und Regressionstests risikobasiert auswählen
- Domänenwissen und historische Fehler berücksichtigen
- Priorisierung nachvollziehbar und menschlich verantwortet halten
AI-basierte Systeme testen
- probabilistische und nichtdeterministische Ergebnisse behandeln
- semantische statt nur syntaktische Bewertung
- Referenzdatensätze, Toleranzen und wiederholte Ausführung
- Prompt, Kontext und strukturierte Ausgaben prüfen
- Regressionen nach Modell- oder Promptänderungen erkennen
- statistische Betrachtung dort einsetzen, wo Einzeltests nicht reichen
Evaluation von LLM-Anwendungen
- Evaluationsdatensätze und erwartete Eigenschaften definieren
- regelbasierte und automatische Evaluatoren
- LLM-as-a-Judge sinnvoll und begrenzt einsetzen
- Bias, Instabilität und Bewertungs-Prompt berücksichtigen
- menschliche Bewertung und Kalibrierung
- Evaluation reproduzierbar versionieren und ausführen
RAG-Systeme testen
- Retrieval und Generation getrennt prüfen
- Relevanz, Precision und Recall im Retrieval
- Kontextqualität und Quellenbezug
- unbeantwortbare Fragen und fehlendes Wissen
- Halluzinationen trotz korrektem Retrieval
- Regressionstests für Wissenssysteme
Agenten, Tools und MCP testen
- Agentenentscheidungen und mehrstufige Abläufe
- Tool-Auswahl, Parameter und Rückgabewerte
- Zwischenzustände und Abbruchbedingungen
- Berechtigungen und unerwartete Aktionen
- manipulierte Tool-Ergebnisse und Fehlerfälle
- Endergebnis und Prozess getrennt bewerten
Prompt Injection und Security-Tests
- direkte und indirekte Prompt Injection
- manipulierte Dokumente, Webseiten und externe Inhalte
- Tool-Ausgaben als untrusted Input
- Daten und Instruktionen voneinander trennen
- Security-Testfälle systematisch entwickeln
- technische Schutzmechanismen tatsächlich überprüfen
AI-gestützte Testagenten kontrollieren
- Anwendung untersuchen, Tests entwickeln und ausführen lassen
- erlaubte Systeme, Aktionen und Umgebungen begrenzen
- Credentials und Datenzugriffe kontrollieren
- Quality Gates und Human-in-the-Loop
- Agentenaktionen und Ergebnisse protokollieren
- Autonomie nach Risiko statt nach Bequemlichkeit festlegen
AI in den Testprozess integrieren
- geeignete Unterstützung je Prozessschritt bestimmen
- repetitive Arbeit und Variantenbildung delegieren
- fachliche Entscheidungen beim Menschen belassen
- Prompts, Modelle, Artefakte und Resultate versionieren
- Traceability und unabhängige Verifikation erhalten
- AI-generierte Artefakte in bestehende Prozesse integrieren
Quality Gates, Governance und Nutzen
- keine ungeprüfte Übernahme AI-generierter Ergebnisse
- Build, Tests, statische Analyse und fachliches Review
- Quellcode, Testdaten, Logs und vertrauliche Projektdaten schützen
- Berechtigungen und organisatorische Regeln
- Zeitersparnis, Fehlerfindung und Nachbearbeitung messen
- Kosten und Qualitätsgewinn anhand realer Ergebnisse bewerten
Praxis: AI-gestützte QS-Strategie entwickeln
- geeignete Einsatzfelder und Risiken bestimmen
- Anforderungen analysieren und Testideen entwickeln
- Testfälle, Testdaten und Automatisierung erzeugen und prüfen
- Fehleranalyse und Evaluation praktisch durchführen
- Kontrollmechanismen und Quality Gates festlegen
- Pilotbereich und messbare Erfolgskriterien definieren
03 Durchführung
Rahmen und Organisation
Inhouse-Schulungen
04 Zielgruppe
Für wen ist der Kurs gedacht?
Der Kurs richtet sich an Softwaretester, Testanalysten, Testautomatisierer, Quality Engineers, Testmanager, QA Leads und Entwickler mit Verantwortung für Softwarequalität.
Er eignet sich insbesondere für erfahrene Test- und QA-Teams, die generative KI nicht nur punktuell ausprobieren, sondern systematisch in Testanalyse, Testdesign, Automatisierung und Qualitätsbewertung integrieren möchten.
Voraussetzungen
05 Lernziele
Was Sie nach dem Kurs können
- geeignete Einsatzfelder für generative KI in QS und Test identifizieren
- Anforderungen AI-gestützt auf Qualität und Testbarkeit analysieren
- Testideen und Testfälle systematisch mit KI entwickeln
- klassische Testentwurfsverfahren mit AI-Unterstützung kombinieren
- die Qualität AI-generierter Tests kritisch bewerten
- Testdaten kontrolliert erzeugen
- AI zur Unterstützung von API- und UI-Testautomatisierung einsetzen
- bestehende Tests und Automatisierungsframeworks analysieren
- Fehler, Logs und fehlgeschlagene Tests AI-gestützt untersuchen
- AI-generierte Testautomatisierung auf Wartbarkeit und Aussagekraft prüfen
- LLM-, RAG- und agentische Systeme angemessen testen
- Evaluationsverfahren für probabilistische Systeme entwickeln
- Grenzen von LLM-as-a-Judge einschätzen
- Testagenten kontrolliert einsetzen
- Prompt Injection und Tool-Nutzung als Testgegenstände berücksichtigen
- AI-generierte Testartefakte nachvollziehbar verwalten
- verbindliche Quality Gates für AI-gestützte Testprozesse etablieren
- Nutzen und Risiken von AI im Test messbar bewerten
- eine AI-gestützte QS-Strategie für ein Projekt oder Unternehmen entwickeln
06 FAQ
Häufige Fragen
Was unterscheidet diesen Kurs von AI-assisted Software Development?
AI-assisted Software Development betrachtet AI-Unterstützung über den gesamten Softwareentwicklungsprozess aus Sicht der Entwicklung. Testing ist dort ein wichtiger Bestandteil, aber nur einer von mehreren.
Dieser Kurs betrachtet den gesamten Themenkomplex aus Sicht von Quality Engineering und Test. Testanalyse, Testdesign, Testautomatisierung, Testdaten, Fehleranalyse, Coverage, Test Oracles und die Qualität AI-generierter Testartefakte werden wesentlich tiefer behandelt.