Typischer Prüffokus
Was bei diesem Testobjekt untersucht wird
01
Eingaben und Kontext
Prompt Injection, Systemanweisungen, hochgeladene Inhalte, Retrieval-Quellen und Trennung nicht vertrauenswürdiger Daten.
02
Daten und Ausgaben
Offenlegung sensibler Informationen, unsichere Weiterverarbeitung, Mandantentrennung und kontrollierte Ausgabeformate.
03
Tools und Agenten
Berechtigungen, externe Aktionen, Erweiterungen, API-Aufrufe und Begrenzung eigenständig ausgeführter Schritte.
Was in den Scope gehört
- Modelle, Provider und bereitgestellte Versionen
- Systemprompts und Orchestrierungslogik
- RAG-Quellen und Wissensspeicher
- Tools, Plugins und Agentenaktionen
- Benutzerrollen und Mandantengrenzen
- Web-, API- und Cloud-Komponenten
Was Auftraggeber vorbereiten
- Testkonten für unterschiedliche Rollen
- Architektur- und Datenflussübersicht
- Katalog erlaubter und verbotener Aktionen
- Nicht produktive Testdaten
- Kosten-, Raten- und Aktionslimits
- Bewertungskriterien für reproduzierbare Funde
Wichtige Abgrenzung
Was nicht automatisch mitgeprüft wird
Ein KI-/LLM-Pentest kann keine allgemeine Fehlerfreiheit oder faktische Richtigkeit des Modells garantieren. Klassische Anwendung, API, Cloud und Lieferkette bleiben eigene Prüfflächen und müssen mitbetrachtet werden.
Methodische Referenz
OWASP GenAI LLM Top 10 2026