KI-Governance-Glossar
Klare Definitionen der wichtigsten Begriffe in KI-Governance, Regulierung und Risikomanagement.
Verantwortlichkeit (KI)
Das Prinzip, dass bestimmte Personen oder Stellen Verantwortung für KI-Systementscheidungen und -ergebnisse tragen, einschließlich der Pflicht, Entscheidungen zu erklären, Konsequenzen für Schäden zu akzeptieren und Korrekturmaßnahmen umzusetzen.
Algorithmische Diskriminierung
Wenn ein KI-System Ausgaben erzeugt, die Personen aufgrund geschützter Merkmale wie Rasse, Geschlecht, Alter oder Behinderung, durch Design, Trainingsdaten oder Einsatzkontext, ungerechtfertigt benachteiligen.
Prüfpfad
Eine chronologische Aufzeichnung der KI-Systemaktivität, Eingaben, Ausgaben, Entscheidungen und Änderungen, die für nachträgliche Überprüfung, Compliance-Verifizierung und Rechenschaftspflicht geführt wird.
Voreingenommenheit (KI)
Systematische Fehler in KI-Ausgaben, die zu einer unfairen Behandlung bestimmter Gruppen führen. Quellen umfassen voreingenommene Trainingsdaten, fehlerhafte Modellgestaltung und fehlausgerichtete Optimierungsziele.
Konformitätsbewertung
Im Rahmen des EU AI Act der Prozess, durch den Hochrisiko-KI-Systeme vor der Marktplatzierung auf obligatorische Anforderungen bewertet werden. Kann vom Entwickler (Selbstbewertung) oder einer benannten Stelle (Drittbewertung) durchgeführt werden.
Datenprovenienz
Die dokumentierte Geschichte eines Datensatzes, seine Herkunft, Erhebungsmethode, Verarbeitungsschritte und Bewahrungskette. Kritisch für die KI-Governance, da die Datenqualität direkt die Modellzuverlässigkeit und -fairness beeinflusst.
EU AI Act
Verordnung (EU) 2024/1689, der weltweit erste umfassende verbindliche Rechtsrahmen für KI. Schafft ein risikobasiertes Klassifizierungssystem mit verbotenen Nutzungen, Hochrisiko-Verpflichtungen und allgemeinen Anforderungen. Vollständig in Kraft ab August 2026.
Erklärbarkeit
Der Grad, in dem die Ausgaben eines KI-Systems von Menschen verstanden und interpretiert werden können. Reicht von vollständiger Transparenz (regelbasierte Systeme) bis zu nachträglichen Erklärungsmethoden für Black-Box-Modelle.
Halluzination
Wenn ein generatives KI-System Ausgaben produziert, die sachlich falsch, erfunden oder intern inkonsistent sind, aber scheinbar mit Zuversicht präsentiert werden. Ein Schlüsselrisiko in wissensintensiven Unternehmensanwendungen.
Hochrisiko-KI
Im Rahmen des EU AI Act, KI-Systeme in bestimmten Sektoren (Gesundheit, Bildung, Beschäftigung, kritische Infrastruktur, Strafverfolgung usw.), die erhebliche Risiken für Rechte oder Sicherheit darstellen. Unterliegen verbindlichen Anforderungen einschließlich Dokumentation, menschlicher Aufsicht und Konformitätsbewertung.
Menschliche Aufsicht
Die Fähigkeit qualifizierter Menschen, KI-Systemoperationen zu überwachen, einzugreifen und bei Bedarf zu stoppen. Für Hochrisiko-KI im Rahmen des EU AI Act erforderlich und zunehmend als Governance-Mindeststandard erwartet.
ISO 42001
ISO/IEC 42001:2023 - der internationale Standard für KI-Managementsysteme. Bietet einen Rahmen für Organisationen, um verantwortungsvolle KI-Governance zu etablieren, zu implementieren, aufrechtzuerhalten und kontinuierlich zu verbessern.
Modelldrift
Die Verschlechterung der KI-Modellleistung über die Zeit, wenn sich reale Datenverteilungen von den Trainingsbedingungen entfernen. Erfordert laufendes Monitoring und periodisches Nachtraining, um zuverlässige Ausgaben aufrechtzuerhalten.
NIST AI RMF
Das KI-Risikomanagement-Framework des National Institute of Standards and Technology (2023). Ein freiwilliger US-Rahmen zur Identifizierung, Bewertung und Verwaltung von KI-Risiken über vier Funktionen: Govern, Map, Measure, Manage.
Shadow-KI
Die Verwendung von KI-Tools durch Mitarbeiter ohne organisatorisches Wissen, Genehmigung oder Aufsicht. Schafft Datensicherheits-, geistiges Eigentums- und Compliance-Risiken, insbesondere bei Consumer-KI-Tools.
Trainingsdaten
Der Datensatz zum Training eines KI-Modells. Qualität, Repräsentativität und Provenienz bestimmen direkt das Modellverhalten, die Leistung und die Fairness-Eigenschaften.