AICon von Deylen - KI Governance & Compliance
Glossar -
Begriffe & Definitionen rund um KI-Governance & KI-Compliance
Hier finden Sie eine erste Übersicht zu relevanten Begriffen und Definitionen rund um die Themen EU AI Act, KI-Governance und KI-Compliance sowie allgemeinen Begriffen rund um KI (im Moment nur bis "C", Begriffe bis "Z" folgen). Die Liste erhebt keinen Anspruch auf Vollständigkeit (garantiert sie auch nicht), und kann sich im Laufe der Zeit immer mal verändern, da sie auf Änderungen von aussen reagiert. Sollte Ihnen ein Begriff oder eine Definition fehlen, wenden Sie sich gerne an mich.
KI Beauftragte:r
Der KI-Beauftragte ist eine organisationsinterne Governance-Rolle für Künstliche Intelligenz in Organisationen.
Er ist nicht gesetzlich verpflichtend vorgeschrieben, ergibt sich aber faktisch aus dem EU AI Act, der DSGVO und Normen wie ISO/IEC 42001.
Governance
Steuerung und Kontrolle – also der Ordnungsrahmen aus Regeln, Prozessen und Strukturen, mit dem eine Organisation geleitet und
überwacht wird.
Compliance
Regeltreue – also die Einhaltung von Gesetzen, Vorschriften und internen Richtlinien.
Rolle KI Beauftragte:r
Typische Aufgaben von KI Beauftragten sind:
- Koordination von KI-Compliance
- Dokumentation und Risikobewertung
- Schulung und Sensibilisierung
Hinweis:
Der KI-Beauftragte entwickelt keine KI-Modelle!!!
15-Tage-Frist
Frist aus dem EU-AI-Act-Kontext für Meldungen bestimmter schwerer Vorfälle nach Kenntnis, sofern die Voraussetzungen erfüllt sind.
Access Control
Zugriffskontrolle auf Daten, Systeme, Modelle oder Funktionen anhand von Rollen, Rechten und Regeln.
Adversarial Attack
Angriff auf ein KI-System durch gezielt manipulierte Eingaben, die das Modell täuschen oder zu falschen Ausgaben bringen sollen.
Agenten-Workflow
Beschreiben typischerweise Workflows, in denen KI-Agenten in Tools wie n8n oder Zapier "zusammengeklickt" werden – also regelbasierte, lineare Abläufe mit vordefinierten Schritten und eingeschränkter Autonomie.
Agentic-Workflow
Wird aktuell als Begriff etabliert, um hochautonome Systeme von herkömmlichen, vorgefertigten KI-Agenten-Konfigurationen abzugrenzen Die extreme Autonomie wird betont: Der KI-Agent erhält ein Ziel, plant selbstständig Schritte, wählt passende Tools dynamisch aus, reflektiert Ergebnisse und passt sich an – ohne feste Sequenzen.
AGG
Allgemeines Gleichbehandlungsgesetz. Es soll Benachteiligungen zum Beispiel wegen Geschlecht, Alter, Herkunft, Religion, Behinderung oder sexueller Identität verhindern und ist bei KI im Recruiting besonders relevant.
AI-in-Use-Hinweis
Hinweis an Nutzer, dass KI eingesetzt wird, inklusive Zweck, Grenzen und ggf. menschlicher Kontaktmöglichkeit.
AIMS
AI Management System. Managementsystem für KI mit Policies, Zielen, Rollen, Prozessen, Kontrollen und Nachweisen zur verantwortungsvollen Steuerung von KI.
AIMS-Owner
Verantwortliche Person oder Stelle für Betrieb, Pflege und Weiterentwicklung des KI-Managementsystems.
Akteure (KI-Lieferkette)
Rollen entlang der KI-Wertschöpfung, etwa Anbieter, Betreiber/Deployer, Importeur, Händler, Bevollmächtigter, Produkthersteller, Integrator und Downstream-Provider.
Aleph Alpha
Ein deutsches KI-Unternehmen, das große Sprachmodelle und KI-Lösungen für Unternehmen und öffentliche Einrichtungen entwickelt.
Algorithmische Transparenz
Beschreiben typischerweise Workflows, in denen KI-Agenten in Tools wie n8n oder Zapier "zusammengeklickt" werden – also regelbasierte, lineare Abläufe mit vordefinierten Schritten und eingeschränkter Autonomie.
Algorithmus
Eine festgelegte Folge von Rechenschritten oder Regeln, mit der ein Problem gelöst oder eine Aufgabe bearbeitet wird. KI-Modelle basieren auf vielen solchen algorithmischen Verfahren.
Annex SL
ISO-Strukturvorgabe für Managementsystemnormen mit gemeinsamen Kapiteln, Begriffen und Anforderungen.
Anonyme Daten
Daten, die keiner identifizierten oder identifizierbaren Person mehr zugeordnet werden können. Nur echte Anonymisierung entzieht Daten grundsätzlich dem Anwendungsbereich der DSGVO.
Anwendungsskalierung
Skalierung fertiger oder externer KI-Lösungen über Abteilungen, Prozesse oder Standorte hinweg.
API
Application Programming Interface. Programmierschnittstelle, über die Systeme, Anwendungen oder KI-Agenten kontrolliert miteinander kommunizieren.
App-Verknüpfung / Konnektor
Eine Verbindung zwischen der KI und anderen Anwendungen oder Datenquellen, zum Beispiel E-Mail, Kalender, Cloud-Dateien oder interne Systeme.
Asset-Threat-Vulnerability-Risk-Modell
Risikologik aus schützenswertem Asset, Bedrohung, Schwachstelle und resultierendem Risiko.
Audit-Logs
Protokolle über Zugriffe, Änderungen, Systemereignisse oder Entscheidungen. Sie dienen Nachvollziehbarkeit, Sicherheit, Vorfallsanalyse und Compliance-Nachweisen.
Auditierbare Struktur
Organisations- oder Dokumentationsstruktur, die durch interne oder externe Audits nachvollziehbar geprüft werden kann.
Auditplan
Planung interner oder externer Audits mit Scope, Zeitpunkten, Prüfthemen, Verantwortlichen und Nachweisen.
Autonomes Fahren (KI)
Einsatz von KI, Sensorik und Steuerungssystemen, damit Fahrzeuge Fahraufgaben teilweise oder vollständig selbst übernehmen.
Autonomiegrad
Beschreibt, wie selbstständig ein Agent handeln darf. Je höher der Grad, desto weniger Eingriffe durch Menschen sind nötig.
AVV
Auftragsverarbeitungsvertrag. Vertrag nach DSGVO zwischen Verantwortlichem und Auftragsverarbeiter, wenn personenbezogene Daten im Auftrag verarbeitet werden.
BayLDA KI-Checkliste
Checkliste der bayerischen Datenschutzaufsicht zur Prüfung von KI-Anwendungen und Datenschutz-Folgenabschätzung.
BDSG
Bundesdatenschutzgesetz. Es ergänzt in Deutschland die DSGVO und enthält zusätzliche Regeln für den Umgang mit personenbezogenen Daten.
BfDI KI-Fragenkatalog
Fragenkatalog des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zur Prüfung von KI-Anwendungen.
BIAS
Verzerrung in Daten oder Ergebnissen. Eine KI kann dadurch bestimmte Gruppen unfair behandeln oder schiefe Ergebnisse liefern.
Big Data
Sehr große, schnelle oder vielfältige Datenmengen, deren Verarbeitung besondere Technologien und Governance erfordert. Grundlage von KI.
Blau-Team
Verteidigendes Team, das auf Red-Team-Erkenntnisse reagiert und Schutzmaßnahmen verbessert.
Blockchain
Dezentrale, manipulationsresistente Datenstruktur aus verketteten Blöcken. Sie kann für Nachvollziehbarkeit genutzt werden, ist aber nicht automatisch für jeden KI-Use-Case sinnvoll.
Bundesnetzagentur
Deutsche Bundesbehörde, die in bestimmten digitalen und regulatorischen Kontexten Aufsichtsaufgaben wahrnehmen kann.
Canva
Eine Online-Plattform für Design und visuelle Inhalte, mit der sich zum Beispiel Präsentationen, Social-Media-Grafiken und Videos erstellen lassen.
Canvas (in KI-Chat)
Ein Arbeitsbereich in z. B. ChatGPT, in dem längere Texte, Code oder Entwürfe in einer separaten Ansicht erstellt und überarbeitet werden können.
Chain of Thought
Zwischenschritte - Gemeint ist ein schrittweises Vorgehen bei komplexen Aufgaben. Für Nutzerinnen und Nutzer ist oft wichtig: lieber klare Teilschritte anfordern als nur ein Endergebnis.
Change-Gate
Kontrollpunkt vor einer Änderung, an dem Risiken, Tests, Freigaben und Nachweise geprüft werden.
Chatbot
Dialogsystem, das text- oder sprachbasiert mit Menschen interagiert. Chatbots können regelbasiert oder KI-gestützt sein.
ChatGPT
Ein KI-Assistent von OpenAI, der Texte verstehen und erzeugen sowie je nach Konfiguration auch Werkzeuge und Dateien nutzen kann.
CI/CD-Pipeline
Automatisierte Pipeline für Continuous Integration und Continuous Delivery/Deployment, die Tests, Builds und Bereitstellung strukturiert.
CISO
Chief Information Security Officer. Verantwortliche Rolle für Informationssicherheit in einer Organisation.
Claude
Ein KI-Assistent von Anthropic für Textarbeit, Analyse und andere wissensbasierte Aufgaben.
Claude Code
Ein KI-gestütztes Werkzeug von Anthropic, das Entwicklerinnen und Entwickler beim Verstehen, Schreiben und Überarbeiten von Code unterstützt.
Co-Pilot
Bezeichnung für KI-Assistenten, die Menschen bei Aufgaben unterstützen; häufig ist damit Microsoft Copilot gemeint.
Code of Practice
Verhaltenskodex, der praktische Orientierung zur Umsetzung bestimmter regulatorischer Anforderungen gibt, etwa für GPAI-Anbieter.
Codex
Bezeichnung für KI-Modelle und Werkzeuge von OpenAI, die auf Programmieraufgaben spezialisiert sind.
Compliance
Die Einhaltung von Gesetzen, internen Regeln und externen Vorgaben. Bei KI geht es zum Beispiel um Datenschutz, Dokumentation und Zuständigkeiten.
Compliance Lücke
Nicht erfüllte rechtliche, interne oder normative Anforderung. Sie muss priorisiert, geschlossen oder begründet akzeptiert werden.
Confluence / SharePoint
Plattformen zur Dokumentation, Zusammenarbeit und Wissensverwaltung, die häufig für Governance- und Nachweisdokumente genutzt werden.
Content-Filter
Automatisches System zur Erkennung, Bewertung oder Blockierung von Inhalten. Es kann für Sicherheit, Moderation, Compliance oder Jugendschutz eingesetzt werden.
Continuous Compliance
Fortlaufende Einhaltung regulatorischer und interner Anforderungen durch Monitoring, Reviews, Nachweise und Anpassungen.
Control-Bibliothek (Risikomanagement)
Sammlung möglicher Kontrollen, aus der je nach Risiko und Kontext passende Maßnahmen ausgewählt werden.
Conversational AI
Dialogorientierte KI-Systeme, zum Beispiel Chatbots oder Sprachassistenten, die mit Menschen text- oder sprachbasiert interagieren.
CSIRO FMEA-Framework
FMEA-orientierter Ansatz zur strukturierten Bewertung von KI- und Agentenrisiken, angelehnt an Ressourcen der australischen Forschungsorganisation CSIRO.
Custom GPT / Raum
Eine vorkonfigurierte KI-Umgebung für einen bestimmten Zweck. Sie kann feste Anweisungen, Dokumente, Werkzeuge oder einen speziellen Fokus enthalten.
Cybersecurity-Schwachstelle
Sicherheitslücke in Software, Infrastruktur, Modell, Datenpipeline oder Schnittstelle, die ausgenutzt werden kann und bei KI auch Produktsicherheit und Haftung berühren kann.
Data Catalog
Zentrales, durchsuchbares Verzeichnis von Datenbeständen, Metadaten, Ownern, Qualität und Zugriffsinformationen.
Data Custodian
Technische Rolle für Infrastruktur, Speicherung, Sicherheit, Zugriffskontrollen und technische Umsetzung von Datenvorgaben.
Data Governance
Strategischer Rahmen aus Richtlinien, Prozessen, Rollen, Standards und Technologien zur Steuerung von Datenqualität, Nutzung, Schutz und Compliance.
Data Lake
Großer Datenspeicher für strukturierte und unstrukturierte Daten in meist roher oder wenig vorverarbeiteter Form.
Data Lineage
Dokumentation des Weges von Daten von der Quelle über Transformationen bis zur Nutzung in Reports, Anwendungen oder KI-Modellen.
Data Owner
Fachlich-strategisch verantwortliche Rolle für Datensatz oder Datenkategorie. Entscheidet über Zweck, Nutzung, Qualität, Schutz und Freigaben.
Data Steward
Operative Rolle für Datenqualität, Metadatenpflege, Validierung und Abstimmung zwischen Fachbereich und IT.
Data Warehouse
Zentraler, strukturierter Datenspeicher für Analyse und Reporting, häufig mit bereinigten und integrierten Daten.
Datenflussdiagramm
Grafische Darstellung von Datenquellen, Verarbeitungsschritten, Speichern, Empfängern und Schnittstellen.
Datenflüsse
Wege, auf denen Daten zwischen Quellen, Systemen, Modellen, Speichern, Empfängern und Nutzern übertragen oder verarbeitet werden.
Datenintegration
Zusammenführung und Anbindung von Daten aus unterschiedlichen Quellen, damit sie konsistent genutzt werden können.
Datenintegrität
Sicherstellung, dass Daten über ihren Lebenszyklus vollständig, unverändert, korrekt und nachvollziehbar bleiben. Sie wird durch Zugriffskontrollen, Versionierung, Logs, Hashes und Audit-Trails unterstützt.
Conversational AI
Dialogorientierte KI-Systeme, zum Beispiel Chatbots oder Sprachassistenten, die mit Menschen text- oder sprachbasiert interagieren.
CSIRO FMEA-Framework
FMEA-orientierter Ansatz zur strukturierten Bewertung von KI- und Agentenrisiken, angelehnt an Ressourcen der australischen Forschungsorganisation CSIRO.
Custom GPT / Raum
Eine vorkonfigurierte KI-Umgebung für einen bestimmten Zweck. Sie kann feste Anweisungen, Dokumente, Werkzeuge oder einen speziellen Fokus enthalten.
Cybersecurity-Schwachstelle
Sicherheitslücke in Software, Infrastruktur, Modell, Datenpipeline oder Schnittstelle, die ausgenutzt werden kann und bei KI auch Produktsicherheit und Haftung berühren kann.