KI-Regulierung Glossar
Die wichtigsten Begriffe rund um den AI Act, KI-Compliance und KI-Kompetenz - verständlich erklärt für Praktiker.
A
AI Act
Die EU-Verordnung zur Regulierung von Künstlicher Intelligenz (Verordnung (EU) 2024/1689). Trat am 1. August 2024 in Kraft und wird schrittweise bis 2027 angewendet.
Anbieter (Provider)
Natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt.
Art. 4 AI Act
Artikel 4 der KI-Verordnung regelt die KI-Kompetenzpflicht. Er verpflichtet Anbieter und Betreiber, sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt.
B
Betreiber (Deployer)
Natürliche oder juristische Person, die ein KI-System in eigener Verantwortung einsetzt. Dies umfasst die meisten Unternehmen, die KI-Tools wie ChatGPT nutzen.
Biometrische Kategorisierung
Einordnung von Personen anhand biometrischer Daten in Kategorien wie Rasse, politische Meinung oder sexuelle Orientierung. Im AI Act weitgehend verboten.
C
CE-Kennzeichnung
Konformitätskennzeichnung für Hochrisiko-KI-Systeme. Zeigt an, dass das System die Anforderungen des AI Acts erfüllt.
Compliance
Die Einhaltung gesetzlicher Vorschriften und regulatorischer Standards. Im KI-Kontext die Erfüllung der Anforderungen des AI Acts.
D
DSGVO
Datenschutz-Grundverordnung. Die EU-Verordnung zum Datenschutz, die auch bei der Nutzung von KI-Systemen zu beachten ist.
G
GPAI (General Purpose AI)
Allzweck-KI-Modelle wie GPT-4 oder Claude, die für verschiedene Aufgaben eingesetzt werden können. Unterliegen besonderen Regelungen im AI Act.
Governance
Strukturen und Prozesse zur Steuerung und Überwachung von KI-Systemen im Unternehmen. Umfasst Richtlinien, Verantwortlichkeiten und Kontrollen.
H
Hochrisiko-KI-System
KI-Systeme, die erhebliche Risiken für Gesundheit, Sicherheit oder Grundrechte bergen. Unterliegen strengen Anforderungen wie Konformitätsbewertung und Dokumentation.
Halluzination
Phänomen bei generativer KI, bei dem das System plausibel klingende, aber faktisch falsche Informationen erzeugt.
K
KI-Kompetenz
Die Fähigkeiten, Kenntnisse und das Verständnis, die für einen informierten Einsatz von KI-Systemen erforderlich sind. Nach Art. 4 AI Act müssen Unternehmen dies für ihr Personal sicherstellen.
KI-System
Ein maschinengestütztes System, das für unterschiedlich stark ausgeprägte Autonomie ausgelegt ist und Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann.
Konformitätsbewertung
Verfahren zur Überprüfung, ob ein Hochrisiko-KI-System die Anforderungen des AI Acts erfüllt.
M
Marktüberwachung
Kontrolle durch nationale Behörden, ob KI-Systeme die gesetzlichen Anforderungen erfüllen. In Deutschland voraussichtlich durch die BNetzA.
P
Prompt
Eingabetext oder Anweisung an ein KI-System. Die Qualität des Prompts beeinflusst maßgeblich die Qualität der KI-Ausgabe.
Proportionalitätsprinzip
Grundsatz, dass KI-Kompetenzmaßnahmen dem Risiko und der Komplexität der eingesetzten KI-Systeme angemessen sein müssen.
R
Risikoklassifizierung
Einteilung von KI-Systemen in Risikostufen: Unannehmbares Risiko (verboten), Hohes Risiko (streng reguliert), Begrenztes Risiko (Transparenzpflichten), Minimales Risiko (keine Vorgaben).
T
Transparenzpflicht
Verpflichtung, Nutzer über die Interaktion mit KI-Systemen zu informieren. Gilt insbesondere für Chatbots, Deepfakes und KI-generierte Inhalte.
Begriff nicht gefunden?
Unser Glossar wird ständig erweitert. Kontaktieren Sie uns, wenn Sie einen Begriff vermissen oder eine Frage haben.