Was ist ein KI-System? Definition nach dem AI Act

Das Wichtigste in Kürze

• Der AI Act (VO (EU) 2024/1689) definiert in Art. 3 Nr. 1 erstmals rechtsverbindlich, was ein KI-System ist.
• Entscheidend sind vier Merkmale: maschinenbasiert, Autonomie, Adaptivität und Inferenz -- also die Fähigkeit, eigenständig Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen abzuleiten.
• Nicht jede Software ist ein KI-System. Regelbasierte Programme, einfache Entscheidungsbäume und herkömmliche Formeln fallen nicht unter die Definition.
• Die korrekte Einordnung bestimmt, welche Pflichten Ihr Unternehmen nach dem AI Act erfüllen muss.
• Neben KI-Systemen definiert der AI Act auch KI-Modelle mit allgemeinem Verwendungszweck (GPAI) als eigene Kategorie.

Was ist ein KI-System? Die offizielle Definition

Die Frage "Was ist ein KI-System?" klingt einfach -- doch die Antwort hat weitreichende rechtliche Konsequenzen. Denn ob eine Software als KI-System gilt, entscheidet darüber, ob und welche Pflichten aus dem AI Act für Anbieter und Betreiber greifen.

Art. 3 Nr. 1 VO (EU) 2024/1689 liefert die offizielle KI-System-Definition:

„ein maschinenbasiertes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das nach seiner Betriebsaufnahme Anpassungsfähigkeit zeigen kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können."

-- Art. 3 Nr. 1 VO (EU) 2024/1689

Diese Definition wurde bewusst breit formuliert, um technologieneutral und zukunftssicher zu sein. Sie orientiert sich an der OECD-Definition für KI-Systeme und wurde im Gesetzgebungsprozess mehrfach angepasst.

Die vier Schlüsselelemente der Definition

Um zu verstehen, ob eine Software als KI-System gilt, lohnt sich ein genauer Blick auf die vier zentralen Merkmale der Definition.

1. Maschinenbasiertes System

Das KI-System muss auf einer Maschine laufen -- also auf Hardware oder in einer Cloud-Umgebung. Das klingt trivial, grenzt aber menschliche Entscheidungsprozesse klar aus. Es geht um Software, die auf Computern, Servern oder eingebetteten Systemen ausgeführt wird.

2. Unterschiedlicher Grad an Autonomie

Ein KI-System operiert mit einem gewissen Maß an Eigenständigkeit. Das bedeutet: Es trifft Entscheidungen oder erzeugt Ergebnisse, ohne dass ein Mensch jeden einzelnen Schritt steuern muss. Der Grad der Autonomie kann dabei stark variieren -- von einem Spam-Filter, der selbstständig E-Mails sortiert, bis zu einem autonomen Fahrzeug.

Wichtig: Es muss keine vollständige Autonomie vorliegen. Auch Systeme mit menschlicher Aufsicht ("Human-in-the-Loop") können KI-Systeme sein.

3. Anpassungsfähigkeit (Adaptivität)

Der AI Act verwendet die Formulierung "Anpassungsfähigkeit zeigen kann". Das "kann" ist entscheidend: Adaptivität ist kein zwingendes Merkmal, sondern eine mögliche Eigenschaft. Ein System muss sich nicht zwingend weiterentwickeln oder dazulernen, um als KI-System zu gelten.

Erwägungsgrund 12 VO (EU) 2024/1689 stellt klar, dass Adaptivität bedeutet, dass das System sich nach der Inbetriebnahme selbst anpassen kann -- etwa durch fortlaufendes Lernen aus neuen Daten.

4. Inferenz -- das Herzstück

Das wichtigste Unterscheidungsmerkmal ist die Fähigkeit zur Inferenz: Das System leitet aus Eingabedaten eigenständig ab, wie es Ausgaben erzeugt. Es "schlussfolgert" also -- sei es durch maschinelles Lernen, statistische Modelle oder andere Methoden.

Genau dieses Merkmal unterscheidet KI-Systeme von herkömmlicher Software. Ein klassisches Programm folgt fest vorgegebenen Regeln ("Wenn X, dann Y"). Ein KI-System hingegen erlernt oder entwickelt eigenständig Muster und Strategien, um von Eingaben zu Ausgaben zu gelangen.

Ist das ein KI-System? Beispiele zur Abgrenzung

In der Praxis ist die Abgrenzung nicht immer offensichtlich. Die folgende Tabelle zeigt typische Beispiele:

Die Faustregel: Sobald ein System aus Daten eigenständig lernt oder Muster ableitet, statt nur feste Regeln auszuführen, handelt es sich sehr wahrscheinlich um ein KI-System im Sinne des AI Act.

Abgrenzung: KI-System vs. herkömmliche Software

Die Unterscheidung zwischen KI-Systemen und traditioneller Software ist für Unternehmen zentral, denn sie bestimmt den regulatorischen Rahmen.

Herkömmliche Software arbeitet deterministisch: Gleiche Eingaben liefern immer gleiche Ausgaben. Die Logik wird vom Entwickler vollständig vorgegeben. Beispiele sind ERP-Systeme, Tabellenkalkulationen oder klassische Datenbankanwendungen.

KI-Systeme hingegen zeichnen sich durch folgende Eigenschaften aus:

• Sie können aus Daten lernen und ihr Verhalten anpassen.
• Ihre Ausgaben basieren auf statistischer Inferenz, nicht auf festen Regeln.
• Gleiche Eingaben können zu unterschiedlichen Ausgaben führen.
• Die interne Entscheidungslogik ist häufig nicht vollständig nachvollziehbar ("Black Box").

Für die regulatorische Praxis bedeutet das: Wenn Sie in Ihrem Unternehmen Software einsetzen, die auf Machine Learning, Deep Learning, Natural Language Processing oder ähnlichen Technologien basiert, sollten Sie prüfen, ob es sich um ein KI-System nach Art. 3 Nr. 1 VO (EU) 2024/1689 handelt.

KI-Modelle mit allgemeinem Verwendungszweck (GPAI)

Neben der Definition des KI-Systems führt der AI Act eine weitere wichtige Kategorie ein: KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI -- GPAI), definiert in Art. 3 Nr. 63 VO (EU) 2024/1689.

Ein GPAI-Modell ist ein KI-Modell, das -- auch wenn es mit großen Datenmengen im Rahmen von Selbstüberwachung trainiert wurde -- eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, eine breite Palette unterschiedlicher Aufgaben kompetent auszuführen.

Unterschied zwischen KI-System und GPAI-Modell

• Ein KI-Modell (z. B. GPT-4 als Basismodell) ist noch kein KI-System. Es wird erst zum KI-System, wenn es in eine Anwendung integriert wird, die Endnutzern zugänglich ist.
• ChatGPT ist ein KI-System, weil es auf dem GPT-Modell basiert und als fertige Anwendung Ausgaben für Nutzer erzeugt.
• Das GPT-4-Modell selbst ist ein GPAI-Modell, für dessen Anbieter eigene Pflichten gelten (Art. 51-56 VO (EU) 2024/1689).

Für Unternehmen, die GPAI-Modelle in ihre Produkte integrieren, ist diese Unterscheidung besonders relevant: Wer ein GPAI-Modell in ein eigenes Produkt einbaut und unter eigenem Namen anbietet, wird zum Anbieter eines KI-Systems -- mit allen damit verbundenen Pflichten.

Warum ist die Definition für Ihr Unternehmen wichtig?

Die korrekte Einordnung Ihrer Software als KI-System oder herkömmliche Software hat direkte Auswirkungen:

• Pflichten nach dem AI Act: Nur für KI-Systeme gelten die Anforderungen der VO (EU) 2024/1689 -- von der KI-Kompetenzpflicht (Art. 4) bis zu den umfassenden Pflichten für Hochrisiko-Systeme.
• Risikoklassifizierung: Ist ein System als KI-System eingestuft, muss es in eine Risikoklasse eingeordnet werden.
• Dokumentationspflichten: Für Hochrisiko-KI-Systeme gelten strenge Dokumentations- und Transparenzanforderungen.
• Haftung: Die Einordnung beeinflusst auch Haftungsfragen bei fehlerhaften Ergebnissen.

Häufig gestellte Fragen (FAQ)

Ist jede Software mit Machine Learning ein KI-System?

In den meisten Fällen ja. Machine-Learning-basierte Software erfüllt typischerweise alle vier Merkmale der Definition: Sie ist maschinenbasiert, operiert autonom, kann adaptiv sein und nutzt Inferenz. Entscheidend ist im Einzelfall die konkrete Funktionsweise.

Fallen Chatbots unter den AI Act?

Das kommt auf die Technologie an. Ein KI-basierter Chatbot (z. B. mit einem Large Language Model) ist ein KI-System und unterliegt mindestens Transparenzpflichten nach Art. 50 VO (EU) 2024/1689. Ein regelbasierter Chatbot mit festem Entscheidungsbaum gilt dagegen nicht als KI-System.

Wer entscheidet, ob meine Software ein KI-System ist?

Die Verantwortung liegt zunächst beim Anbieter bzw. Betreiber selbst. Im Streitfall entscheiden die nationalen Marktüberwachungsbehörden. In Deutschland wird diese Aufgabe voraussichtlich von der Bundesnetzagentur als KI-Aufsichtsbehörde wahrgenommen.

Was passiert, wenn ich ein KI-System fälschlicherweise nicht als solches einstufe?

Eine fehlerhafte Einordnung kann dazu führen, dass Sie Pflichten aus dem AI Act nicht erfüllen. Abhängig von der Risikoklasse drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (Art. 99 VO (EU) 2024/1689).

Gilt die Definition weltweit oder nur in der EU?

Die Definition gilt im Rahmen des AI Act für alle KI-Systeme, die innerhalb der EU auf den Markt gebracht oder eingesetzt werden -- unabhängig davon, wo der Anbieter seinen Sitz hat. Für Unternehmen außerhalb der EU mit EU-Kunden ist die Definition daher ebenfalls relevant.

---

Nächste Schritte: Wissen Sie, welche KI-Systeme Sie einsetzen?

Die Definition eines KI-Systems ist der erste Schritt zur Compliance. Doch viele Unternehmen wissen gar nicht, welche ihrer Tools als KI-Systeme gelten -- und welche Pflichten damit verbunden sind.

KI Comply unterstützt Sie dabei:

• KI-Systeme identifizieren: Wir helfen Ihnen, alle KI-Systeme in Ihrem Unternehmen zu erfassen und korrekt einzuordnen.
• Risikoklassen bestimmen: Gemeinsam stufen wir Ihre Systeme in die richtige Risikokategorie ein.
• Mitarbeitende schulen: Mit unserer Plattform erfüllen Sie die KI-Kompetenzpflicht nach Art. 4 praxisnah und nachweisbar.

Jetzt kostenlos starten und Ihre KI-Compliance auf ein solides Fundament stellen.