Wann wird ein Toaster zum Hochrisiko-KI-System?

Die längere Antwort beschäftigt derzeit das Europäische Parlament. Denn je mehr Produkte digitale Funktionen enthalten, desto schwieriger wird die Frage, welche Vorschriften gelten sollen. Genau hier setzt der Digital-Omnibus für Künstliche Intelligenz an.

Als die Europäische Union 2024 als erste Region weltweit einen umfassenden Rechtsrahmen für Künstliche Intelligenz verabschiedete, betrat sie Neuland. Der AI Act war ein mutiger und notwendiger Schritt. Denn KI trifft längst Entscheidungen, die Menschen unmittelbar betreffen – von Bewerbungsverfahren bis hin zur medizinischen Diagnostik.

Doch die Entwicklung bleibt rasant. Manche technischen Standards, die Unternehmen für die Umsetzung benötigen, befinden sich noch immer in Arbeit. Gleichzeitig entstehen ständig neue Anwendungen. Deshalb hat das Europäische Parlament in dieser Woche den sogenannten Digital-Omnibus zur KI angenommen. Er hält am Grundprinzip des AI Acts fest, soll die Regeln aber an mehreren Stellen praxistauglicher machen.

Im Kern bleibt es beim risikobasierten Ansatz. Künstliche Intelligenz wird weiterhin nach ihrem Gefährdungspotenzial reguliert. Gleichzeitig werden Dokumentationspflichten vereinfacht, Fristen angepasst und Doppelregulierungen abgebaut. Ziel ist es, Rechtssicherheit zu schaffen und Unternehmen dort zu entlasten, wo Vorschriften sich überschneiden.

Ein wichtiger Punkt betrifft die Maschinenverordnung. Künftig soll vermieden werden, dass Hersteller für ein und dasselbe Produkt mehrere Regelwerke parallel erfüllen oder doppelte Zertifizierungsverfahren durchlaufen müssen. Wer Künstliche Intelligenz sicher machen will, muss sie handhabbar machen. Risiken gehören reguliert – nicht Strukturen verdoppelt.

Weniger Bürokratie bedeutet dabei nicht weniger Schutz. Die strengsten Vorgaben für Hochrisiko-KI bleiben bestehen und werden weiterhin schrittweise umgesetzt. Das Parlament hat zugleich neue Verbote für KI-Anwendungen beschlossen, die ohne Einwilligung intime Darstellungen realer Personen erzeugen. Dort, wo neue Technologien missbraucht werden können, zieht Europa die Grenzen klarer.

Europa will Künstliche Intelligenz allerdings nicht nur regulieren. Parallel entstehen neue europäische KI-Fabriken, und mit der InvestAI-Initiative sollen Milliardeninvestitionen für leistungsfähige Rechenkapazitäten mobilisiert werden. Ziel ist es, dass die nächste Generation von KI nicht nur anderswo entwickelt wird, sondern auch in Europa.

Der Digital-Omnibus folgt damit einem einfachen Grundsatz: Dort vereinfachen, wo Regeln sich überschneiden. Dort eingreifen, wo Menschen geschützt werden müssen.

Ein Toaster sollte weder zum Hochrisiko-KI-System noch zum Bürokratieprojekt werden. Im Idealfall macht er einfach ein gutes Toast.