Artikel 33 der Maschinenverordnung 2023/1230: Warum Maschinen mit sicherheitsrelevanter KI in die Hochrisikokategorie fallen

Direkte Antwort: Artikel 33 der Verordnung (EU) 2023/1230 schreibt ein Konformitätsbewertungsverfahren unter Beteiligung einer notifizierten Stelle für jede Maschine vor, deren Sicherheitssystem KI-basierte Software mit sich weiterentwickelndem Verhalten enthält, das heißt Software, die nach dem Inverkehrbringen ihre eigene Entscheidungslogik erlernt oder verändert. Dies gilt auch dann, wenn die entsprechende Maschine ohne KI – mit derselben mechanischen Funktion – diese Einbindung eines Dritten nicht erfordern würde, denn das Risiko, das der Artikel regelt, ist nicht die physische Bewegung der Maschine, sondern die Unvorhersehbarkeit eines Sicherheitssystems, das sich im Zeitverlauf verändert. In diesem Artikel erklären wir, welche Maschinen betroffen sind, warum der europäische Gesetzgeber KI als Risikokategoriesprung behandelt hat und was dies in der Praxis für Hersteller autonomer mobiler Robotik und kritischer Entscheidungssysteme bedeutet.

Warum ist eine Maschine mit KI hochriskant, auch wenn ihre mechanische Version es nicht ist?

Direkte Antwort: Die Verordnung 2023/1230 verlagert das Risikokriterium von der physischen Funktion der Maschine hin zur Zuverlässigkeit und Vorhersehbarkeit ihres Entscheidungssystems. Unter der früheren Richtlinie 2006/42/EG richtete sich die Risikoeinstufung fast ausschließlich nach der mechanischen Art der Maschine – eine Säge, eine Presse, ein Aufzug – und danach, ob sie im früheren Anhang IV aufgeführt war. Eine Materialhandhabungsmaschine, die von einer konventionellen SPS mit fester, überprüfbarer Logik gesteuert wurde, konnte sich in vielen Fällen selbst zertifizieren. Die Verordnung 2023/1230 führt ein neues Kriterium ein: Wenn die Sicherheitsfunktion von einer KI-Komponente abhängt, die nach der Inbetriebnahme lernt, sich neu kalibriert oder ihr Verhalten verändert – ohne dass bei jeder Änderung ein menschliches Eingreifen erfolgt –, ist die Rückverfolgbarkeit dieser Entscheidung nicht mehr statisch und damit nicht mehr mit herkömmlichen Methoden der Dokumentenprüfung überprüfbar.

Der europäische Gesetzgeber geht von einer technischen Prämisse aus: Ein auf festen Regeln basierendes Sicherheitssystem lässt sich einmalig, zum Zeitpunkt der Konformitätsbewertung, überprüfen, weil sein künftiges Verhalten deterministisch ist. Ein KI-System mit kontinuierlichem Lernen – zum Beispiel ein neuronales Netz, das seine Schwellenwerte zur Hinderniserkennung anhand der in der Anlage gesammelten Erfahrung anpasst – kann sich sechs Monate nach der Installation anders verhalten, ohne dass der Hersteller eine bewusste Designänderung vorgenommen hat. Diese Verhaltensdrift ("Model Drift" in der Fachterminologie) ist genau das, was Artikel 33 einer externen Kontrolle unterwerfen will, weil die Selbstzertifizierung des Herstellers keine ausreichende Gewähr mehr dafür bietet, dass die ursprüngliche Risikoanalyse im Zeitverlauf gültig bleibt.

Welche Art von Maschinen fällt in den Anwendungsbereich von Artikel 33?

Anhang I Teil A verlangt nicht, dass die gesamte Maschine mit KI arbeitet: Es genügt, dass die Sicherheitsfunktion von einer KI-Komponente mit sich weiterentwickelndem Verhalten abhängt. Dies erweitert den Anwendungsbereich weit über die reine Fabrikrobotik hinaus.

Wie wirkt sich dies auf das Verhältnis zwischen der Maschinenverordnung und der KI-Verordnung aus?

Artikel 33 kann nicht isoliert von der Verordnung (EU) 2024/1689 über Künstliche Intelligenz (KI-Verordnung, AI Act) gelesen werden, die in Anhang III Nummer 2 jede Sicherheitskomponente eines bereits von der Maschinenverordnung erfassten Produkts als "Hochrisiko-KI-System" einstuft. Das Verhältnis zwischen beiden Verordnungen ist komplementär: Der AI Act verlangt für die KI-Komponente selbst ein Risikomanagementsystem, hochwertige Trainingsdaten und menschliche Aufsicht, während Artikel 33 der Maschinenverordnung verlangt, dass die Integration dieser Komponente in die Maschine vor dem Inverkehrbringen von einer notifizierten Stelle bewertet wird. In der Praxis muss ein Hersteller von AMR mit sicherheitsrelevanter KI beide Regelwerke koordiniert erfüllen, und die notifizierte Stelle, die die Maschine bewertet, muss auch die Konformitätsdokumentation des KI-Systems gemäß dem AI Act überprüfen.

→ Wenn Ihre technische Abteilung Konformitätsakten für Maschinen mit KI verwaltet und nachverfolgen muss, welche Artikel der Verordnung 2023/1230 auf welche Komponente anwendbar sind, testen Sie IgeraIndustria 14 Tage kostenlos und erfahren Sie die genaue Anforderung mit Verweis auf den entsprechenden Artikel in Sekunden.

Praxisfall: Der AMR-Hersteller, der die Verfahrensänderung unterschätzte

Ein Logistikrobotik-Unternehmen im Vallès Occidental – das wir anonymisiert RoboFlux Systems nennen – entwickelte einen autonomen mobilen Roboter für Lagerhallen, die gemeinsam mit Personal genutzt werden, mit einem prädiktiven Bremssystem, das mittels bestärkenden Lernens anhand realer Betriebsdaten trainiert wurde. Unter der früheren Richtlinie 2006/42/EG konnte sich ein fahrerloses Transportsystem mit fester Route und derselben Transportfunktion problemlos selbst zertifizieren. Das Ingenieurteam von RoboFlux plante die Markteinführung zunächst unter der Annahme desselben Verfahrens, bis die Compliance-Abteilung feststellte, dass das prädiktive Bremssystem, da es seine Parameter nach der Bereitstellung autonom anpasste, direkt unter Anhang I Teil A der neuen Verordnung fiel. Dies zwang dazu, eine EU-Baumusterprüfung mit einer notifizierten Stelle in den Zeitplan aufzunehmen, mit einer Verzögerung von fast vier Monaten beim Markteinführungstermin, die im ursprünglichen Projektplan nicht vorgesehen war. Wenn Ihr Ingenieurteam prüft, ob ein häufiger Fehler darin besteht, bei der Klassifizierung eines Produkts nicht zwischen "fester Automatisierung" und "sich weiterentwickelndem Verhalten" zu unterscheiden, ist genau dies der Punkt, an dem sich eine Beratung vor Festlegung des Zertifizierungsplans lohnt.

Häufig gestellte Fragen zu Artikel 33

Fällt jede Maschine, die künstliche Intelligenz verwendet, unter Artikel 33?

Nein. Artikel 33 gilt speziell dann, wenn KI eine Sicherheitsfunktion mit sich weiterentwickelndem Verhalten nach der Inbetriebnahme gewährleistet. Eine Maschine, die KI nur zur Produktionsoptimierung, für nicht kritische vorausschauende Wartung oder Geschäftsanalytik einsetzt, ohne dass diese Komponente die Sicherheit von Personen betrifft, unterliegt nicht automatisch diesem verschärften Verfahren.

Was bedeutet "sich weiterentwickelndes Verhalten" genau im Text der Verordnung?

Dies bezieht sich auf Systeme, deren Verhalten sich nach dem Inverkehrbringen ohne ein Neugestaltungseingreifen des Herstellers ändert, typischerweise durch kontinuierliches Lernen, Aktualisierung von Parametern mit Felddaten oder periodisches Neutraining. Ein KI-Modell, das einmal trainiert wird und danach eingefroren bleibt (ohne weiteres Lernen), ähnelt eher der Behandlung eines traditionellen Steuerungssystems, wobei die notifizierte Stelle dies dennoch fallweise bewerten muss.

Welche notifizierten Stellen können Maschinen mit sicherheitsrelevanter KI bewerten?

Es müssen notifizierte Stellen sein, die gemäß Artikel 27 der Verordnung 2023/1230 benannt wurden und über den spezifischen technischen Geltungsbereich für sicherheitsrelevante KI-Systeme verfügen, da die Bewertung zusätzlich zu den traditionellen Maschinensicherheitskompetenzen Fachwissen im Bereich maschinelles Lernen erfordert. Nicht alle derzeit notifizierten Stellen verfügen über diesen erweiterten Geltungsbereich, weshalb dies vor Beginn des Verfahrens überprüft werden sollte.

Wie verhält sich Artikel 33 zur KI-Verordnung (AI Act)?

Der AI Act stuft in Anhang III als hochriskant KI-Systeme ein, die Sicherheitskomponenten von Produkten sind, die bereits durch EU-Harmonisierungsrechtsvorschriften geregelt sind, einschließlich der Maschinenverordnung. In der Praxis muss der Hersteller gleichzeitig die Anforderungen an Risikomanagement und Daten-Governance des AI Act sowie das Konformitätsbewertungsverfahren nach Artikel 33 erfüllen, und die notifizierte Stelle prüft beide Nachweisbündel koordiniert.

Ist die Überwachung des KI-Modells nach dem Inverkehrbringen verpflichtend?

Die Verordnung 2023/1230 verlangt über die allgemeinen Pflichten des Herstellers zur Marktbeobachtung nach dem Inverkehrbringen (Artikel 10) eine Überwachung des Produktverhaltens während der Nutzung. Bei KI-Komponenten mit kontinuierlichem Lernen bedeutet dies in der Praxis, die Modelldrift zu überwachen und jede signifikante Verhaltensänderung zu dokumentieren, die die ursprüngliche Risikobewertung beeinflussen könnte.

Ab wann ist diese Anforderung verbindlich?

Die Verordnung 2023/1230 gilt geschlossen ab dem 20. Januar 2027; ab diesem Datum muss jede neue Maschine mit einer auf sich weiterentwickelnder KI basierenden Sicherheitsfunktion, die in Verkehr gebracht wird, das Verfahren nach Artikel 33 erfüllen. Für Maschinen, die vor diesem Datum bereits rechtmäßig unter der Richtlinie 2006/42/EG vermarktet wurden, gelten die Übergangsbestimmungen des Artikels 52.