mib insight – Gesellschafter und Geschäftsführer Prof. Dr. Joachim Zülch
06/11/2024mib insight – Gesellschafter und Geschäftsführer Prof. Dr. Joachim Zülch
06/11/2024
Einleitung
Wir erleben derzeit wie rasant sich Künstliche Intelligenz (KI) weiterentwickelt und in diesem Zuge immer mehr in die Unternehmensprozessen Einzug hält. Gleichzeitig wächst das Bewusstsein für die Risiken von KI – von diskriminierenden Entscheidungsalgorithmen bis hin zu Sicherheitslücken. Die Europäische Union reagierte darauf mit dem EU AI Act, dem weltweit ersten umfassenden KI-Regulierungsrahmen. Dieser soll sicherstellen, dass KI-Systeme transparent, rechenschaftspflichtig und sicher eingesetzt werden, um Grundrechte zu schützen und eine ethisch vertretbare Nutzung zu fördern. Für Unternehmen bedeutet das erhebliche Anforderungen und Herausforderungen, insbesondere wenn sie sogenannte „hochriskante“ KI-Systeme bereitstellen oder nutzen.
Die Einhaltung des AI Act ist komplex und geht tief in die Entwicklungs- und Betriebsprozesse von KI ein. Organisationen müssen nicht nur technische, sondern auch organisatorische Strukturen aufbauen, um gesetzliche Pflichten zu erfüllen und hohe Bußgelder oder Imageverluste zu vermeiden. Hier kommt der neue Standard ISO 42001 ins Spiel. Er kann als Schlüsselwerkzeug dienen, um Risiken zu managen, gesetzliche Vorgaben zu erfüllen und gleichzeitig Vertrauen in KI-Systeme zu schaffen. In diesem Artikel betrachten wir, wie ISO 42001 und der EU AI Act ineinandergreifen, welche Vorteile sich daraus ergeben und wie Unternehmen praktisch vorgehen können.
Was ist der EU AI Act?
Der EU AI Act (deutsch: KI-Verordnung) ist ein europäisches Regulierungsvorhaben, das einheitliche Regeln für die Entwicklung, das Inverkehrbringen und den Einsatz von KI in der EU schafft. Die Verordnung verfolgt einen risikobasierten Ansatz:
- Unzulässiges Risiko: KI-Praktiken, die als unannehmbar gelten und verboten sind (z. B. bestimmte Formen von Social Scoring).
- Hohes Risiko: KI-Systeme mit erheblichem Einfluss auf Sicherheit, Gesundheit oder Grundrechte (z. B. in Medizin, Personalmanagement, Kreditvergabe). Sie unterliegen strengen Auflagen und behördlicher Überwachung.
- Begrenztes Risiko: KI-Anwendungen mit mittlerem Risiko, bei denen bestimmte Transparenzmaßnahmen einzuhalten sind.
- Minimales Risiko: Die meisten alltäglichen KI-Systeme (z. B. Spam-Filter), die keine besonderen Pflichten haben.
Vor allem für hochriskante KI-Systeme sieht der AI Act umfangreiche Pflichten vor, darunter:
- Einrichtung eines Risikomanagements und laufender Überprüfung.
- Verwendung hochwertiger, möglichst verzerrungsfreier Daten.
- Technische Dokumentation und Transparenzmaßnahmen.
- Implementierung menschlicher Aufsicht.
- Gewährleistung von Genauigkeit, Robustheit und Cybersicherheit.
- Durchführung einer Konformitätsbewertung (CE-Kennzeichnung) vor dem Inverkehrbringen.
Unternehmen stehen damit vor der Herausforderung, ihre KI-Prozesse umfassend anzupassen und zu dokumentieren. Dabei kann ISO 42001 unterstützen, indem die ISO-Norm einen strukturierten Rahmen für verantwortungsvolle KI vorgibt.
Was ist ISO 42001?
ISO/IEC 42001 ist der erste internationale Managementsystem-Standard speziell für Künstliche Intelligenz. Er wurde Ende 2023 veröffentlicht und soll Unternehmen helfen, KI-Systeme sicher, ethisch und rechtskonform zu entwickeln und einzusetzen. Ähnlich wie ISO 9001 oder ISO 27001 verfolgt ISO 42001 einen ganzheitlichen Ansatz, der sich an der High Level Structure (HLS) orientiert.
Die Hauptziele von ISO 42001 sind:
- Aufbau vertrauenswürdiger, transparenter und verantwortungsvoller KI-Systeme.
- Ethische Grundsätze wie Fairness, Nichtdiskriminierung und Schutz der Privatsphäre zu wahren.
- Ein effektives Risikomanagement zu etablieren, um KI-Risiken zu identifizieren und zu mindern.
- Gesetzliche und regulatorische Anforderungen (z. B. den EU AI Act) in den KI-Prozessen zu berücksichtigen.
- Das Vertrauen von Nutzern, Kunden und Aufsichtsbehörden zu stärken.
ISO 42001 gilt für alle Phasen des KI-Lebenszyklus – von der Planung über die Entwicklung bis hin zum Betrieb und zur Wartung von KI-Systemen. Der Standard lässt sich in andere Managementsysteme integrieren und eignet sich für Organisationen jeder Größe. Während er selbst freiwillig ist, kann man sich bei Bedarf zertifizieren lassen, um nach außen hin die Einhaltung der ISO-Anforderungen zu belegen.
Wie hilft ISO 42001 Unternehmen, den AI Act einzuhalten?
Sowohl der EU AI Act als auch ISO 42001 betonen Transparenz, Risikomanagement, Verantwortlichkeit und Sicherheit bei KI. Sie verfolgen damit ähnliche Ziele. Ein nach ISO 42001 aufgebautes KI-Managementsystem unterstützt Unternehmen in zentralen Bereichen:
- Risikomanagement-System
Der AI Act schreibt für Hochrisiko-KI ein kontinuierliches Risikomanagement vor. ISO 42001 stellt die organisatorische Grundlage bereit, indem es einen durchgehenden Risikomanagement-Prozess für alle KI-Systeme einfordert. So können Firmen die gesetzliche Pflicht effizient erfüllen. - Datenqualität und Bias-Kontrolle
Für Hochrisiko-KI setzt der AI Act hohe Anforderungen an Datenrepräsentativität und -qualität, um Diskriminierung zu vermeiden. ISO 42001 fokussiert auf Daten-Governance und verlangt, dass Organisationen hochwertige, möglichst verzerrungsfreie Datensätze verwenden und systematisch prüfen. Dadurch wird die Einhaltung der rechtlichen Datenanforderungen erleichtert. - Dokumentation und Transparenz
Der AI Act fordert umfangreiche technische Dokumentationen und Nachvollziehbarkeit für Hochrisiko-KI. ISO 42001 verlangt von Unternehmen, alle relevanten Schritte in KI-Prozessen zu dokumentieren (Trainingsdaten, Modelle, Entscheidungen). Dieses Dokumentations-Framework ist die ideale Basis, um die vorgeschriebenen Transparenzmaßnahmen umzusetzen. - Menschliche Aufsicht und Governance
Laut AI Act darf KI nicht völlig unkontrolliert Entscheidungen treffen. ISO 42001 verlangt klare Verantwortlichkeiten und menschliche Kontrollmechanismen (Human-in-the-loop). Firmen, die diesen ISO-Ansatz verankern, erfüllen damit fast automatisch die Vorgabe, dass ein Mensch KI-Systeme überwacht und notfalls eingreift. - Sicherheit und Robustheit
Beide Regelwerke legen Wert auf IT-Sicherheit und zuverlässige KI. ISO 42001 definiert konkrete Anforderungen an die Robustheit von KI-Systemen, regelmäßige Tests und Sicherheitsmaßnahmen. So deckt ein Unternehmen auch die gesetzlichen Vorgaben des AI Act zu Sicherheit und Manipulationsschutz ab.
ISO 42001 ersetzt jedoch nicht das Gesetz. Beispielsweise sind die formale Konformitätsbewertung und die CE-Kennzeichnung im AI Act geregelt und werden durch ISO 42001 nicht abgedeckt. Auch verbotene KI-Anwendungen sind ausschließlich in der Verordnung definiert. Dennoch bietet ISO 42001 einen äußerst hilfreichen Managementrahmen, um die meisten Pflichten des AI Act strukturiert zu erfüllen.
Vergleichsmatrix aus Perspektive des AI Act
Die folgende Tabelle zeigt, wie die wesentlichen Anforderungen des EU AI Act durch ISO 42001 unterstützt werden und wo noch Lücken bestehen, die separat zu beachten sind:
| Anforderung des EU AI Act | ISO 42001-Unterstützung |
|---|---|
| Risikomanagement (Art. 9) | Voll abgedeckt durch die Vorgaben zu Risikomanagementprozessen. ISO 42001 fordert ein kontinuierliches Identifizieren und Bewerten von KI-Risiken. |
| Datenqualität und Bias-Vermeidung (Art. 10) | Voll abgedeckt. ISO 42001 legt Wert auf Daten-Governance und Fairness. Unternehmen implementieren Verfahren, die verzerrte Daten erkennen und minimieren. |
| Technische Dokumentation (Art. 11) | Weitgehend abgedeckt. ISO 42001 verlangt transparente und nachvollziehbare Dokumentation der KI-Systeme. |
| Protokollierung/Logging (Art. 12) | Teilweise abgedeckt. ISO 42001 sieht Aufzeichnungen vor, nennt aber keine Mindestaufbewahrungsdauer. Der AI Act fordert mindestens 6 Monate Log-Aufbewahrung. |
| Transparenzpflichten (Art. 52) | Teilweise abgedeckt. ISO 42001 fördert eine generelle Informationspflicht. Spezifische Kennzeichnungspflichten gegenüber Endnutzern sind gesetzlich vorgegeben. |
| Menschliche Aufsicht (Art. 14) | Voll abgedeckt. ISO 42001 verlangt eine klare Governance-Struktur und menschliche Kontrollmechanismen (Human-in-the-loop). |
| Sicherheit und Robustheit (Art. 15) | Weitgehend abgedeckt. ISO 42001 integriert Sicherheits- und Zuverlässigkeitsanforderungen als Teil des Risikomanagements. |
| Konformitätsbewertung und CE-Kennzeichnung (Art. 16-20) | Nicht direkt abgedeckt. ISO 42001 bietet den internen Rahmen, ersetzt aber keine behördliche Prüfung oder EU-Konformitätserklärung. |
| Verbotene Praktiken (Art. 5) | Nicht abgedeckt. Nur im AI Act geregelt. ISO 42001 verlangt jedoch, dass Unternehmen ihre Rechts- und Ethikpflichten kennen und in den Prozess integrieren. |
Praktische Umsetzung
Damit ISO 42001 tatsächlich als Sprungbrett für die AI-Act-Compliance dient, sollten Unternehmen einen konkreten Fahrplan entwickeln:
- Analyse des KI-Portfolios
Ermitteln Sie, welche KI-Anwendungen bereits im Einsatz sind oder geplant sind. Klären Sie, ob diese als Hochrisiko-Anwendungen einzustufen sind. - Aufbau oder Integration eines KI-Managementsystems
Richten Sie ein KI-Managementsystem gemäß ISO 42001 ein oder integrieren Sie dessen Anforderungen in bestehende Managementsysteme (z. B. Qualitäts- oder Informationssicherheitsmanagement). - Governance-Struktur und Rollen
Definieren Sie klare Verantwortlichkeiten, etwa die Rolle eines KI-Compliance-Beauftragten, und stellen Sie sicher, dass das Top-Management die Ziele und Pflichten unterstützt. - Risikomanagement und Daten-Governance etablieren
Implementieren Sie Risikobewertungen, legen Sie Datenqualitätskriterien fest und führen Sie transparente Dokumentationsprozesse für Ihre KI-Systeme ein. - Transparenz und Dokumentation
Sorgen Sie für nachvollziehbare Aufzeichnungen und angemessene Transparenz für Nutzer. Stimmen Sie Ihre Log-Daten-Aufbewahrung mit den Mindestfristen des AI Act ab. - Menschliche Kontrolle sicherstellen
Integrieren Sie Mechanismen, damit Menschen die Entscheidungen der KI prüfen oder eingreifen können. Etablieren Sie Schulungen, damit diese Rollen effektiv ausgeführt werden können. - Kontinuierliche Verbesserung und Audits
Halten Sie Ihr KI-Managementsystem aktuell, überprüfen Sie es regelmäßig (intern und extern) und passen Sie es an neue Anforderungen oder technische Entwicklungen an.
Vorteile für Unternehmen
- Risikominimierung und Rechtssicherheit
Wer ISO 42001 umsetzt, minimiert das Risiko von Gesetzesverstößen und schafft eine solide Basis für die Einhaltung des AI Act. So lassen sich Bußgelder, Produktverbote oder Reputationsschäden vermeiden. - Effizienz und Vertrauen
Ein strukturiertes KI-Managementsystem verbessert die Effizienz, da Rollen, Prozesse und Zuständigkeiten klar geregelt sind. Zudem stärkt es das Vertrauen bei Kunden, Geschäftspartnern und Aufsichtsbehörden. - Wettbewerbsvorteil
Unternehmen, die frühzeitig auf verantwortungsvolle KI setzen, können sich vom Wettbewerb abheben. In Ausschreibungen oder im internationalen Geschäft kann ein zertifiziertes KI-Managementsystem zum entscheidenden Pluspunkt werden. - Zukunftssicherheit
ISO 42001 unterstützt nicht nur beim AI Act, sondern bereitet auch auf künftige gesetzliche Anforderungen und internationale KI-Regulierungen vor. Unternehmen bleiben so flexibel und anpassungsfähig in einem dynamischen Umfeld.
Fazit
Der EU AI Act stellt Unternehmen vor die Aufgabe, KI-Systeme sicher, transparent und respektvoll gegenüber Grundrechten einzusetzen. ISO 42001 bietet dafür einen strukturierten, praxisnahen Rahmen, der viele zentrale Vorgaben der Verordnung abdeckt. Durch die Implementierung des Standards schaffen Organisationen organisatorische und technische Voraussetzungen für umfassende KI-Compliance.
Zwar ersetzt ISO 42001 das Gesetz nicht und bestimmte Rechtsakte (z. B. Konformitätsbewertungen, CE-Kennzeichnungen, Verbote) bleiben im AI Act verankert. Doch der neue Standard liefert einen klaren Werkzeugkasten, mit dem Firmen ihre KI-Prozesse professionalisieren und Nachweisstrukturen etablieren können. Wer frühzeitig handelt, profitiert von mehr Rechtssicherheit, minimiert Haftungsrisiken und stärkt zugleich das Vertrauen in die eigenen KI-Lösungen. Kurz: ISO 42001 ist kein Allheilmittel, aber ein ideales Vehikel, um den Anforderungen des EU AI Act erfolgreich zu begegnen und KI nachhaltig im Unternehmen zu verankern.
