Die Kommission hat in ihrem Vorschlag einen risikobasierten Ansatz gewählt, welcher zwischen vier Risikostufen unterscheidet:
- Unannehmbares Risiko: Besonders schädliche KI-Anwendungen, die gegen die Werte der EU verstoßen und Grundrechte verletzten, werden verboten. Dies betrifft beispielsweise die Bewertung sozialen Verhaltens durch Behörden (Social Scoring) oder auch die Verwendung von biometrischer Echtzeit-Fernidentifizierung, welche zur Strafverfolgung im öffentlichen Raum verwendet wird. Für die biometrische Echtzeit-Fernidentifizierung sind jedoch eng gefasste Ausnahmen definiert, wie beispielsweise der Einsatz zur Abwehr eines Terroranschlags oder auch die Suche nach vermissten Kindern.
- Hohes Risiko: Im Kommissionsvorschlag werden an festgelegte KI-Systeme, welche sich nachhaltig auf die Sicherheit und die Grundrechte der EU-Bürger:innen auswirken, verbindliche Anforderungen gestellt. Diese Anforderungen beziehen sich unter anderem auf die Qualität der verwendeten Datensätze, die technische Dokumentation sowie das Führen von Aufzeichnungen. Die Liste der KI-Systeme mit hohem Risiko kann stetig überarbeitet werden, sodass sie zukunftssicher ist.
- Geringes Risiko: Bei KI-Systemen mit geringem Risiko sollen Transparenzpflichten eingeführt werden. Hierdurch soll gewährleistet werden, dass die Menschen wissen, dass sie es mit Maschinen zu tun haben.
- Minimales Risiko: Die letzte Kategorie umfasst KI-Systeme mit geringem Risiko und bezieht sich auf alle anderen KIs. Diese können unter Einhaltung des allgemein gültigen Rechtsrahmens verwendet werden und müssen keine zusätzlichen Verpflichtungen beachten. Die Mehrzahl der KIs in der EU fällt in diese Kategorie.
Bei Verstößen gegen die Verordnung soll es im Zuständigkeitsbereich der Mitgliedsstaaten liegen, verhältnismäßige, wirksame und abschreckende Sanktionen festzulegen. In dem Kommissionsvorschlag wurden jedoch bereits Schwellenwerte hierfür definiert, welche von 6% des weltweiten Vorjahresumsatzes bzw. 30 Millionen Euro bis hin zu 2% des weltweiten Jahresumsatzes bzw. 10 Millionen Euro reichen (es soll jeweils der höhere Wert im speziellen Fall gewählt werden).
Zur effektiven Umsetzung der Verordnung ist geplant, einen Europäischen Ausschuss für künstliche Intelligenz zu bilden. Dieser Ausschuss soll den nationalen Behörden als Ansprechpartner dienen.
Bereits im Jahr 2018 hatte die EU einen koordinierten Plan im Bereich KI vorgelegt. Mit diesem wurde eine Grundlage für die politischen Bestrebungen im Bereich KI gelegt und die Mitgliedsstaaten der EU wurden beauftragt eigene nationale KI-Strategien zu entwickeln. Dieser koordinierte Plan wurde nun überarbeitet, um die Zweckmäßigkeit und Flexibilität aufrecht zu erhalten. Ziel des Plans ist es, der EU eine weltweite Führungsrolle im Bereich der vertrauenswürdigen KI zu sichern. Bereits 19 Mitgliedsstaaten, darunter auch Deutschland, haben nationale KI-Strategien entwickelt.
Um zu gewährleisten, dass Innovationen aus der Wissenschaft auch zeitnah in die Wirtschaft und den öffentlichen Markt überführt werden können, plant die EU unter anderem die Kofinanzierung von Erprobungs- und Versuchseinrichtungen sowie den Aufbau eines europaweiten Netzes von digitalen Innovationszentren.
Maschinenverordnung
Die neuen Vorschriften für Maschinen sollen sicherstellen, dass die neue Generation der Maschinenprodukte die Sicherheit der Verbraucher und Nutzer sicherstellt sowie Innovationen fördern. Die Maschinenverordnung, welche gewährleisten soll, dass KI-Systeme auf sichere Weise in die gesamte Maschine integriert sind, ergänzt die KI-Verordnung, welche sich auf die Sicherheitsrisiken von KI-Systemen fokussiert.
Weitere Information:
https://ec.europa.eu/commission/presscorner/detail/de/QANDA_21_1683