Der AI Act – Chance für Europa

Wie oft nutzen Sie KI-Systeme? Lassen Sie sich Musik, Serien, Filme, Hotels für den nächsten Urlaub oder die kürzeste Route in die Arbeit auf elektronischen Geräten vorschlagen? Übernehmen das Staubsaugen und das Mähen Ihre Roboter? Ihre E-Mails formuliert ein Chatbot um und im Notfall bremst Ihr Auto wie von selbst? In all diesen Fällen nutzen Sie (wahrscheinlich) KI-Systeme, die Ihre Entscheidungen (mit-)beeinflussen. Doch vertrauen Sie diesen KI-Systemen auch?

Laut einer im Jahr 2024 durchgeführten Studie vertrauen nur rund 27% der Befragten im DACH-Raum auf korrekte Ausgaben von Chatbots. Im Jahr 2023 gaben wiederum 61% der Befragten aus 17 Ländern rund um die Welt an, sich nicht sicher zu sein oder es abzulehnen, KI-Systemen zu vertrauen. Zugleich sahen 71% Regelungen für KI als notwendig an. Vor diesem Hintergrund nimmt der AI Act als weltweit erstes, umfassendes Regelwerk für KI eine Vorreiterrolle ein. Mit dem AI Act werden einheitliche Mindestbedingungen für die Entwicklung, Vermarktung und die Nutzung von KI geschaffen, deren Nichteinhaltung nicht nur massive Schäden verursachen und zu Reputationsschäden führen, sondern auch hohe Geldbußen nach sich ziehen können.

Sowohl Anbieter, die KI-Systeme entwickeln, um diese in der EU in Verkehr zu bringen oder in Betrieb zu nehmen, als auch Händler, Importeure und Unternehmen, die KI-Systeme in der EU unter ihrer Aufsicht verwenden, sind vom Anwendungsbereich des AI Act erfasst. Unternehmen sind daher gut beraten, sich frühzeitig mit den neuen Regeln für KI auseinanderzusetzen.

Der Anwendungsbereich des AI Act ist breit gefasst: Unter den Begriff „KI-System“ fallen sämtliche maschinenbasierte, in Hard- oder Software integrierte Systeme, die zu einem gewissen Grad autonom operieren können. Das heißt, die Systeme müssen anpassungsfähig sein und für explizite oder implizite Ziele aus Eingaben Ableitungen, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen, treffen, die ihre (physische oder virtuelle) Umgebung beeinflussen können. Dadurch sind viele, zum Teil alltäglich genutzte Systeme, wie z.B. Spamfilter, Chatbots, Bewertungstools, Empfehlungssysteme und Roboter aller Art – vom teilautonomen Fahrzeug bis hin zum vernetzten Haushaltsgerät – vom AI Act erfasst. Vom Anwendungsbereich ausgenommen sind dagegen KI-Systeme, die für militärische, verteidigungspolitische und die nationale Sicherheit betreffende Zwecke eingesetzt werden, sowie die rein private Verwendung von KI-Systemen. Zusätzlich sieht der AI Act Ausnahmen für Forschung, Testung und Entwicklung vor erstmaligem Inverkehrbringen des KI-Systems sowie für freie, quelloffene KI-Systeme vor.

Je nach Risiko des KI-Systems treffen die jeweiligen Akteure, wie z.B. Anbieter und Verwender von KI-Systemen, unterschiedliche Pflichten, die von gänzlichen Verboten des Einsatzes bestimmter Systeme mit nicht tolerierbarem Risiko, über Konformitätsbewertungsverfahren für Hochrisiko-KI-Systeme und Transparenzverpflichtungen für bestimmte KI-Systemen bis hin zur freiwilligen Einhaltung von Verhaltenskodizes reichen. Für KI-Modelle für allgemeine Zwecke gelten wiederum zusätzliche, umfangreiche Dokumentations- und Transparenzpflichten. Das betrifft z.B. KI-Systeme, die Audio-, Video- oder Textinhalte erzeugen und mit Menschen interagieren, darunter z.B. ChatGPT.

Im Fokus des AI Act steht die Förderung der Einführung „menschenzentrierter und vertrauenswürdiger“ KI, die zugleich Grundrechte wahren und Innovationen mit sich bringen soll. Voraussetzung dafür ist, dass KI-Systeme ausreichend genau, sicher, fair und transparent sind, sowie einer menschlichen Aufsicht unterliegen und soziales und ökologisches Wohlergehen sicherstellen. Während diese Prinzipien (weltweit) Anerkennung finden, variiert deren Gewicht in der Praxis: Eine Steigerung der Transparenz kann die Vertraulichkeit und Sicherheit der KI-Systeme verringern. Das kann der Fall sein, wenn besondere Kategorien von Daten, wie Gesundheitsdaten, als Teil von Trainingsdaten offengelegt werden müssen oder Transparenzmaßnahmen Angriffe boshafter Dritter auf das KI-System womöglich erleichtern. Ein KI-System, das aus bestehenden Datensätzen lernt, mag zwar sicher, robust und transparent sein, aufgrund real bestehender Verzerrungen, wie einer Über- oder Unterrepräsentation von Personengruppen in bestimmten Bereichen, aber nicht die notwendige Fairness aufweisen und bestehende Fairnessprobleme dadurch zusätzlich verstärken. Zum Beispiel könnten bestimmte Vorlieben oder Inhalte, die von unterrepräsentierten Gruppen bevorzugt werden, durch KI-basierte Empfehlungssysteme weniger häufig empfohlen werden, weil die Datenbasis deren Präferenzen nicht ausreichend widerspiegelt. Dadurch können Vorlieben und Interessen dieser Gruppen marginalisiert werden. Eine effektive menschliche Aufsicht ist im Einzelfall wiederum nicht zielführend oder sogar unmöglich, wenn KI-Systeme, wie z.B. Notbremsassistenten, ihre Umwelt in Sekundenbruchteilen beeinflussen, während sie zugleich fehlerfreier als Menschen in vergleichbaren Situationen reagieren. KI-Systeme, die Aspekte des Klimawandels analysieren und Nachhaltigkeitsmaßnahmen vorschlagen, benötigen schließlich (zum Teil) selbst Unmengen an Energie.

Metriken sowie Werkzeuge zur Messung und Validierung der Vertrauenswürdigkeit von KI-Systemen unterstützen bei der Abwägung des Gewichts der genannten Prinzipien im Einzelfall, befinden sich derzeit aber selbst noch in der Entwicklung. Erfolgt der Einsatz von KI nicht hinreichend vertrauenswürdig, drohen erhebliche Risiken, darunter der Verlust der Wettbewerbsfähigkeit des Wirtschaftsstandorts, aber auch die Verletzung von Grundrechten von Personen. Gelingt es aber, das richtige Verhältnis bei der Umsetzung der Prinzipien zu wahren, bietet KI immense Chancen für Europa. Diese sind vielgestaltig und reichen von der Steigerung der Produktivität in Unternehmen bis hin zu gesamtgesellschaftlichen Verbesserungen: Von der Verbesserung der Verkehrssicherheit bis hin zu einem effektiveren Schutz der Umwelt.

_{Äußerungen unserer Gesprächspartner geben deren eigene Auffassungen wieder. trend.at macht sich Äußerungen seiner Gesprächspartner in Interviews und Diskussionen nicht zu eigen.}