Die EU will als Vorreiter der KI-Regulierung im Sommer 2024 den sogenannten AI-Act verabschieden. Das heißt für Unternehmen einen zusätzlichen Handlungsbedarf. Die wichtigsten Eckpunkte des AI-Act.
Der AI-Act der EU: Einführung und Überblick
Das Gesetz über künstliche Intelligenz, weitläufig auch als AI-Act bekannt, ist jene EU-Verordnung, die sich bereits seit einiger Zeit in aller Munde befindet, und voraussichtlich noch vor dem Sommer 2024 in Kraft tritt.
Das Gesetz gilt für sämtliche Marktteilnehmer in der Europäischen Union, die künstliche Intelligenz entwickeln, einsetzen oder nutzen werden.
Der Begriff „künstliche Intelligenz“ ist dabei recht breit und kryptisch definiert und umfasst sämtliche maschinenbasierte Systeme, die entworfen wurden, um mit unterschiedlichen Autonomiegraden zu arbeiten, nach Bereitstellung anpassungsfähig sind und von einer Eingabe ableiten, wie eine Ausgabe in Form von beispielsweisen Vorhersagen, Inhalten, Empfehlungen oder Entscheidungen generiert werden kann, die eine physische oder virtuelle Umgebung beeinflusst.
Klassifizierung und Regulierung von KI-Anwendungen
Der Kern des Gesetzes beschäftigt sich damit KI-Anwendungen basierend auf diversen Kriterien in unterschiedliche Risikokategorien zu klassifizieren.
Dabei wird zwischen KI-Systemen mit
inakzeptablem Risiko,
hohem Risiko,
Transparenzanforderungen und
keinem oder geringem Risiko
unterschieden.
KI-Anwendungen mit inakzeptablem Risiko
Anwendungen, die als solche mit inakzeptablem Risiko eingestuft werden, sind verboten.
Darunter fallen beispielsweise
Social Scoring
Emotionserkennung am Arbeitsplatz und
Gesichtserkennung in öffentlichen Räumen.
KI-Systeme mit hohem Risiko
Hochrisikoanwendungen müssen bestimmte Sicherheits-, Transparenz- und Qualitätsverpflichtungen erfüllen und Konformitätsbewertungen durchlaufen.
In diese Kategorie fallen vor allem Anwendungen im Gesundheitswesen, im Bildungssektor und des Managements kritischer Infrastruktur.
KI-Anwendungen mit begrenztem Risiko
KI-Anwendungen mit begrenztem Risiko haben nur Transparenzverpflichtungen, um Nutzer darüber zu informieren, dass sie mit künstlicher Intelligenz interagieren.
KI mit minimalem Risiko wird hingegen nicht reguliert.
General Purpose AI und zukünftige Herausforderungen
Als Reaktion auf die rasche Entwicklung von Generative AI, wird darüber hinaus General Purpose AI voraussichtlich zusätzlichen regulatorischen Maßnahmen unterworfen werden. Unternehmen müssen sich daher entsprechend vorbereiten.
Die in letzter Zeit vor allem durch ChatGPT bekannt gewordene General Purpose AI wurde mit sehr vielen Daten für unterschiedlichste Anwendungszwecke trainiert. Daher leitet sich auch der zusätzliche Regelungsbedarf ab.
Bedeutung, Kritik und Ausblick des AI-Acts
Insgesamt markiert der AI-Act einen wichtigen Schritt der EU, um den Einsatz von KI in Europa zu regulieren und dabei den Schutz der Bürgerrechte und -freiheiten zu gewährleisten.
Er soll Vertrauen in KI-Technologien stärken und gleichzeitig ein Umfeld schaffen, in der Innovation gefördert und ethische Standards gewahrt werden.
Die EU versucht sich mit dieser Verordnung als weltweiter Vorreiter im Bereich der KI-Regulierung zu platzieren, was ihr eine führende Rolle bei der Gestaltung der Zukunft der KI einbringen könnte.
Kritische Perspektiven und potenzielle Risiken des AI-Acts
Jedoch trifft das Gesetz nicht überall nur auf Zustimmung. Einige Kritiker befürchten, dass die strengen Regulierungsanforderungen die Innovation und den wirtschaftlichen Wettbewerb behindern könnten.
Steigende Anforderungen an die Compliance bergen das Risiko, dass insbesondere kleinere Unternehmen Schwierigkeiten dabei haben könnten in der Branche Fuß zu fassen oder KI für die Bereitstellung ihrer Produkte und Services zu nutzen.
Darüber hinaus besteht die Gefahr, dass Europa im Vergleich zu weniger regulierten Märkten, wie etwa in den USA, einen erheblichen Wettbewerbsnachteil erleidet.
Im Gegensatz zur DSGVO, die ebenfalls vielfach als Innovationshemmer bekrittelt wird, sieht der AI-Act mit 7% des weltweiten Umsatzes oder 35 Millionen Euro noch höhere Strafen bei groben Verstößen vor.
Momentan bleibt es nur abzuwarten, wie sich der AI-Act auf die KI-Innovation in Europa auswirken wird und ob die potenziellen negativen Folgen durch die angestrebten Ziele des Gesetzes aufgewogen werden können.
Es bleibt zu hoffen, dass die frühe Regulierung künstlicher Intelligenz zu einem Zeitpunkt, zu welchem Generative AI sich gerade am Höhepunkt der Erwartungshaltung befindet, dazu beiträgt, dass Europa ins Licht eines weltweiten Vorbilds rückt und dadurch für eine Weiterentwicklung der Technologie sorgt, die ethische Grundsätze und Risikominimierung by-Design berücksichtigt.
Jedenfalls ist der AI-Act ein entscheidender Schritt in Richtung einer verantwortungsvollen Nutzung von KI.
Dieser Artikel ist bald Teil von t+.
Das neue Digitalangebot von trend. bietet Ihnen zukünftig mehr Artikel, Hintergründe und gewohnt exklusive Berichterstattung online und immer verfügbar.
