EU AI-Office: Auftrag und Rechtsrahmen des KI-Amts

KI-Technologien sind gekommen um zu bleiben. Mit dem AI-Act hat die EU-Kommission einen rechtlichen Rahmen für den Einsatz dieser Technologien definiert, mit dem nun vorgestellten Europäischen Amt für künstliche Intelligenz (AI-Office) setzt die EU den nächsten Schritt, für einen sowohl gesellschaftlich als auch wirtschaftlich gewinnbringenden und möglichst risikofreien Einsatz von KI.

Das Europäische Amt für KI soll die Entwicklung und den Einsatz vertrauenswürdiger KI unterstützen und gleichzeitig vor KI-Risiken schützen. Das KI-Büro wurde innerhalb der Europäischen Kommission als Kompetenzzentrum für KI eingerichtet. Es ist die Basis für ein einheitliches europäisches KI-Governance-System auf Basis des KI-Gesetzes, dem AI-Act.

Das Amt für künstliche Intelligenz soll eine Schlüsselrolle bei der Umsetzung des KI-Gesetzes spielen und die Regeln für universelle KI-Modelle durchsetzen. Dafür hat das KI-Amt unter anderem die Befugnis, Bewertungen von KI-Modellen für allgemeine Zwecke durchzuführen, Informationen und Maßnahmen von Modellanbietern anzufordern und bei Verstößen entsprechende Sanktionen zu verhängen. Es fördert zudem auch ein vertrauenswürdige KI-Modelle.

Das Amt für künstliche Intelligenz kooperiert dafür mit den Mitgliedstaaten und Experten aus Wissenschaft, Industrie, Think Tanks, Zivilgesellschaft und dem Open-Source-Ökosystem.

Ab dem 16. Juni wird das europäische KI-Büro aus fünf Referaten und zwei Beratern bestehen. Dazu gehören:

• Referat „Exzellenz in KI und Robotik“

• Referat „Regulierung und Einhaltung“

• Referat „KI-Sicherheit“

• Referat „KI-Innovation und Politikkoordinierung“

• Referat „KI für das Gemeinwohl“

• Der leitende wissenschaftliche Berater

• Berater für internationale Angelegenheiten

Das KI-Büro wird über 140 Mitarbeiter beschäftigen, darunter Technologiespezialisten, Verwaltungsassistenten, Rechtsanwälte, Politikspezialisten und Ökonomen. Sie monitoren das KI-Ökosystem, die technologischen und Marktentwicklungen, aber auch das Auftreten systemischer Risiken und sonstiger relevanter Trends. Dabei nehmen sie die folgenden Aufgaben wahr:

Das KI-Amt wird die Umsetzung des KI-Gesetzes innerhalb der Mitgliedstaaten unterstützen. Dafür nimmt es die folgenden Aufgaben wahr:

• Koordination der kohärenten Anwendung des KI-Gesetzes in den Mitgliedstaaten, Einrichtung von Beratungsgremien auf EU-Ebene, Informationsaustausch

• Entwicklung von Tools, Methoden und Benchmarks zur Bewertung von Fähigkeiten und Reichweite von KI-Modellen und Klassifizierung von Modellen mit systemischen Risiken

• Erstellung von Verhaltenskodizes in Zusammenarbeit mit KI-Entwicklern, Wissenschaftlern und anderen Experten

• Untersuchung möglicher Verstöße gegen Vorschriften und Aufforderung der Anbieter, Korrekturmaßnahmen zu ergreifen

• Ausarbeitung von Leitlinien und anderen Instrumenten zur Unterstützung der wirksamen Umsetzung des KI-Gesetzes und zur Überwachung der Einhaltung der Verordnung

Im gesamten EU-Binnenmarkt sollen vertrauenswürdige KI-Anwendungen gefördert werden. Der diesbezügliche Auftrag des AI Office ist:

• Förderung von Maßnahmen und Strategien zur Erzielung des gesellschaftlichen und wirtschaftlichen Nutzens der KI in der gesamten EU

• Beratung zu bewährten Verfahren und Zugang zu KI-Sandboxes, Tests und anderen Unterstützungsstrukturen für die Einführung von KI

• Förderung innovativer Ökosysteme vertrauenswürdiger KI zur Stärkung der Wettbewerbsfähigkeit und des Wirtschaftswachstums in der EU

• Unterstützung der Kommission bei der Nutzung transformativer KI-Instrumente und Stärkung der KI-Kompetenz

• Förderung des Ansatzes der EU für vertrauenswürdige KI, Zusammenarbeit mit ähnlichen internationalen Institutionen

• Förderung der internationalen Zusammenarbeit und Governance im Bereich KI

• Unterstützung der Entwicklung und Umsetzung internationaler KI-Übereinkommen