Künstliche Intelligenz auf den Prüfstand vor der Einführung

trend: Warum müssen wir, wenn wir über künstliche Intelligenz reden, ethische Aspekte miteinbeziehen?
Peter G. Kirchschläger: Weil sich in der Schaffung und Nutzung von künstlicher Intelligenz ethische Chancen und Risiken ergeben. Wenn wir uns damit beschäftigen, können wir die Chancen nutzen und die Risiken besser meistern. Unser Leben wird bereits stark von KI durchdrungen.

Und das ist unethisch?
Kirchschläger: Wir haben gesehen, wie ethisch problematische Businessmodelle sehr erfolgreich wurden und großen Schaden angerichtet haben. Facebook zum Beispiel hat die Daten seiner Nutzer einfach an den Meistbietenden verkauft. Das konnte auch eine Diktatur sein, die diese Daten dann gezielt dazu einsetzte, um Wahlen zu manipulieren.

Bekannt sind auch Fälle, in denen Algorithmen bestimmten, dass Leute mit der falschen Postleitzahl keinen Kredit bekommen oder Frauen und bestimmte Ethnien diskriminiert werden. Wie lässt sich das verhindern?
Kirchschläger: Unternehmen muss klar sein, dass Algorithmen weder objektiv noch neutral sind, und sie müssen sich vorab überlegen, welche Software sie wie nutzen. Dennoch stellt sich die Frage, ob wir die einzelnen Unternehmen und die einzelnen Kundinnen und Kunden mit dem Aufruf, kritisch zu sein, nicht überfordern.

Was wäre die Alternative?
Kirchschläger: Eine menschenrechtsbasierte Regulierung, die Innovation fördert, aber die Risiken wie etwa Diskriminierung auch bändigt. Da sind die Staaten und in einer globalisierten Welt die internationale Staatengemeinschaft gefordert.

Der AI Act, der das für die EU regeln soll, ist gerade in Begutachtung. Welche Parameter sind für die Regulierung aus Ihrer Sicht nötig?
Kirchschläger: Die ethischen und rechtlichen Standards, die offline gelten, müssen auch online durchgesetzt werden. Elon Musk hat darauf hingewiesen, dass KI sogar gefährlicher ist als Atomwaffen.

Können Sie das spezifizieren?
Kirchschläger: Wenn man sich zum Beispiel den Einsatz von automatisierten Waffensystemen im Angriffskrieg Russlands gegen die Ukraine vorstellt, wird das schnell klar: Diese Systeme wissen nichts von Verhältnismäßigkeit. Individuelle Menschen können auch im Krieg ethische Prinzipien berücksichtigen. In unserem Alltag wiederum sehen wir, was soziale Medien mit der Psyche von Kindern anrichten. Whistleblower haben aufgezeigt, dass sich Unternehmen dieser Gefahren bewusst waren und man sie trotzdem eingegangen ist.

Wo sollte Regulierung ansetzen?
Kirchschläger: Ich würde eine internationale Agentur für datenbasierte Systeme (DSA) vorschlagen. Der Begriff Intelligenz geht für mich zu weit, datenbasierte Systeme trifft das, was Maschinen tun können und in Zukunft noch lernen werden, besser. So wie wir mit der internationalen Atomenergiebehörde IAEA eine Instanz haben, die seit dem Abwurf der Atombombe den Umgang mit dieser Technologie global regelt und durchsetzt, brauchen wir das auch im Bereich der datenbasierten Systeme.

Was sollte eine solche Behörde tun?
Kirchschläger: Sie würde eine ähnliche Aufgabe erfüllen wie die Zulassungsbehörden im Pharmabereich. Es ist völlig anerkannt, dass Medikamente geprüft werden müssen, um als sicher zu gelten. Der gleiche Zugang wäre auch für datenbasierte Systeme sinnvoll, um das Schlimmste zu verhindern und das Positive an dieser Technologie zu nützen.

Würde das den technischen Fortschritt bremsen?
Kirchschläger: Das wird oft unterstellt, klare und konsequent durchgesetzte Regelungen können aber die Innovation auch fördern, weil sie gleichzeitig Nutzern ja auch Sicherheit geben. Nachdem etwa die USA klar reguliert hatten, wer ein Flugzeug bauen darf, wurde das Fliegen hier besonders schnell als sicher angesehen.

Wo liegen die Chancen von datenbasierten Systemen?
Kirchschläger: Sie können Entscheidungsträgern Evidenz liefern, aber das ist nur eine Seite. Wir müssten zu einem zweckgebundenen Einsatz von ihnen kommen. Wir geben der Hausärztin unsere persönlichen Informationen, damit sie uns besser helfen kann. Wenn das datenbasiert funktioniert und diese Daten mit informierter Zustimmung der medizinischen Forschung zur Verfügung stehen, die damit dem Menschen und dem Planeten dient, ist das etwas völlig anderes als der momentane Zugang, Daten einfach an den Höchstbieter zu verkaufen.

Nach welchen ethischen Grundsätzen sollte das global funktionieren?
Kirchschläger: Die Basis dafür sollten die Menschenrechte sein, weil sie ein Minimalstandard sowie global anerkannt und akzeptiert sind. Wichtig aber wäre es, dass in jedem Innovationsprozess von Anfang an auch die ethische Perspektive miteinbezogen wird. Das geht nur mit Interaktion zwischen Technologie und Ethik zu einem frühen Zeitpunkt.