KI-Pionier Sepp Hochreiter: "KI hat keine Vorstellung von der Welt" [INTERVIEW]

trend: Hat ChatGPT Sie ebenso überrascht wie die Öffentlichkeit?
Sepp Hochreiter: Überrascht hat es mich nicht, denn dieser Chatbot kann auch nicht so viel mehr als die früheren Versionen. OpenAI ist auch nicht das einzige Unternehmen, das an diesen großen Modellen von künstlicher Intelligenz (KI) arbeitet. Die anderen können ebenfalls bereits programmieren und mathematische Aufgaben lösen. Dass ChatGPT3 jetzt so eingeschlagen ist, ist einfach Zufall. Jetzt sehen viele Menschen, was mit KI bereits möglich ist. Ich habe ja auf etwas anderes gewartet.

Worauf denn?
Mittlerweile ist schon öffentlich bekannt, dass OpenAI und Microsoft an GPT4 arbeiten, also an der nächsten Stufe der KI, die jetzt dem Chatbot zugrunde liegt. Das wusste ich schon. Ich habe also nicht auf einen Chatbot gewartet.

Was erwarten Sie von ChatGPT4?
Ich frage mich vor allem: Was kann da jetzt noch kommen? Große Modelle wie dieses haben jetzt sehr große Mengen der weltweit verfügbaren Texte aufgenommen. Das wird bald ein Ende finden, da es keine weiteren Texte gibt. Jedoch könnten die Modelle mit mehr fachspezifischen Fakten gefüttert werden, etwa aus der Medizin oder aus der Chemie.

Das würde den Einsatz von ChatGPT in diesen Bereichen noch interessanter machen?
Der große Vorteil von ChatGPT ist eben, dass man ihm eine Frage stellt und eine Antwort bekommt, die eine Unzahl von Texten als Basis hat. Es kann diese Texte so gut kombinieren, dass es aussieht wie von Menschen gemachter Text.

Wird es die Google-Suche ablösen?
Das könnte es, weil es die Suche nach Antworten für viele Menschen einfacher macht. Wer auf Google sucht, bekommt Vorschläge, muss dann aber Webseiten besuchen und sich die Antwort zusammensuchen. ChatGPT erspart uns das. Wenn ich ChatGPT frage, wie groß Pakistan ist oder wann Napoleon regierte, bekomme ich eine direkte Antwort. Ich denke, dass Microsoft ein großes Interesse an dieser Technologie hat. Vielleicht wird auch Google solche KI-Methoden in seine Suche einbinden. You.com, die Suchmaschine des Deutschen Richard Socher, will ChatGPT in die Suche einbeziehen. An der Johannes Kepler Universität in Linz arbeiten wir auch an einer Weiterentwicklung von ChatGPT.

In welche Richtung soll es dabei gehen?
Da ChatGPT nur weiß, was durch Lernen eingespeichert wurde, kann es aktuelle Fakten nicht wissen. ChatGPT weiß etwa nicht, wer Fußballweltmeister ist, da es vor der Weltmeisterschaft trainiert wurde. Wir versuchen, ChatGPT so zu erweitern, dass es im Internet oder in einer Datenbank suchen kann. Wir Menschen wissen auch nicht alles, aber wissen, wo wir nachschauen. Dabei gehen wir assoziativ vor.

Damit wären KI-Modelle automatisch aktueller?
Mit unserer Technologie, dem Modern Hopfield Network, geht das. Wir können automatisch und assoziativ nach relevanten Webseiten suchen und deren Texte in die KI holen, wo sie dann verarbeitet werden. Wir werden uns aber wahrscheinlich sehr schwer damit tun, gegen Google, Microsoft und Meta anzutreten und etwas Besseres zu bauen.

Würden Sie ChatGPT und die ihm zugrunde liegende IT eigentlich schon als intelligent bezeichnen?
Sie ist nicht intelligent. Sie hat kein Verständnis von der Welt, also kann sie nicht sehr intelligent sein. Sie kennt das Wort Baum, aber weiß nicht, dass es einen Baum gibt, dass seine Äste sich im Wind bewegen und man ihn anfassen kann. Sie kennt nur Text, also Zeichen, und kann diese gut kombinieren. Allerdings simuliert sie dieses Verständnis nur. Sie plappert nach, was Menschen vorgegeben haben. Daher sehen die Antworten oft aus, als ob sie von Menschen sind. Es ist aber nur Sprache, die Wissen zusammenfasst. Das wird freilich riesige Auswirkungen haben.

Wie immer, wenn es um KI geht, steht deshalb die Frage im Raum: Wird sie Menschen ersetzen?
Das kann ich gar nicht beantworten, aber sie wird die Arbeitswelt stark verändern. Allein durch ChatGPT3 hab ich jetzt immer jemanden zur Hand, der schnell Fragen beantwortet, der programmieren kann und weiß, was zu tun ist, wenn beim Auto rechts vorne Rauch rauskommt. In Spezialgebieten wie Chemie und Medizin funktioniert vieles noch nicht, ich erwarte aber, dass GPT4 da schon sehr viel besser ist. Das wird verändern, wie wir arbeiten, und es macht sehr viel Wissen der Welt vielen Menschen zugängig, die bisher noch keinen Zugriff darauf hatten, wie etwa ältere Menschen. Es besteht dabei aber eine große Gefahr.

Welche?
Wenn wir jetzt Google nutzen oder auf Wikipedia gehen, sehen wir auch die Quellen der Information. Bei ChatGPT haben wir keine Ahnung, was hier eigentlich zusammengefasst wird. Die Quellen werden nicht ausgewiesen, und wir wissen auch nicht, welche Texte überhaupt erfasst wurden und welche nicht. Vielleicht wurden Texte sogar geändert, bevor sie eingefüttert wurden. Wir bekommen da einen sehr nützlichen Assistenten, der uns abhängig von großen Firmen macht, haben aber überhaupt keine Kontrolle darüber, woher dieser seine Informationen nimmt.

Die Gefahr besteht also darin, dass wir die Antworten von ChatGPT für bare Münze nehmen?
Das ist eine Riesengefahr. Wir testen an der JKU Linz deshalb etwa große Vorhersagemodelle auf ihre Zuverlässigkeit, Robustheit und Sicherheit. Diese großen Modelle machen mithilfe von KI Prognosen und Simulationen von beispielsweise chemischen oder physikalischen Vorgängen wie dem Wetter. Mit mathematischen Modellen schauen wir uns an, was passiert, wenn man den Modellen leicht geänderte Informationen gibt, sie etwas anders trainiert oder einem Rauschen aussetzt. Wir schauen, ob ihre Prognosen stabil sind oder schnell kippen, sobald sich Kleinigkeiten ändern. Bei OpenAI weiß ich aber einfach nicht, woher die grundsätzlichen Daten kommen. Das ist ein Problem.

Wir müssen also skeptisch bleiben?
Wenn grobe Dinge nicht stimmen, werden sich Experten in den Fachgebieten sicher melden, das wird dann die Glaubwürdigkeit des Chatbots infrage stellen. Die Ergebnisse können auch einen Bias, also eine verfälschende Schlagseite in eine gewisse Richtung haben, auch wenn Konzerne sich bemühen, das zu vermeiden. Da wir die Ausgangsdaten nicht sehen, ist es schwer, den Bias zu entdecken. Das ist eine große Gefahr.

Einige Professor:innen befürchteten, dass durch ChatGPT schriftliche Arbeiten an Universitäten überflüssig würden, weil Studierende sie nicht mehr selbst schreiben müssten. Zu Recht?
Dann müsste man Studierende Arbeiten jetzt wieder mit Kuli und auf Papier schreiben lassen. Aber das geht heute nicht mehr. Man muss sich darauf einstellen und wird einen Umgang damit finden. Früher oder später wird es auch eine KI geben, die erkennen kann, ob ein Text mit oder ohne Hilfe von KI erstellt wurde.

Wenn es um KI geht, geht es sehr schnell um Fragen des Bewusstseins, um die Vorstellung der Verschmelzung von Mensch und Maschine.
Es geht sehr oft um Science-Fiction, das stimmt, aber das ist alles wahnsinnig weit entfernt. Es gibt tolle Modelle, die schon sehr viel können, aber sie wissen halt immer noch nicht, dass es die Welt gibt. Das ist übrigens auch der Grund, warum selbstfahrende Autos nur bis zu einem gewissen Grad funktionieren. Sobald ein Plastiksackerl auf die Straße fliegt, kennen sie sich einfach nicht mehr aus. Da ist dann finito, weil sie die Welt nicht verstehen.

Es wird also noch dauern, bis es wirklich selbstfahrende Autos gibt?
Das wird noch länger dauern.

Gibt es die Möglichkeit schon, dass künstliche Intelligenz ein eigenes Bewusstsein entwickelt?
Aus meiner Sicht nicht. Auf der NeurIPS (Conference on Neural Information Processing Systems, Anm) ging es zuletzt im Eröffnungsvortrag unter anderem um diese Frage. Wesen mit Bewusstsein merken sich, wie ein Satz aussah, bevor er geändert wurde. Sie haben eine Erinnerung. KI hat das bisher nicht. Vor allem aber hat sie keine Vorstellung von der Welt. Sie weiß nicht, dass es sie gibt. Sie kennt nur Zeichen.

Wo finden dann aktuell die großen Fortschritte in der künstlichen Intelligenz statt?
Dort, wo man nicht hollywoodmäßig auf den Terminator schaut und sich fragt, ob der Mensch in der Evolution nur eine Zwischenstufe ist und es jetzt mit Maschinen weitergeht. Die echten Fortschritte gibt es in der Prozessoptimierung. In der Logistik sind völlig neue Dinge möglich, in der Produktion ebenfalls. Wir haben eine Kooperation mit dem Maschinenbauer Trumpf, der Kameras in seine Maschinen einbringt und so herausfindet, was wirklich noch möglich ist: Sie erkennen schnell, wo Materialien ausgehen, wo Prozesse nicht optimal laufen, wo es Staus gibt. Das wirkt oft klein, aber diese Erkenntnisse erlauben unglaubliche Sprünge in der Effizienz.

Gilt das auch fürs Büro?
Wenn man mit wenigen Schlagwörtern nach den relevanten Gerichtsurteilen oder Fällen suchen kann, weil die Datenbanken intelligent sind, geht das zum Beispiel auch hier. Mit intelligenter Bildersuche wird sich auch vieles ändern. Das alles steht nicht im Zentrum, es ist nicht wahnsinnig sexy, aber da ändert sich viel. Man kann mit gleichem Einsatz von Material und Geldern mittels KI die Produktion steigern, weil die Abläufe und Prozesse effizienter werden.

Welche Unternehmen sind dabei Vorreiter?
Bosch AI macht zum Beispiel sehr viel, die voestalpine hat uns KI-Forscher:innen abgeworben und die OMV und Borealis haben angekündigt, stark auf KI zu setzen. Es tut sich einiges. Österreich ist dabei immer etwas vorsichtiger. Aktuell ist etwa in Amsterdam die Hölle los. Es hat mit Qualcomm angefangen, aber jetzt sind es 150 Unternehmen, die dort die KI-Forschung an der Universität finanzieren, und zwar nach einem völlig anderen Modell, als das noch in Österreich passiert.

Was machen sie in Amsterdam anders?
Unternehmen kommen nicht mit einer konkreten Aufgabenstellung an die Uni, sondern finanzieren die freie Forschung und holen sich dann die Forschenden in die Unternehmen. Das ist ein ganz anderer Zugang. Bei uns evaluieren Unternehmen, was ihnen konkret an Forschung fehlt, und bitten dann die Uni darum. Dabei übersehen sie, dass sie die aktuelle Forschung gar nicht kennen. Welches österreichische Unternehmen hat denn gewusst, dass ChatGPT kommt? Wir haben es gewusst.

Bei uns geht es also zu oft schon um konkrete Anwendungen?
Ja. In Amsterdam gehen Unternehmen zur Uni und sagen: "Forscht mal an Language-Modellen, forscht mal zu Carbon-Capturing, und dann holen wir euch mit euren Ideen zurück." Natürlich läuft da auch viel Geld ins Leere, aber in Amsterdam, in Großbritannien, in Kopenhagen, am AI Center der ETH Zürich oder jetzt im Cyber Valley in Tübingen geht es in diese Richtung. Die Unternehmen erkennen, dass die Forschung viel weiter ist als ihre Entwicklungsabteilungen, weil die technische Entwicklung so viel schneller ist.

Werden Unternehmen für solche Finanzierungen jetzt nicht offener, da sie Absolvent:innen suchen und diese so treffen können?
Es zeigt sich jedenfalls, dass unsere Absolvent:innen in den Unternehmen, in die sie gehen, schnell aufsteigen und dann dort das Interesse an KI steigern. Es tut sich also etwas.

Sepp Hochreiter, 55, zählt zu den führenden KI-Forschern der Welt. Er hat unter anderem Grundsteine des "Deep Learnings" gelegt. Seit 2006 ist er Professor an der Johannes Kepler Universität Linz, wo er auch das Labor für Artificial Intelligence leitet.