Ist KI auf dem Weg zur Superintelligenz? Fortschritte bei der Forschung zu AGI und Alignment

„Was ich eine bemerkenswerte Beobachtung finde, ist, dass alle denken, wenn etwas intelligent ist, ist es so wie der Mensch. Wir sehen, dass wir eigentlich gar nicht so intelligent handeln, sondern es gibt auch viele andere intelligente Wesen außer dem Menschen. Zum Menschsein gehört noch viel mehr dazu. Was uns an AGI so Angst macht, ist auch das Bewusstsein, dass wir eben gerade häufig nicht rational arbeiten. So eine kalte Rationalität, die viel schlauer ist als wir und das konsequent durchzieht, verängstigt uns. Diese Gleichsetzung von Intelligenz mit dem Menschsein, das geht völlig nach hinten los und ist vollkommen unberechtigt.“

„Wir müssen uns auch um den Klimawandel und Energie kümmern. Die KI oder Technik allgemein nimmt schon jetzt circa zehn Prozent des Energiebedarfs der Welt ein. Und das wird viel mehr, vor allen Dingen auch durch KI.“

„Und als zweite Bemerkung: Wir können nicht davon ausgehen, dass irgendeines dieser maschinellen Modelle zu 100 Prozent perfekt ist. Wir müssen immer damit rechnen, dass irgendetwas falsch läuft, dass da irgendetwas von den Ausgaben nicht wirklich verlässlich ist. Also bleibt kritisch, wenn ihr mit der KI redet oder auch wenn ihr Artikel zu dem Thema lest.“

„Ich glaube, wir wollen gar keine KI, die uns in all unseren Schwächen und Stärken reproduzieren kann und gleich ist. Wir wollen KI, die uns hilft, unsere Schwächen zu erkennen und auszugleichen und die uns die Bereiche, in denen wir stark sind, im Wesentlichen weiterhin überlässt. Das ist meine Definition von menschzentrierter KI und die ist kompatibel mit der der Europäischen Union. Das ist eine gute Sache. Deswegen sehe ich die Weiterentwicklung von ChatGPT, was deutlich darauf hinzielt, menschenähnliches Verhalten und Fähigkeiten zu erzeugen, im Grunde genommen als eine Art Sackgasse. Wir sollten uns viel stärker darauf konzentrieren, Systeme zu erzeugen, die uns bei der Bewältigung der Probleme unserer Zeit helfen.“

„Eines dieser Probleme ist natürlich der große Energieverbrauch nicht nur von KI-Systemen, sondern von allen möglichen informationsverarbeitenden Systemen. Da ist die Richtung, die zurzeit verfolgt wird, immer größere Modelle immer aufwendiger zu trainieren, hochgradig problematisch. Ich finde, wir sollten gerade in Europa, aber auch weltweit einen großen Fokus darauf setzen, kleinere Systeme zu bauen, die vielleicht aus kleineren Mengen hochwertigerer Daten bessere Schlüsse ziehen können, aufgrund dieser Daten besser operieren können und uns dabei helfen können, uns den Herausforderungen unserer Zeit zu stellen. Ich würde mir von den Journalistinnen und Journalisten wünschen, dass sie nicht nur die sensationalistischen Meldungen, die aus diesen Großunternehmen kommen, weitertragen und feiern, sondern insbesondere auch Bemühungen, die in diese von mir gerade skizzierte Richtung gehen. Das braucht unsere Gesellschaft und die Menschheit viel dringender.“

„Ich glaube, nach der ganz großen Definition werde ich zu Lebenszeiten AGI nicht mehr sehen. Ich glaube, das wird keiner so schnell sehen. Trotzdem glaube ich daran, dass es momentan ganz wichtige Entwicklungen gibt, die uns helfen werden. Diese Entwicklungen lösen die Probleme nicht allein, sie werden uns aber helfen, viele der Probleme angehen zu können. Zum Beispiel glaube ich, dass es beim Klimawandel kaum jemanden gibt, der den Überblick über all die Disziplinen hat, den wir aber vielleicht brauchen, um hoffentlich doch noch eine Lösung zu finden.“

„Wir brauchen auch nicht zwangsläufig die großen Modelle. Ich möchte aber ein Plädoyer dafür halten, dass wir vielleicht an einer Stelle in Europa einen Ort schaffen, an dem offene Modelle, die in der öffentlichen Hand liegen, gebaut werden können. Auch vielleicht größere. Wie wir das hinkriegen, muss dann die Forschung zeigen. Hoffentlich auch mit einem geringeren Energieverbrauch. Aber trotzdem sollten wir diese Modelle haben. Dann können wir aus den offenen Modellen entweder durch Testen verstehen, wie es funktioniert, aber auch besser geschlossene Modelle ableiten. Denn: Wenn alles offen ist, dann wird die Monetarisierung schwierig. Und ich glaube, wir brauchen Monetarisierung in dem aktuellen Wirtschaftssystem. Wir müssen auch den Blick nicht immer in die USA richten, sondern auch nach Deutschland. Wir haben mit CLAIRE und auch mit ELLIS tolle Initiativen in Deutschland, in Europa, die etwas schaffen. Sie können gerne auch bei uns bei hessian.AI einmal schauen. Auch wir bauen solche Modelle auf und trainieren existierende Modelle weiter, sodass man beispielsweise deutsche Sprachmodelle hat. Und ich glaube, das ist wichtig, damit wir mitreden können.“

„Wir müssen nicht alles mitmachen. Wir sind in der Forschung top. Redet also bitte alle auch mehr mit uns und anderen KI-Forschenden in Deutschland.“