Was passiert, wenn KI sich selbst verbessert?
Anlass
KI-Systeme wie ChatGPT, Claude oder Gemini werden immer leistungsfähiger. Anthropic – der Konzern hinter dem Chatbot Claude – macht nun den nächsten Schritt: Am 19.11.2026 will es als erstes großes KI-Unternehmen an die Börse gehen . In der Registrierungserklärung führt Anthropic mögliche Risiken seiner Produkte auf, die explizit durch das Vorgehen des Konzerns bei der Modellentwicklung verstärkt oder begünstigt werden könnten. Denn Entwickelnde nutzen zunehmend KI-Systeme, um neue Modelle zu bauen oder zu verbessern .
Noch ist KI dabei primär ein Werkzeug, das etwa für das Schreiben von Code eingesetzt wird und so die Arbeit der Entwicklerinnen und Entwickler beschleunigt. Allerdings gibt es schon seit Jahren die Idee, dass KI-Systeme den gesamten Prozess übernehmen: Die Systeme würden dann autonom Modelle entwickeln oder ihre eigene Software in Schleifen optimieren – bis zu dem Punkt, an dem der Fortschritt nur noch durch die Rechenkapazitäten begrenzt ist? Der Ansatz nennt sich „Recursive Self Improvement“ (RSI), also auf sich selbst bezogene Optimierung oder „rekursive Selbstverbesserung“. Der CEO von Anthropic, Dario Amodei, warnte im Sommer explizit vor RSI. Noch ist es nicht so weit, aber: Würde der Punkt erreicht, könnten die neuen Fähigkeiten der Modelle so unvorhersehbar sein und so schnell kommen, dass niemand sich darauf vorbereiten könne . Beispielsweise ist nicht klar, wie und ob sich dem Menschen überlegene KIs an ethische Vorschriften halten würden (Alignment). Und durch KI-Agenten könnten diese Modelle auch in der echten Welt handlungsfähig sein. Andere Tech-Unternehmer stimmten der Warnung zu.
Video und Transkript
Auf unserem Youtube-Kanal können Sie das Video in der Sprecheransicht oder Galerieansicht anschauen.
Das Transkript können Sie hier als PDF herunterladen.
Angaben zu möglichen Interessenkonflikten
„In diesem Zusammenhang keine.“
„Ich habe keine Interessenkonflikte. Ich bin Mitglied des EU AI Act Scientific Panel, welches die Europäische Kommission hinsichtlich systemischer Risiken durch KI-Modelle, deren Evaluation sowie Maßnahmen zur Marktüberwachung berät.“
Alle anderen: Keine Angaben erhalten
Quellen
Weiterführende Recherchequellen
Science Media Center (2026): Verlangsamte KI-Forschung nötig? Statements. Stand: 14.09.2026.
Science Media Center (2026): Kooperation der Bundesregierung mit Nvidia und europäische KI-Souveränität. Statements. Stand: 19.10.2026.
Literaturstellen, die vom SMC zitiert wurden
[] Anthropic (2026): Anthropic’s Initial Public Offering.
Der Zeitplan wird in den FAQs aufgeführt.
[] Amodei D et al. (2026): Amendment No. 2 to Form S-1 Registration Statement. Anthropic.
[] Amodei D (2026): We Must Pace the Frontier. Blogbeitrag.
[] Anthropic (2026): Responsible Scaling Policy Version 3.4. Selbstauferlegte Richtlinien.
Siehe Seiten acht und neun für den Abschnitt zu automatisierter KI-Entwicklung.
Angaben zu möglichen Interessenkonflikten
„In diesem Zusammenhang keine.“
Angaben zu möglichen Interessenkonflikten
„Ich habe keine Interessenkonflikte. Ich bin Mitglied des EU AI Act Scientific Panel, welches die Europäische Kommission hinsichtlich systemischer Risiken durch KI-Modelle, deren Evaluation sowie Maßnahmen zur Marktüberwachung berät.“

