Europäische KI-Regulierung tritt weiter in Kraft

„Die schrittweise Anwendbarkeit ist grundsätzlich zu begrüßen. Sie gibt den Unternehmen auf der einen Seite genug Zeit, sich auf die veränderte Rechtslage einzustellen. Auf der anderen Seite werden aber bestimmte sehr risikoreiche Praktiken zeitnah unterbunden.“

„Mein Eindruck ist, dass bei der KI-Verordnung an manchen Stellen noch Unklarheiten bestehen. Es kann daher nicht durchgehend von einer eindeutigen Regulierung gesprochen werden. Inwieweit die KI-Verordnung umsetzbar ist und eine sichere KI-Landschaft schafft, lässt sich aktuell nur schwer beurteilen. Es fehlen noch die für die Praxis wichtigen Standards für Hochrisiko-KI-Systeme. Ebenso wird das ‚European AI Office‘ noch weitere Leitlinien zum besseren Verständnis veröffentlichen. In diesem komplexen Zusammenspiel ist es für eine abschließende Bewertung aus meiner Sicht aktuell noch zu früh.“

„Ein Teil der Vorgaben der KI-Verordnung ist bereits auf leistungsstarke (Sprach-)Modelle zugeschnitten. Dies betrifft insbesondere das Kapitel zu den Modellen mit allgemeinem Verwendungszweck.“

„Spezialgesetze bergen die Gefahr, dass sie zu eng gefasst sind. Wir sehen zum Beispiel gerade, dass immer mehr und immer bessere agentische KI-Systeme auf den Markt kommen. Aus meiner Sicht wäre nun eine Regulierung oder eine Anpassung der Gesetze nur bedingt hilfreich. Stattdessen könnte es helfen, technologieneutrale Regulierung generell noch weiter zu stärken. Das Datenschutzrecht ist ein Beispiel: Es gilt bisher unabhängig von der verwendeten Technologie. So lässt sich vermeiden, dass der Gesetzgeber immer wieder neu handeln muss.“

„Open-Source-KI-Modelle unterliegen in der KI-Verordnung einem komplexen Zusammenspiel von Ausnahmen und Anforderungen. Insbesondere stehen hierbei die fortschrittlichsten großen KI-Modelle im Fokus, sogenannte ‚KI-Modelle mit allgemeinem Verwendungszweck und systemischem Risiko‘. An diese Gruppe werden sehr weite und umfangreiche Anforderungen gestellt. Für die Open-Source-Community ist das aus meiner Sicht durchaus eine Herausforderung. Es bleibt abzuwarten, ob und wie es ihr gelingt, die Anforderungen sinnvoll und zielgerichtet umzusetzen.“

„Gesetze, die nicht durchgesetzt werden, sind das Papier nicht wert, auf dem sie geschrieben wurden. Das sollte ab dem 2. August 2026 das Motto der europäischen KI-Regulierung sein.“

„Ursprünglich sollten am 2. August 2026 wesentliche Pflichten des AI Act in Kraft treten – von Transparenzpflichten bis hin zu Vorgaben für Hochrisiko-KI. Diese wurden durch den KI-Omnibus [1] teilweise zeitlich nach hinten verschoben. Die wichtigste aktuelle Neuerung bleibt daher der Beginn der Durchsetzungsbefugnisse der Europäischen Kommission gegenüber Anbietern von KI-Modellen mit allgemeinem Verwendungszweck.“

„Das ist von zentraler Bedeutung. Viele leistungsfähige KI-Modelle – etwa von Anthropic, OpenAI oder Mistral – schneiden in Sicherheitstests bislang nur mäßig bis schlecht ab. Das zeigt etwa der neue AI Safety Index aus dem Sommer 2026 [2]. Es bleibt also noch viel zu tun, wenn es darum geht, Sicherheitslücken zu schließen und zu verhindern, dass sich die Risiken dieser Modelle in der Praxis manifestieren. Die jüngsten Vorfälle aus dem Bereich der Cybersicherheit unterstreichen diese Dringlichkeit noch einmal plastisch. Bei diesen Vorfällen ging es etwa um automatisierte Berechnung von Sicherheitslücken und das Eindringen in geschützte Umgebungen.“

„Spannend werden bei der Durchsetzung der Regulierung großer Allzweck-Modelle insbesondere zwei Aspekte. Erstens sollte sich die Kommission nicht nur auf existenzielle Risiken konzentrieren. Sondern sie sollte auch solche in den Blick nehmen, die subtiler wirken und sich in der Breite der Gesellschaft entfalten. Hier ist insbesondere die Gefahr zu nennen, die von Companion-Chatbots (eine Art künstlicher, virtueller Freund; Anm. d. Red.) ausgeht. Diese können durch subtile psychologische Manipulation emotionale Abhängigkeiten fördern und psychische Schwierigkeiten verstärken – bis hin zu suizidalen Tendenzen.“

„Zweitens muss die Kommission ihre neuen Befugnisse auch in einem geopolitisch aufgeladenen Umfeld konsequent durchsetzen. Es geht um die Glaubwürdigkeit der europäischen Regulierung und letztlich um den Schutz fundamentaler Werte und Grundrechte. Auch wenn der amerikanische Präsident oder andere Staaten mit Zöllen oder anderen wirtschaftlichen Gegenmaßnahmen drohen – wie die jüngsten Entwicklungen im Zusammenhang mit der Durchsetzung des Digital Markets Act gezeigt haben –, darf dies keine entscheidende Rolle spielen. Den Schwanz einzuziehen, ist hier keine Lösung. Es zeigt sich zunehmend, dass derjenige in diesem Umfeld besteht, der glaubhaft, konsequent und zielgerichtet die eigenen rechtlichen Grundlagen und gesellschaftlichen Interessen verteidigt.“

„In der Praxis wird es hier zu einem delikaten Balanceakt kommen – gewissermaßen zu Verhandlungen im Schatten möglicher Sanktionen. Einerseits haben viele führende KI-Unternehmen den Code of Practice [3] unterzeichnet und sich damit zu einer systematischen Risikoidentifikation und Risikominderung verpflichtet. Andererseits verfügt die Europäische Kommission nun über weitreichende Durchsetzungsbefugnisse. Sie kann Untersuchungen einleiten, Dokumente anfordern sowie Audits (systematische Prüfungen und Bewertungen; Anm. d. Red.) von KI-Modellen selbst durchführen oder veranlassen.“

„Zeigen sich dabei gravierende Defizite, können erhebliche Sanktionen folgen. Im äußersten Fall führen diese sogar zum Ausschluss eines Modells vom europäischen Markt. Das ist ein scharfes Schwert, das allerdings erst nach einem aufwendigen und rechtsstaatlich ausgestalteten Verfahren zum Einsatz kommen kann.“

„Entscheidend wird daher die Dynamik der Rechtsdurchsetzung sein. Die Kommission muss frühzeitig ansetzen, klare Verpflichtungen und belastbare Nachweise von den KI-Unternehmen einfordern und zugleich deutlich machen, dass unzureichende Maßnahmen tatsächlich Sanktionen nach sich ziehen werden. Sie muss zeigen, dass sie bereit ist, den Instrumentenkasten des AI Act auch in der Praxis konsequent auszuschöpfen. Hierfür werden mehrere Pilotverfahren erforderlich sein. Nur so lässt sich die notwendige Glaubwürdigkeit schaffen, dass die Europäische Union die Verpflichtungen, die sie sich mit dem AI Act selbst auferlegt hat, tatsächlich ernst nimmt und wirksam durchsetzt.“

„Neben den neuen Durchsetzungsbefugnissen treten zum 2. August 2026 auch die Transparenzpflichten des Artikel 50 des AI Act für neu in Verkehr gebrachte KI-Systeme in Kraft. Sie stellen einen wichtigen Schritt dar, auch wenn sie keine perfekte Lösung bieten.“

„Künftig müssen insbesondere KI-generierte oder -manipulierte Bild-, Audio- und Videoinhalte in bestimmten Konstellationen als solche kenntlich gemacht werden. Das erleichtert die Unterscheidung zwischen authentischen und künstlich erzeugten Inhalten und stärkt damit das Vertrauen in digitale Kommunikation. Gerade in Zeiten täuschend echter Deepfakes ist dies ein wichtiger Baustein für den Schutz von Öffentlichkeit, Demokratie und individuellen Rechten.“

„Natürlich werden sich böswillige Akteure kaum freiwillig an diese Pflichten halten. Professionelle Desinformationskampagnen oder kriminelle Netzwerke lassen sich durch Transparenzpflichten allein nicht aufhalten. Gleichwohl schaffen sie einen verbindlichen Rechtsrahmen und eröffnen den Behörden die Möglichkeit, Verstöße zu sanktionieren. Das erinnert ein wenig an Al Capone, der letztlich nicht wegen seiner schwersten Verbrechen, sondern wegen Steuerhinterziehung verurteilt wurde. Auch Transparenzvorschriften werden nicht jedes Missbrauchsproblem lösen. Sie können aber einen wirksamen Hebel darstellen, um gegen rechtswidrige KI-Anwendungen vorzugehen und die Kosten für missbräuchliches Verhalten deutlich zu erhöhen.“

„Die Bewertung des AI Act fällt gemischt aus. Positiv ist: Er lehnt sich an den bewährten EU‑Produktsicherheitsrahmen an und wird schrittweise wirksam – Unternehmen können sich also vorbereiten.“

„Kritisch ist: Zentrale Orientierungshilfen wie Leitlinien, harmonisierte Normen und Praxisleitfäden wurden nicht im angekündigten Zeitplan geliefert. Die bisher veröffentlichten Dokumente sind uneinheitlich in der Qualität. Manche schaffen eher neue Unklarheiten, etwa zur Definition von KI‑Systemen. Das bremst die Umsetzung und kostet Vertrauen.“

„Der Auftritt großer Sprachmodelle Ende 2022 kam für den europäischen Gesetzgeber überraschend. Entsprechend liegt der Schwerpunkt des AI Act noch weniger auf den heute sichtbaren Wertschöpfungsketten und allgemeinen Basismodellen. Der nächste Schritt, der ebenfalls noch nicht hinreichend reflektiert wurde, sind agentische KI-Systeme. Das sind Systeme, die eigenständig Ziele verfolgen und Aktionen koordinieren.“

„Allerdings: Anstatt den AI Act unmittelbar wieder zu ändern, brauchen wir jetzt eine Phase der Konsolidierung. Im Hinblick auf agentische KI etwa sollten wir eher auf spezielle Rechtsbereiche und Branchen schauen – etwa prüfen, ob wir das Vertrags- und Wettbewerbsrecht oder das Bank- und Finanzmarktrecht anpassen müssen.“

„Grundsätzlich gilt: KI ist der neue Normalfall. Deshalb müssen wir bestehende Gesetze KI-tauglich machen, statt den AI Act zu überfrachten.“

„Zu den Transparenz- und Kennzeichnungspflichten nach Artikel 50 des AI Act liegen mittlerweile zwei Konkretisierungen vor: die Leitlinien der Kommission [III] und ein freiwilliger Code of Practice [3], der in verschiedenen Punkten über diese Leitlinien hinausgeht. In der Praxis droht wohl eine überschießende Kennzeichnung, was auch problematisch ist: Wenn nahezu alle Inhalte markiert sind, verliert die Markierung ihren Signalcharakter. Ein Beispiel ist die rein formale Nutzung generativer KI zur Glättung von Grammatik und Stil. Dafür sieht der AI Act an sich keine Pflicht zur maschinenlesbaren Kennzeichnung vor – diese Ausnahme lässt der Code of Practice jedoch unberücksichtigt. Da inzwischen die Mehrzahl der Texte auf diese Weise geglättet wird, besteht die Gefahr, dass faktisch fast jeder Text als KI‑manipuliert gekennzeichnet wird.“

„Speziell zu Deepfakes haben wir in Artikel 50 zusätzlich die Pflicht zur für Menschen sichtbaren Kennzeichnung und seit dem Digital-Omnibus [1] auch noch neue Verbote für bestimmte sexualisierte Inhalte. Letztere haben wohl eher politischen Signalcharakter und dürfen nicht dahingehend missverstanden werden, dass alles, was hier verboten wird, vorher erlaubt gewesen wäre.“

„Die Regulierung von Open‑Source‑Ansätzen im AI Act ist intransparent. Artikel 2 Absatz 12 enthält eine Ausnahmebestimmung, deren praktische Reichweite ohne das mühsame Zusammensetzen verstreuter Detailregeln kaum zu verstehen ist. Offenbar erfasst sie gerade nicht KI‑Modelle mit allgemeinem Verwendungszweck. Hinzu kommt: ‚frei und quelloffen‘ ist nicht belastbar definiert. Es fehlen klare Kriterien, was genau darunterfällt. Für die Praxis bedeutet das Rechtsunsicherheit – sowohl für Entwickler als auch für Anbieter entlang der Wertschöpfungskette.“

„Zuzugeben ist allerdings auch, dass der zentrale Zielkonflikt kaum zu lösen ist: Einerseits will man Open‑Source fördern und teilweise privilegieren, andererseits sind die durch Open‑Source‑Ansätze möglichen Risiken mindestens so groß wie bei proprietären Systemen.“

„Der AI Act hat ohne Frage eine gute Intention. Bis heute ist jedoch unklar, welche Regelungslücke er genau adressieren soll. In der Summe ist der AI Act zu komplex, nicht praktikabel und verhindert daher Innovationen in Europa.“

„Für ein wettbewerbsfähiges Innovationsökosystem müssen wir Digitalregulierung neu denken, harmonisieren, Widersprüche entfernen und von Anfang an eine praxistaugliche Umsetzung priorisieren.“

„Die möglichen Anwendungen dieser Modelle (gemeint sind die allgemein als große Sprachmodelle bekannten KI-Systeme; Anm. d. Red.) sind praktisch unbegrenzt. Evaluationen und sogenannte Red-Team-Tests können Schwachstellen aufzeigen, aber niemals Sicherheit garantieren (Red-Team-Tests: KI-Modelle sollen durch geschickte Anfragen zu gefährlichen Ausgaben gebracht werden, um zu testen, ob sie sich an vorgegebene Regeln halten; Anm. d. Red.).“

„Aufwendige Prüf- und Dokumentationspflichten treffen kleinere Anbieter überproportional, während große Konzerne die Kosten leichter tragen können. Es besteht die Gefahr, dass dadurch Open-Source-Projekte verhindert werden. Außerdem ist fraglich, ob derartige Evaluationen in Anbetracht der kurzen Halbwertszeit neuer Modelle überhaupt Sinn machen. Ich plädiere hier generell auch zu einer gewissen Gelassenheit: Was könnte schon wirklich Dramatisches aufgrund einer fehlerhaften Antwort eines Sprachmodells passieren?“

Auf die Frage, ob die Orientierung an festen Größen- und Leistungszahlen sinnvoll ist, um Sprachmodelle als KI-Systeme mit allgemeinem Verwendungszweck und systemischem Risiko zu klassifizieren:
„Derart starre Grenzen sind aufgrund der Dynamik des Feldes nicht zielführend. Es sind in Zukunft Entwicklungen in zwei unterschiedliche Richtungen denkbar: Die erste ist, dass aufgrund von günstiger werdender Rechenleistung in Zukunft nahezu alle Modelle unter diese Regelung fallen. Die zweite wäre, dass durch den Fortschritt kleiner Modelle und innovativer neuer methodischer Ansätze in Zukunft nahezu keine Modelle mehr unter diese Regelung fallen.“

„Aus regulatorischer Sicht sind Risikostufen, mögliche Schäden sowie Haftungsfragen konkreter KI-Anwendungen deutlich relevanter als eine bestimmte Rechenleistung.“

„Eine maschinenlesbare Kennzeichnung ist technisch grundsätzlich möglich – etwa durch Metadaten oder unsichtbare Wasserzeichen. Sie ist jedoch nicht zuverlässig erzwingbar: Metadaten können beim Kopieren verloren gehen, Wasserzeichen durch Komprimierung, Bearbeitung oder Paraphrasierung entfernt und Kennzeichnungen sogar gefälscht werden.“

„Besonders bei Texten und frei veränderbaren Open-Source-Modellen ist eine dauerhafte Markierung schwierig. Die Kennzeichnung kann daher ein zusätzliches Transparenzinstrument sein, aber keinen belastbaren Herkunfts- oder Echtheitsnachweis garantieren.“

„Der AI Act setzt mit Transparenzpflichten für Trainingsdaten an der richtigen Stelle an, aber die eigentliche Zukunftsfrage bleibt ungelöst: Wer haftet? Ein Basismodell speichert keine auslesbaren Originaldaten. Es lernt Strukturen darüber, wie Daten als Rohstoff verarbeitet werden, und speichert sie nicht wie Bücher in einer Bibliothek. Deshalb muss klar sein: Wer ein Modell gezielt anfragt oder es in ein Produkt integriert, trägt die Verantwortung für das Ergebnis – nicht der Entwickler des Basismodells. Das sollte die Modellentwickler entlasten. Eltern haften ja auch nicht mehr für das Handeln ihrer Kinder, sobald diese volljährig und eigenverantwortlich handlungsfähig sind.“

„Was der Markt jetzt braucht, ist juristische Klarheit beim Urheberrecht und einfache, praxistaugliche Handlungsempfehlungen, die auch kleine Unternehmen ohne Rechtsabteilung verstehen und umsetzen können.“

„Eine unabhängige Prüfinstanz für Frontier-Modelle (die aktuell leistungsfähigsten Allzweck-KI-Modelle; Anm. d. Red.) ist sinnvoll und machbar. Aber sie darf nicht bei den Unternehmen selbst angesiedelt sein, sonst prüft der TÜV sein eigenes Auto.“

„Gerade bei offenen Modellen (Open-Source-Modelle; Anm. d. Red.) ist der Hebel besonders groß: Eine einzige Prüfung kommt potenziell tausenden nachgelagerten Anwendern zugute – auch kleineren Anbietern und Start-ups, die sich eigene Sicherheitsteams gar nicht leisten könnten. Das wäre ein Effizienzgewinn, den es beispielsweise bei individuell zugelassenen Medikamenten so nicht gibt.“

„Wir müssen uns aber von der Vorstellung verabschieden, dass sich ein Sprachmodell wie ein Auto bis zur letzten Schraube nach DIN-Norm zertifizieren ließe. Man kann Wissen und Fähigkeiten in abgesteckten Bereichen testen, aber niemals eine hundertprozentige Garantie für jedes zukünftige Verhalten geben – so wenig wie bei einem heranwachsenden Menschen. Tests dürfen deshalb keine bürokratische Scheinsicherheit erzeugen, sondern müssen als das dienen, was sie sind: eine Abwägungsgrundlage dafür, ob der gesellschaftliche Nutzen eines KI-Systems seine Restrisiken übersteigt. Damit das funktioniert, muss den Prüfgremien auch tatsächlich Zugang zu Rechenleistung und Benchmarks verschafft werden. Sonst bleibt die Prüfpflicht ein Papiertiger.“

„Künstliche Intelligenz (KI) scheint das einzige Technologiefeld zu sein, in dem ‚Size Matters‘ unhinterfragt als Gesetz gilt. Dabei ist das ein Trugschluss. Der AI Act selbst setzt die verbindliche Schwelle für ein ‚systemisches Risiko‘ bei 10²⁵ FLOPs Trainingsrechenleistung an (Floating Point Operations: Maß dafür, wie aufwendig das Training einer KI war; Anm. d. Red.). Die niedrigere Marke von 10²³ FLOPs ist kein Gesetzestext, sondern nur ein Orientierungswert der EU-Kommission dafür, wann ein Modell überhaupt als ‚allgemeiner Verwendungszweck‘ gilt. Diese Unterscheidung wird in der Debatte oft verwischt.“

„Beide Werte sind Hilfskonstrukte: Auch kleinere, hocheffiziente Modelle können erhebliche Fähigkeiten und Risiken bergen, während sehr große Modelle harmlos bleiben können. Macht kann eben auch in den kleinsten Dingen liegen, wie es in der Kinowelt des ‚Herrn der Ringe‘ treffend heißt. Technische Rechengrenzen veralten binnen weniger Jahre, deshalb brauchen wir eine Revisionspflicht statt starrer Zahlen. Schon Alan Turing wies 1947 darauf hin, dass eine unfehlbare Maschine wohl nicht zugleich intelligent sein kann. Pure Parameterzahlen auf dem Papier sind für die Risikobewertung Papiertiger.“

„Bei Bild, Video und Audio ist die unsichtbare Kennzeichnung per Wasserzeichen oder C2PA-Metadaten (die Coalition for Content Provenance and Authenticity (C2PA) stellt einen technischen Standard zur Authentifizierung digitaler Inhalte zur Verfügung; Anm. d. Red.) technisch machbar und längst überfällig. Bei reinem Text stößt die Technik an eine physikalische Grenze: Sprache bietet schlicht nicht genug redundanten ‚Signalraum‘, um ein robustes, unsichtbares Wasserzeichen zuverlässig einzubetten. Genau deshalb ist zumindest die transparente Kennzeichnung der Interaktion selbst so wichtig – und zwar nicht nur zum Schutz der Nutzer, sondern auch zum Schutz der Technologie selbst. Ohne verlässliche Markierung droht das Internet in wenigen Jahren mit unerkannten synthetischen Inhalten zu fluten, mit denen dann die nächste Modellgeneration trainiert wird. Das wäre ein Qualitätsverfall, der sich von Generation zu Generation aufschaukelt. Ähnlich wie bei einem Fotokopierer, der eine Kopie einer Kopie kopiert. Selbst eine freiwillige Kennzeichnung wäre hier besser als keine, weil sie Trainingsdaten-Pipelines überhaupt erst die Chance gibt, synthetische Inhalte zu filtern.“

„Anders als der britische ‚Red Flag Act‘ von 1865, der Automobile aus Angst vor der neuen Technologie jahrzehntelang auf Schrittgeschwindigkeit ausbremste, ist eine flexibel gestaltete Kennzeichnungspflicht kein Innovationshemmnis. Sondern sie ist ein Hygienestandard für ein funktionierendes digitales Ökosystem und damit letztlich auch ein Standortvorteil für Europa.“

„Der AI Act schafft die Möglichkeit unabhängiger Audits (systematische Prüfungen und Bewertungen; Anm. d. Red.). Ob daraus aber mehr wird als ein sehr guter Black-Box-Test, ist noch nicht entschieden. Wie tief Prüfer tatsächlich Einblick in Training, Daten und Alignment (Prozess, bei dem Entwickelnde dafür sorgen wollen, dass KI-Modelle vorgegebene Wertevorstellungen einhalten; Anm. d. Red.) erhalten, wird sich erst in der Umsetzung zeigen.“

„Unabhängige Audits sind aufwendig und können Risiken besser sichtbar machen. Ihre tatsächliche Aussagekraft hängt jedoch davon ab, wie umfassend der Zugang zu den Informationen über die KI-Systeme im Einzelfall ist und wie dieser zwischen Interessen am Schutz von Geschäftsgeheimnissen und dem Interesse an wirksamer Kontrolle ausgestaltet wird. Absolute Sicherheit können sie aber nicht garantieren.“

„Technisch sind maschinenlesbare Kennzeichnungen grundsätzlich umsetzbar und können Metadaten und Herkunftsnachweise digital im KI-generierten Inhalt verstecken. Der AI Act verlangt sie nicht für jede KI-gestützte Bearbeitung: Reine Rechtschreibkorrekturen oder andere standardmäßige Hilfsfunktionen sind ausgenommen, wenn sie Inhalt und Bedeutung nicht wesentlich verändern.“

„Solche Markierungen können helfen, die Herkunft von Inhalten nachvollziehbarer zu machen. Sie dürfen uns aber nicht in falscher Sicherheit wiegen: Gerade Akteure, die KI gezielt für Täuschung oder Manipulation einsetzen, werden Kennzeichnungen weglassen oder entfernen. Zudem können Markierungen bei der Bearbeitung und Weiterverbreitung verloren gehen. Sie sind deshalb ein nützliches Transparenzinstrument, aber kein verlässlicher Echtheitsbeweis.“

„Die Zielsetzung des AI Act ist sicherlich sinnvoll, aber: Es ist schwierig, eine gute Balance zwischen der Minimierung von Risiken auf der einen Seite und Innovation in der KI-Entwicklung und -Anwendung in Europa auf der anderen Seite zu erzielen. Ich denke nicht, dass diesbezüglich die aktuelle Fassung des AI Act schon das letzte Wort sein kann oder sollte, aber ich halte sie für einen hilfreichen ersten Schritt.“

„Jetzt kommt es sehr auf die Details der Umsetzung an. Hier hoffe ich sehr auf einen pragmatischen Ansatz, der Gelegenheit zur schnellen Nachbesserung schafft.“

„Eine kritische Evaluierung von KI-Systemen mit allgemeinem Verwendungszweck wie ChatGPT oder Claude durch Experten halte ich für durchaus sinnvoll. Obwohl ich nicht davon ausgehe, dass man damit letztendlich die Sicherheit oder Zuverlässigkeit von KI-Systemen wie etwa großen Sprachmodellen vollständig garantieren kann.“

„Hierzu bräuchte es zusätzlich automatisierte Test- und Zertifizierungsverfahren, die weitestgehend noch entwickelt werden müssten. Dennoch sehe ich in einer Evaluierung durch Experten einen sinnvollen ersten Schritt – solange sichergestellt werden kann, dass die Experten auch wirklich solche sind und zur Evaluierung hinreichende Ressourcen zur Verfügung gestellt werden.“

„Selbstverständlich wäre es aber zutiefst problematisch, wenn wir uns zukünftig damit begnügen würden, Weltmeister im Testen und Zertifizieren von KI-Modellen zu sein, die wir selbst nicht bauen können.“

„Ich gehe davon aus, dass diese Zahlen für die absehbare Zukunft relativ häufig angepasst werden müssten – wie auch immer sie gewählt werden. Die derzeit verwendeten Zahlen zur Modellgröße und Trainingsrechenbedarf scheinen mir relativ niedrig gewählt zu sein.“

„Letztendlich finde ich den Versuch einer Charakterisierung von KI-Modellen mit allgemeinem Verwendungszweck durch diese Kennzahlen problematisch. Aus meiner Sicht kommt es mehr auf die objektiv messbare Leistungsfähigkeit an als auf die Komplexität des Modells oder des Trainingsvorgangs. Hier gibt es durchaus etablierte Ansätze durch standardisierte Evaluierungen, sogenanntes Benchmarking.“

„Eine Verpflichtung zur Kennzeichnung von KI-generierten Inhalten halte ich für äußerst sinnvoll. Auch wenn sie technisch nicht leicht umsetzbar sein dürfte – zumindest, wenn man sicherstellen möchte, dass diese Kennzeichnung tatsächlich nicht entfernbar ist.“

„Wichtig ist es aus meiner Sicht, Anbieter zu dieser Art von Kennzeichnung zu verpflichten. Damit schafft man auch einen Ansporn, technische Lösungen zur Umsetzung zu verbessern und zumindest die fahrlässige oder absichtlich schädliche Verwendung von KI-generierten Inhalten durch technisch wenig versierte Akteure einzudämmen.“