Neue EU-Regulierung für ChatGPT wirft Fragen auf

„Die Entscheidung der EU-Kommission selbst ist bislang nicht veröffentlicht. Die vorliegende Pressemitteilung beschränkt sich auf die knappe Ausführung, ChatGPT sei ein hybrider Dienst (Hybrid Service) mit Interaktions- und Suchfunktionen. Das erlaubt eine Einordnung als sehr große Online-Suchmaschine im Sinne des Digital Services Act (DSA).“

„Dies vorangestellt, passt der DSA im Ausgangspunkt gut. Er zielt darauf, ein sicheres, vorhersehbares und vertrauenswürdiges Online-Umfeld zu gewährleisten. Damit umfasst er die genutzten Online-Dienste in ihrer ganzen Breite. Allerdings wurde er für Dienste konstruiert, die fremde Inhalte verbreiten und diesen eine Plattform bieten – sogenannte Vermittlungs- beziehungsweise Hosting-Dienste. Schon klassische Online-Suchmaschinen stellen in seiner Logik einen Sonderfall dar, auf generativer künstlicher Intelligenz (KI) basierende Chatbots erst recht, weil sie durchaus auch eigene Inhalte erstellen. Einige der DSA-Vorschriften passen daher nicht perfekt.“

„Weitet man den Blick, stellen sich zudem Abgrenzungsprobleme zwischen DSA und KI-Verordnung, für die im Sinne der Rechtssicherheit und des effektiven Grundrechtsschutzes praktikable Lösungen gefunden werden müssen. Bestenfalls können sich beide Rechtsakte dann ergänzen – etwa indem die KI-Verordnung Risiken auf Ebene des KI-Modells adressiert, während der DSA auch den auf einem solchen Modell basierenden Dienst in seiner tatsächlichen Nutzung in den Blick nimmt.“

„Um als ‚sehr groß‘ eingestuft zu werden, muss ChatGPT 45 Millionen Nutzerinnen und Nutzer in der Europäischen Union (EU) hinter sich versammeln – diese quantitative Hürde überspringt der Dienst spielend. Fraglich ist allein die Einordnung als Suchmaschine in der Sache. Zwar folgen Chatbots wie ChatGPT, die auf generativer KI basieren, bei der Antwortgenerierung unterschiedlichen Logiken und weisen längst nicht alle verarbeiteten Informationen mit Quellennachweis und Link aus. Sofern sie aber – wie ChatGPT – in unterschiedlichen Entwicklungsstadien und Aktualisierungszyklen das World Wide Web durchforsten und die dortigen Informationen in ihren Antworten verarbeiten, kann man sie insoweit als eine Art Suchmaschine bezeichnen.“

„Indem die Kommission den Dienst als ‚hybrid‘ bezeichnet, verdeutlicht sie die Kategorisierungsschwierigkeiten, denen sie dabei unterlegen haben dürfte.“

„Ihre Einordnung erscheint aber jedenfalls vertretbar, zumal viele Nutzerinnen und Nutzer KI-Chatprogramme wie ChatGPT als Suchmaschinen verwenden. Der Entscheidung dürfte eine funktionale Auslegung zugrunde liegen, und diese kann den Wortlaut des DSA für sich ins Feld führen: Er regelt ausdrücklich, dass Online-Suchmaschinen ihre Ergebnisse ‚in einem beliebigen Format‘ anzeigen dürfen, ist also nicht formatgebunden. Es ist also damit zu rechnen, dass weitere Chatbots mit vergleichbaren Suchfunktionen folgen werden, sobald sie die Nutzerschwelle überschreiten.“

„Die systemischen Risiken, denen der DSA entgegenwirken will, können sich sowohl aus der Konzeption als auch aus dem Betrieb eines Dienstes ergeben. Die Überprüfung wird sich dabei von derjenigen bei Online-Plattformen und klassischen Online-Suchmaschinen wie Google, Bing oder DuckDuckGo unterscheiden. Die Entwickler von auf generativer KI basierenden Chatbots arbeiten etwa selbst mit Experimenten unter Laborbedingungen, um das Verhalten ihrer Dienste zu erproben.“

„Ebenso sollte aber das tatsächliche Nutzungsverhalten in der EU in den Blick genommen werden. Kommt OpenAI seinen Verpflichtungen innerhalb der kommenden vier Monate nicht nach, wird kein Automatismus aktiviert. Die Kommission kann dann ein förmliches Verfahren eröffnen, Auskünfte einholen, Verpflichtungszusagen anregen und notfalls Bußgelder und Zwangsgelder verhängen.“

„Wie weitgehend der Forschungsdatenzugang nach Artikel 40 des DSA in Bezug auf ChatGPT ausfallen wird, hängt maßgeblich davon ab, wie weit der Kreis legitimerweise zu erfragender Daten vom Europäischen Gerichtshof (EuGH) gezogen wird. Und davon, wie restriktiv Anträge auf Datenzugang von den nationalen DSA-Behörden behandelt werden.“

„Bei seiner Interpretation des Artikel 40 des DSA wird der EuGH den Anwendungsbereich der Norm bestimmen und dabei eine Abwägung zwischen den legitimen Interessen an Zugang und an Vertraulichkeit entsprechender Daten vornehmen müssen. Ob das beispielsweise den Bestand der Trainingsdaten, den Programmiercode oder Daten über das Nutzungsverhalten in der EU einschließt, harrt noch der Klärung.“