Wie verändert künstliche Intelligenz Cybersicherheit?

Anfang der Woche hat das Bundeskriminalamt (BKA) sein Bundeslagebild Cybersicherheit 2025 vorgestellt [III]. Danach nähmen besonders schwere Cyberdelikte zu. Trotzdem kommt das Bundesamt für Sicherheit in der Informationstechnik (BSI) in einer Befragung zur Cybersicherheit 2026 zu dem Ergebnis, dass viele Menschen sich eher selten mit dem Thema beschäftigen [IV]. Das BKA betont die Rolle von KI-Systemen – als Risiko, aber auch als Chance für mehr Sicherheit. In einem offenen Brief warnen Forschende, Europa sei nicht ausreichend auf KI-Cyberangriffe vorbereitet [V]. Sie schlagen darin eine „European Grand Challenge“ vor, in deren Rahmen Industrie und Forschung zusammen herausfinden sollen, wozu KI in der Lage ist und wie IT-Infrastruktur gegen Angriffe geschützt werden kann. Aber auch die KI-Modelle an sich können sicherer gemacht werden, etwa indem sie Anfragen nach Cyberangriffsplänen systematisch ablehnen. Ein weiteres Sicherheitsrisiko könnten agentische KI-Systeme sein, denn sie haben Zugriff auf verschiedenste IT-Anwendungen. Wird ein Agentensystem gehackt oder ausgenutzt, könnten dadurch alle vernetzten Programme betroffen sein.

Um sich der Thematik anzunehmen, hat das Science Media Center Germany ein Press Briefing mit Forschern aus den Gebieten KI und Cybersicherheit veranstaltet.