Moderatorin[00:00:00] Herzlich willkommen, liebe Journalistinnen und Journalisten, hier zum Press Briefing des Science Media Center zum Stand der Forschung der Robotik in Deutschland und Europa. Mein Name ist Samantha Hofmann. Ich bin Redakteurin für Digitales und Technologie hier beim Science Media Center. Mit mir hier sind heute zwei Expertinnen und zwei Experten zum Thema Robotik. Ich stelle sie gleich noch genauer vor, aber erst gibt es noch einige organisatorische Dinge zu klären. Erstmal zu den Fragen, die Sie, liebe Journalistinnen und Journalisten, bitte in hoher Zahl stellen über das Frage-&-Antwort-Tool in Zoom. Stellen Sie die Fragen bitte ausschließlich darüber. Ein Kollege von mir sammelt sie, und ich stelle sie dann hier im Gespräch an unsere Expertinnen und Experten. Nutzen Sie bitte nicht den Zoom-Chat, sondern ausschließlich das Frage-&-Antwort-Tool. Das macht es für uns einfach übersichtlicher. Außerdem kann man in dem Frage-&-Antwort-Tool Fragen mit einem Daumen nach oben bewerten. Machen Sie das bitte auch zahlreich. So können wir sehen, welche Fragen für sie besonders relevant sind, und stellen diese dann gegebenenfalls priorisiert. Wir zeichnen dieses Meeting auf. Das bedeutet, dass Sie nichts mitschneiden müssen. Wir stellen nach Ende so schnell wie möglich ein Transkript sowie eine Audio- und Videodatei zur Verfügung, die Sie dann gerne für Ihre Berichterstattung nutzen können. Das waren die organisatorischen Dinge, jetzt zum Thema. Vor einigen Wochen hat China auf dem Neujahrsfest gezeigt, was sie alles können bei der Robotik. Humanoide Roboter, die sich fließend bewegen und Kampfsportübungen ausführen, die fast menschlich wirken. Das sah beeindruckend aus. Was wir da gesehen haben, ist aber vielleicht gar nicht unbedingt der Knackpunkt in der Robotikforschung aktuell. Dazu aber später bestimmt mehr. Denn auch in Deutschland wird an Robotern geforscht. Wissenschaftlerinnen und Wissenschaftler tauschen sich kommende Woche in Köln auf der deutschen Robotikkonferenz zu ihrer Forschung aus und zeigen, was ihre Roboter alles können. Das haben wir dann zum Anlass genommen, uns vorher schon mit diesem Thema zu beschäftigen in diesem Press Briefing. Heute wollen wir uns auch austauschen zum Stand der Forschung der Robotik. Dafür bin ich natürlich nicht alleine hier, sondern mit zwei Expertinnen und zwei Experten zum Thema. Das ist erstmal Herr Tamim Asfour, Professor für humanoide Robotiksysteme und Leiter des Lehrstuhls hochperformante humanoide Technologien am KIT, oliver Brock, Professor am Robotics und Biology Laboratory der TU Berlin, Angela Schöllig, Professorin für Robotik und künstliche Intelligenz an der TUM und Stefanie Speidel, Professorin für translationale chirurgische Onkologie am Nationalen Centrum für Tumorerkrankungen Dresden. Vielen Dank, dass Sie sich heute alle die Zeit für unsere Fragen nehmen. Deswegen fangen wir direkt auch an. Unser Zeitplan ist straff. Ich würde gerne mit Ihnen anfangen, Herr Asfour. Welche Rolle sollen autonome Roboter in Zukunft in unserem Alltag spielen? Welche Einsatzgebiete und Aufgaben stellt man sich so grundsätzlich vor?
Tamim Asfour[00:02:38] Vielen Dank. Ich meine, Robotik ist eine der Schlüsseltechnologien, die wir, die die Gesellschaft momentan braucht. Wir haben zwei Probleme, meiner Meinung nach nicht nur in Deutschland, nicht nur Europa, sondern global. Einmal demografischer Wandel und einmal Arbeitskräftemangel. Und ich bin der Überzeugung, dass intelligente Automatisierung in Form von KI-basierter Robotik eine der Lösungen ist. Das sind aus meiner persönlichen Sicht die wichtigsten Anwendungsgebiete der Robotik. Aber die Robotik ist mehr als das: in der Produktion, in der Landwirtschaft, in der Laborautomatisierung, aber auch im Bereich der Verteidigung und der Sicherheit, um das nur knapp hier zu erwähnen oder zu beschreiben.
Moderatorin[00:03:41] Das bedeutet, Roboter werden in Zukunft vermutlich irgendwann in unser aller Alltag einziehen, aber eben auch in größeren Bereichen eingesetzt werden.
Tamim Asfour[00:03:51] Genau. Also ich denke vor dem demografischen Wandel, dass die Roboter, die uns im Alltag unterstützen, zu einem längeren, selbstbestimmten Leben von Menschen beitragen können. Ich denke, dass diese Roboter Pflegepersonal unterstützen. Ich denke, dass diese Roboter in vielseitigen Bereichen oder in unterschiedlichen Anwendungen, in denen Routine, repetitive Aufgaben immer wieder gemacht werden, also dirty, dangerous, difficult Jobs, dass diese Roboter solche Aufgaben übernehmen werden und müssen, damit Menschen meaningful Jobs bekommen.
Moderatorin[00:04:34] Danke schön. Wir werden heute über autonome und weniger autonome Roboter sprechen. Wir beginnen erstmal mit den autonomen, mit einer Frage an sie, Frau Schöllig. Was können autonome Roboter denn bisher schon alles? Und an welchen Knackpunkten arbeitet die Forschung gerade?
Angela Schoellig[00:04:51] Danke. Was wichtig ist zu wissen, ist, dass das Leben, so wie wir es jetzt haben, ohne Robotik schon gar nicht mehr stattfinden würde. Nur wir sehen sie nicht tagtäglich. Sie bauen schon unsere Autos, sie sorgen schon dafür, dass unser Amazon-Paket in einem Tag ankommt. Amazon hat über eine Million Roboter in ihren Warenhäusern. Das heißt, die Robotik heute hat schon das Leben verändert, und da großteils sind es autonome Roboter. Der Unterschied ist nur, dass die Umgebungen so voraussehbar und so planbar sind, dass wir sie, die Roboter, vorprogrammieren können. Und einen ganz großen Schritt, den wir brauchen und aber auch jetzt sehen, ist, wenn wir KI-basierte und datenbasierte Methoden einsetzen, dass die Roboter aus diesen Warenlagern und Produktionshallen herauskommen und in Umgebungen agieren können, die komplexer sind und schwerer für Roboter zu verstehen. Ich glaube, da wird KI-basierte Robotik oder man kann es auch intelligente Robotik oder embodied AI nennen, einen großen Fortschritt machen. Sodass wir Roboter in unseren Umgebungen sehen werden, in Anwendungsfällen, die Tamim Asfour beschrieben hat.
Moderatorin[00:06:08] Können Sie vielleicht doch mal ganz kurz in zwei, drei Sätzen sagen, welche Abstufungen von Autonomie es gibt, also von Maschinen, die einfach das tun, was ihnen vorprogrammiert wurde, zu halbautonom und vollautonom?
Angela Schoellig[00:06:22] Genau, also also vielleicht sollte man auch sagen: Hinter jedem Roboter steht ein Operator. Wenn wir sagen, er ist autonom, heißt das, dass er eben eine Aufgabe komplett selbstständig ausführt und das ohne Intervention. Und halbautonom, das ist wirklich ein gradueller Übergang, wenn wir jetzt zum Beispiel die Waymo selbstfahrenden Autos sehen, die fahren autonom, dort sind aber immer noch viele Operators im Hintergrund, die sich einschalten können, wenn das Auto in eine Situation kommt, in der es selbst nicht mehr entscheiden kann. Und das wird auch erforscht, zu sagen, es bringt uns schon sehr viel, wenn wir von weiter weg einen Roboter teleoperation oder remote controllen können. Das kann für Operationen helfen, das kann aber auch vielleicht für Unterstützung im Haushalt helfen, wo ich dann die Person, die hilft, nicht mehr vor Ort haben muss, sondern ein Roboter das physisch ausführt.
Moderatorin[00:07:27] Dankeschön. Ich würd gerne weitermachen mit Ihnen, Frau Speidel. Und zwar mit einem anderen Anwendungsgebiet. Sie sind Klinikerin. Roboter in der Klinik, die werden jetzt bereits auch schon eingesetzt. In welchen Anwendungen werden sie da denn primär genutzt und welche Einsatzbereiche und Fähigkeiten werden in den kommenden Jahren wahrscheinlich hinzukommen?
Stefanie Speidel[00:07:46] Vielen Dank. Vielleicht zur Klarstellung: Ich bin keine Klinikerin, ich arbeite aber an dieser Schnittstelle zwischen der Klinik und der Informatik und den Ingenieurswissenschaften. Wenn wir uns heute anschauen, haben wir schon Roboter im OP. Letztendlich nennt man das ganze roboterassistierte Chirurgie, aber letztendlich sind das keine autonomen Systeme. Die werden vom Chirurg oder der Chirurgin gesteuert, sind Telemanipulatoren, also sehr gute mechanische Instrumente. Jetzt haben wir aber unterschiedliche Herausforderungen. Personalmangel wurde schon erwähnt, insbesondere in der Chirurgie. Dann sind postoperative Komplikationen die dritthäufigste Todesursache weltweit und ein Großteil davon lässt sich auch auf chirurgische Fehler zurückführen. Und je erfahrener ein OP-Team ist, desto besser ist natürlich auch das Outcome für den Patienten. Das heißt, die Herausforderung ist eigentlich: Wie können wir diese Erfahrung quantifizieren und auf eine Maschine übertragen? Also es geht jetzt nicht darum, den Chirurg oder die Chirurgin zu ersetzen, sondern eine optimale Mensch-Maschine-Interaktion zu ermöglichen. Das kann angefangen bei KI-gestützter Assistenz während der Operation, die beispielsweise anzeigt, wo finden sich der Tumor oder die Risikostrukturen. Das kann sich um Teileautomatisierung von bestimmten Schritten handeln, also Knoten oder Nähen. Das kann Qualitätssicherung sein, also die Bewertung, wie gut wurde ein bestimmter Eingriff durchgeführt, wie hoch ist das Risiko für Komplikationen, bis hin zu telechirurgischen Anwendungen. Das heißt, wie können wir einen Experten oder eine Expertin dazuschalten, der oder die dann bestimmte komplexe Phasen der OP übernimmt, bis hin zu bestimmten autonomen Phasen? Das heißt, damit sind auch neue Paradigmen möglich. Eine Ein-Person-OP etwa. Das heißt, wir sparen Personal ein. Die OP kann in Echtzeit adaptiert und bestimmte Handlungsempfehlungen gegeben werden. Also letztendlich geht's darum, das System muss verstehen, was passiert und dann aktiv handeln mit dem Chirurgen oder der Chirurgin zusammen, um die Sicherheit und die Genauigkeit und letztendlich auch die Qualität zu erhöhen.
Moderatorin[00:10:07] Und Telemedizin bedeutet, ich brauche gar nicht unbedingt einen Chirurgen oder eine Chirurgin vor Ort, die die Operation die ganze Zeit durchführt, sondern die quasi auch von woanders zugeschaltet sein kann und im kritischen Moment einsteigt, wenn irgendwas passiert.
Stefanie Speidel[00:10:20] Genau. Beispielsweise auch wichtig in ländlichen Gebieten, wo man eben nicht so viele Experten und Expertinnen direkt vor Ort hat. Die können dann eben nicht für die ganze OP, sondern eben für kritische Phasen hinzugeschaltet werden.
Moderatorin[00:10:34] Okay, Dankeschön. Herr Brock, jetzt kommt Ihre Frage, ein bisschen ein anderes Thema, und zwar: Wie stehen Deutschland und Europa im internationalen Vergleich da? Man hört ganz viel aus China und den USA. Können wir da mithalten?
Oliver Brock[00:10:49] Das ist natürlich jetzt eine sehr weit gefasste Frage. Die einfache Antwort ist: natürlich. Also es gibt in Deutschland absolute Spitzenforschung, die auch exportiert wird in andere Länder. Natürlich geht die Frage auch um das gesamte Ökosystem. Also, wenn wir das deutsche und das europäische Ökosystem mit dem in China und den USA vergleichen, dann stellt sich schon die Frage, ob die gleichen seriösen Investitionen in dieses Thema getätigt werden, wie das in konkurrierenden Wissenschaftsstandorten der Fall ist. Und ich glaube, dass sich Deutschland da redlich bemüht, aber dass der Vergleich zu anderen Ländern, wenn man sich die Zahlen anguckt, für uns sehr nachteilhaft ausfällt.
Moderatorin[00:11:38] Fallen Ihnen da spontan konkrete Handlungsanweisungen ein an Gesellschaft, Politik, private Investoren, wie man das ändern könnte?
Oliver Brock[00:11:48] Ich glaube, dass man sich in Deutschland entscheiden muss, was man glaubt, was wirklich die Zukunftstechnologien sind. Und aus meiner Sicht gehört Robotik da klar dazu. Die KI-geführte Robotik wird sicherlich darüber bestimmen, wie wirtschaftlich mächtig eine Nation oder eine Region sein kann, wie sozialverträglich der Shift in der Altersstruktur der Gesellschaft sein kann. Und da muss man sich eben entscheiden, ob man da investieren möchte oder nicht oder ob man diese Technologien dann irgendwann aus anderen Ländern, die einem vielleicht politisch nicht so sympathisch sind, importieren möchte.
Moderatorin[00:12:38] Okay, vielen Dank. Wir haben jetzt auch schon Journalist:innenfragen reinbekommen, und zwar eine zum Roboter Figure 3. Vielleicht gerne an Sie, Herr Asfour. Der kann jetzt schon eine Spülmaschine ausräumen und angeblich wie ein Mensch handeln. In welchem Maß ist das schon autonome Haushaltshilfe?
Tamim Asfour[00:12:57] Das sind natürlich beachtliche Fortschritte, die man in letzter Zeit gemacht hat auf dem Gebiet. Nicht nur Figure 3, sondern auch unsere Roboter hier in Karlsruhe, die wir seit 20 Jahren auch entwickeln, die auch Geschirrspülmaschinen beräumen und Getränke aus dem Kühlschrank holen. Wir testen sie diese Woche auch in einem Seniorenheim hier bei uns in Karlsruhe. Und ich kann von unserer eigenen Forschung entwickeln, dass Teile von diesen Fähigkeiten, was die Roboter tatsächlich ausführen, wie Objekte erkennen, Objekte greifen, Türen aufmachen, das sind voll autonome Fähigkeiten, die unsere Roboter hier in Deutschland ausführen. Aber natürlich, das ist nicht die komplette Autonomie, die man braucht, damit der Roboter rund um die Uhr solche Tätigkeiten im Haushalt oder in einem Seniorenheim durchführt. Küchen- oder Haushaltsumgebungen haben sich so zu einem Benchmark für Robotik entwickelt in den vergangenen Jahren. Und was wir gesehen haben von Figure AI sind auch Fortschritte in diese Richtung. Also wo die Systeme mithilfe, so zumindest wird in YouTube-Videos, nicht in wissenschaftlichen Publikationen berichtet, dass diese Roboter dann mithilfe von KI-Methoden jetzt alle diese Probleme erledigen. Schon ein Fortschritt in die Richtung, aber wir sind noch weit davon entfernt, dass wir den komplett autonomen Haushaltsroboter oder Pflegeroboter haben. Also die Roboter können bestimmte Teilfähigkeiten sehr gut machen. Aber, dass sie wirklich Situationen immer komplett verstehen, Intentionen des Menschen und auch ethisch handeln, auch sich anpassen an Bedürfnisse und Gewohnheiten und Fähigkeiten des Menschen, wenn es um ältere oder Menschen mit Behinderungen geht, die unterstützt werden sollen. Da ist die Forschung noch sehr...
Moderatorin[00:15:18] Da fehlen auf jeden Fall noch Fähigkeiten.
Tamim Asfour[00:15:20] Genau, da sind wir... Genau.
Moderatorin[00:15:22] Eine Frage, die sich ein bisschen daran anschließt, Frau Schöllig. Ich hatte eben schon das chinesische Neujahrsfest erwähnt und die humanoiden Roboter, die da diese Bewegungsabläufe gemacht haben. Das sah für uns Laien auf jeden Fall beeindruckend aus, aber ich glaube, für Forschende war das gar nicht so beeindruckend. Wieso vielleicht nicht? Und was hätten die zeigen müssen, dass sie wirklich beeindruckt hätte?
Angela Schoellig[00:15:44] Ich würde sagen, das war für Forschende auch sehr beeindruckend. Es war sehr beeindruckend, dass sie auch mit der Anzahl von Robotern das praktisch auf die Bühne gebracht haben. Das heißt, es muss schon sehr verlässlich funktionieren und das ist eine Kombination von Hardware und Software. Und ich glaube, das war schon sehr beeindruckend. Umgekehrt kann man diese Fähigkeiten, wenn man gute Simulation des einzelnen Roboters hat, praktisch in der Simulation trainieren und testen und auch über Ansätze wie Reinforcement Learning eben dem Roboter beibringen. Das ist viel komplexer, wenn Roboter mit der Umgebung interagieren sollen, weil wir komplexe Situationen oft nicht gut in Simulation abbilden können. Aber auch Dinge wie: Wie fühlt es sich für den Roboter an, wenn ich etwas greife? Also diese Interaktion mit der Umgebung, das ist eben das Schwierige und das haben wir sehr limitiert gesehen in diesen chinesischen Shows oder allgemein. Und ich glaube, das ist der große nächste Schritt.
Moderatorin[00:16:55] Sie haben gerade schon das Reinforcement Learning angesprochen. Da geht es darum, dass Roboter quasi etwas ausprobieren, mehr oder weniger, und dann dafür belohnt beziehungsweise bestraft werden. Und das ist auch was, das man von aktuellen Sprachmodellen zum Beispiel kennt. Herr Brock, wie verändert denn KI die Robotik konkret und sind Sprachmodelle da ein wichtiger Punkt bei?
Moderatorin[00:17:17] Die KI und die Robotik, die waren in der Geschichte der Wissenschaft mal zusammen, dann sind sie wieder auseinander, jetzt kommen sie wieder zusammen. Also das sind schon zwei sehr verwandte Wissenschaften. Es geht in der KI und in der Robotik darum, im Grunde genommen menschliche Fähigkeiten auf Maschinen zu übertragen. Und bei KI könnte man sagen, das ist so ein bisschen eher der intellektuelle Teil und bei Robotik könnte man sagen, das ist so der körperliche Teil. Aber wie sich herausstellt, ist das, was wir beim Menschen als intellektuell bezeichnen, viel einfacher auf Maschinen zu übertragen als der körperliche Teil. Also diese beiden Disziplinen ergänzen sich sehr gut. Und natürlich ist es momentan so, dass die KI sehr stark vom maschinellen Lernen und den Large Language Models und dem tiefen Lernen dominiert wird. Das ist auch eine Schlüsseltechnologie, die bleiben wird, die in der Robotik viele Dinge bewegt hat und viele Fortschritte ermöglicht hat. Die Frage ist, ob das jetzt sozusagen die letzte Technologie ist, die wir erfinden müssen, um künstliche Intelligenz und KI-gestützte Robotik zu lösen. Und da, glaube ich, sind wir weit davon entfernt. Das ist eine Technologie, von der wir momentan sehr begeistert sind und in die sehr viele Ressourcen gesteckt werden, also sowohl finanzielle als auch die Zeit von Forschern und von Firmen. Aber ich glaube, dass viele weitere bahnbrechende Technologien kommen werden, die erforderlich sind, wirklich diese Ziele zu erreichen. Die Large Language Models sind momentan besonders relevant als Interface, weil sie eben so ungewöhnlich gut darin sind, natürliche Sprache zu verarbeiten und zu erzeugen. Aber das heißt noch nicht, dass diese Fähigkeit auch übertragen werden kann in die Fähigkeit, dass ein Roboter mit seiner Umwelt interagiert. Ich glaube, da gibt es noch eine Lücke und die zu schließen wird schwierig, ohne eine neue, weitere Technologie zu entdecken.
Moderatorin[00:19:29] Okay, da haben wir jetzt noch eine konkrete Nachfrage zu. Wenn möglich, dann können Sie die gerne kurz beantworten, weil danach habe ich eine Frage an Frau Speidel. Die Frage jetzt erstmal ist, in einigen Studien wurde getestet, was passiert, wenn LLMs Roboter steuern und die Ergebnisse sind da tendenziell eher beunruhigend. Von was für KI sprechen wir also und was ist da zukunftsweisend?
Oliver Brock[00:19:48] Ich weiß natürlich jetzt nicht genau, von welcher Studie hier geredet wird und was unter beunruhigend verstanden wird. Wir selbst betreiben Forschungen, indem wir Large Language Models mechanische Puzzles lösen lassen, also Probleme, die fundamental schwieriger sind als die, auf denen die Large Language Models momentan getestet werden. Und dort wird sehr schnell ersichtlich, dass es fundamentale Beschränkungen gibt, die sich auch über die Entwicklung der verschiedenen Modelle nicht verbessert haben. Zum Beispiel ist es so, dass letztendlich die Large Language Models nicht lernen. Also, selbst wenn sie in einer Situation eine Erfahrung bereits einmal gemacht haben, sind sie in der Lage zu ignorieren, dass das schon mal fehlgeschlagen ist und versuchen es immer wieder. Also das ist so eine Art Dickköpfigkeit. Dann haben wir beobachtet, dass es eine Art Logorrhoe bei bestimmten von diesen LLMs gibt. Also, wenn die mit Problemen konfrontiert werden, die irgendwie ihre Fähigkeiten übersteigen, fangen die an, einfach daher zu plaudern. Sätze, die überhaupt nicht mehr aufhören und keinen Sinn ergeben. Also irgendwie gibt es da Dinge, die wir nicht verstehen, weil wir verstehen auch nicht, wie die wirklich funktionieren. Das ist ein bisschen beunruhigend, also dass es da so komische Fehlermodi gibt, die wir nicht nachvollziehen können. Aber es ist wiederum beruhigend, dass sie in ihren Fähigkeiten doch so eingeschränkt sind, dass eine wirkliche Beeinflussung der echten Welt durch LLMs physisch, durch einen Körper, einen Roboter wahrscheinlich erst mal ein bisschen in weiterer Ferne ist.
Moderatorin[00:21:28] Auf jeden Fall in gewisser Weise beruhigend. Jetzt wie angekündigt, die Frage an Sie, Frau Speidel. Wir hatten schon über Fachkräftemangel gesprochen. Inwiefern können denn Roboter konkret in der Klinik Fachkräftemangel ausgleichen? Und was müsste da vielleicht noch passieren, dass es besser ist? Zum Beispiel Stichwort kleinere mobile Systeme.
Stefanie Speidel[00:21:48] Also, wenn man jetzt mal in den OP schaut, dann können aktuell auch schon viele Operationen nicht stattfinden, weil einfach die Operateure oder das Pflegepersonal fehlen. Das heißt, da sind viele Ansatzpunkte möglich: angefangen von Automatisierung von Funktionen, die eigentlich ein Assistent oder eine Assistentin durchführen würde, also halten von Gewebe. Dann hin zu Scrub-Nurse-Robotern, also dem Anreichen von Instrumenten, um das ganze OP-Team zu unterstützen. Dann, wenn man den OP verlässt und ins Krankenhaus an sich schaut, sind da auch viele Einsatzmöglichkeiten vorstellbar. Angefangen von mobilen Systemen, die auf den Stationen unterstützen, bis hin zu dieser ganzen Laborautomatisierung, die natürlich auch im Krankenhaus stattfindet. Also da gibt es ganz unterschiedliche Aspekte, die natürlich auch unterschiedliche Anforderungen an die Sicherheit letztendlich haben.
Moderatorin[00:22:50] Herr Asfour, wie ist es denn zum Beispiel in der Pflege? Inwiefern werden da schon Fachkräftemängel ausgeglichen und was müssen die Roboter konkret tun? Wir hatten jetzt zum Beispiel die Frage, ist es wirklich wichtig, ob ein Roboter in einem Seniorenheim jemandem ein Getränk anreichen kann? Um welche konkreten Aufgaben geht es da, die da wirklich entlasten?
Tamim Asfour[00:23:12] Vielen Dank für die Frage. Das ist eigentlich eine sehr, sehr gute Frage. Und zwar die Vorstellung ist, wenn man über Roboter in der Pflege redet, dass die Roboter wirklich alles machen werden, dass sie sich um Menschen kümmern und so. Das ist ein langer Weg, irgendwann vielleicht. Wir wollen, dass unsere Roboter die Tätigkeiten machen, die eine Entlastung für das Pflegepersonal bedeuten. Also zum Beispiel Tisch decken und Tisch aufräumen, damit das Pflegepersonal mehr Zeit für die Menschen hat. Das Pflegepersonal kann sich um andere Sachen kümmern, wenn wir den Tisch für das gemeinsame Abendessen oder Mittagessen durch den Roboter decken oder Getränke servieren, jedem sein Lieblingsgetränk mal bringen. Dann entlasten wir das Pflegepersonal. Das sind Aufgaben, bei denen tatsächlich diese Interaktion jetzt mit dem Menschen noch nicht so nah ist. Also, da kommen die Roboter nicht sehr nah an den Menschen ran, fassen also einen Menschen nicht an und helfen zum Beispiel beim Sitzen und Aufstehen. Das ist unser erster Schritt. Aber die Aufgaben, die die Roboter in solchen Umgebungen übernehmen können, die sind viele. Und was wir aktuell gerade machen: Diese Aufgaben definieren wir nicht. Das heißt, was unsere Roboter in so einem Seniorenheim machen, wird zusammen mit dem Pflegepersonal definiert. Also, was sind die Aufgaben, die euch nerven auf der einen Seite oder wo wir entlasten können. Auf der anderen Seite: Was sind die Aufgaben, die überhaupt heutige Technologie oder heutige Roboter machen können? Also, dass der Roboter jetzt jemanden beim Duschen und Baden unterstützt, das sind Sachen, die die Systeme noch nicht können. Aber, dass die Roboter zum Beispiel Tische aufräumen, Getränke servieren, jemandem vielleicht mal eine Flasche Wasser ins Zimmer bringen um drei Uhr morgens. Ich glaube, das sind Aufgaben, die die Roboter machen, bei denen jetzt ein Mensch ein Pflegepersonal, entlastet wird und sich auf die menschennahen Bedürfnisse der Bewohnerinnen und Bewohner konzentrieren kann.
Moderatorin[00:25:48] Kann ich mir vorstellen, dass da eine sehr enge Abstimmung nötig ist. Einmal zwischen den Forschenden und dem Klinikpersonal, aber natürlich auch den Menschen, die gepflegt werden. Es kann sein, dass jemand überhaupt nicht , wie Sie sagen, von einem Roboter gewaschen werden möchte. Das ist dann auch immer noch mal was anderes.
Tamim Asfour[00:26:02] Ganz genau. Aber was ich für fundamental wichtig halte, ist, dass diese Definition von den Anwendungsbereichen zusammen mit den Stakeholdern erfolgt. Also sowohl mit den Betreibern von Seniorenheimen, mit dem Personal, das dort arbeitet, aber auch mit den Nutzenden, also mit den Seniorinnen und Senioren. Viele wollen nicht, dass der Roboter jetzt hier ihnen das Getränk serviert, die bevorzugen vielleicht, dass das von einem Menschen noch gemacht wird. Und das ist wichtig für uns in der Forschung. Wir nennen das auch Reallaborforschung: zusammen mit allen Stakeholdern, mit der Zivilgesellschaft. Das ist nur ein Anwendungsbeispiel im Seniorenheim. Wir machen das im Krankenhaus. Das sind auch andere Aufgaben, die nicht nur im Operationsraum liegen, wie Frau Speidel erwähnt hat. Sondern auch viele logistische Aufgaben: Wischen von Oberflächen, zum Beispiel. Hygienerelevante Tätigkeiten, die im Krankenhaus unglaublich wichtig sind. Das sind auch Gebiete, in denen Robotik viel beitragen kann und zu einer Entlastung vom Pflegepersonal und auch zu einer Lösung vom Arbeitskräftemangel beitragen kann.
Moderatorin[00:27:18] Frau Schöllig, Sie haben da gerade schon so genickt. Ich schließe daraus, dass es auch ein Thema ist, mit dem Sie sich viel beschäftigen. Da habe ich noch eine Nachfrage zu, und zwar: Wie kann denn sichergestellt werden, dass gerade ein Roboter in der Pflege oder im Krankenhaus das tut, was er soll, und dass es da eben nicht zu Fehlern kommt?
Angela Schoellig[00:27:34] Ich glaube, ein Punkt, den man machen muss, den wir auch in den vorigen Antworten gemacht haben: Dass da die KI auf jeden Fall im Einsatz ist, um ein komplexes neues Zimmer oder einen Raum zu verstehen. Zu verstehen, was dort gerade passiert, was für uns Menschen selbstverständlich ist. Dass ich verstehe, was ein Tisch ist, warum vielleicht die Person zu dem Tisch greifen möchte. Da haben wir keine besseren Methoden im Moment als datenbasierte KI-Methoden. Und für die kann man schwer zeigen, dass sie immer funktionieren. Das heißt, ein wichtiger Punkt ist da immer auch, trotzdem Sicherheitsgarantien geben zu können oder auch Performance-Garantien. Das ist ein Forschungsbereich, an dem ich arbeite. Also dass die Erfolgsquoten von diesen Aufgaben eben entsprechend hoch sind. Und da gibt es schon wirkliche Ansätze, die das können. Natürlich ist es immer noch ein offenes Forschungsgebiet, aber wir setzen auch Large Language Models ein, um Drohnenschwärme zu steuern und zur Musik fliegen zu lassen. Und das ist natürlich auch Safety critical. Die können jederzeit kollidieren, aus der Luft fallen und so weiter. Da wollten wir einfach zeigen, das geht. Also es geht, aber es ist auch noch viel weitere Forschung nötig.
Moderatorin[00:28:58] Wir haben noch eine sehr allgemeine Frage an Sie, Herr Brock. Ein Journalist versucht noch zu verstehen, was der aktuelle Stand in Deutschland und Europa ist bei der Robotik. Jetzt ganz konkret: Was haben wir da schon und was ist der nächste große Schritt und was sind die Hürden dahin?
Oliver Brock[00:29:15] Das ist natürlich sehr breit. Die Robotik ist ein ziemlich breites Feld. Angefangen mit der Automation bis hin zu den Versuchen, wirklich lernende Maschinen in die Welt zu schicken. Was haben wir da schon? Ich glaube, das unterscheidet sich in Europa nicht so sehr vom Prinzip her von dem, was andere Leute haben. Da gibt es verschiedene Meinungen darüber. Es gibt die LLM-Optimisten, würde ich sagen, die der Meinung sind, dass die Large Language Models uns letztendlich zum Ziel führen werden. Und es gibt die Minderheit, das sind Leute wie ich, die da eher skeptisch sind. Und ich würde sagen, was uns dann letztendlich zum Ziel führt, ist etwas, was wir noch entdecken müssen. Das sind Fähigkeiten, die wir noch nicht haben. Wenn wir uns den Unterschied zwischen den Fähigkeiten eines fünfjährigen Kindes und eines Roboters anschauen: Okay, die können vielleicht jetzt irgendwo in China Tänze vorführen, aber ich kann dieses Kind trotzdem auch mit in die Küche nehmen und mit dem Kekse backen, und das könnten eben diese Roboter nicht. Diese Fähigkeit zu haben, universell einsetzbar zu sein, Dinge sehr schnell zu lernen, ohne dass ich tausend Datenpunkte vorher durch riesige Rechner schicken muss. Das ist etwas, was die Biologie unseren technologischen Geräten noch weit voraus hat. Und diese biologischen Fähigkeiten zu verstehen und zu übertragen, das ist das, was als großes Ziel noch vor uns steht. Nicht unbedingt, indem wir's eins zu eins kopieren, sondern indem wir die Prinzipien verstehen, nach denen Biologie es ermöglicht hat, dass das eine Fähigkeit ist. Dort besteht auch die Möglichkeit, dass das Land oder die Region, die hier den nächsten Schritt macht, auch wirklich wieder führend ist. Bei LLMs ist es schon so, dass da Amerika und China bei weitem führend sind und dass es schwer sein wird, da aufzuholen. Aber bei der nächsten Technologieentwicklung könnten wir in Deutschland ganz weit da vorne mit dabei sein oder das sogar leiten. Und das sollte unser Ziel sein, und so sollten wir das Ökosystem und die Infrastruktur auch bauen und finanzieren.
Moderatorin[00:31:38] Herr Asfour, Sie wollten da grade reingrätschen.
Moderatorin[00:31:40] Wenn ich darf. Ich meine, die Frage war, was haben wir in Deutschland und was haben wir in Europa. Und ich glaube, Deutschland und Europa können noch auf höchstem Niveau mitspielen auf dem Gebiet der Robotik und der KI-basierten Robotik. Das ist die Stärke Europas und Deutschland, dass wir diese Intelligenz oder verkörperte künstliche Intelligenz hier pushen. Es sind international Top Forschende in Deutschland und Europa genau auf dem Gebiet. Also, die nicht nur die LLM-Modelle, die Foundation-Modelle die Mechanik entwickeln, sondern verstehen, wie man wirklich KI-Methoden mit Mechatronik und deutscher Ingenieurskunst verbindet. Wir haben weltweit führende Unternehmen. Also die Vergangenheit zeigt, dass viele große Robotikindustrien aus Deutschland kamen, die an erster Stelle mitgespielt haben. Wir haben starke KMUs, die für uns sehr zentral und wichtig sind, wenn es darum geht, Robotertechnologien in Deutschland und Europa zu entwickeln, die die Abhängigkeiten von vielleicht nicht so freundlichen Ländern und so weiter eliminieren. Und diese Expertise, die wir haben, ist eigentlich einmalig meiner Meinung nach. Die ethischen KI Standards, die wir haben oder Standards allgemein, die können auch als Wettbewerbsvorteil für Deutschland und für Europa gelten. Und was bis jetzt so fehlt, sind wirklich koordinierte, konsolidierte Aktivitäten auf dem Gebiet. Wir haben einen ersten Schritt in Deutschland gemacht mit der Etablierung von dem Robotik Institut Germany. Das ist ein Dach für Forschende, für Spitzenforschung in Deutschland, das Leute zusammenbringt, der jetzt innerhalb von weniger als zwei Jahren zu einem Leuchtturm der deutschen Spitzenforschung auf dem Gebiet der KI-basierten Robotik geworden ist. Und wir wollen auch eine Plattform schaffen, die alle Menschen, die sich für Robotik interessieren, integriert und verbindet. Also von Schülerinnen, Schülern, Studierenden, die bis zur Industrie, nicht nur die Akademiker. Und deshalb haben wir jetzt die Deutsche Gesellschaft für Robotik gegründet. Das ist also eine Gesellschaft, eine Plattform, um die KI-basierte Robotik in Deutschland voranzutreiben. Es braucht, wie Herr Brock ganz am Anfang gesagt hat, seriöse Investitionen, nicht nur von der Regierung, sondern auch von den Industrien. Also wir brauchen mehr Risikobereitschaft von der Industrie, genauso wie in Amerika, genauso vielleicht wie in anderen Ländern, die in diese Schlüsseltechnologien investieren, um tatsächlich Robotik zu einem Exportschlager made in Germany wieder zu machen.
Moderatorin[00:35:11] Ich glaube, Frau Schöllig, Sie wollten da eben auch noch was zu sagen. Da könnt sich vielleicht auch direkt eine Frage dran anschließen noch. Und zwar, was sollte die Bundesregierung tun, um das Robotik Ökosystem zu stärken? Und wie bewerten Sie die Hightech Agenda bisher? Gelingt der Transfer der Forschung in Unternehmen, Frau Schöllig?
Angela Schoellig[00:35:28] Ich glaub, da kann ich mich nur an Herrn Asfour und Herr Brock anschließen. Wir brauchen seriöse Investitionen und wir brauchen Innovationsgeschwindigkeit. Und das geht dadurch, dass man gewisse bürokratische Prozesse abbaut und auch eben breit und mutig investiert. Und das, glaube ich, braucht man über alles hinweg. Also wir brauchen das von der Regierung, wir brauchen das von der Industrie. Wir sollten natürlich auch mehr Venture Capital nach Europa bekommen durch die entsprechenden Maßnahmen. Aber am Ende geht es um Innovationsgeschwindigkeit, weil es ist klar, dass die Robotik die Gesellschaft verändern wird und schon getan hat und wir das gerne nach unseren Maßstäben tun würden. Und wir haben da in der embodied AI noch wirklich die Chance, weltweit führend zu sein mit dem, was es in Deutschland gibt, und einem wirklich koordinierten und strategischen Ansatz. Heißt, jetzt ist der Punkt, bei dem was geschehen muss, damit wir uns etablieren können in dem Bereich. Jetzt ist der Punkt, weil ich glaube, niemand stellt mehr in Frage, dass es große Sprünge in der Robotik geben wird in den nächsten fünf bis zehn Jahren. Also wir sehen es auch tagtäglich natürlich.
Moderatorin[00:36:47] Gibt es da konkrete Maßnahmen der Bundesregierung, bei denen Sie sagen können, die sind gut oder ist das alles noch nicht so konkret, dass man da was groß zu sagen kann?
Angela Schoellig[00:36:54] Was in der Hightech Agenda gestartet wurde, ist ein guter Anfang. Ich glaube, das Thema wurde dort verankert. Es wurde ein Robotik-Booster gezündet, der drei verschiedene Phasen hat. Die dritte Phase sind auch Transferzentren mit der Idee, dass man da enger mit der Industrie zusammenarbeitet oder auch schneller Transfer von Innovationen in Start-ups bekommt. Da sind dann wir gefragt, das richtig aufzusetzen. Aber ich denke, wir können auch sagen, die embodied AI oder Robotik ist ein viel größeres Thema als die KI an sich alleine. Und ähnliche Investitionen brauchen wir langfristig.
Moderatorin[00:37:38] Frau Speidel, wir hatten schon gesagt, dass es Chirurgiesysteme gibt, die in der Klinik eingesetzt werden. Nach meinem Wissen sind es momentan vor allem amerikanische und chinesische Systeme. Wie wichtig ist es da für Europa, souverän zu sein? Und was können wir tun, um eigene Systeme, die vielleicht auch besser sind als die amerikanischen, da zu etablieren?
Stefanie Speidel[00:37:58] Das schließt sich an die Argumentation von Frau Schöllig und Herrn Asfour an. Also ich denke, wir haben viele Herausforderungen, insbesondere geopolitische Herausforderungen aktuell und unsere technologische Souveränität sollte eigentlich oberste Priorität haben. Und wie gesagt, im Moment haben wir eigentlich sehr wenig europäische Systeme, die marktreif sind und deshalb brauchen wir diesen Push auch hinsichtlich Risikokapital, hinsichtlich strategischer Koordination. Also diese Ansprüche, die wir an die Sicherheit, an die Regulatorik, an den Datenschutz haben in Europa, haben natürlich viele Vorteile für den Patienten und Patientin, machen Innovation aber auch sehr komplex. Das heißt, wir brauchen eigentlich ein Framework, das diese Sicherheitsanforderungen mit einer entsprechenden Geschwindigkeit auch verbindet. Und dazu brauchen wir eben diese Finanzierung, diese kritische Masse. Im Moment sind viele Sachen auch sehr fragmentiert. Angefangen von den Daten, die wir für diese Systeme brauchen, um diese Systeme zu trainieren, bis hin zur Infrastruktur, gerade in Krankenhäusern. Und das schaffen wir nur, wenn wir uns zusammentun und diese verschiedenen Sachen auch integrieren.
Moderatorin[00:39:32] Gibt es da denn noch konkret, sagen wir mal, Marktlücken, irgendwas, was die amerikanischen Systeme nicht bieten, abgesehen von Datenschutz, Sicherheit, auch technische Aspekte? Wir hatten schon mal, glaube ich, kurz über mobilere Geräte geredet, die nicht so groß sind. Können sie das vielleicht noch mal kurz ausführen?
Stefanie Speidel[00:39:47] Genau. Aktuell sehen wir die Systeme, die im OP sind. Das sind sehr große Systeme. Man braucht Erfahrung, um diese Systeme aufzubauen. Das sind keine mobilen Einheiten. Aber letztendlich, glaube ich, muss man auch dieses Feld der Chirurgierobotik neu denken. Das heißt, wir wollen jetzt keine inkrementelle Weiterentwicklung des Davinci-Systems. Wie können wir denn eigentlich kleinere, mobilere Systeme entwickeln, indem wir auch diese, sage ich mal, hohe Ingenieurskunst, die wir in Deutschland haben, auch mit miniatuisieren? Wir haben viele medizintechnische Firmen, die an diesen Instrumenten arbeiten. Wir haben sehr viel Expertise im Bereich KI. Wie können wir denn diese unterschiedlichen Sachen kombinieren? Auch, wie können wir neue Imaging-Verfahren in diese mobilen Robotiksysteme integrieren? Ich glaube, da hat Deutschland und Europa einen großen Vorteil. Wir müssen es aber schaffen, diese unterschiedlichen Sachen zu integrieren und dann auch in die Innovation zu bringen und letztendlich in die Kommerzialisierung.
Moderatorin[00:40:55] Noch eine ganz kurze Nachfrage zu dem Thema Finanzierung, bevor wir vielleicht damit abschließen. Einer von Ihnen hatte den Begriff seriöse Investitionen benutzt. Wer war das noch mal?
Tamim Asfour[00:41:05] Das war Herr Brock zuerst und wir haben es wiederholt.
Moderatorin[00:41:09] Okay, dann gerne an Herr Brock. Eine ganz kurze Definition vielleicht, was eine seriöse Investition von einer unseriösen Investition unterscheidet und wie viel Investition konkret nötig wäre. Also eine ungefähre Größenordnung, wenn sie die geben können.
Oliver Brock[00:41:24] Also was ich mit seriös versucht habe zusammenzufassen, sind mehrere Aspekte. Das eine ist, dass eine Investition natürlich irgendwie eng getätigt werden kann in eine ganz spezifische Technologieidee oder breit getätigt werden kann. Ich denke, dass die Seriösität der Investition davon abhängt, inwieweit die Entscheidung, wenn sie eng investiert ist, auch wirklich fundiert ist. Also wie können wir tatsächlich voraussagen, dass diese spezifische Technologie gewinnen wird? Das heißt, ich glaube aus jetziger Sicht ist eine seriöse Investition eine, die technologieoffen ist und die die Möglichkeiten der Entwicklung neuer Technologien mit beinhaltet. Dann geht es um die Höhe. Das war auch Teil der Frage, wie viel Investitionen brauchen wir da? Das ist natürlich eine Frage, die relativ gesehen werden muss. Es ist in gewisser Weise ein Technologie- und ein Wissenschaftsrennen um eine technologische Vorherrschaft. Eine Technologie, die eben sehr unsicher noch ist, wo wir nicht genau wissen, was passieren wird. Das ist anders im Maschinenbau. Da haben wir Jahrzehnte Erfahrung und wissen, wo der Hase langläuft. Das heißt, wir brauchen eine Investition, die letztendlich sich mit den Investitionen, die andere Länder tätigen, messen kann. Und wenn die dann mehr investieren, müssen wir halt auch mehr investieren. So ist das in einem Rennen. Und ich als Wissenschaftler finde das nicht die schlauste Art und Weise, sowas zu machen. Aber wir sind in einer Welt, in der Länder miteinander in Konkurrenz stehen. Und deswegen glaube ich, dass wir uns schon an anderen Ländern orientieren müssen, um zu verstehen, wenn ich das ernst meine. Daher das Wort seriös. Wenn ich das ernst meine, die Robotik in Deutschland nach vorne zu bringen, dann muss ich mich daran orientieren, wie ernst das andere Leute das Problem nehmen. Und das ist natürlich auch eine Sache, die dann in der Volkswirtschaft irgendwie abgeklärt werden muss. Kann man sich das leisten oder nicht?
Moderatorin[00:43:28] Herr Asfour, Sie möchten auch noch gerne was ergänzen.
Tamim Asfour[00:43:30] Vielleicht zu konkreten Zahlen. Also natürlich freuen wir uns sehr über die Hightech Agenda Deutschland. Wir freuen uns. Die Hightech Agenda Deutschland beschäftigt sich mit Themen wie KI, Quantentechnologie, Fusionsforschung, klimaneutrale Mobilität. Und wir freuen uns besonders, dass Robotik und KI mit den KI-Robotik-Boostern dort sehr prominent auftauchen. Die Hightech Agenda sieht 18 Milliarden Euro vor, wie wir wissen bis 2029, oder? Korrigieren Sie mich, wenn ich falsch liege hier. Aber wenn wir schauen, wie viel China in den letzten fünf Jahren nur in humanoide Robotik investiert hat, das sind 100 Milliarden. Wenn wir gucken, wie viel Figure und Tesla in Amerika in humanoide Robotik investieren. Das sind auch Milliarden. Ich meine, klar, die Bundesregierung hat das Geld nicht. Aber ich glaube, wichtig ist, dass auch hier mutige Investitionen von der deutschen und europäischen Industrie kommen. Ich glaube, die können hier einen wichtigen Beitrag zur Hightech Agenda Deutschland und insbesondere jetzt in unserem Fall im Bereich KI-basierte Robotik beitragen. Natürlich, das ist super, wenn Deutschland jetzt auch 100 Milliarden in humanoide Robotik investieren könnte. Da würde ich mich extrem freuen. Aber das ist unrealistisch. Wir wissen, wir haben andere Probleme, die wir auch mit dem Geld lösen müssen. Aber was tatsächlich noch in Deutschland so ein bisschen lahm ist, ist die Bereitschaft der Industrie, risikoreiche Investitionen in Themen zu tätigen, die über die Zukunft Deutschlands oder Europas entscheiden. Und das sehen wir, das macht Tesla, das macht Google oder oder Figure AI, OpenAI, das macht die chinesische Regierung. Nur zum Vergleich: 18 Milliarden Hightech Agenda Deutschland für so viele wichtige Themen und 100 Milliarden in China in den letzten fünf Jahren nur für humanoide Robotik. Deshalb konnten wir diese Roboter jetzt bei dem Neujahresfest sehen. Es sind fünf Jahre massive Investitionen um diese Supermechatronik der Roboter zu entwickeln.
Moderatorin[00:46:03] Es ist schön, diesen Vergleich mit den konkreten Zahlen noch mal zu haben. Auf jeden Fall mit Blick auf die Uhr. Es ist jetzt 09:50 Uhr. Muss jemand von Ihnen ganz pünktlich um zehn los? Weil ich denke, mit den Fragen, die wir noch haben, würden wir etwas überziehen. Okay, sieht erstmal nicht so aus. Alles klar. Dann gerne die nächste Frage direkt auch an Sie, Frau Schöllig. Ein ganz anderes Thema. Zumindest in gewisser Weise. Wir haben schon davon gesprochen, dass Robotik auch in der Verteidigung eine größere Rolle spielen wird. Ich weiß, dass das nicht zu 100 Prozent Ihr Forschungsgebiet ist, aber vielleicht haben Sie trotzdem einen groben Überblick, wie der aktuelle Stand ist. Und ganz weit vorausgedacht, werden künftig humanoide Roboter auf den Schlachtfeldern unterwegs sein?
Angela Schoellig[00:46:50] Ich meine, wir sehen jetzt, dass Robotik und autonome Technologien Kriege definieren und auch die Sicherheit eines Landes definieren. Und daher werden all die Technologien, die entwickelt werden, extrem wichtig sein, um langfristig die Sicherheit eines Landes zu garantieren. Ich denke, das war kriegsdefinierend. Oder ist es immer noch in der Ukraine. Und ich glaube, das darf man nicht unterschätzen oder die Augen davor zumachen. Und dass die humanoiden Roboter auf dem Schlachtfeld eingesetzt werden, ich glaube, da kann man auch die Augen davor nicht zumachen. Aber ob das der richtige Formfaktor ist, werden wir sehen.
Moderatorin[00:47:39] Sie haben gerade gesagt, das war kriegsdefinierend. Können Sie vielleicht noch mal ganz kurz ausführen, inwiefern Sie meinen, was da kriegsdefinierend war?
Angela Schoellig[00:47:47] Na im Prinzip: Da werden vierstellige Zahlen von Drohnen auf beiden Seiten eingesetzt pro Jahr. Also ich glaube, wir haben sowas noch nie vorher gesehen.
Moderatorin[00:48:03] Okay, dann eine Frage vielleicht an Sie, Herr Brock. Elon Musk behauptet, dass Roboter schon in fünf oder sechs Jahren menschliche Arbeit in großem Umfang ersetzen werden und in zehn bis 15 Jahren kaum noch jemand wird arbeiten müssen. Diese Aussagen kursieren in sozialen Medien und schüren Ängste. Was halten Sie von solchen Behauptungen?
Oliver Brock[00:48:23] Um mal bei dem Begriff zu bleiben, ich halte das für absolut unseriös. Ich meine, man muss sich vor Augen führen, ist Elon Musk ein Robotiker? Ich würde sagen nicht. Und genauso wie ich mich nicht zu Quantenphysik äußern würde, ist das, glaube ich, eher als Marketinggeplänkel von Herrn Musk zu interpretieren. Es kann natürlich sein, dass seine Prognosen trotzdem zutreffen. Weil, wenn irgendwie ein technologischer und wissenschaftlicher Knoten platzt, kann es sein, dass ganz rasante Fortschritte in kürzester Zeit gemacht werden können. Aber das, was bei Tesla momentan gebaut wird an Robotern mit der Technologie, die wir heute haben, würde ich sagen, sind die Vorhersagen von Herrn Musk extrem optimistisch.
Moderatorin[00:49:17] Das kann man sich sehr gut vorstellen. Wir haben noch eine weitere Frage, und zwar ist es so, dass Roboter momentan vor allem in der Industrie eingesetzt werden. Das ist als Frage gestellt. Oder wo sehen wir sie jetzt schon? Also wir hatten schon darüber gesprochen, dass wir auf jeden Fall Roboter schon in der Chirurgie sehen, bei Ihnen, Frau Speidel, aber auch eben in anderen Gebieten, bei denen Tests gemacht werden, zum Beispiel in der Pflege. Gibt es da jetzt einen Bereich, den wir noch nicht angesprochen haben?
Tamim Asfour[00:49:47] Also zum Beispiel im Bereich Logistik. Also im Bereich Logistik, da wurde das Beispiel vorhin erwähnt, Amazon mit so vielen Roboter oder andere Logistikfirmen. Wartungsreparaturaufgaben, Roboterinspektion, da werden Roboter auch eingesetzt. Also ich bin jetzt auch nicht ein Fan von Herrn Musk, aber ich glaube, seine Vision ist nicht komplett falsch. Also die Roboter werden kommen. Da brauchen wir die Realität hier nicht zu verneinen. Aber ich glaube, unsere Verantwortung ist, dass diese Roboter, wenn es zum Beispiel um Alltag geht, dass sie Assistenten, Helfer und Kooperator, also Kollaborator des Menschen bleiben. Das heißt, wir müssen uns meiner Meinung nach auf eine neue Gesellschaft, auf eine neue Mensch-Roboter-Symbiose einstellen, in der die Roboter unseren Alltag und die Art und Weise, wie wir leben, wie wir arbeiten, verändern. Also genau wie das, was wir erleben mit KI. KI hat auch die Art und Weise, wie wir arbeiten, wie wir leben, verändert. Und diese Fusion jetzt von KI und Robotik, das ist der Gipfel und das wird kommen. Also wenn es kommt, ob es jetzt zehn Jahre oder fünfzig Jahre sind, das kann ich Ihnen nicht sagen. Aber ich glaube, wir müssen uns darauf einstellen, wir müssen auch die Gesellschaft auf diese Transformation vorbereiten. Wenn diese Roboter mit uns leben, dann sollen sie uns assistieren und helfen. Oder diese Roboter sollen die sogenannten D-Jobs übernehmen, also dirty, difficult, dangerous Jobs, die kein Mensch machen sollte.
Moderatorin[00:51:51] Also schmutzige, schwierige oder gefährliche Jobs, die ein Mensch nicht übernehmen möchte.
Tamim Asfour[00:51:54] Ganz genau, ganz genau. Von Toilettenputzen bis zur Dekontamination von nuklearen Anlagen.
Moderatorin[00:52:01] Wir haben jetzt auch schon kurz über oder schon ein bisschen länger über Roboter in der Klinik gesprochen und Sie haben jetzt gerade, Herr Asfour, auch gesagt, es ist immer so ein bisschen eine Abstimmung: Was soll ein Roboter übernehmen? Was kann er übernehmen? Frau Speidel, was ist denn geplant, was ein Roboter im besten Fall in der Klinik autonom übernimmt? Und wo sollte auf jeden Fall immer ein Arzt die Maschine steuern?
Stefanie Speidel[00:52:26] Also letztendlich geht es nicht darum, den Chirurg oder die Chirurgin zu ersetzen, sondern eben diese Mensch-Maschine-Interaktion zu realisieren, auch diesen Personalmangel zu adressieren. Es gibt Sachen, die kann der Mensch besser, und es gibt Sachen, die kann eine Maschine besser. Wir wollen nicht jemanden ersetzen. Und da gibt es ganz unterschiedliche Abstufungen. Angefangen, dass der Roboter oder die KI während der Operation Entscheidungsunterstützung gibt, um gerade auch Operateure oder Operateurinnen, die eben nicht so eine große Erfahrung haben, zu unterstützen. Das bedeutet auch, dass wir über die Demokratisierung von Fähigkeiten sprechen. Das heißt, wie können wir denn den Zugang zu dieser Expertise ermöglichen über dieser KI-gestützten Robotik? Dann Teilautomatisierung. Also bestimmte Sachen, die aktuelle der Assistent durchführt, auf den Roboter übertragen: Kameraführung oder Halten von Gewebe. Dann bewerten, wie gut wurde ein bestimmter Schritt durchgeführt, um dann letztendlich auch dem Patienten oder Patientin einen Risk Score nach der Operation zu geben. Und aber auch diese Telechirurgie zu ermöglichen. Das heißt, wie können wir Experten oder Expertinnen dazuschalten für eine bestimmte Phase. Also da gibt es ein ganzes Portfolio, sage ich mal, an möglichen Assistenzfunktionen, um Komplikationen zu verringern und Personal einzusparen. Und ich denke, letztendlich geht es um die Demokratisierung von diesen Fähigkeiten, dass jeder auch Zugang zu der optimalen Versorgung und Therapie bekommt.
Moderatorin[00:54:13] Es geht also nicht darum, irgendjemanden zu ersetzen, sondern auch der Roboter, egal wie autonom er vielleicht ist, ist ein Tool, das dabei hilft, Aufgaben zu erledigen. Jetzt muss man diesem Tool auch beibringen, wie es das zu machen hat. Und, was ich mitbekommen habe, ist es gar nicht so einfach, gerade wenn es nicht so viele Daten gibt. Deswegen, Frau Schöllig, da gibt es den Ansatz, ein Weltverständnis zu bekommen, zum Beispiel durch Videomaterial. Inwieweit können Roboter denn Weltverständnis anhand von Videomaterial überhaupt lernen? Und wieso ist das denn wichtig, dass ein Roboter das hat?
Angela Schoellig[00:54:49] Wenn man überlegt, was ist denn jetzt praktisch durch Chatbots sofort für uns verfügbar an Wissen? Das ist halt Wissen, das in Textform besteht. Das hat eine gewisse Abstraktionsebene. Aber eigentlich kann ich alles in Textform beschreiben, was in der Welt passiert, aber auf einer Abstraktionsebene, die wir als Menschen verstehen und mit der wir kommunizieren. Und dann, wenn es darum geht, welche anderen Daten habe ich denn kostenlos zur Verfügung? Sind es halt oft Videodaten, 2D-Videos und Bilddaten. Da gibt es ein großes Daten-Gap, um damit wirklich die 3D-Welt zu verstehen, mit der der Roboter dann interagieren kann. Zum Beispiel sehe ich in keinem Video, wie es sich angefühlt hat, als der Mensch die Tasse greift. Und da ist die Frage, wie schließe ich dieses Gap? Und ich denke, das wird dazu führen, dass wir auf diversen Daten lernen werden. Und das schließt eben ein, dass wir von 2D-Daten lernen, von echten Roboterdaten lernen und auch versuchen, immer mehr Simulationen der Welt zu bauen. Und das ist etwas, was jetzt gerade World Model genannt wird. Das kommt auch ein bisschen aus der Computer Vision. Dass ich praktisch voraussehen kann, wie sich die Welt weiterentwickelt, wenn ich sie gerade in den letzten zehn Sekunden beobachtet habe. Da sind wir aber als Menschen auch so mittelgut drin. Und trotzdem können wir in der Welt interagieren. Das heißt, der Roboter braucht 3D-Daten – also wir müssen diese großen Datenmengen mit der echten Welt verbinden, und das ist die große Herausforderung. Eine Möglichkeit, die propagiert wird oder die jetzt World Model genannt ist, ist eben, dass der Roboter, wenn er etwas sieht, immer voraussehen kann, was passiert. Oder, wenn er eine gewisse Handlung in der Umgebung macht, wie die Umgebung reagiert. Und ich glaub, da werden wir sehen, welche Methoden uns dazu bringen, dass praktisch, der Roboter das bestmöglich kann. Und meiner Meinung nach wird es eine Kombination aus vielen verschiedenen Datenquellen sein. Damit können wir bestmöglich versuchen, dem Roboter eben zu ermöglichen, in der 3D-Welt dann zu agieren. 2D-Videos alleine werden nicht ausreichen.
Oliver Brock[00:57:16] Darf ich das kurz ergänzen?
Moderatorin[00:57:18] Sehr gerne.
Oliver Brock[00:57:19] Also Professor Schöllig hat gerade über die verschiedenen, wir nennen es Modalitäten, geredet. Auge, also Computer Vision. Was sehe ich, was spüre ich, was rieche ich, was schmecke ich und so weiter. Und sicherlich, ist das absolut korrekt, dass wir verschiedene Modalitäten brauchen, um Robotern Alltagsfähigkeiten beizubringen. Es gibt aber noch eine andere Dimension, und das ist sowohl die Anzahl der Daten als auch die Auswahl der Daten. Und es zeichnet sich ab, dass das, was diese tiefen Netze, wenn sie mit Robotikdaten gefüttert werden, lernen, nicht wirklich ein Weltmodell ist, sondern dass sie nur zwischen dem, was sie bereits gesehen haben, interpolieren. Also das auf eine gewisse Art und Weise einfach wieder abspielen und diese Fähigkeit nicht besitzen, das dann in eine neue Situation zu übertragen. Das heißt, wir müssen uns auch darüber Gedanken machen, dass, wenn wir diese Technologie benutzen wollen, dass wir gute Daten bekommen. Denn wenn ich irgendwie tausend Leute dasselbe vorführen lasse, damit der Roboter davon lernt, kriege ich tausendmal ungefähr genau das Gleiche. Das heißt, ich habe diese ganzen Sonderfälle, was schiefgehen kann, und was jetzt passiert, wenn ich das Ganze, an einem Donnerstag anstatt am Dienstag mache. Diese ganzen Sonderfälle sind in diesen Daten gar nicht drin. Und das ist aus meiner Sicht ein viel schwierigeres Problem. Wie kann ich sicherstellen, dass, wenn ich mir jetzt neue Daten von meinem Roboter dazu hole, dass die komplementär sind, dass die dem Roboter etwas zeigen, was er noch gar nicht weiß? Und das ist, glaube ich, momentan nicht der Fall. Wir haben zwar Milliarden oder Millionen Datenelemente in so einem Datensatz, aber die haben alle ungefähr die gleiche Information, und dann hilft es halt überhaupt nicht.
Moderatorin[00:59:06] Ich kann mir vorstellen, dass auch für die Chirurgie Daten zu bekommen, gar nicht so einfach ist. Einerseits habe ich natürlich einen eingeschränkteren Einsatzbereich, also der Chirurgieroboter muss jetzt niemandem ein Glas Wasser reichen oder eine Treppe hochlaufen, aber jeder Fall ist da doch irgendwie anders. Gibt es da auch Probleme beim Training, da die richtigen Daten zu kriegen? Und wie geht man das vielleicht an?
Stefanie Speidel[00:59:26] Auf jeden Fall. Also die Probleme, die Herr Brock genannt hat, sind auch in der Chirurgie. Wir haben die Herausforderung, dass wir nur sehr wenig Daten zur Verfügung haben. In Deutschland zeichnen beispielsweise nur sehr wenige Unikliniken Operationen auf. Also diese Videos, von denen Sie gesprochen haben. Und wir müssen versuchen, mit diesen Daten diese Expertise auf die Maschinen zu übertragen. Jetzt ist es so, dass es ein hochkomplexes, dynamisches Umfeld ist. Jeder Patient oder Patientin ist individuell und vor allem brauchen wir Komplikationen, weil, letztendlich sind es genau diese Phasen, die wir unterstützen wollen. Und Komplikationen sind sehr rar gesät in diesen Daten. Und letztendlich müssen wir über Strategien nachdenken, wie wir dem System beibringen können, wie sieht eine Komplikation aus? Wie kann man eine Komplikation vorhersagen? Und da arbeiten wir beispielsweise auch an Strategien, synthetische Daten zu generieren, die möglichst realistisch aussehen, um eben diese Events, die nur selten vorkommen und in den Trainingsdaten repräsentiert sind, anzureichern.
Tamim Asfour[01:00:46] Also wenn Zeit da ist, würde ich jetzt reingrätschen, weil die Diskussion –
Moderatorin[01:00:50] Wenn Sie das kurz machen, gerne.
Tamim Asfour[01:00:51] Die Diskussion, alle reden über Daten. Und, man soll eigentlich an der Stelle auch erwähnen, dass die Robotik auch Methoden entwickelt hat, etablierte Methoden, mit denen man sehr gut eigentlich bestimmte Probleme der Robotik gelöst hat. Natürlich nicht diese allgemeinen Lösungen, nicht der Traum von dem universellen, intelligenten Roboter. Und, deshalb ist es wichtig für das Gebiet Robotik, dass man sich Gedanken darüber macht: Wie kann man diese etablierten Methoden, für die man Garantien geben kann, dass das Verhalten eines Roboter oder die Bewegung, basierend auf diesem Modell tatsächlich sicher ist, beispielsweise. Wie kann man das anreichern, verbessern mit Daten? Also, ich muss es an der Stelle sagen, mich nervt's zurzeit zu sagen: Ich kann das Problem lösen, wenn du mir mehr Daten gibst und mehr Compute-Ressourcen. Wenn du für mich ein Rechenzentrum aufbaust und mehr Daten sammelst, dann kann ich das Problem lösen. Das kann nicht der Punkt sein. Wir müssen über neue Algorithmen und neue Methoden auch nachdenken. Wie können wir in dieser Zeit, in der Daten das neue Öl sind oder das neue Gold – wie kann man Daten mit etablierten Methoden, die man gelernt hat und die man kennt und die noch in 99 Prozent aller intelligenten Automatisierung eingesetzt werden, wie kann man das verheiraten? Also dieser Eindruck soll meiner Meinung nach ein bisschen hier korrigiert werden. Ich glaube, keiner von uns hätte was dagegen, wenn jetzt eine neue Methode kommt und den universal intelligenten Roboter entwickelt, basierend auf Daten. Aber momentan sehen wir das nicht. Und das große Problem, was wir bis jetzt nicht besprochen haben oder nur am Rande: Für all diese Modelle, die man momentan hat und einsetzt, kann man keine Garantien geben. Das ist eine sehr schwierige Forschungsfrage. Bei zum Beispiel modellbasierte Methoden weiß man eigentlich, wie das System sich verhält.
Moderatorin[01:03:14] Frau Schöllig, Sie wollten dazu auch noch ganz kurz was sagen, glaub ich.
Angela Schoellig[01:03:17] Ich wollte noch sagen, eigentlich da ein bisschen dran anschließen, dass meistens trotzdem Roboter für sehr spezifische Aufgaben eingesetzt werden. Also, denke ich, wäre das der nächste Schritt in der Industrie, aber auch selbst in der Chirurgie. Die Roboter sind eigentlich spezialisiert. Im Vergleich nicht das, was ein Large Language Model gerade macht. Also ich setze jetzt nicht meinen Chirurgieroboter morgen bei mir im Haushalt ein. Und das heißt, da ist es auch wirklich wichtig, an Methoden zu arbeiten, mit denen ich schnell von einer Aufgabenspezifikation zu einer Hardware und der entsprechenden Software plus eventuell den passenden Daten komme. Und das eben schnell löse, um aufgabenspezifisch Roboter schnell einzusetzen. Und ich glaube, das ist auch ein wichtiger Bereich, an dem viele bei unserem Robotics Institute Germany auch schon forschen, aber wo man auch, denke ich, führend sein kann, indem man schnell von der Problemspezifikation zu einem funktionierenden Roboter kommt.
Moderatorin[01:04:27] Mit Blick auf die Zeit müssen wir uns jetzt, glaube ich, ein bisschen beeilen. Da hab ich erst mal noch eine Frage für Herrn Brock. Was ist nötig, ganz konkret, damit ein Haushaltsroboter nicht nur eine Spülmaschine ausräumen kann, sondern auch richtig reagiert, wenn etwas passiert, wenn ihm zum Beispiel ein Glas zerbricht? Das sind Dinge, die für einen Menschen relativ einfach sind. Wieso ist das für Roboter so schwer? Und wie kann man dagegen vorgehen?
Oliver Brock[01:04:49] Die Frage, die würde ich mal übersetzen in: Wie ist es möglich, einen technologischen, Agenten zu schaffen, also einen Roboter, der, ohne alles vorher beigebracht bekommen zu haben, auf eben so eine neue Situation reagieren kann, wie zerbricht ein Glas. Und da haben wir momentan zwei Ansätze, die miteinander konkurrieren. Das eine ist das, was der Herr Asfour erwähnt hat, das, was die Robotik seit sechzig Jahren macht, letztendlich zu versuchen, das explizit zu programmieren. Und der andere Ansatz, der jetzt grade sehr groß in Mode ist, ist eben, das mit Daten zu machen. Ich denke, da gibt's natürlich eine Vielfalt von Nuancen, aber ich denke, das sind die beiden großen Lager. Und ich würde jetzt sagen, dass keiner dieser beiden Ansätze alleine das letztendlich schaffen wird. Sondern, dass wir sowohl diese beiden Ansätze zusammenführen, als auch neue Ansätze entwickeln müssen, die da mit einfließen. Und jetzt können wir mal versuchen, uns das so anzugucken: Wieso kann das denn der Mensch und ein Roboter kann das noch nicht? Was sind die Unterschiede, die es hier gibt, zwischen den biologischen Robotern, sage ich mal, und den Robotern aus Metall? Und das ist, glaube ich, eine Forschungsfrage, die uns vielleicht auf die Fährte führt, was wir an neuen Technologieentwicklungen noch betreiben müssen, um diese Lücke zu schließen. Also kurzum, ich weiß nicht, was wir noch machen müssen, aber um diese Roboter dazu zu bringen, nicht nur die Spülmaschine einzuräumen, sondern auch zu sehen: Moment mal, das, was in der Spülmaschine drin ist, ist sauber. Ich sollte jetzt gar kein dreckiges Geschirr da mit rein tun. Oder es brennt, ich sollte aufhören, die Spülmaschine zu befüllen. Das sind Dinge, die wir noch nicht verstehen. Und ich glaube, das müssen wir auch anerkennen, dass wir das noch nicht verstehen. Und da sind wir einmal im Kreis. Und das macht eben erforderlich, dass wir in die Entwicklung dieses Verständnisses investieren.
Tamim Asfour[01:07:14] Das ist der Knackpunkt eigentlich. Wenn ich darf, weil, Menschen haben die Vorstellung, Roboter sind Maschinen. Irgendwie muss es möglich sein, denen das und das beizubringen. Aber gerade dieses einfache Beispiel, also festzustellen, dass ein Glas kaputt ist. Also das braucht viel mehr, wie Herr Brock hier erzählt hat. Und wenn wir diese Systeme haben wollen, dann müssen wir vorher wirklich verstehen, was Intelligenz ist. Es geht in der Robotik nicht nur darum, eine Maschine zu entwickeln. Sondern wir nutzen auch Roboter, um wirklich zu verstehen, was Intelligenz oder was intelligentes Verhalten ist. Und das ist, was keiner bis jetzt kapiert. Also nicht nur wir in dieser Runde nicht, wir in Deutschland, sondern die ganze Welt weiß nicht, was Intelligenz oder intelligentes Verhalten ist. Und wenn wir diese Frage beantworten, dann können wir natürlich auch die Frage beantworten mit den Scherben in der Geschirrspülmaschine und andere Sachen. Und das ist wichtig. Robotik ist nicht nur eine Gestalt einer Maschine in Aluminium oder in irgendwelchen Materialien. Robotik ist die Plattform, die uns ermöglichen wird, mehr über Intelligenz zu verstehen.
Moderatorin[01:08:35] Super, dass Sie das noch mal so konkret gesagt haben. Beide. Ich habe noch eine Abschlussfrage gerne erst Frau Speidel über die Chirurgie und dann Frau Schöllig. Jemandem ist noch nicht ganz klar, wo wir wirklich gerade stehen, was gerade möglich ist in der Robotik, was schon eingesetzt wird und was eben ganz konkret auch noch nicht. Vielleicht können Sie das, wir haben es schon angesprochen, aber auch noch mal vielleicht in wenigen Sätzen für die Klinik, für den Chirurgiealltag sagen: Was ist aktuell schon möglich, was ist noch nicht möglich?
Stefanie Speidel[01:09:06] Möglich sind Telemanipulatoren, also letztendlich sehr gute Instrumente, die vom Chirurgen oder der Chirurgin gesteuert werden. Zukünftig sollen Teile davon automatisiert werden über KI-gestützte Chirurgie Robotik. Die Beispiele hatte ich schon genannt.
Moderatorin[01:09:22] Genau. Haben Sie da vielleicht auch konkrete Zahlen, in wie vielen Kliniken da schon Systeme eingesetzt werden?
Stefanie Speidel[01:09:29] Ich habe keine konkrete Zahlen im Kopf, aber in Deutschland hat jedes größere Klinikum einen Davinci-Telemanipulationsroboter.
Moderatorin[01:09:38] Vielen Dank. Und Frau Schöllig, die gleiche Frage. Sie aber vielleicht mit einem etwas größeren Blick, grundsätzlich wo Roboter denn schon eingesetzt werden, was möglich ist und was noch kommen soll.
Angela Schoellig[01:09:49] Ich will die Nachricht weitergeben an alle: Es ist sehr, sehr viel schon möglich in der Robotik. Mehr als wo sie jetzt schon eingesetzt sind. Und zwar würde ich sagen, was möglich ist, ist immer, wenn die Umgebung und die Aufgaben noch gut definierbar sind und nicht komplett variabel. Mein Wohnzimmer und das Wohnzimmer aller hier bei mir an der Straße sieht komplett unterschiedlich aus. Aber wenn ich Einfluss habe auf die Umgebung, dann kann ich extrem viele Aufgaben schon tun. Auch die, die schwierig erschienen, wo wir heute noch vielleicht denken, ein Getriebe zusammenbauen, das vielleicht nur ein Mensch dann einrasten lassen kann. Meiner Meinung nach kann das alles gemacht werden, das ist alles möglich. Sobald wir in komplexere Umgebungen gehen, dann wird es schwieriger. Und ein gutes Beispiel sind selbstfahrende Autos, bei denen das schon gut klappt. Warum? Weil wir sehr viele Daten gesammelt haben von genau dieser Straßenumgebung, die zwar schon sehr komplex ist, aber immer noch die Straße. Also ein Auto berührt noch nichts, hoffentlich, und interagiert mit den Autos. Aber auch da, das ist sehr eingeschränkt und ich glaube, was viel schwieriger ist, sind eben komplexe Umgebungen, die sich ändern, in denen ich möchte, dass der Roboter sich an die Umgebung anpasst und vor allem die physische Interaktion in diesen unbekannteren Umgebungen. Wenn es darum geht, eine bekannte Tasse zu greifen und hochzuhalten, die jeden Tag gleich aussieht und gleich schwer ist, dann ist das alles machbar.
Moderatorin[01:11:30] Heißt wir sehen Roboter, egal ob wir es mitbekommen oder nicht, schon in ganz, ganz verschiedenen Bereichen und auch schon relativ viel in unterschiedlichen Graden der Autonomie. Schwierig wird es immer dann, wenn man in eine unbekannte Umgebung kommt, wenn ein Roboter sich zurechtfinden muss, in gewisser Weise mit irgendwas, was er so noch nie gesehen getan hat.
Angela Schoellig[01:11:49] Genau.
Tamim Asfour[01:11:49] Und wenn der Roboter nah am Menschen dran ist, je näher der Roboter an den Menschen kommt, desto schwieriger wird es.
Moderatorin[01:11:56] Je mehr ich erwarte, dass der Roboter sich verhält wie ein Mensch, desto schwieriger wird es da auch. Alles klar.
Tamim Asfour[01:12:01] Auch abstandmäßig. Also, wenn der Roboter seine Fähigkeiten sehr nah neben Ihnen hier durchführen soll, dann wird es immer schwieriger und komplizierter. Oder wenn es auch mit Menschen ist, die nicht vorher eine Einweisung in den Roboter bekommen können. In einer Fabrik kann ich jeden Menschen einweisen, kann ihm erklären, wie er mit dem Roboter umzugehen hat. Das ist natürlich dann, sagen wir mal, für Pflege wesentlich schwieriger.
Moderatorin[01:12:29] Vielen Dank. Das ist hochinteressant. Trotzdem müssen wir jetzt, glaube ich, Schluss machen, weil wir auch schon eine Viertelstunde überzogen haben. Vielen Dank, dass Sie, liebe Expertinnen und Experten, sich die Zeit genommen haben. Vielen Dank, liebe Journalistinnen und Journalisten, für Ihre Fragen. Wir werden eine Audio- und eine Videodatei sowie ein maschinell erstelltes Transkript in etwa einer halbe Stunde nach Ende dieses Briefings hochladen. Sie finden das jeweils über den Link der Einladungsmail von gestern oder der Reminder-Mail von heute Morgen. Ein redigiertes Transkript stellen wir dann über denselben Link im Laufe des Tages so schnell wie möglich zur Verfügung. Vielen Dank und bis zum nächsten Mal. Tschüss.
Tamim Asfour[01:13:05] Danke. Danke auch an Sie. Ja.
Angela Schoellig[01:13:07] Danke. Tschüss.

