00:00:03: Herzlich willkommen, liebe Hörerinnen und Hörern zu einer neuen Ausgabe unseres FAZ Digitalwirtschaft Podcasts.

00:00:11: Mein Name ist Alexander Armbruster Und wir senden heute und nehmen live auf.

00:00:16: Wir sind nicht in der FAZ.

00:00:18: Wir sind im Stadion von Eintracht Frankfurt Auf der Tech-Konferenz Block im Park Die es zum fünften Mal gibt die sich mit Technologie in der Breite befasst und auch mit künstlicher Intelligenz.

00:00:32: Und ich spreche mit Antonio Krüger, dem CEO des Deutschen Forschungszentrums für künstliche Intelligenz in einem der renommiertesten KI-Forscher unseres Landes.

00:00:43: Hallo, Antonio!

00:00:44: –

00:00:44: Hallo, herzlichen Dank für die Einladung.

00:00:46: Schön, dass ich dabei sein darf.

00:00:48: Wir sprechen heute über im Prinzip alles.

00:00:52: wie wichtig ist KI für Deutschland?

00:00:54: Für Europa ist es Wirtschaftsfaktor Machtfaktoren.

00:00:59: Sie haben die Gelegenheit, hier im Stadion Fragen zu stellen nachher auch und er muss alle beantworten.

00:01:08: Und mein Versprechen ist, er kann auch alle beantworten.

00:01:12: deswegen haben wir ihn eingeladen.

00:01:17: Bevor wir zu den Themen kommen Antonio das wäre es nochmal DFKI Sagen wir mal ganz kurz, wie groß ihr inzwischen seid und was ihr macht.

00:01:28: Ihr seid ja zwischen Theorie und Praxis an der Schnittstelle aber dass wir dann nochmal einen Eindruck gerade kriegen womit ihr euch täglich eigentlich beschäftigt?

00:01:35: Ja das deutsche Forschungszentrum für künstliche Intelligenz existiert seit sagen ja auch noch viel älter, also es geht vielleicht sogar zurück bis Alan Turing dem Begründer der modernen Informatik und wir beschäftigen uns vor allen Dingen mit dem Transfer der KI Grundlagenforschung die wir an den Universitäten an denen wir ansässig sind durchführen in die Praxis hinein.

00:02:08: Mit ganz vielen Anwendungspartnern in die Industrie mit Dienstleistern aber auch mit Behörden der öffentliche Hand.

00:02:16: Und das DFKI selbst ist in diesen thirty- acht und dreißig Jahren sehr gewachsen.

00:02:23: Wir haben also relativ klein in Saarbrücken und Kaiserslautern angefangen, doppelt Standort damals.

00:02:30: Und inzwischen sind wir in sieben Bundesländern mit ungefähr, ich würde mal sagen, achthundert Mitarbeitenden die sich mit allen Aspekten der künstlichen Intelligenz und ihrem Anwendungsmöglichkeiten beschäftigen.

00:02:46: Leitende Mitarbeiter, die sind so wie du Professor einer Universität eben einerseits und zugleich auch in der praktischen.

00:02:54: Genau wir sind ein Zwischending zwischen einer akademischen Einrichtung, die vor allen Dingen Forschungen betreibt Und da sind wir so ähnlich organisiert wie Arbeitsgruppen an den Universitäten.

00:03:08: Wir haben momentan achtundzwanzig Arbeitsgruppe und jede Arbeitsgruppel wird geleitet von einer wissenschaftlichen Direktorin oder einem wissenschaftlichem Direktor.

00:03:17: Gleichzeitig ist es aber so, dass das DFKI als Public-Private Partnership organisiert ist.

00:03:23: Das bedeutet, das ist kein Uni-Institut, kein reines sondern es ist eine gemeinnützige GmbH Und die Eigentümer der GmbH sind sowohl die öffentliche Hand, das sind im Wesentlichen die Sitzländer in denen wir unterwegs sind und Industriegesellschafter.

00:03:42: Davon haben wir eine ganze Reihe aus.

00:03:45: den deutschen Automobilbauer sind dabei aber auch internationale Konzerne tatsächlich Microsoft Google Nvidia sind zum Beispiel auch Gesellschafterin des DFKI.

00:03:54: Und ihr entwickelt KI für ganz verschiedene Branchen.

00:03:58: Auto Bau ist eines was du schon gesagt hast aber auch Landwirtschaft und auch Sprachmodelle, also alles was man sich im Prinzip so vorstellen kann.

00:04:07: Was heute unter KI?

00:04:09: Ganz genau!

00:04:10: Und das hat sich natürlich auch in den letzten drei Jahrzehnten gewandelt.

00:04:16: Die während Ende der achtziger Jahre vor allen Dingen die sogenannte symbolische KI sehr im Vordergrund stand.

00:04:24: Das bedeutet künstliche Intelligenz logikbasierten Beschreibungssprachen sich aufgebaut hat, haben wir jetzt natürlich in den letzten zehn Jahren einen Riesenboom der datengetriebenen KI-Modelle.

00:04:38: Das heißt die ganz viel Daten verwenden da daraus große KI Modelle lernen, die dann tatsächlich sehr mächtig an ganz unterschiedlichen Anwendungen eingesetzt werden können.

00:04:48: und diese Entwicklung des Feldes das hat das DFKI im Prinzip begleitet und auch mitgestaltet.

00:04:55: zum großen Teil

00:04:58: Lesen wir fast täglich in Zeitungen wie der FAZ und anderen, welche Erfolge solche großen Sprachmodelle haben.

00:05:07: Was die können plötzlich programmieren?

00:05:09: Die können Tätigkeiten übernehmen, die Ärzte bisher übernommen haben.

00:05:16: Mal ein bisschen zugespitzt gefragt Wie weit ist denn die KI jetzt wenn hier das menschliche Gehirn ist so wir sind ja oft was.

00:05:23: Wir vergleichen uns mit.

00:05:24: was können wir was können die Computer?

00:05:25: Und da ist die KI.

00:05:27: Was würdest du denn sagen, wie nah ist die dran?

00:05:29: Was kann sie besser und was können wir noch besser.

00:05:34: Also zunächst mal kann man schon auch sagen dass die Tatsache das man einfach nur durch Vergrößerung der Modelle... Das ist ja das was in den letzten ich würde mal sagen sechs, sieben Jahren passiert ist.

00:05:48: Man hat die mit der Modell immer größer gemacht auch immer mehr geleistet bisher, das heißt man hat so einen Skalierungseffekt.

00:05:58: Dieser Skalierungseffekt, das überrascht mich selbst auch immer noch der ist immer noch da.

00:06:04: Das sieht man und das begründet auch ein bisschen warum große Techfirmen immer noch massiv hinein investieren in großen Rechenzentren weil sie die Modelle einfach noch größer machen wollen und dadurch noch mehr Leistungen auch Intelligenzleistungen herausbekommen wollen.

00:06:23: Das Interessante ist aber, dass keiner der Technodelle und wir als Wissenschaftler auch nicht.

00:06:29: Wir können nicht genau vorhersagen an welchen Stellen diese Modelle bei der nächsten Generation tatsächlich nochmal einen Sprung machen oder eben vielleicht auch nicht.

00:06:40: also zum Beispiel in den letzten würde ich mal sagen um sechs sieben Monate gab es Riesensprünge bei der Verbesserung, der Unterstützung zum Beispiel von Softwareentwicklung.

00:06:53: Die Systeme sind... die modernen KI-Modelle können größere Systeme plötzlich selbstständig auch entwickeln und weiter fortführen.

00:07:01: Das war etwas was vor einem halben Jahr noch nicht so gut ging.

00:07:04: also da haben wir einen großen Sprung gehabt aber an anderen Stellen stagniert es eher.

00:07:09: Da sehen wir keine Steigerungen.

00:07:12: Das ist ganz interessant, insbesondere weil wir nicht genau wissen woran das liegt.

00:07:17: Und es hängt einfach in der Natur dieser Art und Weise zusammen wie diese Modelle gebaut werden nämlich nicht von einzelnen Bausteinen die wir genau verstanden haben und darauf bauen wir aus wie so ein guter Ingenieur im Prinzip sein großes systemisches Haus sondern die lernen die Struktur ja von den Daten die sie bekommen.

00:07:40: Und im Prinzip ist das ein sehr empirischer Prozess, der am Ende nicht genau erlaubt untersucht zu werden und wir kein großes Verständnis davon haben wie Intelligenz auf dieser Art und Weise entsteht.

00:07:57: Das ist vielleicht auch die Gemeinsamkeit zur menschlichen Intelligenze wo wir auch nicht ganz genau wissen wie sie entsteht.

00:08:06: aber was wir ganz genau wissen dass das menschliche Gehirn doch grundlegend anders organisiert ist und auch die menschlichen Intelligenz auf anderen Prinzipien beruht als jetzt diese Intelligenze, die wir in diesen großen KI-Modellen sehen.

00:08:21: Also in unserem Gehirnen... Die Architektur ist wesentlich komplexer.

00:08:25: Wir haben Prozesse, die ablaufen permanent auch in unserem Gehirn funktionieren und Intelligenz erzeugen.

00:08:35: Wir haben spezialisierte Bereiche, die für bestimmte Aufgaben zuständig sind.

00:08:41: Und da sehen wir halt tatsächlich noch große Unterschiede.

00:08:44: Der größte Unterschied im Moment ist, dass wir selber als Menschen große Erfahrungen mit der physikalischen Welt haben.

00:08:53: Wir haben ein klares Verständnis, wie die physikalische Welt funktioniert.

00:09:00: Was passiert wenn ich hier zum Beispiel diese Flasche hochnehme und wieder absetze mit wie viel Kraft ich das machen muss?

00:09:07: Ohne dass ich irgendwie was kaputt mache und gleichzeitig aber das passiert, was ich erwarte?

00:09:12: Und dieser Erfahrung fehlt den modernen großen KI-Modern komplett.

00:09:18: Die haben aus Daten gelernt im Prinzip ein Abbild der Wirklichkeit sind.

00:09:25: Die lernen nicht tatsächlich die genauen Kraftaufwand, verwenden nicht den genauen Kraftaufwand den ich verwenden muss, den ich selber gelernt habe im Laufe meines Lebens.

00:09:36: Das fehlt in Modellen und das ist ein großer Zweig in der Forschung im Moment.

00:09:41: Das betrifft natürlich zum Beispiel die Robotik.

00:09:43: Roboter müssen in der physikalischen Welt interagieren und deswegen...

00:09:47: Da kommen wir gleich genau mit drauf, aber das bedeutet, die KI hat im Prinzip ein eher langweiliges Leben verglichen mit uns.

00:09:55: also sie lebt sozusagen die ganze Zeit im Internet und wir können uns in echt verlieben.

00:09:59: Wir können in echt rumlaufen und die können halt nur ja..

00:10:04: Ja!

00:10:04: Also die haben einen bestimmten Aspekt der Wirklichkeit Auf denen können sie zugreifen und aus dem speisen sich die Modellen.

00:10:15: Und Menschen speisen ihre Wirklichkeit aus wesentlich mehr Informations- und Erfahrungsquellen, und klar das versucht man jetzt natürlich schrittweise nachzubilden.

00:10:26: Das ist aber viel aufwendiger weil in der physikalischen Welt Dinge zu lernen und zu erfahren erfordert Zeit.

00:10:34: Das kann man versuchen zu simulieren Aber nur bis zum gewissen Grad Während natürlich, wenn ich aus Internetdaten lerne kann ich das so schnell lernen wie Computer arbeiten können.

00:10:44: Und das ist der große Vorteil und deswegen hat man sich zunächst auch erst mal auf diese Art von Daten- und Modellen konzentriert.

00:10:51: Robotik hast du schon als Stichwort gegeben.

00:10:53: also die Computers sind mit den Sprachmodellen da sind sie ganz schön vorangekommen.

00:10:58: aber ein Roboter der sozusagen was wir motorische Intelligenz haben, der jetzt so Fußball spielen kann wie einen Bundesleaderspieler von Eintracht Frankfurten gibt es halt noch nicht.

00:11:07: Nein, den gibt es noch nicht.

00:11:08: Es gibt zwar schon seit Jahrzehnten einen Wettbewerb, den sogenannten RoboCup.

00:11:13: Das spielen kleine Roboter gegeneinander Fußball in der Regel auf dem kleineren Fußballfeld.

00:11:18: Es gib auch verschiedene Klassen und eine Simulation.

00:11:21: Es gab auch eine Klasse wo wirklich Humanoide, die in unserer Größe ungefähr sind, gegeneinanderspielen.

00:11:26: Und das Ziel ist es schon irgendwann den Fußball Weltmeister zu schlagen mit so einem robotischen Team.

00:11:33: Da sind wir allerdings noch sehr, sehr weit entfernt, wenn man sich das anschaut.

00:11:36: Wir haben Fortschritte gemacht in den letzten zwanzig Jahren auch an der Stelle aber der Weg ist noch aus den genannten Gründen relativ weit.

00:11:45: Es kommt mir immer so vor, es gibt ja eine Frage die immer gestellt wird Wann ist denn sozusagen die allgemeine KI da.

00:11:55: Also wann kann die KI, wann ist sie so klug wie wir?

00:11:58: Und wenn man mal die KI-Forscher einteilt in die, die die Learning machen und die Sprachmodelle bauen... Die sind manchmal ziemlich optimistisch und sagen naja das ist noch so drei vier Jahre oder na ja vielleicht fünf.

00:12:10: Wenn man die Robotiker fragt dann sagen die naja also vielleicht in hundertfünfzig Jahren oder sowas weil die halt schon Schwierigkeiten haben mal eine Hand zu bauen die ein Ei greifen kann, ohne dass es kaputt geht.

00:12:21: und das sind Sachen die sind viel schwäger als man so denkt.

00:12:24: Die hat man aber gar nicht auf dem Schirm oft momentan weil alle über die Sprachmodelle reden.

00:12:28: Ja also das ist tatsächlich so.

00:12:33: Zunächst mal muss man sich stellen, muss natürlich die Frage stellen was bedeutet allgemeine künstliche Intelligenz?

00:12:39: Wann ist ein System so gut, in allen Belangen ebenwürdig oder sogar überlegen ist, beinhaltet das auch so etwas wie emotionale Zustände.

00:12:57: Wo man dann sagen würde ja ich muss einem KI-System auch zugestehen dass es bestimmte Gefühle hat und so weiter.

00:13:04: Ich bin bei der jetzigen Modellgeneration beim jetzigem Stand der Technik bin ich eher skeptisch so einfach durch Skalierung, ich hatte die Skalierungen erwähnt erreichen werden wird.

00:13:18: Ich halte das... ich sehe nicht den technologischen Pfad dorthin außer der Tatsache dass man darauf hofft, wenn man die Modelle immer größer macht und mit immer besseren Daten füttert, dass sie das dann vielleicht mal von selbst erreichen.

00:13:32: Das ist aber.

00:13:33: als Wissenschaftler finde ich so eine Erklärung sehr unbefriedigend.

00:13:36: Ja, das ist ein bisschen zu viel Spekulation für meinen Geschmack.

00:13:42: Für Journalisten ist es schon eher was?

00:13:44: Aber auch Journalisten haben manchmal mit so einer Art von Argumentation Probleme.

00:13:48: ja das weiß ich aus eigener Erfahrung und... Und bei der Robotik sind die Herausforderungen tatsächlich eben nicht nur diese Modelle zu trainieren, sodass ein Roboter weiß wie viel Druck muss ich ausüben.

00:14:00: Sondern wie du sagst ist sagt es man muss auch eine... Man muss den Roboter selber ja auch bauen.

00:14:06: in der Lage ist ähnlich wie einen Mensch tatsächlich sehr feingranular Drücke zu erkennen wenn man etwas hochhebt er so flexible Greifer hat wie die Hände.

00:14:16: Es gibt ne ganze eigene Robotik Sparte.

00:14:19: Die baut nur Hände Also und versucht die menschliche Hand nachzubauen.

00:14:24: Und das ist immer noch nicht so richtig, da haben wir immer noch nie geschafft eine Hand zu bauen, die wirklich so vielfältig und so viel sensorisch enthält wie die menschenliche Hand.

00:14:35: Stattdessen werden jetzt für Roboter ganz viele unterschiedliche Hände gebaut.

00:14:37: Das ist eben der Vorteil.

00:14:38: Da wird dann die Hand ausgetauscht, je nachdem was man machen muss Kann man natürlich auch, aber das ist eben das Tolle an uns Menschen.

00:14:47: Wir sind für diese physikalische Welt durch die Evolution so perfektioniert worden, dass wir hervorragend hier reinpassen.

00:14:56: und da fehlt noch ein großes Stück in der Robotik, aber auch bei den großen KI-Modellen.

00:15:02: Jetzt ist künstliche Intelligenz nicht nur wirtschaftlich wichtig weil Unternehmen Sie sind voll anwenden können, hoffentlich ein Vorteil haben gegenüber anderen oder einzelne Mitarbeiter die mit KI gut umgehen können.

00:15:15: Vielleicht auf Dauer produktiver werden als die, die es nicht können sondern ist auch politisch oder militärisch wichtig.

00:15:27: Wie selbstständig sind wir denn in Europa da und in Deutschland inzwischen?

00:15:35: weil wir ja nicht mehr uns offensichtlich so einfach darauf verlassen können, dass die Amerikaner unsere Verbündeten sind.

00:15:41: Bei den Chinesen wissen das auch nicht so genau und müssen mal ein bisschen zugespitzt zu sagen also es gibt ja auch sehr parteiübergreifend den Wunsch, dass wir hier selbstständiger werden können.

00:15:53: wie selbstständig sind wir jetzt gerade?

00:15:55: Also zunächst ist glaube ich wichtig nochmal zu unterstreichen, dass künstliche Intelligenz eine Querschnittstechnologie jetzt schon eine große Rolle in all unser Leben spielt, vielleicht noch nicht ganz so offensichtlich an allen Stellen in unserem Leben.

00:16:14: Vielleicht ist es auch ganz gut so.

00:16:15: aber eins ist klar das wird zunehmen.

00:16:19: ja wir befinden uns gerade in so einem Transformationsprozess wo künstliche Intelligenz Verfahren der künstlichen Intelligenze in allen gesellschaftlichen industriellen und auch im sozialen Bereich wie so einer Art

00:16:34: Betriebssystem

00:16:35: einer Gesellschaft sich etablieren wird.

00:16:39: Das ist wichtig, wenn man es jetzt vielleicht noch nicht so ganz hat ja das wird in einigen Jahren so sein ganz bestimmt und das bedeutet Es ist dann eine tragende Säule der Infrastruktur an jeder fortgeschrittenen Gesellschaft.

00:16:55: Das erklärt eben, warum es so wichtig ist.

00:16:58: Dass man ähnlich wie bei Stromnetzen, ähnlich wie logistischen Netzen... sich nicht von anderen vollständig abhängig macht.

00:17:08: Das ist ein ganz, ganz wichtiger Aspekt.

00:17:10: Das haben wir halt häufig nicht so auf dem Schirm gehabt.

00:17:14: im digitalen Bereich weil wir das so gewöhnt sind.

00:17:17: auch vor allen Dingen bei den sozialen Netzwerken, bei Kommunikationstechnologie, bei Clouddiensten, Hyperscalern sind wir es auf eine gewisse Art und Gewöhn, dass insbesondere amerikanische Firmen uns diese Dinge zur Verfügung stellen.

00:17:35: Aber das Problem wird eben zunehmen, dass wir noch viel stärker in unserer Gesellschaft durchziehen und wir erleben jetzt auch, dass man sich auf alt bewährte Verbindungen und Freundschaften vielleicht in der Zukunft nicht mehr verlassen kann.

00:17:51: Und es ist ganz wichtig, dass dort unsere eigene Infrastruktur aufbauen um uns eben nicht abhängig zu machen.

00:17:57: Das Gleiche haben wir übrigens bei Satellitennavigation gemacht.

00:18:01: Das erste war jetzt GPS aus den USA und wir haben ja mit Galileo auch ein eigenes Navigationssystem, weil das eben auch so in ganz vielen Zivilen aber auch militärischen Anwendungsferien eine Riesenrolle spielt.

00:18:13: da braucht man eine eigene Infrastruktur und das gleiche gilt im Prinzip für KI-Technologie.

00:18:18: Was gehört ganz konkret zu dieser KI-Infrastruktur dazu?

00:18:22: Rechenzentren?

00:18:23: erstens

00:18:24: Genau, es sind Rechencentren Und zwar nicht nur die Gebäude und wo sie stehen, sondern auch was für Chips man da drin hat logischerweise.

00:18:32: Dann gehört natürlich dazu... ...die Orte, wo die Daten liegen.

00:18:37: Das sind einfach Speicherplätze, die Netze gehören dazu natürlich.

00:18:44: Und oben drüber selbstverständlich die KI-Modelle, die aus den entsprechenden Daten mit den Rechenzentren trainiert wurden irgendwo betrieben werden müssen, also vornehmlich natürlich in einer Umgebung die man selber unter Kontrolle hat und die einem nicht einfach abgeschaltet werden kann.

00:19:01: Dann gehen wir es auch nochmal konkret durch von den Sachen die du aufgezählt hast was können wir selbst Rechenzentren?

00:19:07: Können wir oder nicht?

00:19:08: Können wir bis zum gewissen Grad, also man sieht auch und zwar nicht nur wir sondern auch Microsoft zum Beispiel Google engagieren sich jetzt auch seit einiger Zeit in Europa mit eigenen Rechenzentren.

00:19:21: Da ist dann eben die interessante Frage wie unabhängig sind diese?

00:19:25: Sind zwar Betrieben von Firmen die ihren Sitz nicht in Europa haben aber im Prinzip die Rechen Zentren selber stehen in Europa Und

00:19:33: das würdest du sagen Reicht, oder ist erstmal schon mal ein wichtiger Schritt.

00:19:37: Das zählt mit dazu.

00:19:38: Also das zählt

00:19:38: auf jeden Fall auch wenn

00:19:39: es zu Google ist.

00:19:39: Genau,

00:19:40: das zählt mit dazu.

00:19:41: also in Deutschland wird im Moment so eine... so eine zweigleisige Strategie gefahren, die ich auch für richtig halte.

00:19:48: Das eine ist man sagt okay das sind Rechenzentren, die werden zwar zum Beispiel von amerikanischen Firmen betrieben, sie werden aber durch das Bundesamt für Sicherheit in der Informationstechnik geprüft und kontrolliert dass die bestimmten Standards entsprechen.

00:20:01: Das ist sozusagen der eine Weg und der andere ist tatsächlich Rechencentren in Europa zu bauen von europäischen Firmen oder auch von der öffentlichen Hand oder in einer Kombination von beiden.

00:20:12: Das können

00:20:13: wir auch.

00:20:14: Da sind wir allerdings hinterher, das muss man ehrlicherweise sagen.

00:20:19: Wir haben die Schwarzgruppe zum Beispiel, die starken Recheninfrastruktur in Deutschland investiert.

00:20:24: Wie haben die Deutsche Telekom, die gerade im München Rechenzentrum eröffnet hat?

00:20:29: Die Europäische Union plant sogenannte Gigafactories, da muss man jetzt mal gucken in welcher Form die jetzt wirklich kommen.

00:20:36: Das sind dann eben auch nochmal mehrere große sehr große Rechenzentren in Europa.

00:20:42: wir brauchen diese Infrastruktur ganz dringend.

00:20:45: das wird aber eine gewisse Zeit dauern bis wir tatsächlich diese Rechen Zentren haben und diese Infrastrukturen.

00:20:50: deswegen können wir nicht einfach sagen, wir verzichten zum Beispiel auf amerikanische Rechenzentren.

00:20:56: Sondern.

00:20:57: deswegen ist diese zweigleisige Strategie eigentlich ganz gut und dann natürlich mit der Hoffnung dass wir vielleicht in fünf Jahren oder so eine genügend starke eigene Recheninfrastruktur haben in Europa.

00:21:09: Ja Chips können wir also nicht besonders gut das muss man ehrlicherweise sagen.

00:21:15: ich meine im Moment ist es so.

00:21:19: Der Hauptlieferant für KI Chips ist NVIDIA, die wirklich auch ein sehr gutes Kombination von Chips, von Speicher und internen Netzwerken zur Verfügung stellen und einer sehr guten Software um KI-Modelle zu bauen.

00:21:35: Da werden wir noch eine Zeit lang denke ich mal auf jeden Fall abhängig sein.

00:21:40: es gibt eine Bestrebung, die halte ich auch für gut dass man sagt na gut für bestimmte Arten von Chips.

00:21:47: Zum Beispiel für Chips, die wir verwenden um kleine KI-Modelle direkt zum Beispiel auf Fabriken an zum Beispiel Fertigungsstraßen zu verbauen so dass man gar keine Netzwerkverbindungen braucht und gar keine Clouddienste verwenden muss sondern man kann die KI Modelle direkt dort laufen lassen.

00:22:09: das sind Spezialchips.

00:22:11: Da wird manchmal auch unter dem Begriff Edge Computing oder HRI bezeichnet.

00:22:19: Bei diesen Chips können wir noch aufholen, also da das lohnt sich hinein zu investieren.

00:22:26: Ich glaube sowieso grundsätzlich, dass da in Deutschland eben die Fertigung der Maschinenbau, Elektrotechnik und so weiter, das industrielle Umfeld ein wichtiger Wirtschaftsfaktor ist.

00:22:38: Dass gerade die künstliche Intelligenz, die sich mit Anwendung in diesem Bereich beschäftigt besonders vielversprechend auch für europäische und deutsche KI-Entwicklung ist.

00:22:50: Und dazu gehören eben tatsächlich auch spezialisierte Chips, sodass Daten zum Beispiel eine fertige Straßen oder eine Fabrik gar nicht verlassen müssen, sondern dort vor Ort verarbeitet werden können.

00:22:59: Und da gibt es Entwicklung, dass wir da besser werden.

00:23:02: aber auch da die Chipindustrie in Europa hat glaube ich im einstelligen Prozentbereich halt fertigen wie unsere eigenen Chips.

00:23:12: Netze?

00:23:13: Ja also Netzwerke das ist schon glaube ich ein wichtiger Aspekt.

00:23:19: Das können wir glaube ich ganz gut sehr gute Telekommunikationsunternehmen auch.

00:23:25: Das wird auch in Europa deswegen wichtig sein, weil wir diese verschiedenen regionalen Rechenzentren die wir jetzt aufbauen, die wird man vernetzen müssen logischerweise so dass man auch verlagern kann halt geschickt Daten von dem einen Rechen Zentrum ins andere.

00:23:39: dafür braucht man schnelle Netze.

00:23:41: da denke ich mal sind wir Verhältnismäßig gut aufgestellt.

00:23:44: Wir waren es gibt europäische Firmen die entsprechende auch Hardware herstellen.

00:23:52: Klar, die Chinesen waren da sehr stark, die haben wir versucht aus Souveränitätsgründen auch ein bisschen zu reduzieren den Aufwand von solchen Komponenten.

00:24:03: aber gerade im Mobilfunkbereich, gerade in den Netzen stehen wir eigentlich... Da bin ich eigentlich ganz zuversichtlich dass wir das gut hinkriegen.

00:24:12: an der Stelle.

00:24:13: und dein letzter Punkt war KI Modelle dann da gab es die ganz großen der Tech Konzerne.

00:24:19: Dann gibt's hier Unternehmen wie Aleph Alpha, aber um das konkrete Beispiel zu nehmen jetzt eben aufgehen in einem kanadischen Unternehmen, die es alleine so nicht geschafft haben.

00:24:31: Wie weit also können wir Modelle mithalten können?

00:24:34: Also die die KI-Modelle ist ein ganz wichtiger Punkt.

00:24:39: im Moment ist es so.

00:24:40: es gibt zum einen die großen kommerziellen KI Modellen in der Regel entweder aus den USA oder bei China.

00:24:48: Was interessant ist, dass die Chinesen auch eine sehr starke Open Source Modelle haben.

00:24:53: Das heißt Modelle, auf die man sich zumindest mal runterladen kann und wenn man ein entsprechendes Rechenzentrum hat zum Beispiel wir haben im Kaiserslautern so eins dann kann man auch die großen chinesischen Modelle lokal im Keller laufen lassen halt.

00:25:11: Und das ist schon sehr interessant.

00:25:14: Und dann gibt es eben kleinere Firmen, die so gemischte Strategien fahren.

00:25:19: Es gibt in Europa inzwischen noch Mistral – das ist eine Firma, die Sprachmodelle Foundation Models herstellt.

00:25:27: Ich halte jetzt für ganz wichtig, dass wir diesen Zweig auch in Deutschland und insbesondere in Europa weiter stärken und ausbauen, eben aus den genannten Gründen.

00:25:36: Auch hier müsste man erst mal zweigleisig fahren.

00:25:40: usw.

00:25:41: weil man ja natürlich auch mit den besten Modellen arbeiten möchte und experimentieren möchte, würde trotzdem noch auf amerikanische Modelle zurückgreifen die gegebenenfalls dann auf Hardware hier in Europa laufen und auch betrieben werden aber gleichzeitig die KI-Modelle hier in europa aufbauen.

00:26:00: Und das ist nicht nur wichtig weil man dann Modeller hat auf die man sich verlassen kann abgeschaltet werden können, zum Beispiel in der Verwendung.

00:26:11: Gleichzeitig ist es aber auch wichtig dass wir unseren eigenen KI-Nachwuchs im Prinzip in die Lage versetzen solche Modelle zu bauen weil wie die Modelle grundsätzlich gebaut werden das ist sehr bekannt.

00:26:25: ja das ist auch gar nicht.

00:26:28: sagen wir mal wenn man eine gewisse Flughöhe nimmt ist das auch gar nichts so schwer das zu machen.

00:26:35: Das ist schon eine große Ingenieurskunst, wie man diese Modelle trainiert.

00:26:40: In welcher Reihenfolge man die Daten präsentiert?

00:26:43: Wie sozusagen die ganze Datenpipeline aussieht... die großen US-Konzerne viel auch experimentiert, Zeit gekostet das herauszukriegen.

00:26:56: und deswegen haben wir auch obwohl die Grundprinzipien alle gleich sind dieser Modelle doch auch Performance Unterschiede zwischen den Modellen.

00:27:03: Die einen Modelle sind in einem Bereich ein bisschen besser die anderen in dem diese Stellschrauben zu verstehen und zu lernen, wie man diese Modelle baut.

00:27:11: Das ist ganz wichtig!

00:27:13: Und wir werden die KI-Talente in Europa nicht halten können wenn wir nicht ein entsprechendes technologisches Angebot machen können wo gesagt wird hier könnt ihr Modelle mit entwickeln weiterentwickeln und dann daraus natürlich auch die zukünftigen Fortschritte, neue Modellvarianten und neue Architekturen dann da daraus zu entwickeln.

00:27:34: Das ist eben auch ein ganz wichtiger Aspekt wo wir sonst abgehängt werden.

00:27:41: Also wenn ich es mal kurz zwischen zusammenfasse, die vier Punkte Rechenzentren Chips Netze- und KI-Modelle.

00:27:49: bei den Netzen hast du gesagt sind wir ganz gut.

00:27:51: Bei den anderen drei Kategorien haben wir noch eine Menge zu tun.

00:27:56: Es gibt einen Fünften Bereich, den man nicht einfach klassisch KI ist sondern der jetzt dazugekommen ist das Thema Verteidigung wo man auch sagen will wir müssen eigentlich auch mehr selbst können und da spielt KI eben auch eine Rolle für militärische Anwendungen.

00:28:15: Da ist eine ganze Reihe von Startups entstanden.

00:28:18: in Deutschland sind wir da ganz gut unterwegs gerade?

00:28:23: Also es gibt eine Reihe von Startups, die tatsächlich auch Furore machen.

00:28:29: Insbesondere sind da natürlich Start-Ups zu nennen im Drohnenbereich.

00:28:34: Da gibt es einige in Deutschland auch.

00:28:36: Das hängt eben auch ein bisschen damit zusammen dass wir im Bereich der Robotik Mechatronik Maschinenbau ja auch ein starkes Standbein hier in Deutschland haben und daraus sind dann in Kombination mit Erfahrung im Bereich der KI-Entwicklung sind eben diese Startups entstanden und an dieser Stelle, glaube ich, sind wir gut aufgestellt.

00:29:01: Wir haben natürlich Nachholbedarf insgesamt im Verteidigungssektor was den Einsatz von KI den Einsatz von KI betrifft, weil wir lange Zeit das ein bisschen vernachlässigt haben.

00:29:19: Das muss man ehrlicherweise sagen und ich denke an der Stelle... werden viele Anstrengungen jetzt unternommen, eben tatsächlich in Europa auch in Deutschland die Streitkräfte auf so einen Niveau zu bringen dass sie tatsächlich mit modernen anderen Streitkräften mithalten können.

00:29:39: Aber das wird noch eine Zeit lang dauern aber die Entwicklung sehe ich auf jeden Fall.

00:29:44: Wir wollen an der Stelle die Diskussion öffnen und Ihnen hier im Stadion die Gelegenheit geben

00:29:52: zu

00:29:52: fragen.

00:29:53: wir haben ein Mikrofon.

00:29:56: Vielen Dank

00:29:56: für den spannenden Austausch.

00:29:58: Ich wäre interessiert zu hören, ob Sie glauben dass es bislang ausreichend gelingt auch gegenüber der Gesellschaft die Chancen dieser Transformation ausreichen zu kommunizieren?

00:30:11: Danke!

00:30:11: Ja das ist ein sehr guter Punkt.

00:30:14: vielen Dank.

00:30:15: ich glaube das wird noch zu wenig gemacht.

00:30:21: Wir haben jetzt ja ein bisschen über Potenzial von KI gesprochen.

00:30:25: Man muss ehrlicherweise aber auch immer sagen, das ist mit jeder Hochtechnologie und KI ist definitiv eine sehr transformative Hochtechnologie, dass es dann natürlich auch eine ganze Reihe von Risiken gibt.

00:30:36: Und zu einer ehrlichen Kommunikation gehört eben auch eine gute Abwägung sozusagen und einen Fokus sowohl auf die Potenziale als auch auf die Risiken.

00:30:48: Ich meine klar... Ich selber als jemand, der eine große KI-Forschungsinstitution leitet mit einem Anwendungspfokus.

00:30:55: Ich sehe natürlich sehr viel die Potenziale aber es gibt auch jede Menge Risiken und häufig entsteht ein großes Misstrauen dann wenn... die Menschen nicht das Gefühl haben, dass sie die Risiken gut einschätzen können und auch die Potenziale und diese Abwägung.

00:31:15: Und ich würde Ihnen an der Stelle beiflichten – das haben Sie zwar so nicht gesagt aber es klingt so in Ihrer Frage mit -, dass wir da ein bisschen zu wenig machen.

00:31:23: Ich glaube ist ganz wichtig, dass man die gesamte Bevölkerung mitnimmt weil am Ende ist es so….

00:31:32: Die Künstliche Intelligenz Das ist ja und einige meiner Kollegen stellen das auch so dar, als wenn das ein Selbstzweck wäre.

00:31:39: Und die evolutioniert sich jetzt von selber irgendwie in irgendeinen Rang und macht dann irgendwas?

00:31:45: Nee, nee, nee!

00:31:46: Das ist eine Technologie.

00:31:48: Die wird von Menschen gemacht und auch von Menschen gesteuert.

00:31:51: Es ist ganz wichtig dass diese Technologie für Menschen eingesetzt wird.

00:31:59: Also zum Zwecke für die Menschen und das kann eben an vielen Stellen auch bedeuten, dass man sich bewusst dafür entscheidet bestimmte Dinge eben nicht mit KI zu machen ja?

00:32:10: Und ich halte das auch für ganz ganz wichtig und diese gesellschaftliche Debatte findet für meinen Dafürhalten noch nicht tief genug statt obwohl natürlich solche Formate auch so ein bisschen dabei helfen sollen, dass solche Debatten in Gang

00:32:22: kommen.

00:32:23: weitere Fragen

00:32:25: vielleicht nochmal zur Debatte.

00:32:28: Ich nehme wahr, dass von meiner alteren Fußballmannschaft wo Menschen alle anderen Sprachen auch neben Deutsch sprechen ein bisschen zum Handwerkstag bis zu Juristinnen und Juristen quasi alle über Karri reden.

00:32:42: Warum ist das so?

00:32:43: Ich kann mich an keine Technologie erinnern die quasi so viele Menschen gleichzeitig in der Diskussion bewegt hat.

00:32:49: warum es ausgerechnet bei KI der Fall oder ist meine Wahrnehmung da falsch?

00:32:54: Ich glaube, also das ist ja auch kein Widerspruch zu der Anmerkung vorher.

00:33:01: Wir reden sehr viel über KI aber tatsächlich ist die Diskussion eine informierte Diskussion über Risiken und Chancen finde ich nicht differenziert genug statt.

00:33:16: Das ist das was ich damit meinte.

00:33:19: die Tatsache, dass wir darüber sprechen das ist klar weil künstliche Intelligenz glaube ich wie selten eine andere Technologie zuvor eben uns auch den Spiegel vorhält so ein bisschen.

00:33:31: Uns irgendwie durch die Leistung.

00:33:34: zum Beispiel wenn man eines der modernen Chatbot-Systeme verwendet und das System gibt einem ziemlich intelligente Antworten auf viele Fragen manchmal auch nicht so intelligente antworten aber meistens ja schon ist ja so, als ob man einen Spiegel vorgehalten bekommt.

00:33:51: Das heißt, man stellt sich dann selber die Frage was macht mich denn eigentlich als Menschen aus?

00:33:57: Wenn ein großes Datenbetriebendes Modell sich eigentlich so verhält wie ich?

00:34:02: und das berührt den Kern im Prinzip unseres Daseins und ich glaube, dass ist der Grund weswegen eben auch die Menschen das Thema bewegt und das an vielen Stellen diskutiert wird.

00:34:16: Noch Fragen Wir haben jetzt sehr viel über Sprachmodelle gesprochen.

00:34:22: Es gibt auch noch andere

00:34:23: Modelle wie Worldmodels

00:34:24: oder so Energy-Based-Models.

00:34:27: Sehen Sie da eine größere Chance, dass Europa nochmal Anschluss finden kann?

00:34:31: Oder ist der Zug abgefahren?

00:34:34: Also das ist absolut richtig!

00:34:37: Ich sagte ja die momentanen Modelle... Da bin ich selber nicht davon überzeugt, auch noch in drei, vier Jahren große Fortschritte sehen werden.

00:34:50: Und ich glaube auch nicht dass sie der menschlichen Intelligenz in allen Belangen eben bürdig werden.

00:34:57: diese Art der Modelle bei den Weltmodellen das ist eben Versuch bestimmte Defizite die jetzige Modelle haben dem zu begegnen und das ist durchaus aus unterschiedlichen Gründen ein Versuch den Ich für Lohnenswert halte.

00:35:16: Aber das ist natürlich auch an der Stelle ein bisschen Spekulation.

00:35:20: Wir werden sehen, was diese Modelle dann in der Lage sind zu leisten aber das ist verhältnismäßig vielversprechend.

00:35:29: Noch eine Frage

00:35:31: aus Ihrer Erfahrung heraus ich meine sie beschäftigen sich ja jetzt ihr ganzes professionelles Leben mit diesem Thema würde mich interessieren wo Sie die größte Gefahr von KI sehen?

00:35:43: Aber genauso weil es sich auch viel mit Anwendungen auseinandersetzen, wo die größte Chance besteht.

00:35:52: Einfach von jemandem der so viel sich damit auseinander setzt?

00:35:55: Ich fange mal über den Gefahren an dann kann ich mit den Chancen enden.

00:35:58: das ist ein bisschen besser.

00:36:01: also ich glaube es gibt eine ganze Reihe vom Gefahren ja die die ich sehe.

00:36:07: es gibt so ne sagen wir sehr unmittelbare Gefahr.

00:36:11: dass ist tatsächlich das künstliche Intelligenz natürlich als mächtiges Werkzeug plötzlich Leuten Hebel in die Hand geben, die diese wirklich sehr missbräuchlich und zwar hochskaliert einsetzen können.

00:36:27: Das ist eben der Unterschied!

00:36:28: Wir kennen all die Internetscams und Fishing-Attacken

00:36:32: usw.,

00:36:33: die schon eine gewisse Skalierung haben.

00:36:35: durch KI System werden diese deutlich geschliffener und besser und noch mal größer skaliert.

00:36:42: wir wissen das KI Systeme Sicherheitslücken im IT System identifizieren können.

00:36:49: Das sind so unmittelbare Gefahren, die ich sehe das ganze Thema natürlich Meinungsbeeinflussung und so weiter dass daran werden sich die Leute vielleicht gewöhnen und damit umgehen können.

00:37:03: okay da bin ich tatsächlich nicht super pessimistisch.

00:37:06: wo ich auf mittlere Sicht mir große Sorgen mache ist wenn KI-Systeme wirklich zu einer hoch automatisierten Verwaltung führen einer Gesellschaft, dass der Platz für die Menschen dann nicht mehr so richtig da ist.

00:37:25: Und das Menschen, die mit so einer verwaltungsvoll automatisierenden Verwaltungsadministrationsschicht interagieren sich nicht mehr repräsentiert fühlen.

00:37:35: Das rührt tatsächlich an Grundfeste auch der Demokratie und auch da müssen wir wachsam sein eben KI so einzusetzen, dass grundlegende demokratische Werte eben gewahrt bleiben.

00:37:52: Davon bin ich ganz fest überzeugt, dass wir das benötigen.

00:37:55: Das ist eine Herausforderung weil KI voranschreitet und man unmittelbar natürlich sieht wenn ich jetzt hier diesen Verwaltungsprozess durch Kati automatisiere habe ich tolle Vorteile geht viel schneller

00:38:05: usw.,

00:38:06: wenn nicht diesem Verbesserer und jenen und so weiter.

00:38:09: aber natürlich ist es für uns Menschen immer noch wichtig zu verstehen, was davor geht in unserer Gesellschaft.

00:38:16: In dieser Schicht die dann durch KI automatisiert wird und da müssen wir wachsam bleiben meiner Meinung nach.

00:38:24: Also das sind so ein bisschen im Moment die Risiken für die nächsten paar Jahre, die ich sehe bei den Chancen.

00:38:30: also für mich als Wissenschaftler ist es unglaublich faszinierend zu sehen wie KI die Wissenschaft auch verändert.

00:38:38: Erkenntnisprozesse beschleunigt tatsächlich teilweise ganze Labore, wo die unglaublich zeitaufwendig betrieben werden mussten durch ein Stück Software ersetzt.

00:38:52: Was Erkenntnisgewinn viel schneller voran bringt als es bisher möglich war.

00:38:58: und wenn man das dann in bestimmte Anwendungsgebiete hineinprojektiert zum Beispiel in die Medizin und so da können wir schon sehr zuversichtlich sein dass viele Durchbrüche in deutlich kürzerer Zeit erleben werden, wenn wir solche Werkzeuge tatsächlich einsetzen können.

00:39:18: Noch eine Frage?

00:39:21: Vielleicht noch eine Frage!

00:39:23: Man liest ja immer mal das KI-Modelle Dinge tun oder eben weiter tun obwohl man dachte man bricht ein Prozess ab.

00:39:34: gibt es das wirklich und wenn ja wie kann man den begegnen also dieser Befürchtung eines Eigenlebens.

00:39:42: Ja, also es gibt tatsächlich Untersuchungen dass KI-Modelle... Ich meine im Moment können sie den natürlich den Strom abstellen und dann ist irgendwie Schluss.

00:39:51: halt ja das musste man meiner mal meines Wissens noch nicht so machen.

00:39:58: ja das ist so schlimm geworden wäre.

00:40:00: aber tatsächlich kann man ja in die KI Modelle gut hineinschauen und genau verstehen, also in der Art und Weise wie die Kami-Modelle im Moment gebaut sind.

00:40:11: Die sind ja wie so eine Blackbox.

00:40:13: Das bedeutet bestimmte Dinge sind auch immer noch ein bisschen rätselhaft an der Stelle.

00:40:20: Es gibt KI Systeme, die tatsächlich teilweise ausweichend antworten weil sie wissen das wenn sie jetzt wahrheitsgetreue antwortet dass das ihnen dann in irgendeiner richtung zum nachteil geriert zb.

00:40:33: Wenn Sie trainiert werden.

00:40:34: halt ja und das ist schon das is schon sagen wir mal ein bisschen bedenklich weil das den steuerungsprozess.

00:40:45: und was man ja möchte ist, ich sagte vorher wir wollen KI-Systeme die den Menschen dienen.

00:40:50: Wir versuchen gerade das durch ganz unterschiedliche Mechanismen, durch Training und so sicherzustellen und trotzdem gelingt es immer noch entweder diesen System in eine Ecke zu schieben dass sie dann doch wieder das machen was menschlichen Interessen zu widerläuft oder das sogar versuchen zu verschleiern.

00:41:11: Also insofern ich bin eigentlich deswegen auch überzeugt, dass diese momentanen Modelle für Hochsicherheitsanwendungen und für wirklich komplexe Tätigkeiten die dann gegebenenfalls bei Fehlverhalten zum großen Schaden führen eigentlich eher ungeeignet sind.

00:41:26: Ja das muss man sagen es gibt eben Bestremung solche Systema mit sogenannten weiteren Systemkomponenten einzuhägen so dass sie nur im bestimmten Rahmen Verhalten dass auch zugelassen wird und so weiter.

00:41:42: Aber das sind zum Teil auch noch Sachen, mit denen experimentiert wird

00:41:45: im Moment.

00:41:46: Antonio ich würde zum Schluss gerne noch eine Sache wissen.

00:41:50: hast du zwei drei Tipps dazu wie viel Ich wenn ich jetzt nicht Informatik studiert habe auch nicht KI Professor werden möchte Wie viel ich über KI Wissen muss Dass sich die sinnvoll bedienen kann Und zwar mehr wissen muss also FAZ-Artikel über KI lesen oder Podcasts und ist ja bestimmt.

00:42:12: Ja,

00:42:13: das muss man auf jeden Fall machen.

00:42:15: Darüber hinausgehend was du empfehlen würdest?

00:42:18: Also ich glaube schon der Unterschied... ...der Technologie künstlicher Intelligenz zu vorherigen Technologien, zum Beispiel die Einführung des Internets usw.

00:42:34: Aufkommen des e-Commerce, das man plötzlich alles online kaufen konnte und so weiter.

00:42:38: Der große Unterschied ist dass die Technik sich viel schneller entwickelt als diese Techniken Und das bedeutet gleichzeitig dass sie eben alle in unserer Gesellschaft jeden einzelnen betreffen wird egal ob er kurz vor der Pensionierung steht oder am Anfang des Berufslebens.

00:42:53: Das spielt keine Rolle.

00:42:55: Deswegen ist es schon auch wichtig dass man sich selber mit der Technologie auseinandersetzen.

00:43:02: Auseinandersetzen bedeutet auch FAZ-Artikel lesen oder Podcast hören, aber es bedeutet vor allen Dingen auch Selbsterfahrungen zusammen mit KI Modellen und das können Chatbots sein, das können aber auch Agendensysteme sein zum Beispiel also... Und am besten funktioniert das eigentlich wenn man das Wenn man diese Modelle, wenn man diesen Modellen experimentiert vor dem Hintergrund der eigenen lebens- und beruflichen Erfahrungen.

00:43:33: Dass man sich selber überlegt an welcher Stelle zum Beispiel in meinem Job welche Tätigkeit zum Beispiel führe ich häufig aus und die nervt mich eigentlich ja?

00:43:45: Und dass man dann anfängt einfach zu überlegen Kann man übrigens auch gemeinsam mit so einem Chatbord, dass man gemeinsam mal brainstormt wie man die Tätigkeit automatisieren könnte.

00:43:55: Das heißt man kann auch KI verwenden um zu lernen wie man mit KI umgeht und das man sich so experimentell eine eigene Erfahrungswelt aufbaut was KI kann und was KI nicht kann.

00:44:10: Das halte ich glaube im Moment für ganz wichtige Eigenschaften.

00:44:14: damit sollte sich jeder meiner Meinung nach beschäftigen

00:44:18: sagt Antonio Krüger, der CEO des Deutschen Forschungszentrums für Künstliche Intelligenz.

00:44:23: Ganz vielen Dank dir für deine Einsichten und Ihnen hier im Stadion und Ihnen zu Hause.

00:44:29: Vielen Dank fürs Zuhören!

00:44:30: Bis zum nächsten Mal.

00:44:32: Danke.