00:00:03: Was unterscheidet Computer vom Gehirn?

00:00:06: Wie weit ist die künstliche Intelligenz?

00:00:09: Liebe Hörerinnen und Hörern, wir präsentieren Ihnen heute eine Sonderausgabe unseres Digitalwirtschaft Podcasts.

00:00:16: Ein Gespräch das wir geführt haben auf unserem FAZ-Kongress.

00:00:21: Als Gäste hatten wir dort den Vorstandsvorsitzenden des Deutschen Forschungsinstituts für Künstliche Intelligence Antonio Krüger Professor an der RWTH Aachen für künstliche Intelligenz, ein hoch dekorierter KI-Forscher in Deutschland.

00:00:38: Und beide haben sich über diese spannende Grenzfrage in dieser Technologie ausgetauscht mit uns und mit unseren Lesern.

00:00:48: Ja!

00:00:48: Ein herzliches Willkommen Ihnen allen hier auf dem FHZ-Konquest und hier zu dieser Diskussion.

00:00:55: Schön dass Sie sich für das Thema interessieren.

00:00:56: wir wollen uns mit künstlicher Intelligenze befassen Und tatsächlich mit der Frage, sind die Computer jetzt langsam wirklich so schlau wie wir?

00:01:05: oder wo ist der Unterschied?

00:01:06: Also es ist kein Gespräch darüber was das der Beste prompt.

00:01:09: Oder ist jetzt Claude gerade besser als JetGPT oder welches Sprachmodell was sehr konkret in die Praxis geht?

00:01:16: da kommen wir auch in Teilen drauf.

00:01:17: aber wir wollen tatsächlich einen Schritt zurücktreten und uns diese Frage stellen weil Computer eben inzwischen erstaunlich viele Sachen können bei denen wir vor fünf bis zehn Jahren noch gedacht hätten Das können eigentlich nur Menschen passiert.

00:01:30: Und ich stelle vor, mit wem wir das Ganze diskutieren?

00:01:33: Wir hätten uns eigentlich keine besseren Gäste wünschen können.

00:01:36: Ich fange mal hier in der Mitte an.

00:01:38: Holger Hoos ist Professor an der LWTH in Aachen war lange in Kanada von zweitausend bis zweitaussendsechzehn Jahre.

00:01:46: auch Professor muss dann gleich erzählen warum er eigentlich zurückgekommen ist nach Europa und was ihn nach Aachen verschlagen hat.

00:01:52: ist Wissenschaftler einerseits und andererseits aber auch jemand der sich sozusagen um die KI in Deutschland und Europa bemüht.

00:02:01: Seit vielen Jahren hat ein großes Forschungsnetzwerk mitgegründet, das unter dem Namen Claire begann, Länder übergreifend in Europa ganz viele KI-Wissenschaftler vereint die auch versuchen dann gemeinsam Positionen zu formulieren und Einfluss zu nehmen.

00:02:16: politisch Das heißt Triple AI Fellow, das ist die amerikanische KI-Forschervereinigung.

00:02:24: Da gibt es ganz wenige Deutsche, die diesen Titel haben.

00:02:26: Er ist einer davon aber auch nicht der einzige Grund warum er heute hier ist.

00:02:29: Aber herzlich willkommen lieber Holger!

00:02:32: Danke!

00:02:33: Freude und eine

00:02:33: Lehre!

00:02:37: Und dann Antonio Krüger ist auch Professor für... künstliche Intelligenz und der Vorstandsvorsitzende des Deutschen Forschungszentrum für Künstlicheintelligenz in Saarbrücken mit mehreren Standorten.

00:02:50: Aber das ist eine, das wirst du auch gleich noch kurz erzählen was es noch genau ist, eine Unternehmung die einerseits forscht also er hat ein Lehrstück an der Universität und andererseits aber auch Unternehmen als Kunden hat, für die wirklich KI entwickelt wird in der Praxis.

00:03:04: Also diese Brücke in seinem Alltag schlägt.

00:03:06: Er ist Wissenschaftler einerseits und andererseits eben auch der, der die KI in die Anwendung bringt und deswegen aus dieser Perspektive gut sagen kann was kann sie eigentlich wirklich?

00:03:16: Weil er muss wirklich dann auch einen Maschinenbauer sagen oder der kann jetzt die KI wie kann ich die denn einsetzen dass sie sicher ist das sie funktioniert, dass sie verlässlich ist alle solche Sachen von Menschen verlangen die die Computer ja auch können sollen.

00:03:30: Liebe Antonio, herzlich willkommen.

00:03:32: Danke!

00:03:39: Ja und dann werden wir so machen.

00:03:41: ich werde jetzt eine Reihe von Fragen stellen.

00:03:43: Wir werden das Gespräch führen erst mal und dann aber auch relativ zeitig schon die Runde öffnen, dass Sie alle Ihre Fragen stellen können.

00:03:51: Von wirklich den Fragen sind die Computer so schlau wie wir langsam bis hin auch zu wirklich politischen Fragen, die ja auch unter den Nägeln brennen.

00:03:59: macht Deutschland eigentlich genug dafür?

00:04:01: haben wir genug Datenzentren?

00:04:03: Wie gut sind wir in der Forschung?

00:04:04: Was muss die Politik machen?

00:04:05: das können sie alles.

00:04:07: Die beiden wissen, dass sie alles beantworten können müssen.

00:04:14: Ja ich Holger, wir fangen einmal an.

00:04:18: Die künstliche Intelligenz ist ja keine Erfindung von gestern oder vorgestern erst, auch wenn man das manchmal denkt.

00:04:26: Jetzt seit ein paar Jahren reden wir in der Breite so drüber.

00:04:30: Als Fach gibt es sie, das hat auch dieses Jahr einen runden Geburtstag, seit siebzig Jahren offiziell sozusagen eine Gründungskonferenz seit sechsundfünfzig.

00:04:38: Aber eigentlich ist die Idee noch viel, viel älter schon seit Jahrhunderten und fragen sich Menschen können wir eigentlich das was unsso besonders macht?

00:04:47: können wir das nachbauen.

00:04:48: Was uns besonders macht, ist nicht unsere Muskeln oder Knochen unbedingt, sondern ist irgendwie schon unser Gehirn.

00:04:53: Wir können ganz anders denken als es viele Tiere ... können andere Lebewesen also den Traum- oder die Ideefaszinationen, die tragen die Menschen schon seit Jahrhunderten miteinander rum.

00:05:05: und jetzt haben wir so Sprachmodelle, die können viele Fragen beantworten.

00:05:10: wie weit sind die dann jetzt?

00:05:10: die Computer?

00:05:13: Die sind schon ziemlich weit.

00:05:16: Und schön, dass du auch gerade betont hast, dass das ja keine so ganz neue Sache ist.

00:05:20: Es gibt viele Leuten die denken vor ChatGPT gab es keine KI und die einzige Art von KI, die es gibt, ist dieser Art von Sprachmodell.

00:05:26: Das ist natürlich wie du auch rausgestellt hast wirklich nicht so.

00:05:30: KI ist ein Menschheitstraum.

00:05:32: man hat angefangen daran ernsthaft zu arbeiten auch übrigens mit ernsthaften Erfolgen im Wesentlichen vor siebzig Jahren schon vor dreißigvierzig Jahren.

00:05:40: Wir können uns beide so gerade so dran erinnern, als wir jung und noch begeisterungsfähiger war.

00:05:45: da hat das so richtig angefangen und da gab es auch schon industrielle Anwendungen von KI.

00:05:49: also man sollte sich jetzt nicht denken dass ist eine ganz neue Sache.

00:05:53: und wie viel können die wirklich?

00:05:56: Die können schon ziemlich viel und vor allem Ich denke, ein großer Gamechanger war dieses Man kann sich mit KI-Systemen in natürlicher Sprache unterhalten und das ist ziemlich robust.

00:06:07: In dem Sinne man kriegt eine Antwort eigentlich auf jede Frage und die Antwort ist vernünftig formuliert und es passiert eigentlich fast nie dass das KI System einem sagt Kann ich nicht weiß ich nicht will ich nicht.

00:06:18: Und das ist vielleicht auch genau das Problem weil Menschen zeichnen sich ja unter anderem dadurch aus, vor allem wenn wir über Expertinnen und Experten in wichtigen Bereichen reden.

00:06:28: Also zum Beispiel Medizin.

00:06:30: Die zeicheln sich dadurch aus dass sie die Grenzen ihres Wissens kennen und dessen an bestimmten Punkten sagen das kann ich nicht oder das will ich nicht Oder das darf ich nicht.

00:06:40: Und natürlich versucht man zurzeit diesen KI Modellen dieses Urteilsvermögen auch irgendwie einzubauen, überzustülpen.

00:06:48: Irgendwie zu vermitteln.

00:06:49: aber so richtig gut funktioniert das nicht.

00:06:51: und ich will einfach mal sagen für mich der nächste große Schritt wäre während KI Verfahren die sehr klar darüber artikulieren also vor allem die Art von Verfahren mit denen wir alle in Kontakt treten können sowie ChatGPT und Claude und so die einfach an bestimmten richtigen und wichtigen Stellen sagen Das übersteigt meine Fähigkeiten oder das mache ich lieber nicht.

00:07:13: Was wir uns manchmal auch von Menschen wünschen?

00:07:14: Ja, ganz genau und ich glaube aber nach wie vor Menschen sind da besser.

00:07:19: Und wenn Menschen versagen und das nicht tun dann redet man davon dass jemand ein Scharlatan ist oder eine Amtsanmaßung oder also das kommt nicht gut und das verursacht auch wirkliche Schäden.

00:07:29: Und ich glaube, so passiert das gerade bei den KI-Systemen auch.

00:07:31: Und dann gibt es einen zweiten Bereich in dem diese KI- Systeme wirklich nicht besonders gut sind und das ist der Bereich, der eigentlich lange sozusagen als der Gipfel der menschliche Intelligenz galt.

00:07:41: Das ist das logische Schließen.

00:07:43: also wenn wir ein bisschen zurückdenken vor ChatGPT, Intelligenztest IQ Test die haben immer sehr viel mit logischem Schließen zu tun.

00:07:51: Das is was worin Menschen sich mühsam trainieren müssen.

00:07:55: Wir kennen das von der Uni, wir bilden Informatikerinnen und Informatika aus.

00:07:58: Selbst bei denen die haben eine natürliche Inklination ist es schwierig, die dazu zu kriegen sauber logisch zu argumentieren und zu schließen.

00:08:05: Und es gibt natürlich KI Verfahren, die das sehr gut können aber diese ganzen großen Strachen Sprachmodelle können das nicht besonders gut und das macht uns auch Probleme in bestimmten Anwendungen.

00:08:14: Antonio Stichwort natürliche Sprache?

00:08:18: ähnlich reden inzwischen wie mit Menschen oder wir geben der Text ein und die werden auch verstanden.

00:08:22: Kannst du noch mal ganz kurz sagen, was da der Durchbruch war?

00:08:25: Warum klappt es heute und warum hat's vor zwanzig Jahren nicht geklappt?

00:08:29: Naja also man hat das natürlich auch schon vor zwantsich dreißig jahren versucht.

00:08:34: Das war immer ein Ziel solche Dialogsysteme zu bauen, die am Ende sich auf der anderen Seite genauso anfühlen wie ein menschlicher Gesprächspartner was interessant ist, auch in Literatur und so weiter findet man ja solche Verweise.

00:08:50: Auf simultanen Übersetzungssysteme unter Informatikern ist natürlich per Anhalter durch die Galaxis immer sehr beliebte Literatur wo es diesen Babelfisch gibt, wo ich ehrlich gesagt als ich das als Student gelesen habe mir nicht hätte vorstellen können dass man sowas wirklich in unserer Lebenszeit bauen kann.

00:09:06: und jetzt kann man das.

00:09:07: da ist vielleicht noch ein bisschen Verzögerung drin Und die Haupttriebfeder sind zum einen natürlich die riesen Menge an Daten, die wir haben.

00:09:20: Die Riesen-Digitalisierungswelle nach verschiedenen Ankündigungen, ich sage mal Papierloses Büro dann doch langsam gegriffen hat auch insbesondere getrieben durch Internet und Internetstrukturen, Clouddienste

00:09:33: usw.,

00:09:34: wo diese ganzen digitalen Daten eben dann plötzlich auch über eine längere Zeit gespeichert werden konnten für die richtigen Systeme, um aus diesen Daten dann tatsächlich auch KI-Modelle zu bauen.

00:09:49: Die genau das hinbekommen diese die Transformer Architektur, die jetzt bei den großen Sprachmodellen und Multimodalen Modellen verwendet werden.

00:09:58: Das ist eigentlich keine sonderlich komplexe Architekteur.

00:10:02: Da sind ein paar sehr coole Kniffe drin, die man vorher so nicht hatte und deswegen konnte man diese riesen Datenmengen nicht verarbeiten.

00:10:10: Das war dann möglich.

00:10:12: Aber eigentlich sind das ja Vorhersagemaschinen, die versuchen aus einem Kontext – das kann das Wort vorher sein, aber auch ... Was ist ich?

00:10:19: Das kann aber auch eine Dialoginteraktion sein, die was ich vor vier fünf Minuten stattgefunden hat.

00:10:25: Also ich sag hallo und dann ist es wahrscheinlich, wenn ich da mit einem Gespräch begehne... Hallo!

00:10:30: ...dann jemand mal zurück sagt hallo.

00:10:31: Genau.

00:10:33: Und am Anfang waren diese Kontexte sehr klein und deswegen gab es sehr hölzernde Gespräche und gab auch manchmal sehr merkwürdige Ergänzungen.

00:10:39: Aber diese Kontexen hat man halt riesig aufgezogen.

00:10:45: Gespräch mit einem Chatbot starten, zum Beispiel.

00:10:48: Denn hat ja schon ganz viel Kontext reingesteckt, sodass man da nicht ganz bei null und es kommt immer so vor als wenn man bei Null startet.

00:10:54: aber in Wirklichkeit startet man nicht bei null sondern da steckt schon ganz zu viel drin und dann greift er natürlich über den Dialog das immer führter weiter fort und dann wird eben auch ein vernünftiges Gespräch in der Regel ja kommt dann dabei heraus ist es halt auch überraschend, wie viel man mit so einem Mechanismus hinbekommt.

00:11:16: An das was wir auch, sagen wir mal, intelligentes Verhalten als intelligentes Verhalten also in dem Fall Sprachverhalten bezeichnen würden... Das ist schon erstaunlich und für uns Informatiker ist das aus ein bisschen so'n Schiff

00:11:29: gewesen

00:11:30: von einer Wissenschaft, die eigentlich immer von First Principles ausgegangen ist.

00:11:35: Also sozusagen vom gefestigten Wissen aufbauen, also ähnlich wie in der Mathematik, da hat man so Aktionen und dann baut man darauf auf und baut immer komplexere Gebilde.

00:11:43: auf gefestigtem Wissen haben wir plötzlich so Elemente von empirischen Wissenschaften drin ja?

00:11:50: Von Medizin Ja, von Pharmakologie wo man bestimmte Phänomene zwar auch beschreiben kann und versteht aber dann vieles auch empirisch bestimmt.

00:11:57: halt Das ist eben was, was der Informatik passiert ist und womit wir aber natürlich arbeiten.

00:12:07: Wir haben angefangen vielmehr auch diese Komponenten in unsere Forschungsarbeiten mit einzubauen.

00:12:14: Ist

00:12:14: es dass die Computer des Können so erstaunlich?

00:12:17: Ich frage mal ein bisschen zugespitzt denn wir Menschen sozusagen wir können das ja auch nachdem wir im Prinzip trainiert worden sind und so sagen man menschen auf die welt kommt als baby der kann eben nicht sprechen.

00:12:31: Aber dann wird er erstmal, der kriegt erst mal ganz viele daten um in dieser sprache zu bleiben der hört ganz viele wörter, der sieht ganz viele bilder sozusagen, der guckt ganz viel video oder hört ganz viel text permanent und danach monaten irgendwann kommt das erste wort Und es kommt raus, ohne dass den Baby vielleicht jemand genau gesagt hat.

00:12:50: Was bedeutet das Wort?

00:12:51: Dann lernt das Baby oder dann das kleine Kind immer besser zu sprechen und auch ohne, dass ihm jemand eine Regel ... Ich hab ja auch zu unseren Kindern nicht gesagt, als sie die ersten Wörter konnten so.

00:13:03: Das ist toll!

00:13:03: Du kannst jetzt die ersten wörtern.

00:13:06: Die Grammatik geht übrigens so am Anfang vom Satz wird großgeschrieben, dann relativ Satz Komma hinten im Punkt.

00:13:11: Dann geht's mit groß weiter und erst dann konnte ich das Kind weitersprechen Lernen, sondern das geht ja sozusagen durch den Lernprozess.

00:13:19: Ist es nicht eigentlich so ähnlich?

00:13:23: Also lernen die Computer inzwischen eigentlich so wie wir Menschen als kleine Kinder?

00:13:29: Also ich meine, Roger du kannst dann auch gleich noch was dazu sagen.

00:13:33: also offensichtlich ist jedem klar, dass kleine Menschen ja Kinder, Säuglinge die sozusagen ihre ersten Schritt in der Welt machen.

00:13:44: Dass sie nicht mit gigantischen Datenbankwissen konfrontiert werden.

00:13:48: Ja was Sie erstmal verarbeiten bevor sie den ersten schritt in die welt machen können sondern das ist ein hoch incrementeller interaktiver prozess und würde ohne umgebung nicht funktionieren.

00:14:01: Das heißt, das ist ein bisschen anderer Lernprozess.

00:14:05: Das ähnelt deutlich mehr dem Reinforcement Learning wo man eben so Feedback von der Umgebung bekommt.

00:14:10: ja wenn man was richtig macht und dann stellt man fest okay so passen die Sachen zusammen in der Welt und dann lernt man Konzepte usw.

00:14:19: Und während dass in den großen KI-Modellen auch drin steckt das Reinforcement learning dieses lernen wo man so klare Signale bekommt so das funktioniert nicht passiert das erst Ganz am Ende.

00:14:32: Das heißt, die Hauptstruktur wird im Prinzip aus diesen Riesendatenmengen gelernt und das auf eine verhältnismäßig uniforme Art und Weise.

00:14:41: Und ich glaube schon dass da deutliche Unterschiede gibt der Art undweise wie biologische Gehirne Wissen modellieren.

00:14:53: aber es gibt auch sicherlich Ähnlichkeiten.

00:14:54: Das heißt, bestimmte Aspekte findet man meiner Meinung nach auch in Verhalten von biologisch-intelligenten System.

00:15:06: Aber es ist sicherlich definitiv... Da ist deutlich andere Vorgehensweise und die wir noch nicht hundertprozentig verstanden haben muss man auch dazu

00:15:16: sagen.

00:15:16: Du nix?

00:15:18: Ja da würde ich mich anschließen.

00:15:19: also ich würde vielleicht das folgende hinzufügen Wir sind sehr gut aus eigentlich relativ wenigen Daten Dinge zu lernen, weil wir so eine Art universelle Lernfähigkeit haben und das ist auch glaube ich nicht den Menschen vorbehalten.

00:15:34: Das ist auch mittlerweile ganz gut nachgewiesen dass das bei bestimmten Tieren eben auch der Fall ist.

00:15:38: also Octopoden zum Beispiel fallen mir ein die eigentlich viel zu intelligent dafür sind dass sie noch nicht mal einer Wirbelsäule haben Aber dafür sehr gute Augen, so wie wir.

00:15:48: Also das ist... Und

00:15:49: die wissen es doch nicht?

00:15:50: Das

00:15:50: ist eine spannende Sache!

00:15:51: Ja, das wissen wir nicht, was da für ein Funken bewusst sein könnte.

00:15:55: Das ist aber auch ne andere Frage,

00:15:56: ne?!

00:15:57: Ich glaube, es ist einfach falsch und irreführend zu sagen KI lernt heute so wie Wir oder wie unser Gehirn.

00:16:04: Die Vorstellung dass es so gehen könnte und müsste und sollte ist alt.

00:16:08: Alan Turing in dem berühmten Papierkern Machine Sync wo man eigentlich zum ersten Mal als Gedankenexperiments zumindest diese Frage stellt, wie würden wir auch feststellen ob so eine Maschine intelligent ist und zwar so intelligent wie wir?

00:16:22: Das stammt aus den Fünfzigern.

00:16:25: Der hat schon davon geredet dass das aus seiner Sicht der einzige Weg ist zu einer wirklichen menschenähnlichen Intelligenz.

00:16:31: eben dieses kindähnliche Lernen.

00:16:35: aber so trainieren wir nicht ChatGPT, so trennen wir keine Modelle und wir haben noch nicht die technologischen Voraussetzungen das zu tun.

00:16:43: Und die neuronalen Netze, auf denen das basiert funktioniert nicht wie die im Gehirn.

00:16:48: Sondern sie sind davon lose inspiriert und das ist auch eine der Stärken dieser Technologie wenn man sich richtig anguckt.

00:16:55: Was ist im Gehör was funktioniert anders?

00:16:58: Naja also ganz... Also da müsste man jetzt eigentlich ein Neurophysiologen fragen.

00:17:03: Ich denke mal wir kennen uns damit vielleicht ein bisschen aus aber wir sind nicht die wirklichen Experten auf dem Gebieter müssen vorsichtig sein.

00:17:10: Das vereinfachte Modell, auf dem die neuronalen Netze, die heute zum Beispiel unter Chatchi-Petiligen funktioniert.

00:17:16: Das ist ja im Wesentlichen eins wo diese ganzen Elemente, die kriegen Eingaben von anderen Elementen, die werden gewichtet dann wird eine Summe gebildet und dann wird es durch ne nicht linearer mathematische Funktion getrieben.

00:17:26: Und so funktioniert das Gehirn nicht.

00:17:28: Im gehirn sind Dinge viel mehr zeitlich kodiert.

00:17:30: Ja!

00:17:30: Es gibt auch sowas in neuronalem Netzen aber das ist nicht das was zur Zeit Chachy Petit zu Grunde liegt.

00:17:35: Also dass is ein Prozess der sehr komplex und ich glaube wie du ganz richtig gesagt hast Der ist auch noch nicht hundertprozentig verstanden, obwohl man natürlich unter anderem auch mit KI-Einsatz immer besser versteht wie es im Gehirn funktioniert.

00:17:48: Aber ich glaube es gibt keine ernsthaften KI Forscherinnen und Forscher die damit jetzt schon Erfolg gehabt hätten, die versuchen physiologisch irgendwie plausibel nachzubilden was in einem biologischen Gehirnen passiert.

00:18:01: das sind lose Inspiration

00:18:03: Und es ist auch so, dass das relativ schematisch abläuft.

00:18:10: Ausgaben erzeugt werden.

00:18:12: Das läuft das einmal durch für die nächste Aktivierung und dann nimmt es im Prinzip das, was zum Beispiel im Chatfenster eingegeben wird plus den Kontext, den es hat und schiebt's noch mal rein halt.

00:18:24: Und da ist natürlich eine statische Komponente durch die

00:18:31: Struktur des Gehirns

00:18:32: aber da ist auch sehr viel Dynamik einen großen Teil der Intelligenzleistung ausmacht, also wo tatsächlich Gehirnbereiche sich beeinflussen und so weiter.

00:18:44: Und eben ständig sich bewegender dynamischer Prozess eigentlich dazu führt dass Intelligenze entsteht.

00:18:51: Wenn ich das nochmal zum Verstehen frage, also ich krieg aber andererseits natürlich viele sehr kluere und sehr gut formulierte Antworten.

00:18:59: und ehrlich gesagt du hast ja den Ellen Thuring diesen Informatiker schon genannt mit diesem Test wenn ich heute Dialogsystem oder einem Chatbot, wenn ich mit dem schreibe.

00:19:07: Im Prinzip würde man wahrscheinlich auch schon in vielen Fällen sagen das besteht denn weil ich kann da hin und her schreiben und ich kann eigentlich und es machen ganz viele Menschen Fragen Sachen und kommen auf neue Ideen.

00:19:20: also das erfüllt ziemlich viel.

00:19:24: aber der Computer, der wenn er zum Beispiel an den Satz sagt.

00:19:30: Der Herrn Bruster steht jetzt hier auf der Bühne mit dem Professor Hoß und Prof.

00:19:34: Krüger.

00:19:35: Dann hat er eine andere Vorstellung von was ihr seid oder ich als wenn ich das sage?

00:19:41: Ist es so oder haben die nicht

00:19:42: ... Ich glaube, man sollte schon sagen, dass das so ist.

00:19:45: Aber du hast das vorhin schon sehr schön angedeutet.

00:19:48: Das Problem mit dem wir hier konfrontiert sind, ist ja, dass die Systeme so komplex geworden sind und auch irgendwie auf eine bestimmte Art und Weise bewusst als Blackbox-Systeme konzipiert sind weil es die einzige Art und Weise ist wie wir diese Art von Verhalten derzeit erzeugen können.

00:20:02: also ne?

00:20:02: First Principles auf Grundprinzipien basierende Ingenieurskunst hat uns nicht dahingebracht.

00:20:08: Das war schon eine sehr empirische Sache und das ist auch heute noch eine sehr empirrige Sache diese Sachen.

00:20:13: Da gibt es ganz viele Aspekte, von denen wir nicht sagen können warum sie so sein müssen oder warum das funktioniert und dass nicht, warum wir dieses Verhalten kriegen aber nicht jenes nach einer Weile.

00:20:23: Also die Gemeinsamkeit zwischen biologischen Lernen und dem Lernen in solchen Systemen ist, dass es schon diesen Black Box-Charakter hat.

00:20:31: Und wir nicht wirklich gut verstehen was da passiert.

00:20:34: Man kann da sehr tief reingucken aber das ist so ähnlich als würde man aufgrund eines physikalischen Modells jetzt vorhersagen wollen, was man genau für ein Muster in der Kaffeetasse sieht wenn man da drei Tropfen Milch rein tut.

00:20:46: Das funktioniert auch nach wie vor nicht.

00:20:48: Gründen funktioniert das nicht.

00:20:51: Das muss man sich einfach klar machen, wenn wir jetzt fragen was weiß dieses System über uns?

00:20:56: Es gibt eigentlich nur eine wirkliche Art und Weise das rauszufinden und dass es durch Interaktion mit dem System so wie mir miteinander auch.

00:21:02: Und wenn man das tut findet man relativ schnell heraus, dass das System halt sich nicht so verhält als wüsste es die Dinge über uns, die wir über uns wissen.

00:21:12: also da gibt es einfach große Unterschiede.

00:21:16: Und bei diesen Unterschieden, glaube ich, sollte man sich die Frage stellen.

00:21:21: Ist es nicht gut dass es unterschiedlich gibt?

00:21:23: Vielleicht nicht unbedingt die, die wir haben.

00:21:24: Aber ich gebe mal ein Beispiel.

00:21:25: also diese großen neuronalen Netze sind sehr schlecht im Rechnen.

00:21:30: Also Versionen von JetGPT bis so vor ungefähr fünfzehn-sechzehn Monaten konnten noch nicht einmal zuverlässig das kleine einmal eins.

00:21:38: Und dann reden wir von Menschen ähnlicher Intelligenz, das kann es ja wohl nicht wirklich sein.

00:21:42: Aber wir wissen dass die Hardware auf der das Ganze läuft natürlich viel besser im Rechnen ist als wir.

00:21:49: Was passiert hier eigentlich?

00:21:50: Also warum hat das neuronale Netz diese Fähigkeit?

00:21:54: Nicht mehr obwohl es auf einer Hardware läuft in dieser Fähigkeiten uns vielfach überlegen ist.

00:21:59: Dafür gibt es gute Gründe, weil das statistische Modelle sind und Statistik ist nun mal nicht der beste Ansatz um zu rechnen.

00:22:05: Also zumindest das kleine einmal eins und das große einmal eins usw.

00:22:09: Und auch wir Menschen müssen es ja mühsam lernen und manche sagen dann naja wir wollen menschliche Intelligenz nachbilden also müssen wir wohl damit leben dass das Zeug genauso schlecht ist in Mathe wie wir.

00:22:20: Das das ist nicht unbedingt ein guter ansatz finde ich ne?

00:22:23: Ich finde einen bessere Ansatz ist zu sagen okay wir gucken mal wofür diese Systeme wirklich besser sein können als wir.

00:22:30: Und das führt dann zu einer Art von KI, die nicht mehr versucht den Menschen komplett zu ersetzen sondern den Menschen sinnvoll zu ergänzen und insbesondere dort zu ergänsten wo wir sehr gut wissen auch wissenschaftlich nachgewiesen wissen dass wir schwächen haben im Rechnen, im logischen Schließen in der Analyse großer Mengen von Daten wo kleine versteckte Signale drin sind.

00:22:52: Das ist in der Medizin zum Beispiel ganz wichtig und deswegen finde ich so bedauerlich und auch irgendwie fehlgeleitet wenn das was gerade von den großen Techfirmen uns angeboten wird und die Richtungen die die Entwicklung läuft alles darauf abzielt menschliche Intelligenz auf der ganzen Breite einfach erst mal zu ersetzen.

00:23:11: Das es lukrativ.

00:23:11: natürlich damit kann man eine Menge Geld machen Aber ist das was die Menschheit braucht?

00:23:15: Ich denke nicht.

00:23:18: Antonio, wenn wir nochmal den Blick in die Praxis weiten... Die eine KI über die wir jetzt viel gesprochen haben sind eben diese großen Sprachmodelle und wie sie mit Sprache umgehen, wie die Antworten geben können.

00:23:30: aber es gibt viele andere Formen und auch viele andere Anfragen.

00:23:33: Wenn ihr heute KI entwickelt für Unternehmen, kannst du mal da ein paar Beispiele geben?

00:23:38: Was das heute im Alltag eigentlich bedeutet, können wir darüber reden?

00:23:41: Ja, es ist natürlich klar dass jetzt viel nachgefragt wird was man mit so großen Sprachmodellen machen kann.

00:23:50: Und was aber tatsächlich operativ schon seit Jahren in ganz vielen Unternehmen mal verwendet wird und benutzt wird, sind vor allen Dingen spezialisierte KI-Systeme.

00:24:03: Also KI- Systeme die in der Qualitätskontrolle eingesetzt werden im wahren Eingang ja, die häufig auf einer Bildverarbeitung beruhen und die übrigens auch besser geworden ist wenn man sie kombiniert mit den großen Sprachmodellen.

00:24:18: weil die großen Sprachtmodelle ich meine das Das Faszinierende ist, dass wir über diese Digitalisierungsschicht der letzten dreißig Internetjahre ist es uns jetzt gelungen eine semantische Schicht drüber zu legen.

00:24:34: D.h.,

00:24:34: eine Bedeutungsschricht die all das, sagen wir mal, die häufig an vielen Stellen überschätzt wird und vielleicht nicht unbedingt gebraucht wird.

00:24:45: Aber in Kombinationen mit existierenden Systemen können sie Sachen auch robuster machen, weil die Systeme plötzlich eine bessere Vorstellung haben von dem was Sie dort sehen.

00:24:59: Wir können auch bestimmte Daten aus der Produktion zum Beispiel, die können wir jetzt mithilfe von den neuen KI-Modellen besser nutzen.

00:25:16: Das sind schon Dinge, die wir auch in der Praxis machen.

00:25:23: Wo es immer noch harpert und wo auch die Forschung im Moment sehr stark unterwegs ist und was für uns hier in Deutschland ein ganz wichtiges Feld ist, ist eben

00:25:34: diese

00:25:35: ganze physische KI.

00:25:37: Also das heißt tatsächlich einen Anschluss an die physische Welt dieser Systeme Weil im Moment haben wir eigentlich, wenn man die neuesten Modelle sich anschaut und so.

00:25:48: Die sind tatsächlich an vielen Stellen in den letzten also wirklich alle halbe Jahre zumindest mal.

00:25:53: in Teilbereichen werden sie wirklich immer noch dramatisch besser.

00:25:56: Also zum Beispiel im Bereich der Unterstützung von Programmieraufgaben, Softwareentwicklung sind Sie also im letzten Jahr richtig, richtig nochmal besser geworden halt.

00:26:05: Und in anderen Bereichen flacht das ein bisschen aus.

00:26:07: Aber wo sie alle Schwächen haben ist tatsächlich wenn sie sich in die physikalische Welt begeben müssen.

00:26:15: Und deswegen sehen eben so Systeme Roboter, ganz genau zum Beispiel oder Maschinen, die sich selbst optimieren und Fertigungsprozesse kreativ umgestalten können, die dann auch dazu führen dass man ganze andere Maschienen baut und so.

00:26:30: aber ein Beispiel sind die selbstfahrenden Autos.

00:26:33: Weimut ist eine Google Tochter.

00:26:37: Die haben natürlich, die verwenden solche großen KI-Modelle.

00:26:42: Aber wenn sie nur KI Modelle verwenden würden und nicht noch andere Techniken und nicht selber ganz viel Erfahrung machen würden und selbst nochmal in Simulationsumgebungen bestimmte Aspekte nachtrainieren würden auf eine andere Art und Weise dann würden die Roboter Taxis nicht so durch die Gegend fahren wie Sie im Moment durch die Gegenfahren.

00:26:58: Und das Wissen was man da hat ist dann das Wissens über fahren halt.

00:27:03: Und da würde ich dann immer noch sagen, das ist auch wenn man da ganz viel braucht und so, kann ich nicht einfach das Modell nehmen und das in den Roboter stecken damit mir zu Hause die Spülmaschine einräumt.

00:27:16: Sondern da muss sich einen ähnlichen Durchlauf machen wie die jetzt tatsächlich fürs Auto gemacht haben bis es dann schließlich gelingt.

00:27:24: Das hängt damit zusammen dass wir in der großen Menge an Internetdaten die wir gesammelt haben in den letzten dreißig Jahren so eine relativ abstrakte Projektion über die physikalische Welt.

00:27:35: Da ist mit relativ wenig über Sensor-Daten, relativ wenig.

00:27:37: wie viel Kraft brauche ich denn um zum Beispiel hier das hochzuheben ohne das Glas kaputt zu machen und so weiter?

00:27:41: Wenig

00:27:42: über Spülmaschine einräumen...

00:27:43: Ganz wenig über Spühlmaschine einzuräumen!

00:27:45: Das ist zwar bei jedem von uns ein ganz ganz wichtiges Thema ja aber ich glaube wie es sich anfühlt dass man sich darüber streitet dass die Spülmachine falsch eingeräumt ist.

00:27:54: das ist etwas was ein Sprachmodell nicht nachvollziehen kann.

00:27:58: Das kann das vielleicht lernen, weil es das sicherlich irgendwo mal gibt.

00:28:01: Dass da jemand sich in irgendeinem Forum beschwert hat darüber, dass er mit seinem Partner gestritten hat oder so.

00:28:05: Aber

00:28:06: das tatsächlich nachvollziehen, weil's das man selber gemacht hat und das ist schon ein großer Unterschied.

00:28:10: Also das ist ein ganz wichtiges Element, in der man Sprache austauschen spricht.

00:28:15: Man nimmt viel mehr voneinander war natürlich als nur die Worte, die man wechselt ...

00:28:18: Genau!

00:28:19: Sprache geht immer um die physikalische Welt.

00:28:22: Und das ist eigentlich immer auch.

00:28:23: Sprache lernt man nicht könnte man auch nicht einfach nur aus Büchern lernen.

00:28:28: Man kann das nur durch die Interaktion mit der realen Welt, mit Objekten in der realigen Welt und Menschen in einer realenwelt usw.

00:28:36: Das geben die Modelle im Moment in der Art und Weise wie sie im Moment trainieren, die geben das

00:28:42: noch nicht her.

00:28:46: Ich würde an der Stelle gerne die Diskussion jetzt öffnen wenn Sie mögen.

00:28:49: ich habe jetzt das Thema Politik und die Standort Deutschland mal weggelassen.

00:28:52: es könnte ich aber Die Zeit soll lieber Ihnen gehören, wenn es Fragen gibt.

00:28:57: Also wir müssen im Moment warten bis das Mikrofon da ist weil das nämlich aufgenommen wird also immer... Ich bin jetzt ganz überrascht dass ich als erstes dran komme.

00:29:05: Ich habe eine Frage und zwar hab' ich ein paar mal von der KI mir Kurzgeschichten schreiben lassen und hab' dann gesagt wenn's mir nicht so gefühlt etwas länger vier Seiten die in die Begriffe sollen vorkommen bisschen romantisch bisschen mehr Nebenhandlung macht alles kommt jeweils immer was Neues raus ganz toll.

00:29:22: Und dann sagten mir andere, ja das sind Geschichten die es irgendwo schon gibt.

00:29:27: Und das glaube ich aber nicht weil wenn ich Begriffe vorgebe was weiß ich Krokodilkrawatte deser und dann kommen die drin vor in der Geschichte und zwar eigentlich auch sinnvoll.

00:29:38: Wo dran liegt?

00:29:39: Gibt's dies die tatsächliche Geschichte schon irgendwo oder kann Dika E sowas kombinieren und selbst kreieren?

00:29:47: Also vielleicht fange ich mal kurz an.

00:29:49: Mit großer Wahrscheinlichkeit sind diese Kurzgeschichten, die sie da erzeugen schon originär.

00:29:55: Es ist aber durchaus so dass man rausgefunden hat und das weiß man mit guter wissenschaftlicher Sicherheit noch nicht so lange Dass diese großen Modelle eine ganze Menge Sachen auch einfach memorisieren.

00:30:06: es gibt ein berühmtes Experiment das wurde vor ein paar Monaten publiziert sehr belastbar Das der erste Band von Harry Potter mit einer Genauigkeit in den hohen neunzig Prozent wieder ausgespuckt werden kann von einem normalen Sprachmodell.

00:30:21: Und das ist dann natürlich schon, also mit anderen Worten diese ganzen Sachen sind dort drin.

00:30:26: Das ist wahrscheinlich nicht nur Harry Potter nicht wahr?

00:30:29: und dann wird es natürlich relativ schwierig genau zu sehen is dass was sie da rauskriegen wie originär ist es wirklich?

00:30:46: Dann würde ich, also würden das der KI ja auch beinahe abnehmen.

00:30:49: Weil einfach aufgrund der Tatsache wie das funktioniert ist es wahrscheinlich dass da auch neue Dinge gibt.

00:30:53: aber Da kommen wir in den Bereich.

00:30:55: wenn sie dann sagen Ich habe jetzt aber gesehen dass Es nicht neu ist dann würde sich wahrscheinlich diese KI bei ihnen entschuldigen und sagen Das tut mir leid Sie haben absolut recht.

00:31:02: Also da gibt es ganz viele Dialoge In dieser Richtung.

00:31:05: also zum Beispiel zweimal fünf ist elf.

00:31:07: bist du dir sicher?

00:31:08: Oh nein, da habe ich wohl einen Fehler gemacht.

00:31:10: Doch zehn!

00:31:11: Bist Du Dir sicher?

00:31:12: O nein, ich hab schon wieder ein Fehler gemacht vielleicht zwölf.

00:31:14: also solche Dialoge gibt es auch mit modernen System heute noch und da würde ich einfach sagen Also dem würde ich dann mal nicht vertrauen.

00:31:21: aber trotz allem die Wahrscheinlichkeit dass das was sie daraus kriegen an Kurzgeschichte Was neues ist die ist ziemlich hoch.

00:31:27: Ich glaube das Problem im Bereich Künstlerisches Arbeiten.

00:31:32: Gut, nehmen wir mal an.

00:31:33: Kurzgeschichten haben wir irgendwie so, dass man das mit KI-Einsatz gut machen kann.

00:31:37: Das nächste wäre dann vielleicht ein Roman und... Ja, das ist interessant.

00:31:47: Genau!

00:31:50: So ist das.

00:31:53: Und dann versuchen wir mal den Prompt, stell dir vor und du wärst nehmen wir mal zum Beispiel Johann Wolfgang Goethe und wolltest so ein Ding schreiben kannst du es dann immer noch nicht?

00:32:02: Und so kommt man halt auch um diese Grenzen sehr schnell rundherum.

00:32:04: also dass ist wahrscheinlich was große oben drüber sitzt und sagt Ja, wir wollen die Leute nicht zu sehr enttäuschen.

00:32:10: Aber da kommt man schon rundherum und wenn man dann rumgekommen ist merkt man das ist zumindest das was mir Kolleginnen Kollegen aus dem künstlerischen Bereich sagen.

00:32:17: Merkt man sehr schnell wo es auch aufhört.

00:32:19: Wo zum Beispiel in einem Roman die Großstruktur man eben nicht mehr so gut hinbekommt.

00:32:23: Wo es an vielen Stellen doch ein bisschen höchstern und so klingt.

00:32:27: Kommen wir irgendwo dahin, dass KI Romane schreiben kann?

00:32:29: Wer weiß.

00:32:30: In der Wissenschaft schreiben wir ja auch Papiere.

00:32:33: Das geht so ein bisschen anders und die werden jetzt auch sehr stark mit KI generiert.

00:32:38: Und ich sage dazu immer... Wo wollen wir eigentlich hin?

00:32:40: Die KI macht die Forschung, die KI schreibt die Papiere.

00:32:44: Die KI liest die Papier und bewertet die Papieren.

00:32:48: Und wir sitzen alle am Strand und trinken eine Weißweinschwolle oder sowas.

00:32:52: Also das ist halt einfach nicht die Zukunft, die ich mir wünschen würde.

00:32:56: Es ist gut zu experimentieren auf jeden Fall aber ich glaube wir müssen uns einfach mal überlegen wozu wollen wir KI wirklich einsetzen?

00:33:04: Wollen wir eine Welt in der die KI die uns auch Freude machen, kreative Dinge.

00:33:10: Dinge, die halt nun mal Urteilskraft brauchen?

00:33:12: Wollen wir das wirklich alles an Systeme

00:33:14: weitergeben?".

00:33:15: Ich glaube... Verzeihen Sie, wenn ich nicht alle in der richtigen Rahmenfolge gesehen habe.

00:33:20: Aber ich glaube, sie waren relativ früh und dann ... Die da haben mich hier in der ersten Reihe Herr Hof, Sie hatten eine sehr interessante Frage aufgeworfen, die nicht beantwortet wurde.

00:33:37: Ist es das was wir momentan mit der KI machen?

00:33:40: Was die Menschheit auch braucht?

00:33:42: Sie haben gesagt, was gemacht wird ist dass vieles verdrängt wird, was Menschen bereits tun.

00:33:46: Wenn Menschen das tun und damit Geld verdienen würde ich jetzt aus der Wirtschaftsperspektive sagen dann wird sie offenbar gebraucht.

00:33:52: Haben Sie einen anderen Ansatz für das was gebrauchten wird?

00:33:55: Und Herr Krüger, was würden Sie aus der Wirtschaftsperspektive dazu antworten?

00:33:59: also Ich meine Technologische Entwicklung hat natürlich häufig erst mal nie so ganz mit Nutzen gestartet, sondern häufig erstmal auch einfach Neugier getrieben.

00:34:12: Also deswegen haben wir viel aus der Wissenschaft heraus.

00:34:14: jetzt in dem Fall bauen wir auf ganz vielen Elementen auf wo man schon wusste dass bestimmte Teile gut verwendet werden können.

00:34:23: also zum Beispiel Vorgängermodelle der jetzigen Sprachmodelle wurden auch schon Übersetzungssystem eingesetzt.

00:34:28: da konnte man sie allerdings noch nicht So, ich sag mal unbeaufsichtigt irgendwie Übersetzungen machen lassen.

00:34:36: Ja wie vielleicht?

00:34:37: heute kann man immer noch nicht so ganz aber es geht natürlich viel besser.

00:34:40: damals waren die dann integriert in eine Oberfläche für Übersetzer und Übersetzer wo sie dann so gesehen haben Zielsprache.

00:34:49: wo muss ich hin was ist mein Quelltext?

00:34:51: Und dann hatten die Vorschläge und dann haben sich da rum irritiert.

00:34:54: das ist dann immer besser geworden.

00:34:56: also da es gibt ja jede Menge meiner Meinung nach jede Menge nutzen auf jeden Fall.

00:35:00: Ich hatte über die Unterstützung von Softwareentwicklung gesprochen, also das ist ein ganz klarer volkswirtschaftlicher Nutzen, also rein von der Effektivität her und Effizienz will ich wieder jetzt nicht so behaupten.

00:35:15: aber von der Produktivität hier ja ist es wirklich bemerkenswert was man da machen kann.

00:35:20: Das ist eins in der Informatik, auch für uns Informatiker nicht so richtig was Neues.

00:35:24: Wir sind eigentlich immer mit der Systementwicklung eine Abstraktionsebene höher gerutscht halt.

00:35:29: Am Anfang musste man wirklich dann noch ein Computerchip mit den Registern programmieren und dann gab es erste Programmiersprachen, höhere Programmiarsprachen oder Objekteorientierung usw.

00:35:38: Also wir kennen das eigentlich.

00:35:40: und dann gabs Bibliotheken und so.

00:35:43: Insofern gibt es auf jeden Fall verschiedene Stellen wo ich sagen würde produktive Systeme, die man einsetzen kann.

00:35:55: Die auch einen wirtschaftlichen Nutzen haben, die auch glaube ich für Menschen nicht schlecht sind.

00:36:00: Zwar ist das Programmieren eine sehr tolle Tätigkeit und das kann man ja zukünftig.

00:36:05: wenn man das unbedingt machen möchte, kann man das ja immer noch als Hobby machen.

00:36:11: Das ist übrigens, handwerkliche Berufe waren ja genauso.

00:36:15: Ja das ging früher alles nur Manufaktur und irgendwann kam Industrialisierung kann man ja trotzdem immer noch machen gibt immer noch viele Leute die das machen.

00:36:21: das finde ich auch gut dass heißt es nicht so.

00:36:24: nur weil etwas nicht wirtschaftlich genutzt werden kann bedeutet das ja nicht dass man es nicht trotzdem noch weiter machen kann.

00:36:29: und parallel existiert aber eine maschinelle Sag mal, eine maschinelle Variante die das deutlich mehr skaliert.

00:36:36: Andere Bereiche da bin ich ganz bei dir andere bereiche glaube ich dass ist Da machen wir Dinge die man eigentlich nicht braucht.

00:36:44: aber im moment ist eben auch eine große dynamik und es wird natürlich auch noch viel experimentiert Und es wird geguckt welche sachen funktionieren und welche vielleicht nicht so gut funktionieren.

00:36:55: Also vielleicht nur ein Satz dazu bei unserer Ernährung, da machen wir ja auch nicht nur das was wirtschaftlich am sinnvollsten ist.

00:37:01: Sonst würden wir nicht hingehen und ein schönes Brötchen für seventy-fünf Cent oder vielleicht auch einen Euro zehn kaufen.

00:37:07: Irgendwo gibt es auch noch andere Dinge und wir müssen uns halt den Einklang miteinander bringen.

00:37:11: also es gibt wirtschaftliche Interessen absolut das ist auch total wichtig vor allem im demokratischen Wandel.

00:37:15: aber es gibt eben auch Dinge die uns wichtig sind und zwar auch als wirtschaftlichen handelnde wesen und ich glaube unsere Gesellschaft braucht Raum für beides.

00:37:28: Sie hatten zu Beginn gesagt, dass es ganz wichtig ist das die KI-Modelle lernen oder bewerten lernen.

00:37:34: Wo sind ihre Grenzen?

00:37:36: Und jetzt ist es aber so wir sind ja nicht in dem Markt.

00:37:38: der was geht denn nicht alles rein um Forschung?

00:37:40: Die KI Modelle werden nicht rein in der Forschung entwickelt sondern Das ist ein Milliardenmarkt.

00:37:43: da sind Unternehmen dahinter und die profitieren ja davon Dass sie sozusagen im Vergleich zur anderen modellen die Illusionen erzeugen dass ihre grenzen praktisch begrenzt sind.

00:37:54: Also eigentlich ist für ein KI-Modell nicht gut, wenn es sagt ja sorry also einen Roman kann ich nicht schreiben.

00:37:59: Wenn das andere Modell sagt ja für mich überhaupt kein Problem.

00:38:01: Also wo kommt der Anreiz her?

00:38:03: Denn in einer wirtschaftlichen Welt ist es eben so völlig legitim dass sich das durchsetzt was im Zweifelsfall dann auch nicht unbedingt die besseren Ergebnisse erzielt.

00:38:12: Das ist ja so ein Hochstapler Effekt einer KI.

00:38:15: Ja also das ist auch noch ein Thema.

00:38:17: Wir haben über Softwareentwicklung geredet.

00:38:19: Ich arbeite in der Softwareentwirkung nicht mehr als Entwickler und Wir machen das natürlich massiv Richtung autonomes Softwareproduktion.

00:38:27: Wir haben jetzt lauter Entwickler, die sagen wie sieht mein Job in der Zukunft aus?

00:38:33: Ich muss mich da ja gar nicht mehr tief einarbeiten – das macht die KI!

00:38:36: Und dann wer soll denn am Ende noch bewerten können was ist gut und was ist nicht gut?

00:38:41: Denn im Alltag gibt es ca.

00:38:42: keine Lernanlässe mehr wenn eine autonome Softwarestraße am Ende Software rausspuckt.

00:38:46: Also das ist tatsächlich dieser Kontrast.

00:38:49: Ich wollte wissen, wie machen wir es schaffen?

00:38:52: Dass KI-Modelle tatsächlich darauf optimiert werden ihre Grenzen zu erkennen weil ich sehe im Moment keinen Anreiz dazu.

00:38:59: Wir sind in einer Art Goldrausch und was passieren wird aus meiner Sicht ist dass an diesem Goldrauch am Ende ganz viele Leute eben nicht profitieren, sondern mit ihren Aktivitäten gegen die Wand fahren.

00:39:13: Und die wirklich interessante Frage ist kann man irgendwie vorhersehen wo der wirkliche Wert ist?

00:39:18: Open EIs zum Beispiel macht Milliarden Verluste.

00:39:20: Die haben kein Geschäftsmodell was wirtschaftlich tragfähig ist.

00:39:23: also das muss einem einfach klar sein wenn man ChatGPD benutzt dann zahlt man zwar möglicherweise dafür aber es ist nicht so dass da ein Wirtschaftsmodeller hinter steht was auszahlt und ich glaube bei Anthropic ist es ganz genauso.

00:39:34: Sie suchen alle noch nach einem Geschäfts-Modell was funktioniert Und derzeit das größte Problem ist es folgende und ich denke dieses Problem wird sich extrem verschärfen.

00:39:42: Wir nehmen mal Ihren Fallen der Softwareproduktion, übrigens vielen Dank dass Sie das aufgegriffen haben weil ich glaube das ist ein sehr sehr wichtiger Fall.

00:39:47: Software gestaltet unser Leben und hat großen Einfluss auf die Wirtschaft auf alle mögliche Sachen.

00:39:54: also ohne gutes Software bricht hier alles zusammen so und das Problem ist des Folgenden Wenn Sie jetzt irgendwas raushauen und das richtet wirtschaftlichen Schaden an.

00:40:06: Also nehmen wir mal an, irgendetwas was in den Krankenhaus benutzt wird und tatsächlich Leute sterben oder werden rechtzeitig versorgt oder werden falsch versorgt.

00:40:12: Software kann sowas verursachen und dann nicht sie.

00:40:15: jetzt aber ihre Kolleginnen und Kollegen die die Software geschrieben haben oder haben schreiben lassen von Claude Cote nur ein Beispiel sagen ja dass ist nicht unser Problem das hat es Modell gemacht.

00:40:26: Was glauben Sie wer da für haftet?

00:40:28: Ich mache mit Ihnen jede Wette, dass auch in der deutschen Rechtsprechung so sein wird.

00:40:32: Dass die und derjenige, der das anbietet diesen Dienst ja zumindest einen guten Teil der Haftung dafür hat.

00:40:38: In Kanada gibt es da schon Fälle wo also tatsächlich eher Kanada das equivalente Luftfanser hier verklagt wurde und zwar erfolgreich weil sie ein Chatboard eingesetzt haben, der Fehlinformation geliefert hat.

00:40:51: diese Fehl Information hat wirtschaftlichen Schaden der Kundschaft verursacht und man hat gesagt, nein nicht diejenigen die den Chatbot gemacht haben sind verantwortlich sondern nur eher Kanada.

00:41:01: Und ich denke das wird Richtung in den Gold rausspringen weil in dem Augenblick wo man sieht ein paar Leute gewaltig gegen die Wand fahren einige Unternehmen wird man anfangen vorsichtiger zu sein und dann werden wir hoffentlich rausfinden was gut ist und was nicht.

00:41:14: Und das es gut ist, wenn KI-Modelle sich genau wie gute Expertinnen und Experten irren in dem sie mal ein bisschen zu schnell sagen, dass sollte ich lieber nicht tun.

00:41:23: da bin ich mir nicht sicher, das ist vielleicht nicht gut.

00:41:25: anstatt wie's heute ist einfach etwas auszuspucken und wir sagen dann oh funktioniert meistens bis es irgendwann nicht funktioniert und drei Millionen Euro Schaden anrichtet oder dreißig oder treihundert.

00:41:38: Wenn ich mich frage,

00:41:39: dass ist der

00:41:39: Unterschied zwischen menschlichen Lernen und KI-Lernen, dann stelle ich fest bei dem kleinen Kind den Neugeborenen.

00:41:46: Da ist es ein physiologisches Bedürfnis!

00:41:48: Es hat einen physiologischen Überlebenswillen schreit um was zu kriegen, um gesorgt zu werden, gereinigt zu werden usw.

00:41:55: Und er erlebt das als Erfolg wenn die Zuwendung kommt.

00:42:00: und er erlebt nachher die Sprache zunehmend auch als Mittel um das zu modulieren... Was haben wir, ohne schreien zu müssen?

00:42:10: Und die Maschine, wo ist die Motivation der Maschine zu lernen?

00:42:13: Die haben wir ihm eingegeben.

00:42:14: Aber es hat keinen physiologischen Bedarf.

00:42:16: Es hat keinen Überlebenswählen!

00:42:19: Du darfst mir nicht einschalten oder ausschalten.

00:42:22: Oder das sagt auch nicht, trenn mich ab vom Netz weil es kennt nur das Netz.

00:42:25: und dass eingeschaltet sein und wenn das nicht gegeben ist dann denkt es nicht.

00:42:30: Also insofern frage ich mich natürlich... Wenn man nach Gefahren schaut und da ganz in die Zukunft blickt wann wird die KI so weit sein uns Menschen mit all dem psychologischen Wissen, was dann bis dahin auch implementiert ist.

00:42:43: So zu manipulieren dass wir uns wie Eltern, wie die Mutter verantwortlich fühlen das angeschaltet zu lassen?

00:42:50: Naja ich glaube das wird erst mal in unseren Köpfen passieren bevor es sozusagen im Silikon hirren der Maschine passiert halt.

00:43:00: Wir sehen ja schon viele Seen schon in solchen Maschinen fast ein Menschenähnliches gegenüber.

00:43:09: Das ist uns übrigens auch genau aus den gleichen Gründen, die sie genannt haben.

00:43:12: Ist das irgendwie eine menschliche Eigenschaft?

00:43:14: Dass wir nach solchen Mustern suchen und weil wir eben soziale Wesen sind.

00:43:18: Und deswegen können wir da auch relativ leicht in die Irre geführt werden an der Stelle.

00:43:25: Ich glaube was Sie gesagt haben ist völlig richtig.

00:43:27: Die Tatsache dass wir selber Teil Historie sind, ja.

00:43:34: Der ganzen Evolution macht eben einen Riesenunterschied.

00:43:37: Wir funktionieren auch ganz anders.

00:43:39: Gefühle spielen bei Maschinen... Das ist so ein Klassiker!

00:43:43: Gefühlen sind für uns wichtig und weiß man auch fürs Lernen usw.

00:43:46: Die spielen beim Maschine gar keine Rolle beim Lernen.

00:43:50: Null Komma Null, der Mechanismus sieht das in dem Sinne nicht vor.

00:43:54: aber Gefühlesimulieren können Sie schon?

00:43:57: Also über Gefühle kann man sich mit Maschinen schon unterhalten, mit den großen Modellen.

00:44:01: Aber es ist ja völlig klar dass das für uns Gefühlen eine ganz andere Bedeutung haben als zum Beispiel für die KI-Modelle.

00:44:10: Und legt da viel mehr rein?

00:44:11: Ich hab Anfang der Arztigerjahre mit einem Basic-Rechner

00:44:14: iLISA programmiert.

00:44:16: Klar!

00:44:16: Das Programm konnte antworten und das

00:44:18: konnte natürlich nicht denken.

00:44:21: so, wenn's dazu versteht

00:44:21: muss.

00:44:22: Was denkst du denn dafür?

00:44:23: Trotzdem haben sich Menschen verstanden,

00:44:26: die Maschine

00:44:26: versteht mich.

00:44:27: Es gab Tamagotchi in den, weiß ich, neunzig-achtziger Jahren ja... Ich seh schon hier so einige kennen das noch und das kommt jetzt alles nochmal wieder.

00:44:35: natürlich also dieses Spiegelvorhalten Ja?

00:44:38: Und das versuchen sich selbst zu erkennen in der Umgebung.

00:44:42: Das ist ja so eine menschliche Eigenschaft und andere Leute sehen irgendwie das eigene Auto oder sonst irgendwas als ein menschenähnliches Wesen, wenn es mal wieder nichts was macht... Ich sehe noch relativ

00:44:55: viele Fragen, aber ich weiß gar nicht wie viel Zeit haben wir dann

00:44:58: noch?

00:44:59: Also noch sehr lange fünf Minuten!

00:45:03: Ja, ich versuch's doch so viel wirklich, die Frage möglichst kurz und die Antwort möglichst kurz.

00:45:07: Sie waren zuerst ... Dann kommen sie Dann Sie und dann gucken wir.

00:45:13: Genau, die heutige Fragestellung lautet ist die künstliche Intelligenz bald so klug wie wir?

00:45:19: ich arbeite in der Kommunikation und mir fallen ein bisschen letzte Zeit zwei große Trends aufgefallen.

00:45:26: einmal diese Trend hin zu Geo also die Optimierung von Content für generative Systeme wie Claw, ChatGPT etc.

00:45:36: Und ich sehe auch auf LinkedIn wie viele Posts mittlerweile durch KI generiert werden.

00:45:44: Vor dem Hintergrund habt ihr das Gefühl, dieser Content den wir in die KI füttern und dann wiederum die KI selber rausspuckt immer mehr zum Einheitsbrei wird.

00:45:55: Und vor dem Hinter Grund stelle ich mir die Frage Ist sie eigentlich der Gefahr dass die künstliche Intelligenz bald so klug ist wie wir?

00:46:03: Oder ist die eigentliche Gefahr, dass wir bald so dumm sind wie die kündliche Intelligenz

00:46:14: Auf

00:46:15: jeden Fall das Letztere.

00:46:19: Sie haben da ein ganz wichtiges Thema angesprochen, da wäre nicht viel Zeit dann wirklich nur ganz kurz.

00:46:24: Diese Systeme werden trainiert um im Durchschnitt sozusagen Benutzerinteraktionen und zwar irgendwie welche die auch weitergehen zu maximieren während in unserer Gesellschaft wir die Erfahrung machen, dass Diversität unglaublich wichtig ist.

00:46:40: Auch für ein robustes Funktionieren von wirtschaftlichen Prozessen und von gesellschaftlichen Prozesen.

00:46:45: Und diese Diversitet kriegen wir zurzeit im Bereich KI nicht, sondern die wird eingedampft.

00:46:50: Da gebe ich Ihnen hundertprozentig recht und das ist unter anderem auch ein Problem davon dass wir halt so wenige wirklich gute Systeme haben.

00:46:57: also da gibt es keine wirkliche Vielfalt und innerhalb von dem was das System macht technisch so wie es trainiert ist gibt es auch nicht besonders viel Vielfald Und das sehen Sie ganz richtig.

00:47:06: Also zumindest sehe ich's genauso wie sie und viele unserer Kolleginnen und Kollegen auch.

00:47:10: Das ist ein großes Problem Ein gesellschaftliches Problem und ein wirtschaftliches Problem.

00:47:14: Und es gibt eben auch einen guten Grund, warum hier was ich hundertfünfzig einzelne Gehirne sitzen und nicht eine Variante eines Sprachmodells was umgepromptet wurde sozusagen.

00:47:24: Ja?

00:47:25: Der Grund ist weil hier gibt es vielleicht irgendjemanden der im Wesentlichen all das was Holger und ich woran wir glauben die wissenschaftlichen Theorien uns so komplett in Frage stellt und sagt dass

00:47:34: alles

00:47:35: quatsch ja Ich glaube an das!

00:47:38: Und dann vielleicht sogar, das gab es nun mal schon in der Historie ja.

00:47:42: Tatsächlich auch Recht hatte.

00:47:44: und

00:47:45: das KI-Modell möchte ich mal sehen was genau das macht.

00:47:48: Ja?

00:47:48: Dann überzeugen Sie mich dass KI Modelle genauso klug sind wie wir!

00:47:54: Und dann kommen sie noch und dann glaube ich müssen wir leider einen Cut machen.

00:47:57: Wir hatten die ganze Zeit von KI gesprochen.

00:47:59: Sie sagen ja und das teile ich auch Sprachmodelle ist eine Sackkasse.

00:48:02: Was ist denn sozusagen der Zukunftstrend?

00:48:05: Das wäre wirklich ne KI haben.

00:48:07: Ja, das sind eben so spannende... weswegen wir uns im Moment noch keine Sorgen um unseren Job machen.

00:48:13: Weil wir das Gefühl haben, dass KI-Systeme genau diese Frage nicht selber beantworten können.

00:48:18: Das ist ja auch ein weiteres Versprechen von unterschiedlichen Teckiganten, dass man irgendwann an eine Stelle kommt wo die Systeme sich selbst weiterentwickeln und dann durch die Decke geht.

00:48:29: also Ich glaube, dieses Problem der physischen KI muss man lösen um nah an das heranzukommen.

00:48:37: Ja ich glaube auch dass die Art und Weise wie wir Wissen repräsentieren ja vermutlich anders ablaufen muss müssen auch anders lernen.

00:48:47: also das glaube schon aber da gibt es noch keinen.

00:48:50: Also das ist aktive Forschung halt, an den gearbeitet wird.

00:48:55: Es gibt aber auch tatsächlich jede Menge Ansätze eben alternativen, architektonische Alternativen zu den ganz großen auf riesigen Rechenzentren basierenden KI-Modellen zu entwickeln.

00:49:08: und Und unser Gehirn ist ja auch so ein super Beispiel dafür, dass wir eine irgendeine Intelligenzleistung mit relativ wenig Energieeinsatz hinbekommen.

00:49:16: Also ich, das sind schon bei uns inzwischen ein bisschen runtergegangen, aber für einen Watt können Sie sich noch mal Nvidia fragen wie viel Rechts dafür einschalten können?

00:49:35: Manchmal ist biologischer Vorbild nicht schlecht, um zu verstehen wo gegebenenfalls Grenzen sind.

00:49:39: Das kann man sich bei Energiespeicherung angucken und so weiter.

00:49:44: Da ist noch viel Raum und Luft nach oben.

00:49:46: Sie haben das verletzte Wort.

00:49:48: Ich glaube ich... Also sie beide betreiben der Spitzenforschung in Deutschland, viele andere Forscher auch Aber leider kommt so wenig von der Industrie an.

00:50:01: Ich will mal ein konkretes Beispiel geben, um das deutlich zu machen.

00:50:05: Es gibt da einen Projekt, d.h.

00:50:07: Smart Living Next.

00:50:08: Da wurde so ein Datendatensystem mit demantischen Datenbanken erforscht.

00:50:13: Das BMFDR hat da rund fünfzig Millionen Euro investiert.

00:50:18: Das Projekt läuft nun aus und da ist die Forschung fertig.

00:50:21: Und es hilft keiner der industrie Umsetzung durchzuführen ihre Strategie sehen.

00:50:28: Wie können Sie dafür sorgen, dass Ihre Forschungsergebnisse auch dann da ankommen, wo sie umgesetzt werden können?

00:50:35: Das ist eine ganz wichtige Frage.

00:50:36: An der RWTH Aachen ist gerade das Tech Impact Festival zur Ende gegangen die letzten Tage.

00:50:41: Das hat sich genau damit beschäftigt.

00:50:44: Wir wissen das nicht, wie wir es wirklich gut hinbekommen.

00:50:47: Das muss man einfach offen sagen.

00:50:48: Es gibt da verschiedene Modelle.

00:50:50: Das Modell was aus meiner Sicht in Deutschland nicht funktionieren wird ist das Silicon-Vari-Modell.

00:50:53: und das wird nicht funktionierend weil uns als Gesellschaft und auch in der Wirtschaft zum großen Teil die Risikobereitschaft fehlt, die man bräuchte um das zu machen und auch die gesellschaftliche Akzeptanz, die enorme Konzentration von Kapital und Macht, die damit einhergeht zu akzeptieren.

00:51:09: also das ist nicht unser Modell.

00:51:11: Ich persönlich glaube, um es ganz kurz zu sagen.

00:51:14: Die Hightech-Agenda von Frau Bär ist sicherlich ein Schritt in eine gute Richtung da aber ist immer noch viel zu zögerlich und viel zu Zauderlich.

00:51:21: Und wenn wir das wirklich als Gesellschaft wollen in Europa fürchte ich gibt es nur einen einzigen Weg und das wäre ein guter Weg um ihn auch in der Welt einfach mal zu versuchen.

00:51:29: Das ist der dass die Gesellschaft also die öffentliche Hand massiv investiert um ne ganz hohe Basis zu machen hoch und breite Basis auf den dann die Industrie einfacher aufbauen kann.

00:51:40: Wir kriegen hier kein zweites Google Meter oder OpenAI, aber was wir vielleicht hinkriegen ist etwas, das auf einem State of the Art offenen Sprachmodell aufbaut und zum Beispiel in die Industrien kann sagen dieses Ding braucht jetzt eben nicht mehr an Thropic oder brauchen nicht mehr OpenAI.

00:51:55: ihr habt jetzt eine europäische Alternative auf der kann man aufbau'n ein fairen Wettbewerb.

00:52:00: Das sollten wir versuchen Und ich glaube wir können es auch.

00:52:03: Aber dass wird einen Kraftakt kosten viel Geld und viele kluge Köpfe, und viel Unterstützung aus der Industrie im Sinne von.

00:52:10: wir riskieren ein bisschen mehr als wir das normalerweise tun.

00:52:14: Jetzt die letzte Frage hat und danach, bis wir es auf den Nachverteilen, mal sie trotzdem einfach laut!

00:52:23: Ich weiß

00:52:28: nicht.

00:52:36: Oder doch

00:52:37: überlebensfille den Sie?

00:52:39: Also ich sag mal so, wenn sie einfach einen Stecker ziehen dann wird die im Moment nicht viel machen.

00:52:43: halt ja also da legt die kein Backup an und so weiter.

00:52:46: aber das sind ja dass es die am rechten gibt's.

00:52:48: Experimente die auch gemacht wurden kann man weiß man auch.

00:52:52: aber das ist natürlich in Dialogen halt wo man dann und dann wissen wir ehrlich gesagt nicht hundertprozentig.

00:52:59: also meine meinung ich kann die meine Meinung sagen Holger kann seine sagen Ich glaube, das ist eben das was in den Daten drinsteckt.

00:53:07: Und da das ja zum großen Teil Menschen gemachte Daten sind und da auch ganz viele Berichte vom Überlebenswillen natürlich drin stecken und so, dass sie sich die ganze Menschheitsliteratur durch, glaub ich, ist dann eben auch der Effekt, dass das System versucht sowas Ähnliches irgendwie zu produzieren.

00:53:26: DKI versucht uns zu imitieren Das treibt auch solche Blüten.

00:53:32: Wir sollten uns bei all diesen Dingen überlegen, werden wir hier nur imitiert?

00:53:36: und es ist gut dass wir uns imitieren lassen?

00:53:38: Manchmal ist die Antwort ja und das ist wirtschaftlich sinnvoll und bringt uns weiter gerade wenn man nicht genügend Fachkräfte hat.

00:53:42: Und manchmal ist die antwort nein!

00:53:44: Wir wollen doch nicht in dem Verhalten von dem wir schon selber wissen, dass es manchmal gar nicht so gut ist also jetzt nicht dieses.

00:53:50: Wollen wir nicht auch noch imitierten werden von der Technologie, die uns eigentlich helfen sollte besser zu sein.

00:53:56: Lieber Holger lieber Antonio ganz vielen Dank für eure Auskünfte, für die Diskussion Ihnen.

00:54:00: Vielen Dank für die Fragen und bis zum nächsten Mal!