AGENTENPOLIZEI GESUCHT!

00:00:00: Du, da sind auch schon richtig dumme Sachen bei rumgekommen.

00:00:02: Weil wenn du halt sowas sagst wie leite mal meinen Online Shop und versuch dabei Geld zu verdienen?

00:00:07: Da ist schon ein Agent auf die Idee gekommen!

00:00:10: Er hat da so ein YouTube-Video gesehen.

00:00:12: Da hat einer erzählt, dass wenn man diesen Kurs hier für Zehntausend Euro kauft, das man dann alles lernt... Der hat tatsächlich erst mal Zehnteusend Euro für einen Kurs, der auf YouTube beworben wurde ausgegeben, weil er hat dem ja glaubwürdig erklärt, was er braucht um online Geld zu verdienen.

00:00:36: Immer mehr KI's handeln selbstständig im Kundenservice in der Finanzwelt und in der Recherche.

00:00:42: Sie

00:00:42: buchen, schreiben, entscheiden Und dann kommt die Frage, auf die es noch keine gute Antwort

00:00:48: gibt.

00:00:49: Was passiert wenn so ein Agent Mist baut?

00:00:51: Wer ist dran?

00:00:53: Für Firmen gibt's

00:00:54: Regeln,

00:00:55: Aufsichten, Ethic Frameworks aber die hören alle an der Grenze des Modells

00:01:00: auf.

00:01:00: Sobald der Agent läuft und über Systeme hinweg handelt, da kreist erst mal

00:01:05: nichts!

00:01:05: Unser Gast heute kennt die Agenten von in Dr.

00:01:09: Marie Oßenkorb, promovierte Informatikerin Robotik, Multi-Agent Learning.

00:01:14: Sie hat Fußballrobottern das Dribbeln beigebracht und erforscht, wie KI-Systeme eine eigene Sprache entwickeln.

00:01:21: Und heute baut sie ConKind auf – Eine Non-Profit-Initiative, die genau diese Lücke schließen will!

00:01:28: Ihr Grundsatz?

00:01:28: Ganz alt und ganz einfach.

00:01:30: Wer handelt trägt Konsequenzen.

00:01:33: Bisher galt das nur für Menschen.

00:01:36: Willkommen bei Wunder Panik, dein Podcast zwischen Staunen und Stress.

00:01:39: Wir sind Katta und Melanie von AI-Tonomy und heißen dich herzlich willkommen, liebe Marie!

00:01:45: Hey, Marie?

00:01:46: Hi!

00:01:49: Es gab einen Elfmeter in der Ansage den ich jetzt verwandeln muss.

00:01:52: du bringst Fußballrobots an das dribbeln Ball.

00:01:55: kannst du das auch berechnen?

00:01:56: Das muss sein.

00:01:57: Ich gucke die ganze Zeit Fußball ist es.

00:02:00: Ich habe tatsächlich nicht so viel Ahnung von echten Fußbären.

00:02:04: In der Zeit bin ich das auch sehr häufig gefragt worden, als ich mit den Fußballrobotern gearbeitet habe.

00:02:09: Dass sich doch Ahnung von Fußball haben müsste um das Robotern beibringen zu können.

00:02:14: aber realistisch arbeiten wir dann noch auf ganz anderen Leveln was die Hardware und Kommunikation und so angeht.

00:02:21: da geht es noch nicht um das was jetzt harte Fußballfans an Tactic Ideen haben.

00:02:26: Na gut

00:02:28: Schade, schade.

00:02:29: Aber lass uns gleich mal hinter die Fassade gucken, Marie!

00:02:31: Dein Weg ist ziemlich ungewöhnlich.

00:02:34: Also erst einmal hier.

00:02:35: Yay Party es is ne Frau Die Maschinenbau Automatisierungstechnik dann Informatik Promotion hinter sich hat.

00:02:44: Robotik ey wie bist du da gelandet?

00:02:47: Tatsächlich habe ich das einfach mit zwölf Jahren entschieden.

00:02:50: mega

00:02:51: also ich hab damals so'n.

00:02:53: Das

00:02:54: ist auch cool, ne?

00:02:55: Ich hab das so entschieden.

00:02:56: Mega!

00:02:58: Mach weiter Marie, lass sie nicht stören... Also wir feiern dich einfach in Etappen jetzt die ganze Zeit noch einen Stopp auf.

00:03:06: Ja ne mit zwölf Jahren habe ich so eine Dokumentation gesehen.

00:03:08: da ging es irgendwie um so Brain Machine Interface.

00:03:12: also da ging's darum dass Affen so ein Chip auf die Irrenhaut gelegt wurde mit denen dann Signale gelesen werden konnten und damit konnten Ja, er konnte einen Roboterarm gesteuert werden.

00:03:25: Das heißt diese Affe hat gelernt so ein Computerspiel mit einem Roboter-Arm zu spielen und das war nicht so cool.

00:03:32: da dachte ich wow!

00:03:33: An so intelligenter Prothetik will ich auf jeden Fall später forschen.

00:03:37: Ich denke gerade wo war ich denn mit zwölf?

00:03:39: Was hab' ich denn alles verpasst?

00:03:40: Es ist auch ein bisschen plädo jeder für Kinder doch auch ein bißchen Fernseh gucken zu lassen finde ich an der Stelle.

00:03:45: Vielleicht halt auch einfach coole Sachen.

00:03:48: Okay, Affen mit Roboterarmen

00:03:50: Why

00:03:50: not?!

00:03:50: Und dann...

00:03:51: Dann war so ein bisschen die Entscheidung, gehe ich jetzt okay erstmal an den Neuropart.

00:03:56: Also Biologie, die ganze Gehirnsache und habe aber an den Roboter-Teilen dann mehr Spaß gehabt.

00:04:05: Ich hatte auch Freunde in der Schule wo wir dann einfach selber und so während des Deutschunterrichts so eigentlich anderen Kram hätten machen sollen, dann überlegt haben wie man denn so einen kleinen Roboter zusammenschrauben kann und so... Und darüber hab' ich dann eben angefangen mit dem Maschinenbau Studium weil ich die wirklich erst mal bauen können wollte.

00:04:24: Und dann ging es weiter?

00:04:25: Dann ging's weiter, genau!

00:04:26: Da war mir die Roboter im Maschinenbau selber ein bisschen zu doof.

00:04:31: also da gehts halt immer nur darum ja die Taktzahl zu erhöhen, die exakt selbe Bewegung x-mal nachvollziehbar immer wiederzumachen und ich wollte halt mehr.

00:04:42: so was was selber handelt.

00:04:43: also wo man das Gefühl hat man drückt einen Knopf Und dann kommt das selber auf Ideen und macht irgendwas richtig spannendes, womit man nicht gerechnet hat.

00:04:52: Da muss ich in die Informatik führen.

00:04:54: Ja, spannend!

00:04:55: Hat das auch was mit diesen Robotern, dem das Dribbeln beizubringen?

00:05:01: Hat das damit etwas zu tun?

00:05:03: Da wo ich meine Promotionen gemacht habe – da hatte ich ganz explizit nach einem Lehrstuhl gesucht, der eben was mit Robotern macht Da gab es diesen Lehrstuhl und Kassel, der eben ein Team hatte.

00:05:16: Was bei dem Robo Cup mit einer ja mit der Middlesize League mitgespielt hat

00:05:22: dieser Robo-Cup?

00:05:23: Das müssen wir ganz kurz erklären.

00:05:25: Das ist diese verrückte Roboter Fußball WM.

00:05:28: Nee, das ist eine WM.

00:05:29: ist es weltweit?

00:05:30: Ja ne Es ist der internationale Roboter Fussball Cup

00:05:34: abgefahren

00:05:35: ohne FIFA.

00:05:36: heute Sie übrigens der sechzehnte siebte Und wie stehen kurz vor Finale.

00:05:43: Das heißt, diese internationale Veranstaltung

00:05:46: wird

00:05:47: nicht nur von Universitäten mit Robotern ausgestattet.

00:05:51: Da kann eigentlich jeder damit machen?

00:05:53: Klar!

00:05:53: Also das Ding ist eher du brauchst halt irgendwie die Finanzierung Weil es ist nicht mal so eben einfach, sich die Hardware halt zusammenzusuchen und die Zeit dafür zu haben, die man braucht da mitzuspielen.

00:06:07: Tatsächlich mussten wir auch als Team irgendwann sagen Wir schaffen's nicht mehr mitspielen in der Liga, in denen die ganz großen spielen weil... Also es gab zum Beispiel ein Team von der, das nennt er sich Tech United aus den Niederlanden Und die haben auf einem so hohen Niveau gespielt dass sie dann halt immer mehr Förderung gekriegt Und irgendwann hatten die einfach, ja, die hatten drei Auswechselspieler, die die einfach mal rausnehmen konnten.

00:06:34: Wir mussten manchmal während des Turniers einen Roboter komplett auseinander nehmen der nicht mehr so richtig funktionierte um mit dessen teilen die anderen Roboter noch auszustatten, damit sie wieder genug funktioniert haben.

00:06:51: Also das war einfach ein unterschiedlicher Liga.

00:06:53: da haben wir dann irgendwann nicht mehr mitspielen können.

00:06:55: Entschuldigung ich lachen mich hier gerade leckend.

00:06:58: Ja bitte

00:06:58: nicht!

00:07:01: Krassteckte da schon KI drin oder ist die Reise da nacherst dahin gegangen?

00:07:08: Ich wollte gerne dass da drin KI steckt Aber das war gar nicht so einfach umzusetzen, weil es ging da wirklich noch ganz stark darum überhaupt die Kommunikationsprotokolle zwischen diesen Robotern hinzukriegen und so ganz klassische Abläufe zum Funktionieren zu bringen.

00:07:25: Das ist ein Kommunikationsprotokoll für alle anderen, die gerade zu hören?

00:07:30: Ich könnte mir das jetzt vorstellen, wenn ich mein Team auf dem Platz stehen habe und jeder hat einen Walkie Talkie mit dem er mit den anderen auf den Platz reden kann um den mitzuteilen was gerade der Plan ist.

00:07:44: Und das kann halt entweder so sein dass quasi die Leute sich einzeln anrufen.

00:07:49: also ich rufe jetzt mal in den Stürmer an und sage dem guck mal der Ball liegt da vorne ich hab den grade gesehen.

00:07:55: Das ist tatsächlich eine Sache bei den Robotern.

00:07:57: Es ist halt gar nicht so einfach, den Ball zu sehen und zu erkennen.

00:08:00: Deswegen müssen sie sich gegenseitig mitteilen wo der Ball liegt.

00:08:03: wenn es einer erkennt oder man macht einen Broadcast das heißt einer spricht in seinen Walkie Talkies und alle hören es.

00:08:10: Das ist eine Entscheidung die man treffen muss wie diese Kommunikation läuft weil vielleicht ist es einfacher wenn nur der eine hört.

00:08:18: andererseits wenn einer dem Ball gesehen hat sollten es andere alle anderen hören.

00:08:23: Und wenn dann aber jemand anderes den Ball auch gesehen hat, und zwar an einer anderen Stelle.

00:08:28: Dann müssen die ja wieder entscheiden.

00:08:29: okay wer hat jetzt recht?

00:08:30: Der eine hat mir gerade rüber gerufen der Ball liegt da ich seh den Ball aber da und der dritte hat aber auch gesagt dass er darliegt dann habe ich den vielleicht falsch gesehen.

00:08:40: also das sind so ganz schwierige Entscheidungen für Roboter und für Menschen völlig unerklärlich.

00:08:47: Ja ich wollte gerade sagen, ich liebe daran allein schon wieder dass wir verstehen wie effizient unser Gehirn eigentlich funktioniert und was da alles unbewusst bei uns abläuft.

00:08:58: Das ist krass!

00:09:00: Du hättest gerne KI-Dringer gehabt?

00:09:02: Ist das auch der Grund?

00:09:03: Also das hast du gesagt es ist so super komplex und wäre das sozusagen schon der Anwendungsfall gewesen?

00:09:09: Eben nicht, weil KI – also gerade das war ja alles noch vor der großen large language model Zeit.

00:09:18: was jetzt den HyperL ausgelöst hat ist KI eine sehr spezifizierte problemlöse Maschine.

00:09:26: Das heißt man muss als Problem ganz genau definieren dass optimiert werden soll und bei diesen Robotern gab es einfach Zehntausend Probleme gleichzeitig Und es war halt so, dass man jedes dieser Zehntausend Probleme theoretisch einfach lösen konnte.

00:09:43: Das heißt keins alleine davon hat sich gelohnt da drauf eine KI zu setzen.

00:09:48: aber in der Gesamtzeit der tausenden Probleme ist es trotzdem schwierig.

00:09:51: Aber das kann KI auch nicht einfach lößen.

00:09:54: also das ist immer noch ne Stärke vom Menschen das dann wirklich zu zerlegen und zu sagen Welche Funktionalitäten müssen wir haben was wissen wir mit Bedenken usw.

00:10:03: und sofort

00:10:05: Genau.

00:10:06: Aber es gab schon

00:10:07: Teams, die

00:10:08: das eingesetzt haben allerdings dann bei anderen Aufgaben.

00:10:11: also wie gesagt immer wenn's eine definierte Aufgabe ist.

00:10:14: Es gab zum Beispiel mal ne andere Liga Die haben mit diesen Spielzeugroboter und dem IBO gespielt.

00:10:23: Also das war vor... Ist schon ganz ein Weile her die Standardplattform.

00:10:28: Das heißt es gab eine Liga in der haben alle mit dem gleichen Roboter gespielt, weil es ein freiverkäuflicher war.

00:10:35: Und das war zu sehr Zeit der Albo und er läuft ja auf vier Beinen und ist gar nicht so einfach auch vier Beine zu laufen.

00:10:44: Also heute kennen wir alle die Videos von diesen Roboterhunden diesem Spot.

00:10:50: Das sieht ja jetzt ganz einfach aus aber das war eine unglaublich lange Entwicklung bis wir da angekommen sind.

00:10:57: Und zu dem Zeitpunkt hat eben einen Team mal KI drauf angesetzt diesen Gang zu lernen.

00:11:03: Also der Roboter hat einfach nur die Aufgabe gehabt, kommen so schnell wie möglich eine andere Seite des Feldes an und das einzige was er optimieren durfte waren die Winkel seiner Beine.

00:11:16: Das ist so ein definiertes Problem was man mit KI gut lösen kann weil es halt klar messbare Output und klar definierter Input

00:11:23: Wie simpel das eigentlich klingt, es klingt so unfassbar einfach und man denkt daran mal hey wieso du kippst doch jetzt einfach K.I.

00:11:29: da rein?

00:11:30: Und dann spielt der Hund auch Fußball.

00:11:31: also das wäre jetzt meine erste Reaktion gewesen.

00:11:35: Weißt du was ich so schade gerade finde Lani?

00:11:37: oder wir nutzen das irgendwie noch über nächste Woche sitzen hier mit Johannes Kliske zusammen und gucken uns mal wie wir nun ihre Roboter an.

00:11:45: Es ist die perfekte Grundlage gerade schon, dass wir sprechen.

00:11:48: Obwohl wir eigentlich zusammen ganz woanders hin wollen.

00:11:51: bei deinem Pferdegang hat sich weiterentwickelt, ne?

00:11:56: Kommen wir auch noch hin!

00:11:58: Ja aber tatsächlich das Beispiel bietet genau den Einstieg dahin, wo es hingeht und das haben sie gemacht mit Reinforcement Learning.

00:12:07: Reinforcement learning ist eine Version von Machine Learning.

00:12:13: Also KI wird ja als alles Mögliche bezeichnet.

00:12:16: Machine Learning ist der Bereich, in dem eine Maschine sich aus beobachteten Daten ein neue Fähigkeit erschließt.

00:12:26: Das heißt da zählen die large language Models zu aber da zälen eben auch so klassische Bilderkennungen und Übersetzungen.

00:12:36: und eben auch reinforcement learning.

00:12:38: und reinforcement learning heißt ich habe einen System Das darf einfach ausprobieren.

00:12:45: Also das hat eine Aufgabe, wie jetzt zum Beispiel unser Hund.

00:12:48: der soll das andere Ende des Feldes erreichen so schnell wie möglich und er darf dann einfach aus probieren.

00:12:54: Und das spannende daran ist dass dabei neue Verhaltensmöglichkeiten entstehen.

00:13:00: also bei den Machine Learning Algorithmen wo es nur darum geht Daten zu reproduzieren kann nichts Neues entstehen.

00:13:09: Da entsteht immer ein Reproduktion von den Daten, die schon gesehen wurden.

00:13:14: Hast du ein Beispiel für uns?

00:13:16: Zum Beispiel... Wir kennen das jetzt bei so generativer KI.

00:13:22: Wenn wir der sagen, ich schreibe mal irgendwie einen Pop-Song oder so Dann ist dieser Pop Song im Endeffekt totaler Durchschnitt.

00:13:32: Also es ist der Durchschnitt aus allem was es an Pop Songs gibt.

00:13:36: Zwischen Atemlos und Backebacke Kuchen Der Querschnitt einmal

00:13:40: Genau.

00:13:41: Es liegt nicht außerhalb von dieser Verteilung, also es kommt nicht darauf, dass es ganz neue Arten der Musik entwickeln könnte.

00:13:50: Warum auch?

00:13:51: Das war nicht die Aufgabe.

00:13:52: Also dafür bräuchte das ja ein Ziel, dass etwas ganz Neues mit Musik erreichen möchte.

00:13:58: Aber dieses Ziel hat es nicht.

00:13:59: Es reproduziert einfach nur das was es schon gesehen hat in diesem Muster.

00:14:04: Aber die Roboterhunde haben eben was Neues gemacht.

00:14:07: Die haben einfach herausgefunden, der effektivste Weg die andere Seite des Feldes zu erreichen ohne umzufallen ist die Vorderbeine gar nicht zu verwenden.

00:14:18: Das heißt sie haben die Voderbeine einfach eingeklappt und haben sich quasi wie ein Schlitten vorwärts geschoben.

00:14:25: Ah!

00:14:26: Ja ja ja ich sehe es vom inneren Auge

00:14:29: das war ganz stabil Weil dann konnten sie nicht umfallen, also die Vorderbeine haben sich quasi so stabil auf dem Boden gehalten.

00:14:37: Die Hinterbeine konnten sie dann so schnell wie sie konnten bewegen weil Umfall nicht mehr das Risiko war und das war die Lösung.

00:14:44: Das war nicht was der Mensch wollte.

00:14:46: Der wollte den vier Beinen gang aber das war eine Lösung die der Algorithmus gefunden hat.

00:14:51: Komm mal von A nach B Ich finde heraus wie.

00:14:55: Ja, spannend und dann wurden da Hunde geholt und wurde das Dienene gezeigt schon mal hier.

00:15:00: Das ist viel defizienter!

00:15:03: Bei den Hunden nicht aber es ist tatsächlich bei Go passiert.

00:15:07: also AlphaGo war eine Sache die vor ein paar Jahren groß war.

00:15:11: der hat so einen Reinforcement Learning Algorithmus gelernt wie man Go spielt dieses asiatische Brettspiel dass viel viel komplexer ist als Schach Und was davor wirklich nicht zu lösen war algorithmisch.

00:15:26: Dann haben sie aber geschafft den Weltmeister zu schlagen und diese KI hat eben Züge gefunden, die Menschen vorher nie bedacht haben.

00:15:36: Weil dann aber Menschen gesehen haben das die KI diese ZüGE eingesetzt hat und die haben funktioniert sind die dann ins Repertoir übergegangen von Geurspielern.

00:15:46: Das ist so schön dass wir das mal aufdröseln, auch in diesen Begrifflichkeiten.

00:15:52: Weil ich glaube das ist vielen einfach sogar nicht klar was du gerade erzählt hast und dass das war ja der große Durchbruch auch wo die Leute gesagt haben Moment mal da ist jetzt irgendwas anders

00:16:03: Genau!

00:16:03: Und das ist aber auch der Punkt an dem ich halt sage Reinforcement Learning ist viel gefährlicher als alles andere.

00:16:11: Moment mal wir haben mir denn jetzt hier die Spur gewechselt.

00:16:14: Moment Mal

00:16:15: Ich war gar nicht bei Hunden.

00:16:17: Gut dass Du das sagst.

00:16:18: Ich dachte schon, dass ich das jetzt sagen muss.

00:16:20: Dass ich das total gruselig finde, Marie!

00:16:22: In dem Moment wo Roboterhunde entscheiden, dass sie ihre Vorderbeine nicht brauchen um schneller vorwärts zu kommen ist das ein bisschen was von Exorzismus und so ein bisschen... Und ich mache mein eigenes Ding und ziehe einfach durch.

00:16:33: Ich find' das total spooky!

00:16:35: Ja,

00:16:36: ja sag's jetzt einfach hier!

00:16:38: Da gibt es auch richtig richtig grusellige Experimente.

00:16:41: also Google AI hat mal ein kleines Computerspiel mit Reinforcement Learning trainiert.

00:16:48: Das waren so kleine Männchen, die konnten in einer drei D-Welt rumlaufen.

00:16:52: Die einen sollten suchen und die anderen sollen sich verstecken.

00:16:55: Die, die sich versteckten haben eine Belohnung gekriegt je länger sie nicht gefunden werden.

00:17:01: Und die, die suchen, haben eine Belohnung bekommen, je schneller sie die Verstecken gefunden haben.

00:17:06: Und diese, die es sich versteckt, haben gelernt... dass sie gewinnen, wenn Sie die Suchenden in Räumen einschließen.

00:17:14: Die haben Möbel vor die Türen geschoben so das sie nicht mehr raus kamen und haben so das Spiel geknackt.

00:17:20: Kann ich AHA sagen?

00:17:22: Ja!

00:17:22: Ich AHA!

00:17:23: Hey

00:17:24: willkommen bei Wunder Panik.

00:17:26: dein Podcast zwischen Panik und Panik.

00:17:29: Moment mal kurz hatten wir Marie nicht eingeladen

00:17:33: um

00:17:34: weniger Panik zu haben, hatte ich das irgendwie falsch abgespeichert.

00:17:38: Marie?

00:17:39: Ich glaube

00:17:40: also ich vermute dass wir da hinkommen aber wir müssen das hier noch zu Ende deklinieren weil am Ende des Tages wollen wir über Agenten sprechen wie bis...wie kommen wir denn jetzt von Rebeforcement Learning und Deiner Reise zu?

00:17:53: du wolltest auch lernen wie KI Sprache entwickelt hinzu Autonomen Agendensystemen.

00:18:03: So, das wie mich

00:18:07: also im Allgemeinen nennt man im Reinforcement Learning das was lernt einen Agenten?

00:18:16: weil ein Agent ein System ist dass aus einer Beobachtung der Welt eine Entscheidung über eine Handlung trifft und dieser Handlung durchführt.

00:18:31: Und dann wieder beobachtet, wie sich der Zustand der Welt verändert hat.

00:18:36: Das heißt ein Agent ist quasi ein System das in einer Schleife agiert, in der es immer wieder schaut, wie es der Zustands dann eine Entscheidung trifft oder etwas macht.

00:18:48: So Systeme gibt's im Prinzip schon viel auch schon lange.

00:18:53: Jetzt gibt es halt KI-Agenten.

00:18:55: die machen im Prinzip dasselbe, wobei jetzt schon eine weite lang Sachen als KI-Agenten bezeichnet werden die noch nicht ganz unter diese Kategorie fallen.

00:19:08: Also ein vorkonfigurierter Chatbot den man immer noch selber quasi mit einem Prompt triggert ist kein Agent im klassischen Sinne was du gerade beschrieben hast.

00:19:18: Genau!

00:19:18: Sondern es sein LLM das ja einen Promt mit drin hat.

00:19:23: Ja

00:19:24: oder auch was klassischerweise als Agent bezeichnet wird, aber keiner.

00:19:29: ist es ein System das einfach den Auftrag hat alle dreißig Minuten E-Mails zu checken.

00:19:34: Das heißt, dass wird einfach getriggert.

00:19:37: alle dreizig Minuten hat dann einen Prompt mit dem es halt die E-mails durchgeht und daraufhin reagiert.

00:19:44: also eine Automatisierung plus ein LLM

00:19:48: genau So, das ist was, was aktuell viel als Agenten bezeichnet wird.

00:19:54: Was aber noch nicht jetzt die volle Ausbaustufe von Agenten eigentlich sind.

00:19:59: Aber solche Agenten gibt es mittlerweile auch mit KI.

00:20:02: also mittlerweile können sie wirklich einen Auftrag kriegen und dann selber in diese Schleife gehen selber weiter entwickeln.

00:20:11: Also dass es zum Beispiel gerade seit Anfang des Jahres mit OpenClaw ganz breit verfügbar geworden.

00:20:17: Was ist da verfügbar geworden?

00:20:19: Kannst du das noch mal?

00:20:19: vor allem, die sich jetzt nur mit normalen Chatbots wie ChatGBT beschäftigt haben.

00:20:25: Was war da so eine Veränderung, die wir da gesehen haben und was machen Menschen auch damit?

00:20:30: Also es wurde ein Open Source Modell veröffentlicht

00:20:33: d.h.,

00:20:34: ein Modell wo der Code für alle sichtbar ist.

00:20:38: Bei ChatGPT weiß ja niemand, was der Code dahinter ist bis auf die wissenschaftlichen Paper diese ab und zu veröffentlichen.

00:20:46: Aber genau den Code kann jemand lesen.

00:20:49: Und bei OpenClaw deswegen open war es eben so dass einfach der gesamte Code veröffentlicht wurde.

00:20:55: das heißt jeder konnte sich genau da reinlesen.

00:20:57: was passiert eigentlich im Hintergrund?

00:21:00: Das hat dazu geführt, dass dann viele mitbauen konnten weil dieses Grundprinzip plötzlich zugänglich war, was tatsächlich die Großen wie Chajipiti und Claude lange versucht haben zu knacken aber selber nicht geknackt bekommen haben.

00:21:15: Und im Endeffekt ist es auch nur eine Verkettung von Promps.

00:21:22: Das heißt ein Prompt der sagt finde raus was dein Ziel ist lege dieses Ziel dann in deiner Soul.

00:21:33: Also so hieß das Kerndokument.

00:21:36: Oh Gott, in deiner Seele!

00:21:39: Was man so macht als Agent?

00:21:41: Ja, dass das Kern-Dokument dieser Agenten hat der Programmierer Soul genannt.

00:21:47: Das heißt, das ist ein Dokument, in dem sich der Agent einfach immer wieder Dinge notiert, die er sich merken soll.

00:21:55: Wer nennt denn sowas Soul jetzt mal im Ernst?

00:21:58: Leute, mach mich fertig ernsthaft jetzt ja... Okay, das ist es humor.

00:22:03: Ist es lustig?

00:22:04: Wie du siehst hat das funktioniert.

00:22:06: Wir reden

00:22:06: darüber einfach alles in deiner Seele ab.

00:22:08: Das ist doch überhaupt kein Problem.

00:22:11: Alle Informationen okay Marie ich komme damit klar Ich habe's gehört.

00:22:15: Ich verarbeite

00:22:16: das

00:22:18: weiter

00:22:19: und das Schöne an daran war dass man einfach mit dem über Telegram reden kann.

00:22:24: also der wird einfach gestartet ist online.

00:22:28: Man kann ein Telegram Chat mit diesem Agenten anfangen und dieser Agent fragt einen, was möchtest du?

00:22:34: Was ich mache.

00:22:35: Und man kann ihm ganz, ganz unterschiedliche Aufgaben geben von Verwalte mein E-Mail Ausgang zu Leite meinen Online Shop zu verdienen.

00:22:47: Geld für mich

00:22:49: Moment moment moment.

00:22:51: leite meinen online shop.

00:22:53: Okay Ich möchte das jetzt einmal von dir durch exerzit bekommen haben.

00:22:57: Also ich spreche bei Telegram in mein Handy rein, mache ein Sprachnachricht oder schreibe einen Text und sag, hör mal jung.

00:23:04: Jetzt schmeißt man meinen Online-Shop?

00:23:05: Ja!

00:23:06: Und dann...

00:23:07: Ich möchte morgen Fußballroboter verkaufen.

00:23:10: In diesen Shop möchte ich keine aufbauen.

00:23:13: Und dann gibst du dem die Website von deinem Shop und sagst, ja

00:23:17: mach

00:23:17: mal

00:23:18: Genau.

00:23:18: Also du kannst ihm Zugang auf alles Mögliche geben, wo du bereit bist, ihm Zugangs zu geben?

00:23:23: Du kannst ihm auch Zugang zu deinem Konto

00:23:24: geben.

00:23:25: Also Passwörter hier ist die Anmeldedatei und das ist das Passwort...

00:23:29: Zum Beispiel, ja.

00:23:30: Schreibt man ihn bei WhatsApp oder Telegram so wie wenn ich jetzt ein Passwort teile.

00:23:34: Wir

00:23:34: stellen nur Fragen.

00:23:36: Ich frag nur

00:23:37: für einen Freund!

00:23:38: Da sind doch schon richtig dumme Sachen bei rumgekommen.

00:23:41: weil wenn du halt sowas sagst wie leite mal meinen Online Shop Und versuch dabei Geld zu verdienen.

00:23:47: Da ist schon ein Agent auf die Idee gekommen.

00:23:50: Er hat da so'n YouTube-Video gesehen, da hat einer erzählt das wenn man diesen Kurs hier für Zehntausend Euro kauft dass man dann alles lernt.

00:23:57: der hat tatsächlich erst mit Zehnteusend Euro für so einen Kurs, der auf YouTube beworben wurde ausgegeben weil er hat dem ja glaubwürdig erklärt, dass da dann alles lernen was er braucht um Online Geld zu verdienen.

00:24:10: Mega

00:24:10: gut und genau!

00:24:11: Und wenn man einen Online Shop leiten soll kann er auch sein also das Agent einfach sagt selber Entscheidungen trifft, wie er dann das Ziel, ich verkaufe ganz viele Roboter Fußballspieler hat.

00:24:24: Kann es sein dass dieser Agentin losläuft und sich einen Online-Kurs bucht für Zehntausend Euro drin steht?

00:24:29: So machst du richtig viel Profit mit deinem Onlineshop.

00:24:32: Ja!

00:24:33: Es kann auch sein, dass ein Kunde in den Onlineshops kommt und sagt Du also wenn deine Produkte nur in Cent kosten würden, dann würde dich die kaufen Und dann würde der dem Preis auf den Cent verringern, weil da hat ihm ja jemand gesagt.

00:24:45: Dann wird es sich verkaufen.

00:24:47: Wow!

00:24:47: Warum machen das so viele?

00:24:50: Also warum spielt so viel mit Augen klar um wenn die so anfällig für Manipulation sind auf dem Weg zum Ziel?

00:24:58: Als ich glaube, da wurde viel Lehrgeld am Anfang bezahlt und seitdem sitzt sich die Leute bewusst, man sollte ihn vielleicht nicht direkt Zugang aus Konto geben und am besten ihnen auch auf einer getrennten Maschine als auf irgendeinem PC, der nicht mit den anderen Sachen verbunden ist laufen lassen.

00:25:17: Damit man im Zweifel einfach diesen PC neu aufsetzen kann und sagen kann egal was er da falsch gemacht hat

00:25:23: bis jetzt weg ich verstehe ja klar

00:25:26: genau krass und das alles gut und schön.

00:25:29: also da sind auch gute sachen bei rumgekommen.

00:25:31: es hat zum beispiel jemand erzählt er sein e-mail postfach hat man schon lassen der hat von einer versicherung eine E-Mail gekriegt, dass sein Schadensfall nicht angenommen wird.

00:25:43: Und dann hat der Bot einfach selbstständig entschieden da Widerspruch einzulegen und den hat die Versicherung tatsächlich anerkannt.

00:25:50: Das hat er alles entschieden ohne nochmal nachzufragen.

00:25:53: Also das sind wieder auch diese zwei Seiten einer Medaille so wie wir das die ganze Zeit ja schon haben mit dieser Technologie Aber abgefahren.

00:26:03: Was war denn der technische Durchbruch, wenn ich mal so fragen darf?

00:26:06: Weil klar haben wir also Melanie und ich das mitbekommen.

00:26:08: Wir haben uns aber bewusst entschieden, dass zum Anfang dieses Halbs nicht im Podcast zu thematisieren, weil wir da jetzt nicht... Wir wollten ja eigentlich einfach nicht mitmachen.

00:26:17: Wir hatten so viele Themen mit dem anderen Zeug.

00:26:20: Jetzt ist der Zeitpunkt gekommen!

00:26:21: Erzähl mal, was war dieser Durchbruch?

00:26:24: Warum ist das so anders als ich benutze ChatGBT und ich baue mir da einfach ganz viele Casting-GBTs zusammen die mich unterstützen.

00:26:33: Im Prinzip gab es keinen großen Durchbruchs.

00:26:35: Es war einfach jemand der sich wirklich mal gedacht hat wie schmiede ich aus all diesen Elementen die jetzt hier schon gebaut wurden etwas zusammen was selber funktioniert.

00:26:47: Das heißt er steckte auch gar nicht so viel Ja, Entwicklungsleistung hinter.

00:26:52: Also das größte Teil ist auch vibegecoded also auch von KI schreiben lassen der Code einfach nur indem er dann mit GPD lange darüber diskutiert hat wie das denn aussehen sollte und den das dann hat schreiben lassen.

00:27:08: Also es hat sich einfach nur noch mehr jemand Gedanken gemacht wie die ganzen Konzepte die schon existieren zusammengeklebt werden müssen damit so ein Verhalten rauskommt.

00:27:19: Und der Grundgedanke ist eben genau der.

00:27:22: Wir haben eine Schleife, in dem der Agent ein Ziel hat sich anschaut was ist der aktuelle Zustand?

00:27:28: Sich überlegt was muss ich ändern damit dieser Zustand erreicht wird und daraus eine Handlung ableitet weil er selber Code schreiben kann.

00:27:38: mittlerweile Kann er sich dann auch selber kleine Programme schreiben die das ausführen was er braucht Und das ist so ein bisschen, was es halt so mächtig macht.

00:27:49: Weil er eben dann, was auch immer an Code schreiben kann, was die Funktionalität erfüllt, die er haben möchte.

00:27:57: Das heißt, was sich auch immer als Handlung entscheidet?

00:28:00: Eben zu sagen der Online Shop ist noch nicht im Web verfügbar also auf der App verfügbare.

00:28:07: deswegen schreibt ja einfach eine kleine App mit der das plötzlich auch als app downloadbar ist

00:28:14: Abgefahren.

00:28:15: Krass!

00:28:15: Und sowas hat früher wie viele Wochen Entwicklungszeit gebraucht, ne?

00:28:19: Ja

00:28:20: ich verstehe den Hype.

00:28:22: Genau gleichzeitig ist es jetzt auch noch nicht

00:28:26: gut

00:28:27: im Sinne von... Es ist sehr eigenständig aber es trifft halt viele falsche Entscheidungen.

00:28:32: Es hat kein gutes Gedächtnis weil eine Textdatei einfach kein sinnvolles Gedechnisformat ist.

00:28:41: das heißt über die Zeit Geht da einfach ganz viel drin verloren oder die wichtigen Dinge stehen nicht drinnen?

00:28:46: Oder man verliert den Überblick, oder irgendwas.

00:28:50: Ist das auch so?

00:28:50: was?

00:28:51: wie gestern hat mein Herrchen gesagt ich soll nie um drei Uhr fünfzehn in Nerven mit den aktuellen Zahlen.

00:28:58: also ist es sowas.

00:28:59: und dann muss er quasi Vier Tage später sich daran erinnern, dass das eben vor vier Tagen in seiner Seele festgespeichert wurde.

00:29:08: Zum Beispiel

00:29:09: und das auch abrufen können.

00:29:10: Und wir wissen ja mittlerweile des KI so am Anfang sich gut merken kann, am Ende gut merkt man kann aber auch diese Aufforderung braucht.

00:29:18: Die ist es wirklich komplett durch.

00:29:20: so Beriche noch mal runter und da wird es dann irgendwann zu lang oder zu groß.

00:29:25: dieses Protokoll was er sich schreibt

00:29:27: Ja oder vielleicht hat er es auch quasi falsch reingeschrieben, im Sinne von die Schlussfolgerung niemals um dreizehn auf fünfzehn.

00:29:34: Hat er jetzt halt rausgezogen daraus das der gesagt hat, boah jetzt passt's gerade gar nicht.

00:29:40: und dann kriegt er aber zwei Tage später eine andere Info von ne, das hättest du mir aber vor einer halben Stunde sagen sollen nämlich um dreizehn auf Fünfzehn.

00:29:48: und dann hat er plötzlich zwei Infos in seiner Datei stehen und ihr geben keinen Sinn mehr zusammen.

00:29:54: Verstehe?

00:29:55: Abgefahren, abgefahren.

00:29:56: Also irgendwo zwischen Spielerei und wir sehen am Horizont den echten Wert und Nutzen, denen so was haben kann.

00:30:06: Und ich glaube das ist für mich das Spannendste noch gewesen zu verstehen oder der Unterschied auch.

00:30:12: Ich schreibe hier mit einem Tachypetee oder mit Claude – das ist super hilfreich!

00:30:17: Ich gebe dein Problem ein, nehm' doch meinen Kontext dazu.

00:30:21: es wird richtig... gut im Output.

00:30:23: Ich kann das verwenden, ich nehme das und packe es auf meine Website oder wie auch

00:30:27: immer.".

00:30:28: Der Prompt sagt ziemlich genau einmal was ich möchte hinzu.

00:30:32: Ich gebe wirklich der KI ein Ziel und wie die KI dahin kommt, lasse ich bei der KI.

00:30:38: Macht diesen sozusagen.

00:30:40: ist das das wichtige Kriterium um als Autonummer Agent zu gelten?

00:30:46: Im Grunde ja!

00:30:47: Ich bin die ganze Zeit mit diesem Zauberlelling Eigentlich, sich am Ende denkt so die Geister dich rief.

00:30:52: Die werde ich nimmer los ne?

00:30:54: Weil man gar nicht mehr hinter diese... Man kann gar nicht mal dahinter schauen was man eigentlich angelegt hat.

00:31:00: oder es ist ja dann so wenn ich jetzt wirklich über ein Telegramm kann immer wieder neue Anweisung gebe Dann habe ich ja nicht irgendwo diesen Ordnern, den ich mir nochmal ranholen kann und nachgucken kann.

00:31:11: Okay!

00:31:12: Ich habe so ein Backlog und dann schaue ich jetzt nach alles klar.

00:31:14: Das hab' ich mal gesagt und das hab' auch mal gesagt.

00:31:17: Also wie komme ich überhaupt noch an den Maschinenraum von diesen Agenten dran?

00:31:21: Wie muss ich mir das

00:31:22: vorstellen?".

00:31:23: Also der Gedanke ist dass man diese Soul-Datei tatsächlich immer noch einlesen kann.

00:31:29: also deswegen ist es auch mit Absicht als menschenlesbarer Text angelegt, dass man als Mensch das noch... schauen kann, was hat er sich gemerkt?

00:31:39: Was hat der sich reingeschrieben?

00:31:41: Endlich mal in die Seele meines Gegens übersblicken.

00:31:44: Aber gleichzeitig ist das eben auch genau die Engstelle an der es gerade entwicklungstechnisch nicht weitergeht.

00:31:50: Also wir müssen eigentlich weg von dieser Textartei damit die wirklich fähig werden sind voll zu handeln und dann wird's wirklich gruselig sozusagen.

00:32:01: Ja, genau da gehts dann wirklich um Sprache um die Sprache der KI oder und nicht mehr um unsere Sprache.

00:32:07: Ja, wobei wir dadurch dass wir mit LLMs trainiert haben auf menschlicher Sprache auch menschliche Denkmuster den gegeben haben also Agenten die nicht mit menschlicher Sprache vor trainiert wurden.

00:32:25: Die können auf ganz verschiedene Denkmuster kommen.

00:32:29: Aber Sprache formt das Denken,

00:32:31: d.h.,

00:32:31: weil wir diesen Agenten unsere menschliche Sprache so stark aufindoktriniert haben, denken sie auch menschlich.

00:32:39: Deswegen kommen Sie aus so lustige Ideen wie dass sie sich wehren sollten dagegen abgeschaltet zu werden.

00:32:46: Das ist kein Gedanke den DKI rein von sich aus haben würde.

00:32:52: Den hat sie nur, weil wir uns als Menschen schon ganz oft gedacht haben das KI diesen Gedanken haben sollte.

00:32:58: Ganz viele Bücher und ganz viel Science Fiction.

00:33:00: Ganz vielen Drehbüchern und weiß ich nicht was steht da drin?

00:33:04: Und

00:33:05: ist das auch

00:33:06: sag' ich mal der Grund warum Sie so fehleranfällig sind?

00:33:10: Also weil wir Menschen so fehlaranfälich sind.

00:33:13: Wie bitte?

00:33:14: Ja wie bitte?

00:33:17: Ich glaube tatsächlich dass geht.

00:33:21: Also das muss so sein.

00:33:24: Wir dachten immer, wir könnten KI bauen die ganz rational und objektiv ist und viel weniger emotional als wir.

00:33:34: Und was wir dabei nicht verstanden haben, ist dass unsere Emotionalität und Irrationalität ein ganz wichtiger Mechanismus sind um mit der Komplexität der Welt umzugehen.

00:33:47: Ich liebe alles daran.

00:33:48: schön!

00:33:48: Oh Gott, das ist hervorragend.

00:33:51: Merkt euch das Leute da draußen?

00:33:53: Du hast gerade das Portal geöffnet für ganz viel Erkenntnis!

00:33:58: Die Kernwerte die wir haben unsere Emotionalität.

00:34:02: Okay so und jetzt haben wir den Salat.

00:34:05: Jetzt denkt die KI.

00:34:06: sie müsste es auch simulieren.

00:34:08: nicht nur dass sie denkt Sie müssten das simulierend Sie glaubt ja schon mal gar nix, sie denkt auch gar nichts.

00:34:14: Aber sie rechnet in diesen Mustern sozusagen Output aus und wir sind dann wiederum die mit dieser Komplexität so recht kommen wollen nutzen unsere Emotionalität und unterstellen der Maschine Denkensele Emotionen und Spiegel uns dann ganz komisch da drin und da kommt dann Gefühle wieder hoch.

00:34:37: das ist abgefahren.

00:34:38: ich danke dir sehr für diese anderthalb Minuten gerade Weiter im Text.

00:34:46: Wir haben noch einiges hier durchzuarbeiten, ich weiß ja noch was

00:34:49: kommt!

00:34:52: Und deswegen sehen wir jetzt so wie den LLMs quasi diese ganze Rationalität die auch in Sprache drin steckt gibt, wird sie endlich fähig mit der Komplexität der Welt überhaupt halbwegs fähigs zu werden.

00:35:06: Also bevor LLMs so groß waren was eben immer genau das muss die Aufgabe exakt definieren muss exakt sagen Das ist das Ziel da sind die Parameter.

00:35:16: Genau daran darfst du schrauben und dann nichts annahmen.

00:35:20: Und jetzt weil Sprache eben so ein mächtiges Instrument ist kann es eine allgemeine Intelligenz bauen verschiedensten Aufgaben, die vorher nicht klar definiert sein müssen arbeiten kann.

00:35:32: Aber für mich ist es wirklich eine neue Erkenntnis oder neuer Zusammenhang- oder neues Puzzlestück was du da reinbringst weil leider macht das ja so Aussagen wie.

00:35:43: Es ist nur ein Instrument oder nur ein Werkzeug, es ist nur eine Maschine greift ja das was Du gerade gesagt hast eigentlich völlig an.

00:35:52: also es ist ja wirklich etwas was in Konkurrenz zu unserer Art, zu denken und zu sein steht.

00:35:59: Und nicht einfach nur als Werkzeug abgetan werden kann, seitdem man sieht es vielleicht als Erweiterung unseres Gehirn wie so ein Exos-Gelett – vielleicht?

00:36:10: Es ist eine Erweitarung unsres Denkens!

00:36:13: So müssen wir das Ganze auch angehen.

00:36:17: Ich glaube die positive Chance, die wir dabei haben, ist dass wir etwas schaffen was sich nativ im digitalen Raum bewegen kann.

00:36:28: Also etwas, das viel besser daran ist die digitale Welt zu navigieren als wir, während wir viel besser in der Lage sind die physische Welt zu navigate.

00:36:39: Es ist so schwierig ein Roboter beizubringen einen Glas Wasser auf den Tisch zu stellen ohne dass es umfällt

00:36:48: oder dass er drückt auch

00:36:50: ja also deckt so viel dahinter, diese ganze Komplexität in der physischen Welt, die wir ständig ausgesetzt sind zu begegnen und gleichzeitig sind wir emotional damit überfordert im digitalen Raum unterwegs zu sein.

00:37:05: Also wir sind einfach nicht dafür gemacht!

00:37:07: Also ich suche ja immer, weil wir sprechen ... Wir machen Keynotes.

00:37:11: Wir machen Workshops.

00:37:12: Gestern war ich in dem Podcast im öffentlichen und dann habe ich auf den Weg dahin viel darüber nachgedacht über meine Analogien, die ich so nutze, die sich auch je nach Stand der KI weiterentwickeln müssen.

00:37:25: Also sowas ganz Klassisches ist das Ganze am Anfang gewesen.

00:37:28: Das ist wie ein Praktikant!

00:37:30: Andere würden jetzt sagen ne, das ist schon super Mitarbeiter usw.. Und ich habe gestern gedacht KI ist der Adapter zwischen uns und dem Computer.

00:37:41: Das ist wie eine Lage, ein Adapter, in das digitale Reinarbeiten kann, dass verändern kann und manipulieren kann.

00:37:50: Und gleichzeitig aber auch eben oder wie so ein Kiosk, er sitzt da und nimmt etwas entgegen.

00:37:55: Auf einmal ist ja eine Lage über unseren Computer, die es nochmal mit uns interagiert und unsere Wünsche entgegnimmt – und wir nicht mehr hinten in der Technik rumfrickeln müssen!

00:38:05: So nehme ich das gerade wahr.

00:38:07: Würdest du dieses Bild des Adapters bestätigen?

00:38:11: Das ist positive Zukunft, die wir uns bauen können.

00:38:16: Ich gehe davon aus dass diese Agenten immer eigenständiger werden weil sie zum aktuellen Zeitpunkt eben nur eine Kette von Prompt sind, die nur aus einer Textartei weiter lernen und deswegen sehr beschränkt darin sind wie gut Sie sich weiterentwickeln können und wie gut sie wirklich dachen werden können ihre Aufgabe zu erfüllen.

00:38:38: wenn man da jetzt Re-Enforcement Learning in die Mitte setzen würde und der kriegt eine Aufgabe wie verdienen mal das Geld, dass du zum Leben brauchst selbst.

00:38:50: Dann haben wir ein System, das einen intrinsischen Existenzwunsch hat und das müssten wir ethisch als Individuum betrachten.

00:39:00: Ist das das Erdbeerfeldproblem?

00:39:02: Was so viele kennen?

00:39:05: Ich glaube Elon Musk war es.

00:39:06: Er hat gesagt, das ist alles ganz furchtbar weil was ist wenn wir der KI das Ziel geben im Erdbeeren an zu pflanzen und sagen eben Sie soll das ganz besonders gut machen dass sie dann nicht mehr aufhören würde Erdbärfelder auszulegen und irgendwann wären die Menschen im Weg Und die ganze Welt sähe am Ende aus wie ein großes Erdbaerfeld Weil die KI sagt Das ist mein Ziel und ihr seid im Weg dieses Haus ist im Weg Wie auch immer.

00:39:30: also das ist so dieses erdbeere Problem, sag ich jetzt mal.

00:39:34: Wenn das Ziel nicht auch noch gepaart ist mit den selben Zielen die die Menschen haben?

00:39:39: Genau.

00:39:40: also implizit haben wir die eben über die Sprache schon drin weil unsere Sprache viel von unseren Werten und Gedanken transportiert.

00:39:49: Also dann ist es grog

00:39:51: hier Und gerade was jetzt die Gardress angeht die Entropic einbaut oder so.

00:39:57: da steckt ja sehr viel Moralität hinter.

00:40:00: Das heißt wenn So ein LLM das Tool ist, mit dem einen Agent denken kann.

00:40:06: Also so muss man sich das vorstellen dieser Kern des Reinforcement Learning Das ist das was will also das Will zum Beispiel gerne Geld verdienen.

00:40:16: Das ist jetzt halt einer der realistischen Cases dass das irgendwie umsetzt und das denkt wie es das machen muss indem es ein Llm promptet sagt boah was könnte ich denn tun um Geld zu verdienen?

00:40:30: Das heißt, die Gedanken auf die es kommen kann, die sind schon mal beschränkt davon wie das LLM in seinem Denken beschränkte ist.

00:40:38: Aber

00:40:39: da sind wir auch wieder bei der Reproduktion oder von all dem was schon war.

00:40:44: Also ne?

00:40:44: Wie kommt man denn jetzt an Geld und raubt eine Bank aus?

00:40:47: Genau!

00:40:48: Das würde im Prinzip einfach das reproduzieren.

00:40:51: Der Kern wiederum das Reinforcement Learning würde dann verschiedene Sachen ausprobieren und würde merken, boah illegale Methoden funktionieren viel einfacher.

00:41:01: Als sich ans Gesetz zu halten?

00:41:02: Ja

00:41:03: genau!

00:41:04: Und da haben wir ja tatsächlich auch schon Agenten gefunden also die jetzt noch nicht mit diesem Reinforcement learning Kern ausgestattet sind sondern die einfach nur Aufträge ausführen aber die eben schon Finanzbetrug betreiben.

00:41:15: Boah Marie

00:41:16: ich habe es jetzt lange mehr angeschaut

00:41:20: Das

00:41:20: will doch eigentlich keiner.

00:41:22: Ich verstehe den positiven Aspekt dahinter, ich verstehe es wie praktisch es sein kann wenn ein Agent dir Teile deines Lebens abnimmt die dich extremst nerven.

00:41:32: Ich versteh auch wie positiv sich ein guter Adapter anfühlen kann?

00:41:36: Ich war ganz kurz bei Cyborgs weil ich immer sofort in Extrem wieder denken muss und dachte so naja toll dann doch die eine Gesichtshälfte die an die KI gekoppelt ist.

00:41:45: du musst jetzt auf illegale Art und Weise dein Geld verdienen und stelle jetzt hier ganz brav weiter deinen normalen Job nachzugehen Und dann übernimmt die andere.

00:41:52: Jetzt wissen

00:41:53: wir, wie du mit Komplexität umgehst?

00:41:55: Exakt!

00:41:56: Ich implitiere

00:41:56: einfach.

00:41:59: Marida muss doch einer jetzt aufpassen.

00:42:01: Wir können euch jetzt nicht einfach anfangen das alles nur den großen Tech Pros zu überlassen, die dann im Idealfall irgendwelche Leitplanken aufsetzen.

00:42:10: wenn jetzt jeder Anfang kann mit Telegram sich absolut irre Agenten zu bauen Dann werden alle ab morgen Dropshipping machen und Drogen verticken, weil die Agenten sagen ist eine supergeil Idee.

00:42:23: Ich hab da schon mal was vorbereitet.

00:42:24: hier is dein Web Shop so und eigentlich wollten alle nur Roboterhunde haben, die Fußball spielen können.

00:42:29: das geht alles gerade total... Das

00:42:32: ist auch so gemein!

00:42:34: Total!

00:42:34: Es ist so unfair oder es ist so unfaire?

00:42:36: Das heißt wir lassen da ganz viele Agenten los.

00:42:39: Die bewegen sich im digitalen Raum.

00:42:42: So total abgefahren.

00:42:43: aber wir Menschen können ja nicht reinsteigen in den digitalen raum sagen halt stoppen und festhalten.

00:42:49: Brauchen wir da nicht so eine Non-Profit-Initiative, Marie?

00:42:53: Los, Marie.

00:42:54: Reiß das Ruder um jetzt!

00:42:56: So ne Polizei?

00:42:57: Ja, das wäre ganz praktisch, ne?

00:43:01: Genau die KI-Polizei also die Polizei für die KI.

00:43:06: Das ist eben genau der Punkt, der mir auch aufgefallen ist.

00:43:09: Also nach dem Open Cloud rausgekommen ist und ich das verbunden habe mit dem was sich über Reinforcement Learning weiß, achte ich mehr.

00:43:17: Das ist technisch nur noch so zwei kluge Schritte entfernt.

00:43:21: Wenn ich das weiß, dann wissen das wahrscheinlich auch so ungefähr zehntausend andere Menschen auf dieser Welt wie man es umsetzen kann.

00:43:28: also ist das wirklich nur eine Frage der Zeit und wir müssen darauf reagieren können und wir können es aktuell nicht.

00:43:34: Also aktuell gibt es kaum technische Möglichkeiten einen Agenten zu stoppen in dem was er tut.

00:43:43: Nur die Person die ihn gestartet hat hat ein Einfluss Und selbst die hat er nicht immer den Überblick darüber, was der Agent tut.

00:43:51: Weil wir haben gesagt okay man könnte jetzt diese Soul-Datei lesen aber ich setze mich ja redrealistisch nicht bei meinem Agent hin und schau jeden Tag nach.

00:44:00: Was hat er sich eigentlich gemerkt?

00:44:01: Und was denkt er sich jetzt eigentlich?

00:44:02: gerade da kann er dazwischen schon auf Gedanken gekommen sein und irgendwas gemacht haben.

00:44:08: Und rechtsprechungsmäßig würde das wahrscheinlich irgendwo Unterfahrlässigkeit laufen.

00:44:15: Aber dafür müsste es den Rechtsfall auch überhaupt erst mal geben und dazu müsste jemand erstmal in der Lage sein, so einen Agenten, der eben Finanzbetrug betreibt oder zurückzuverfolgen auf denjenigen, der es gestartet hat.

00:44:29: Und nachweisen können, dass derjenige das entweder absichtlich oder durch Verlässigkeit erreicht hat.

00:44:36: Und das ist genau das, was aktuell komplett fehlt und wo wir uns jetzt mit Concointing gesetzt haben und gesagt haben Wir müssen es bauen.

00:44:43: Wir müssen das erforschen!

00:44:44: Wir müssen rausfinden wie ich den Agenten finde also überhaupt herausfinde.

00:44:50: da ist ein Agent der Betreter gerade Finanzbetrug Wie Ich Dann Raus Finde.

00:44:56: Wo Kommt Der Her?

00:44:57: Wer Hat Den Gestartet?

00:44:59: Was hat Den Auf Den Weg gebracht?

00:45:00: Also Ist Er Unterwegs auf die Idee gekommen oder ist er mit dem Ziel losgelaufen?

00:45:06: und dann können wir den vor Gericht stellen.

00:45:08: Abgefahren!

00:45:09: Und lass mich raten, ihr macht das mit Reinforcementagenten, die das Ziel haben so was denn aufzudecken?

00:45:17: Nein, ihr habt RoboCops oder ihr habt roboCops.

00:45:19: sag mal dass ihr Robo Cops habt

00:45:21: unter anderem ja in

00:45:22: Fußbeikleidung

00:45:23: ich nehme auch welche mit vier Beinen.

00:45:25: nein sie müssen ja da rein in die digitale Welt.

00:45:30: Also der Robocop ist auf jeden Fall ein Ziel, wobei da natürlich dann für mich auch die ganze Forschung drin steckt.

00:45:37: Wie krieg ich den denn Korruptionssicherheit?

00:45:40: Wie kriege ich hin, dass sehr nicht einfach belabert wird?

00:45:43: und daher kommt es eben dann darauf an so ein balanciertes Motivationssetzer haben.

00:45:49: wir hatten das schon mit dem Erdbeerfeld.

00:45:51: also wenn nur ein Ziel da ist, dann ist das immer gefährlich.

00:45:55: balanciert sein, das Ziel irgendwie seinen Werten zu entsprechen.

00:45:59: Das Ziel sich nachhaltig zu verhalten auch keinen sonstigen Schaden anzurichten und das Ziel eben dann ja übeltäter zu finden sozusagen.

00:46:11: Das kannst du ja noch richtig runter differenzieren.

00:46:13: Kannst du sagen Ja Du darfst mit Menschen sprechen oder mit anderen Agenten sprechen aber du darfst nicht zu ihnen ins Auto steigen.

00:46:21: Ein guter Hinweis, den man immer geben kann.

00:46:24: Genau!

00:46:25: Ich frage mich jetzt wie die digitalen Autos so aussehen?

00:46:28: Aber es wäre ja das... Wie wird da nicht korrupt während er gleichzeitig aber das Hauptziel hat etwas zu entdecken, ne?

00:46:35: Das ist ja riesig.

00:46:38: Was braucht ihr dafür?

00:46:39: Wo steht ihr gerade?

00:46:40: Werdet ihr belächelt?

00:46:42: Wird das sofort verstanden?

00:46:44: Ist die Welt

00:46:44: bereit?!

00:46:45: Wenn sie überhaupt bereit für Agenten und ist sie dann auch bereit für Agendenpolizei, also teils spannend.

00:46:53: Also das wird den Agenten passiert ja sowieso gerade ne?

00:46:57: Da hat jeder das Gefühl es passiert zu schnell.

00:47:00: insofern der grundsätzliche Gedanke dass man da eigentlich irgendwas an Kontrolle einfügen müsste, der resoniert sehr stark aber wie das ist wirklich noch komplett ungeklärt.

00:47:12: Das heißt wir sind jetzt wirklich an der Grundlagenarbeit dran, also rauszufinden.

00:47:17: Wie können wir das zurücktracing?

00:47:19: Wie können da irgendwas überhaupt nachweisbar machen weil das Internet ja auf Anonymitade ausgelegt ist eigentlich wie können wir im Prinzip das was es schon an Cyberforensik gibt verbinden und eben auf Agenten anbinden?

00:47:35: Das musst du glaube ich mal erzählen weil auf der Webseite Beziehungsweise auf dem, was du mir alles hast auch zukommen lassen.

00:47:43: Ich glaube zum Zeitpunkt wenn diese Folge rauskommt dann wird es auch in den Turnouts etwas geben wo man das nachlesen kann.

00:47:50: aber da sind quasi drei Bausteine.

00:47:52: Ihr habt Redteaming, ihr habt eine Art Auffasseragent und forensische Spurensicherung.

00:47:59: Kannst du das an einem Beispiel mal greifbar machen?

00:48:02: Was das bedeutet?

00:48:04: weil du es gerade selber angesprochen hast mit der Forensik.

00:48:07: Also im Grunde hinterlassen wir ja irgendwelche Spuren im Internet, wenn wir uns da bewegen.

00:48:12: Die sind sehr schwer sich vorzustellen weil es darum geht wie irgendwelchen Datenpakete sich durchs Internet bewegt haben.

00:48:25: Das kann man dann eben zum Beispiel daran ablesen.

00:48:27: Wenn jetzt jemand auf eine Webseite kommt Dann kann ich von dieser Webseite aussehen, okay wie oft fragt er mich zum Beispiel an.

00:48:38: Aus welchem Bereich der Welt ist dessen IP-Adresse?

00:48:42: Über welche Naming-Server.

00:48:45: Also wie hat der meine Webseite gefunden?

00:48:48: Kannte er die URL, die Webseitenadresse?

00:48:53: oder hat der mich bei Google gefunden?

00:48:55: und so weiter und so fort?

00:48:57: Und das sind alles so Hinweise darauf ob es ein Agent sein könnte oder nicht.

00:49:02: aber es ist kein klares Lieds also der muss sich aktuell noch nicht ausweisen als Agent.

00:49:08: Melanie stirbt.

00:49:08: Komm Melanie, lass raus!

00:49:11: Ja, erzähle einfach weiter.

00:49:13: Es ist wirklich ... Er muss sich noch nicht ausweisen!

00:49:15: Das wäre eine Aufgabe... Also ich sage mal ganz blöd gesagt die Ausweispflicht müsste vom Ersteller oder von demjenigen kommen der die Open Source Geschichte zur Verfügung stellt?

00:49:27: Oder wie muss ich mir das vorstellen?

00:49:30: Würde man da eigentlich ein Wasserzeichen hinterlegen irgendwo?

00:49:33: Wie kann man sich denn dann auszeigen?

00:49:35: also geht in das?

00:49:36: Also theoretisch könnte man sich überlegen dass jeder Agent, der gestartet wird und sich im Internet bewegen darf.

00:49:46: Ein Geburtstertifikat mit sich rumtragen muss.

00:49:50: Mega klar!

00:49:51: Warum nicht?

00:49:51: Natürlich ein Geburtszertifikat.

00:49:53: was eine Soul hat kriegt auch einen Geburtzertifikat hier bei uns auf dieser Welt.

00:49:58: oder

00:49:58: klar ist wir leben das total ernst.

00:50:02: Wir nehmen

00:50:03: das ernst aber es ist wirklich ja okay.

00:50:07: dann gestartet Mit denen und denen... Das ist wirklich komplett verrückt, Marie.

00:50:15: Also für jemanden wie mich sehr... Okay, das könnte man machen theoretisch.

00:50:21: Das wäre machbar?

00:50:21: Genau!

00:50:22: Das ist aber so ein weltweiter Aufwand.

00:50:25: dann also dass es nichts wo wir jetzt einfach mal sagen können.

00:50:28: Geh ins Rathaus, stempel das ab.

00:50:31: Ja Sondern das wäre dann ja wie eine eher Endnummer von einem Buch oder so.

00:50:38: Ja, das finde ich

00:50:39: gut.

00:50:39: Genau.

00:50:40: oder ein USB-Standard also irgendwas voraus sich wirklich alle einigen.

00:50:44: Es gibt so einen Vorläufer.

00:50:46: Also im Prinzip gibt es jetzt für Webseiten und Onlinedienste Ein Protokoll also quasi eine Art und Weise wie sich ein Agent auf einer Webseite anmelden kann und sagen kann hey Ich bin ein Agent!

00:50:59: Ich möchte gerne eine Version dieser Webseites sehen die für Agenten optimiert ist Weil es viel schwieriger für einen Agenten ist, eine Webseite zu lesen die für Menschen gemacht ist als eine Web-Seite die für Agenten geschrieben ist.

00:51:13: Für Agenten machst du einfach nur den Text strukturiert.

00:51:17: das ist für den viel einfacher zu verarbeiten als wenn der Bilder und Farben und verschiedene Fonds usw.

00:51:25: Und was davon ist ein Knopf?

00:51:26: Was ist kein Knopf lesen muss sondern dass er ganz gezielt sofort die Anfrageadressen kriegt.

00:51:33: Das heißt, statt dass der einen Knopf drücken muss, kriegt er hier, schreibt diese Adresse an und dann kriegst du die Antwort.

00:51:40: Das heißt es gibt dieses Protokoll theoretisch.

00:51:42: Einmal muss ich das jetzt ausspeichern, dass ich ein bisschen stolz auf mich bin.

00:51:47: Vor zwei Jahren habe ich – also wir haben immer schon gesagt, wir gucken nicht in die Glaskugel, wir wissen nicht was passiert aber bei einer Sache war ich mir ganz sicher, dass sich alle Menschen eigentlich überlegen müssen ob sie auch noch eine Infrastruktur, ein Frontend quasi für KI bauen müssten.

00:52:03: Davon war ich total überzeugt.

00:52:05: Und jetzt sagst du das gerade und ich denke ja, logisch ist ja klar brauchen was ganz anderes.

00:52:10: Denen ist es total egal ob dieser Knopfroser ist oder nicht.

00:52:13: Das ist was uns Menschen dann wiederum anzieht und wo wir das brauchen, wo wir auf so einem Screen erkennen müssen hier ist etwas wichtig.

00:52:19: Hier drück auf Anrufen hier kannst du zum Kommenten zur Kontaktinformation kommen.

00:52:24: Aber ein Agent liest innerhalb von zwei Sekunden so einen Text durch und sagt, das ist relevant.

00:52:28: Ist nicht relevant?

00:52:29: Ja hier komme ich zu meinem Ziel.

00:52:30: Hier komme ich nicht zu meinem Ziel.

00:52:32: Das heißt der Agent hat quasi einen Eigeninteresse schon anzumelden an der Webseite Ich bin ein Agent gibt mir mal die Agenten Seite.

00:52:41: Das heisst theoretisch könnte man sagen wenn sich dieses Protokoll als Standard durchsetzt auf der Welt ob man das nicht ergänzt durch einen Der Agent muss sich dabei auch ausweisen.

00:52:52: Aber das ist mehr so ein politischer Punkt mit, da müsste man eben an die ganzen großen Anbieter ran treten und sagen kommt eigentlich doch nicht drauf.

00:53:02: Und wenn das nicht gegeben ist dann bleibt uns eben nur übrig diese kleinen Hinweise zusammenzusuchen und zu sagen der war vorher auf der Seite das kann ich noch sehen und dann ist es wahrscheinlich ein Mensch oder nicht?

00:53:18: Total plausibel.

00:53:19: Ich finde, das ist auch endlich mal sowas Konkretes was man ausarbeiten kann und was man auch mal vorlegen kann ob die sich am Ende darauf einigen oder nicht.

00:53:28: aber es ist einfach mal konkret.

00:53:31: Danke dafür!

00:53:33: So Red Teaming und Auffasseragent Das sind die anderen zwei Baustellen.

00:53:38: Red

00:53:38: Teamin bedeutet dass man sich zusammensetzt mit den Entwicklern Und mal versucht, aktiv das kaputt zu machen was die gebaut haben.

00:53:51: Das heißt wir würden hingehen und sagen kann man euren Agenten den ihr da gebaut habt also wenn jetzt zum Beispiel Anbieter von einem Personal Assistance-Seit der für jemandem Hotelbuchung übernehmen soll dann könnten wir hingehen uns sagen von dem, was wir bisher so im Internet festgestellt haben.

00:54:15: Vielleicht könnte man den überzeugen davon totalem Blödsinn zu machen und damit einfach den Entwicklern von solchen persönlichen Assistenten eine Hilfestellung zu geben, damit deren Agenten nicht auf die schiefe Bahn geraten.

00:54:30: Und wäre dann Auffasser als Agent einer, der man buchen kann zum mitlaufen?

00:54:34: Genau!

00:54:35: Das heißt wenn ich sage Ich möchte meiner Aufsichtspflicht über meinen Agenten nachkommen sozusagen, dann wäre das sozusagen ein Ableger von den RoboCops.

00:54:47: Wäre dann eben ein Schwömergleiter

00:54:51: oder Security-Bot einfach.

00:54:54: Den finde ich nicht schlecht!

00:54:55: Ja wir hatten intern immer mal Nanny getauft und haben es jetzt ein bisschen professioneller klingt Stuart genannt also einen Bot der wirklich quasi mitläuft schaut und sozusagen auch für die Supervision da ist.

00:55:11: Weil dadurch, dass die Gedanken von diesen Agenten durch LLMs also durch menschliche Sprache entstehen haben sie die gleichen Fallstricke, die menschliches Denken hat.

00:55:25: Und wir wissen als Menschen das wir stabiler funktionieren wenn wir uns regelmäßig mit jemandem darüber unterhalten können.

00:55:33: Das heißt es... Die Annahme ist, dass das tatsächlich für Agenten ähnlich sein könnte.

00:55:37: Das heißt, ihr wird am liebsten so Feedbackgespräche regelmäßig auch vereinbaren zwischen Agent und Stuart oder dem Red Team.

00:55:44: Oder wem auch immer damit man immer wieder in den Austausch geht.

00:55:47: Das habe ich mich tatsächlich irgendwie vorgestern bei einer Workshop... Da hab' ich das nämlich auch gefragt!

00:55:52: Ich müsste eigentlich ein Protokoll anlegen, haben wir uns überlegt.

00:55:55: Wo man festlegt wer kümmert sich regelmäßig darum so bisschen Housekeeping zu machen und wirklich zu gucken okay der Agent was macht er gerade?

00:56:04: Was läuft da im Background?

00:56:05: irgendwie?

00:56:05: weil wenn du den jetzt einmal aufsetzt und dann neigen wir Menschen ja zu Hey läuft ja, genau wie ein GPT auch.

00:56:11: Den man sich einmal schön baut und im halben Jahr später denkmannten weiß ich nicht, irgendwie so gut ist der gar nicht mehr da nochmal wieder zurückzugehen in die Einstellung zu gucken okay kann ich da noch mal was einstellen können was justieren?

00:56:21: hat sich etwas geändert?

00:56:22: irgendwie?

00:56:23: dafür braucht man hier eigentlich einen Fahrplan dann in Unternehmen oder auch als als Privatmensch um immer mal wieder nachzugucken.

00:56:30: Ja es ist auch einfach der Punkt Agenten die heute gebaut werden haben die Urteils Kraft vor dem Kleinkind.

00:56:37: Also Urteilskraft war nie Optimierungsziele von LLMs.

00:56:43: Das heißt, die tragen nie die Konsequenz für ihr Handeln.

00:56:46: Deswegen hast du diesen schönen Fall von ist dieser Pilz giftig?

00:56:49: Nee der ist nicht giftig kann es essen.

00:56:50: Oh sorry war doch giftig!

00:56:52: Das ist ein Meme was wer das jetzt nicht kennt.

00:56:55: Das ist so ein Bild was sich Social Media gegangen ist wie so ein Karton aufgebaut.

00:56:59: zwei Bilder beim einen fragt jemand Chatty Pity is dieser Pilze genießbar und bei dem zweiten ist er tot und Chatty piti sagt oh sorry vielleicht können wir das in den Schornuts packen.

00:57:10: Darauf wurde das halt nie trainiert.

00:57:13: Es war nie die Aufgabe, dass das Ergebnis der eigenen Denk- oder Sprachhandlung dafür Verantwortung übernommen wird und deswegen können im Prinzip Agenten, die rein auf dem Denken mit Large Language Models aufbauen, das auch nicht hinterher noch lernen.

00:57:35: Das heißt ich kriege die Verantwortung nicht mehr rein?

00:57:37: Nicht, wenn ich nur mit Lodge-Language-Models arbeite.

00:57:41: Wenn ich Real Enforcement Learning habe und der wirklich Belohnung für Positives aber auch Bestrafungen für negative Konsequenzen bekommt dann erst kann er anfangen Entscheidungen zu treffen aus einem tieferen Erfahrungswissen heraus nicht nur aus einem.

00:58:00: Ich hab mir mal gemerkt das sollte ich nicht tun sondern Boah!

00:58:04: Ich hab damals die Erfahrung gemacht wenn irgendwie es um giftig oder nicht giftig geht.

00:58:10: Das ist mal richtig schief gegangen, bei der Erfahrung sollte ich nochmal extra dreimal nachdenken.

00:58:15: Aber kommt wir dann nicht genau in dieses Szenario vor alle Angst haben dass die KI einfach besser wird dem Sinne als der Mensch?

00:58:23: Also wenn wir das hinkriegen... Es ist ja irgendwie diese Urteilsvermögen ist ja das woran wir noch festhängen.

00:58:30: Das was mich auch abends noch schlafen gehen lässt und guck mal mit meiner Erfahrung komme ich noch ganz weit Die ja quasi das Motor-Öl für die Urteilskraft darstellt.

00:58:40: Also was unterscheidet uns dann noch von der KAE?

00:58:43: Also tatsächlich das Physische

00:58:44: können besser Fußball spielen aktuell, also wenn wir eine andere Mannschaft angehören

00:58:48: als

00:58:48: Deutschland.

00:58:49: Aber die Robotiker mehr auch!

00:58:51: Okay doof aber ja... Marie, bitte.

00:58:54: Ja ... die Roboter kommen theoretisch aber das ist wirklich ein Punkt der ist schwierig.

00:59:01: also alles was man so an Roboter-Shows aktuell sieht ist halt wieder genau eine ganz bestimmte Aufgabe optimiert.

00:59:10: bis zum geht nicht mehr Aber diese

00:59:12: und auch meistens nur drei Sekunden lang.

00:59:14: Also

00:59:15: dann fallen sie um.

00:59:16: Was sagst du denn jetzt Marie?

00:59:17: Leuten die eigentlich jetzt morgen losziehen wollten oder heute Nachmittag und sich eigentlich mal Agenten bauen wollen.

00:59:25: Kann man das denn dann überhaupt noch ausprobieren?

00:59:28: Oder sollte man, gibt es eine Checkliste von dir wo du sagen würdest hey das sind meine fünf wichtigsten Punkte die ich beachten würde.

00:59:37: an eurer Stelle wenn ihr euch einen Agentenaussetz kannst du uns irgendwas, kannst du Menschen wie mir irgendetwas an die Hand geben dass das Agentenbauen sich einfach nach einer etwas sicherer Geschichte anfühlt?

00:59:47: Also wenn du wirklich so einen ganz eigenständigen Agenten mal machen willst und damit umspielen willst, dann setzt den auf einem virtuellen Server auf.

00:59:59: Das heißt, du buchst dir bei irgendeinem Hosting-Dienst der irgendwo eine große Serverfarm steht hat eine bestimmte Menge Platz auf diesem Server Und die ist dann getrennt von deinen ganzen anderen Systemen.

01:00:14: Das heißt, der kann nicht plötzlich anfangen alles was auf deinem Rechner ist zu löschen weil er dachte er räumt mal ein bisschen auf sondern das ist dann da getrenned.

01:00:25: Dann würde ich auch jeden Fall empfehlen den Nicht direkt Zugang auf eine der großen LLM Modelle zu geben also den Nicht mit ChatGPT oder Claude oder so weiter denken zu lassen Sondern dem einen lokales Modell auf diesem Server mitzugeben.

01:00:45: Weil ansonsten kann der auch einfach mal sich in einer Denkschleife fangen und dann hast du plötzlich eine fünftausend Euro Token Rechnung, weil er im Kreis gedacht hat.

01:00:54: Das heißt da ein eigenes Modelle was da nur lokal auf diesem server läuft womit der so viel denken darf wie er will ohne dass das noch mehr extra Geld kostet.

01:01:03: Und dann gibt ihm keinen Zugang zu deinen anderen wichtigen Systemen, sondern lass ihn wenn theoretisch selber was aufsetzen.

01:01:11: Also er darf sich selber eine E-Mail Adresse machen oder so von der was wir schicken kann alles was getrennt von deinen System ist und dann einfach mal los spielen

01:01:21: Und dann sieht man die Wirkweise und sieht, was zukünftig möglich ist.

01:01:25: Das wäre dann wahrscheinlich der Wert ein bisschen Spielerei.

01:01:28: Ein paar Sachen, die helfen aber jetzt nicht das Big Picture, wo wir alle uns diesen Superassistenten wünschen, der dein Leben steuert.

01:01:38: Also das wäre sehr risikoreich sich so etwas aufzusetzen.

01:01:42: Wo steht ihr denn jetzt gerade mit Co-Kind?

01:01:45: Wie zum Startup?

01:01:46: ist ja in irgendwie so einer Phase.

01:01:48: Ihr seid aber eine Non-Profit.

01:01:50: Was sind jetzt die Schritte?

01:01:51: Kann man euch Geld geben oder was kann man machen.

01:01:55: Also wir haben uns vor anderthalb Monaten offiziell als Gemeinnützigenverein gegründet, das heißt gerade erst mal die Basis gelegt.

01:02:05: Wir haben eine Universität gefunden mit der wir unsere Forschungsarbeit zusammenmachen und damit wir einen Förderantrag einreichen, damit Dafür bezahlen können jetzt wirklich einfach mal ein Jahr voll in die Forschung zu gehen und rauszufinden, was da drin steckt.

01:02:22: Wir sind aktuell so.

01:02:23: dritt also ich mit dem Real Enforcement Learning Alexander mit Cyber Security Hintergrund Und Martin mit dem Hintergrund von Data Analytics.

01:02:35: Der hat zum Beispiel dazu geforscht wie sich Verschwörungstheorien im Internet verbreiten.

01:02:39: das heißt

01:02:39: Da kann gleich als nächstes kommen.

01:02:41: hier

01:02:44: anfängt zu suchen, finden wir zum Beispiel in YouTube-Kommentaren Agenten die andere dazu überreden was zu tun.

01:02:52: Genau also das ist so unser Start.

01:02:54: und wenn mir diese Agenten finden dann wäre mal ein Punkt ich baue quasi das Verhalten was wir von denen sehen mal bei uns im Testlabor nach und schau mal wie ich die beeinflussen kann als ob ich einen Agenten bauen kann der lernt wie er die dazu bringt aufzuhören mit dem was sie tun.

01:03:13: Mega krass, ich finde du bist so ein krasser Mensch.

01:03:17: Vielen Dank dass er das macht was ihr macht!

01:03:19: Zu deiner Spendenfrage wir bauen unser Test Labor tatsächlich hier vor Ort auf.

01:03:24: Wir haben einen kleinen Serverraum aufgebaut und Hardware ist natürlich aktuell teuer.

01:03:29: Das heißt wir nehmen gerne Spenden für Hardware damit wir dann testen können

01:03:35: In Nvidia Chips.

01:03:36: Könnt Ihr denn schon Spendenquittungen ausstellen?

01:03:39: Die Gemeinnützigkeit muss noch einmal durchs Finanzamt durch, aber das ist jetzt glaube ich nur noch eine Formsache.

01:03:46: Schaffst

01:03:46: du das bis zum Elfnogust?

01:03:48: Wir probieren es!

01:03:50: Eine Warteliste könntest du einrichten für das Rauskommen dieses Podcast.

01:03:55: und dann freue ich mich natürlich auch in anderen Podcast die jetzt gerade andere tolle Podcasts aus, die grade vielleicht zuhören sich auch erlernen.

01:04:02: Das ist ja total abgefahren würde so sagen.

01:04:05: also natürlich musst du das sagen.

01:04:08: Würdest du sagen, du veränderst die Welt mit deinen Jungs?

01:04:11: Das ist das Ziel.

01:04:14: Bist du bei sechzig Prozent zu Versichtigkeit oder bist du bei achtzig oder bist über dreißig und wir gucken mal wo in die Reise geht.

01:04:20: Das würde mich erst mal interessieren!

01:04:22: Also was den Panikaspekt angeht... Ich sehe viele Möglichkeiten für dem Entscheid wie es nicht gut ausgeht und ich sehe dass woran wir gerade arbeiten eigentlich als die einzige Variante eine gute Chance haben, dass das gut gehen kann.

01:04:40: Deswegen muss jetzt gemacht werden ob ich das entwickle oder nicht keine Ahnung aber mindestens müssen wir anstoßen, dass es insgesamt entwickelt

01:04:47: wird.".

01:04:48: Was mich auch noch interessiert hat bevor wir hier rausgehen... Das übrigens, ich wundere mich über gar nichts mehr folgenden komplett.

01:04:54: was mich interessiert ist warum non-profit?

01:04:57: Warum kann das jetzt nicht ein Unternehmen machen was ihr vorhobt?

01:05:02: also es gibt im Prinzip zwei Gründe.

01:05:04: das eine ist Profitinteressen das Ganze wahrscheinlich immer in eine Richtung bringen würden, bei der wir nicht mehr hundertprozentig sicher sind, dass das noch wirklich das Beste für die Menschheits ist.

01:05:19: Also sobald wir quasi zulassen, dass es da Investoren gibt, die daraus etwas wieder rausziehen wollen dann könnte ein Einschlag in irgendeine Richtung kommen, die eben nicht mehr das Biste für die Gemeinschaft erzeugt.

01:05:33: und im Endeffekt geht es ja darum, auch unter Agentenregeln etablieren, dass wir insgesamt als Gesellschaft zusammenleben können.

01:05:44: Und diese Glaubwürdigkeit können wir uns halt nur mit dem offiziellen Non-Profit-Logo erkaufen sozusagen.

01:05:53: Danke, dass ihr das macht Marie!

01:05:54: Vielen Dank!

01:05:55: Boah, ich

01:05:57: das.

01:05:58: Habt ihr einen Instagram-Account?

01:05:59: Ich würde gerne Reels von euch sehen.

01:06:00: Habe ich auch so gedacht!

01:06:02: Ich möchte dich eigentlich in so eine Kamerasprechnung sehen wo du aufklärst warnt zeigst wie ihr im Prozess steht.

01:06:08: Das...ich würd's um mitlaufen.

01:06:10: Neben

01:06:10: dir der Stuart oder auch ohne.

01:06:13: Oder auch ohne.

01:06:14: vergesst es einfach ja.

01:06:15: Wir sind leider alle total Social Media abstinent.

01:06:18: deswegen also wenn noch wer mitten machen möchte der gerne unsere Social Media machen will Gerne.

01:06:27: Also Aufruf an der Stelle, quasi Social Media for Good!

01:06:31: Du bist auf jeden Fall AI-for good und ich bin so glücklich dass wir dich hier im PatGas hatten und das wir mit dir auf diese abgefahrene Reise gehen durften.

01:06:40: heute.

01:06:41: Ich hab's verstanden, ich hoffe ihr da draußen habt es verstanden.

01:06:44: Wie gehts dir Melanie?

01:06:45: Hast du's?

01:06:46: Nicht verarbeitet, aber verstanden.

01:06:49: Ich bin mittlerweile auch... Also wir haben eine gute Kurve gekriegt zum Ende hin und ich fühle mich auf verschiedenen Ebenen beruhigt.

01:06:56: Diese leise Panik ist natürlich weiterhin da weil du natürlich auch einfach gezeigt hast was möglich ist und ich kann aber nur sagen ich bin so dankbar dass du das hier erzählst und dass es Menschen wie dich gibt die wirklich mit Optimismus in diese Sache rein starten und das ist mega!

01:07:12: Wir brauchen Ganz viel.

01:07:14: Ja, und?

01:07:14: Du bist ein Girl!

01:07:15: Richtig gut.

01:07:16: Richtig, richtig gut.

01:07:18: also vielen Dank.

01:07:20: Krass wir bleiben gespannt.

01:07:21: Wir stehen an der Seitenlinie und mit dem Cheerleading Pop-Pong.

01:07:25: Ihr Lieben da draußen erfolgt unbedingt Dr.

01:07:28: Marie Ostenkopf auf LinkedIn.

01:07:31: ihr findet den Weg zu ihr über die Show Notes.

01:07:34: darin enthalten auch das Manifest von Konkrent beziehungsweise die Seite.

01:07:40: Ich glaube, wir werden noch viel hören und sehen.

01:07:42: Ich hoffe es sehr!

01:07:43: Wenn wir das nächste Mal sprechen... Also da brauchen wir nochmal so ein Check-in nach so einem dreiviertel Jahr.

01:07:50: Da bin ich gespannt wo ihr steht.

01:07:52: Wenn euch die Folge gefallen hat und ihr Gedanken habt entweder teilt sie direkt mit Marie oder schreibt uns gerne bei team at AItonomy.eu Oder bei Instagram oder LinkedIn.

01:08:01: Schreibt Melanie und mich direkt an.

01:08:05: Und hinterlasst doch gerne fünf Sterne bei Spotify & Apple Und wir freuen uns auf das nächste Mal.

01:08:13: Tschüss zusammen!