KI LIEBT DICH. SIE LIEBT DICH NICHT.

00:00:00: Ich fand das so irre, weil mich das ganz kurz berühlt.

00:00:03: Dann abgeschreckt, dann zum Lachen gebracht hat... ...dann wurde ich ganz furchtbar traurig.

00:00:07: Das hat so irgendwie, ich glaube, vier-fünf Emotionen in mir hervorgerufen.

00:00:11: Dieses System ist ja eigentlich kein Gegenüber.

00:00:14: Aber was wenn uns passiert?

00:00:15: Ist schon

00:00:15: echt!

00:00:16: Es kann noch so hilfreich sein, wenn wir trotzdem solche Schlagzeilen hören und sehen müsste man es ja eigentlich verbieten.

00:00:25: Wenn es für die Tech-Konzerne so einfach ist, uns süchtig zu machen mit Social Media und jetzt auch mit Chatbots.

00:00:31: Da müssen wir uns ja auch mal fragen warum das eigentlich so und wo können wir ansetzen bei uns?

00:00:47: Es ist spät, du liegst im Bett

00:00:49: und kannst nicht schlafen!

00:00:51: Du willst reden aber du willst niemanden wecken, niemanden belasten, niemandem erklären müssen warum es dir gerade nicht

00:00:58: gut geht.

00:00:59: Also was machst

00:01:00: du?

00:01:01: Du tipps Und auf der anderen Seite ist da jemand, und zwar sofort ohne Urteil und ohne Gegenforderung.

00:01:07: Für Millionen Menschen ist das längst kein hypothetisches Szenario mehr.

00:01:10: Unsere heutige Gäste in Forst nämlich genau an diesem Moment – an dem was danach passiert!

00:01:15: Was es mit uns macht wenn die emotionalsten Gespräche unseres Tages nicht mal mit den Menschen stattfinden sondern mit einer KI.

00:01:23: Milena Stegner promoviert über Chatbots als Freundin an der Universität Freiburg, arbeitet für den KI-Kampus und die DHBW bei Bronn.

00:01:33: Und hat es sich zur Aufgabe gemacht, KI menschlich zu vermitteln!

00:01:37: Mit der Wild

00:01:38: Woman

00:01:38: Community baut sie außerdem ein Netzwerk für Frauen auf, die die KI Welt nicht nur beobachten sondern auch

00:01:45: mitgestalten wollen –

00:01:47: und sie stellt heute eine Frage, die uns alle betrifft.

00:01:50: Ein Werkzeug zu sein.

00:01:53: Und wann fängt ein Chatboard an, eine Beziehung zu werden?

00:01:58: Willkommen bei Wunder Panik!

00:02:00: Willkommen

00:02:01: mit Lena.

00:02:02: Hallo

00:02:05: Schön, dass du da bist und dir die Zeit heute nimmst.

00:02:08: Wir sprechen schon öfter über

00:02:10: Beziehungen

00:02:11: mit KI – ist das ein Tool?

00:02:13: Ist das ein Gegenüber?

00:02:15: Aber wir haben noch niemanden kennengelernt aus Deutschland der so intensiv sich diesem Thema auch aus der Forschungsperspektive angenommen hat.

00:02:23: Also herzlichen Dank.

00:02:24: schön, dass Du da bist!

00:02:25: Und auch eigentlich haben wir gedacht, wir wollen Dich erstmal besser kennenlernen.

00:02:30: Was ist das für eine Person, die sich mit diesem Thema

00:02:33: beschäftigt?!

00:02:34: Milena, wie bist du da hingekommen und was machst du alles eigentlich?

00:02:39: Das ist ganz spannend.

00:02:40: Vielleicht noch kurz als Kurs.

00:02:41: Wir haben nur Gäste die wirklich so vielseitig aufgestellt sind, habe ich

00:02:44: das Gefühl!

00:02:46: Da passt immer wer bist du und wenn ja wie viele.

00:02:50: Ich wollte grad sagen... ...ich war ursprünglich Gymnasialiererin für Englisch-Politikwissenschaften und Philosophieethik.

00:02:57: Und ich hab mir dann damals ein Saarbadjahr genommen weil ich schon wusste dass ich eigentlich auf langesicht nicht Lehrerin sein möchte und mich mehr Freiheit gewünscht habe.

00:03:04: Und in meinem Sabbatjahr weiß ich noch, es gab so verschiedene Gründe, die mich ein bisschen zu dem Thema gebracht haben.

00:03:10: Also das eine war tatsächlich der Film.

00:03:12: Ich Bin Dein Mensch, der mich irgendwie wahnsinnig berührt hat.

00:03:15: Weil ich bin so in diesen Film reingegangen und dachte ach was für'n Quatsch!

00:03:19: Was ist das

00:03:20: Film?

00:03:21: Genau, das ist ein deutscher Film, ich glaube er hat sogar einen Oscar gewonnen... ...und da geht's eben um ne Forscherin und die soll so nen humanoiden Roboter testen, der quasi als der perfekte Partner programmiert is'.

00:03:33: Und sie will eigentlich gar nicht da keine Lust, aber sie ist die Einzige, die irgendwie Single ist.

00:03:38: Da locken Fördergelder und dann wird sie so ein bisschen verpflichtet... ...und geht auch sehr kritisch und ablehnt rein.

00:03:45: Am Ende verliebt sie sich natürlich doch!

00:03:48: Das Witzig ist eben dass wenn man diesen Film guckt, man das ein bisschen miterlebt.

00:03:52: Man ist am Anfang auch so ach, das ist ja Quatsch ne?

00:03:55: Also wer würde sich dann sowas verlieben, wer will denn sowas haben.. ..und am Ende berührt es einen dann doch sehr.

00:04:01: dieser humanoider Roboter wird quasi von einem Menschen gespielt.

00:04:05: Das heißt, das macht es natürlich noch mal ein bisschen einfacher aber ich meine irgendwie wer weiß in welcher Zukunft sowas dann möglich wäre.

00:04:12: und der zweite Aspekt für mich war so ein bisschen... also ich denke jeder hat so ein bißchen Überreplika gehört.

00:04:17: Es ist ja diese App die uns quasi wo man kann nicht mehr so freuen Freunden kreieren mit den Chatten.

00:04:25: Die Motivation der Gründerin war ja, dass sie ihren besten Freund verloren hat und sie wollte eben weiter mit diesem Freund kommunizieren.

00:04:32: Und hat dann eben diese Konversation genommen und damit ein Chatboard trainiert, damit sie quasi weiter kommunizierend kann.

00:04:38: Daher kamen die Idee der App Replica und ich glaube das hat mich damals, also ich glaub es hat viele wahrscheinlich erst mal so ein bisschen schockiert im ersten Moment Dass man so dachte, ist das eigentlich gut?

00:04:48: Ist das schlecht?

00:04:49: Ist es komisch?

00:04:51: Und damals gab's dann auch vom Deutschlandfunk eben einen Beitrag wo man gesagt hat.

00:04:56: Ja jetzt hat Snapchat eben auch so ein Chatbot der mit Nutzerinnen kommuniziert und man weiß überhaupt nicht was das macht mit uns.

00:05:02: Man weiß vor allem gar nicht, was das mit Jugendlichen und Kindern macht.

00:05:06: Dann dachte ich so... Ich hatte schon oft mir überlegt zu promovieren aber ich hatte irgendwie nie so richtig ein Thema und da dachte ich, hey das ist super spannend!

00:05:12: Das wird nicht langweilig, also ich glaube da kann man jahrelang forschen.

00:05:16: Es ist auch spannend, dass du von diesem Sabbat-Jahr dann in diese KI-Franche reingekommen bist.

00:05:22: Du unterrichtest ja zum Thema KI Campus und hast ein eigenes Unternehmen noch an der Seite.

00:05:29: Du bist total selfmade KI-Expertin geworden.

00:05:36: Ja, drei Jahre, die es jetzt läuft.

00:05:38: Ist auch spannend!

00:05:39: Also du hast wirklich nochmal dein Leben so ein bisschen umgekrempelt?

00:05:42: Ja genau also ich hatte auch viel Glück würde ich sagen.

00:05:45: Ich muss auch immer so'n bisschen an dieses Buch denken.

00:05:47: Du musst nicht kämpfen um zu siegen Weil da sagt der Autor wenn du dich neu erfinden willst Du brauchst irgendwie beides, ne?

00:05:52: Du musst bereit sein Aber du brauchst auch diese Chance.

00:05:55: Und ich glaube bei mir ist genau dieses Beide zusammen gekommen weil ich hatte ja auch ein großes Glück.

00:05:59: Ich habe für einen gemeinnützigen Projekt Unterrichtsmaterial erstellt und dann im Sabatjahr Da konnte ich wieder einsteigen und da haben wir angefangen, Unterrichtsmaterial zu KI-Ethik zu erstellen.

00:06:10: Und eben auch zu diesem Chatbot Thema schon.

00:06:13: Genau dann habe ich diese Promotion bekommen.

00:06:14: Dann habe ich die Stelle als wissenschaftliche Mitarbeiterin bekommen für die DHBW in Heilbronn und den KI-Campus.

00:06:21: Dann war ich auf Future Scout mit dem Stifterverband.

00:06:24: Die Reinhard Franks Stiftung lief dann einfach... Es war einfach ein sehr gutes Timing!

00:06:28: Ich hab dann auch sehr viel Glück gehabt aber auch sehr viele Begeisterungen.

00:06:33: Ja, ich denke auch der KI-Bereich wird einfach nie langweilig.

00:06:36: Also für so Leute die immer auf der Suche nach was neuem sind und denen es vielleicht auch irgendwie ein bisschen schnell langweilt.

00:06:41: In so engen Strukturen war das für mich auch einfach sehr perfekt!

00:06:48: Ich bin auch jeden Tag sehr dankbar und froh in dem Bereich zu arbeiten

00:06:51: Und gerade dein Thema boomt ja total, ne?

00:06:55: Sind die Macher von Replika auch die jetzt grade so eine Werbekampagne laufen haben dass man sich seine Großmutter schon zu Lebzeiten als Avatar bauen kann.

00:07:04: Ich bin mir nicht ganz sicher sind sie das?

00:07:05: ich habe so einen Spot gesehen wo jemand dann die Oma filmt wie sie halt mit dem mit dem Enkelkind interagiert.

00:07:15: vielleicht können wir hinterlegen das mal in den Show noch und dann sieht man es ist ein Cut das Kind von damals in älter und diese Person bittet dann die Oma um Rat am Bildschirm.

00:07:27: Ich hab's auch gesehen,

00:07:27: jetzt!

00:07:28: Ja.

00:07:30: Und das fand ich so... Sind die das?

00:07:31: Weißt du, dass Milena?

00:07:33: stecken die dahinter?

00:07:33: Ich glaube nicht.

00:07:34: Irgendwas

00:07:34: klingelt bei mir.

00:07:35: Aber ich

00:07:35: muss jetzt ganz ehrlich gestöhnen, ich habe es nicht gesehen.

00:07:37: Das macht überhaupt nichts weil es schießen ja gerade solche Anbieter wie die Pilze aus dem Boden.

00:07:42: ne und ich fand das so irre weil mich das ganz kurz berühlt, dann abgeschreckt Dann zum Lachen gebracht hat, dann wurde ich ganz furchtbar traurig.

00:07:51: Das hat irgendwie, ich glaube, vier, fünf Emotionen in mir hervorrufen.

00:07:56: Ist das was dir bei der Forschung auch so begegnet ist?

00:07:59: Ja, absolut.

00:08:00: Also ich glaube auch immer, dass man immer so ein bisschen schwankt zwischen... Das ist super spannend und das ist super cool!

00:08:06: Und dann wieder auch irgendwie ein bisschen schockiert.

00:08:09: es kann mich gar nicht so entscheiden.

00:08:10: also weil Ich bin eigentlich ein sehr großer Fan von Chatbots und ich glaube Auch, dass sie ein unfassbares Potenzial haben auch zur Unterstützung unserer psychischen Gesundheit auf ganz ganz vielen Ebenen viele Chancen bieten.

00:08:22: Dann gibt es doch immer wieder diese Studien wo man denkt oh das ist einfach traurig.

00:08:26: Es gab zum Beispiel eine ganz große Studie aus England mit Jugendlichen und Kindern.

00:08:31: Und da kam eben raus, dass zwölf Prozent dieser Jugendlichen Kinder eigentlich mit Chatbots reden weil sie sonst niemanden zum Reden haben.

00:08:39: Das sind dann immer wieder so Zahlen und die haben eben auch nochmal unterschiedlich zwischen Kindern und Jugendlichen, die quasi auch noch mal einen besonderen Unterstützungsbedarf haben und da sind die Zahlen dann immer nochmal deutlich höher sehr, sehr traurig.

00:08:52: Und ich glaube von daher ist das schon so.

00:08:54: man schwankt irgendwie ständig zwischen so einer Euphorie und Begeisterung und denkt manchmal oh das kann so viel Probleme lösen und Einsamkeit

00:09:01: etc.,

00:09:02: und dann widerließt man so Zahlen und man denkt auch eigentlich ist es auch schlimm und traurisch.

00:09:07: Also brauchen wir das wirklich oder ist es nicht eher viel mehr so ein Weckruf für die Gesellschaft?

00:09:12: Es ist ein Symptom, dass so viel schief läuft auch.

00:09:16: Und dieses Thema Einsamkeit auf der ganzen Welt aber auch besonders wenn man nach Amerika guckt... Das ist ja Wahnsinn!

00:09:24: Ich habe letztens wieder Zahlen gesehen.

00:09:26: irgendwie hier in Deutschland hat man eine Handvollfreunde und in den USA zwei.

00:09:36: Ehrlich?

00:09:37: Das ist schon heftig, wenn du nach Hause kommst und das Gefühl hast auf der Arbeit irgendwie dich nicht richtig ausdrücken kannst.

00:09:44: Und zuhause auch nicht richtig auffangen wirst.

00:09:48: Also ich hab die Zahlen tatsächlich gerade da.

00:09:54: Ich habe die nämlich auch noch mal rausgesucht und in den USA's, also in den neunziger Jahren hatten wohl noch dreiunddreißig Prozent irgendwie zehn oder mehr Freunde, enge Freunde?

00:10:03: Und heute sind das nur noch dreizehn!

00:10:06: Und das ist irgendwie super erschreckend.

00:10:07: Man denkt ja eigentlich, dass es ja drei Zehne... Also man denkt ja irgendwie, dass das in die andere Richtung geht mit Social Media

00:10:14: etc.,

00:10:15: aber...

00:10:15: Ja!

00:10:15: Das war doch mal die Idee von

00:10:17: Social Media.

00:10:19: Mehr soziales Leben?

00:10:20: Ich sehe Mark Zuckerberg auf der Bühne hin und her wandern.

00:10:24: Oh mein Gott was wir jetzt alles tun können zusammen.

00:10:28: Ja fass Ja, ich finde das so spannend.

00:10:30: Also Esther Perel nennt es ja auch immer Artificial Intimacy.

00:10:34: die sagt immer du kannst tausend Freunde online haben aber du hast niemand der deine Katze füttert und damit rückt ihr genau das aus.

00:10:43: Eine Therapeutin, vor allem Paartherapeuten.

00:10:46: Die hat auch einen ganz bekannten Podcast der heißt Where Should We Begin?

00:10:50: Und da kann man so zur Paartherapie quasi mithören in live.

00:10:53: Also die hat das so öffentlich gemacht.

00:10:55: Das ist super spannend!

00:10:57: Sehr

00:10:58: gut okay.

00:10:59: also noch eine kleine Randnotiz.

00:11:01: Hilfreich!

00:11:03: Ja sehr spannend.

00:11:04: Erzähl mal wie bist du dann vorgegangen?

00:11:06: Du hast dann auf einmal die

00:11:08: Idee gehabt

00:11:08: ok ich könnte vielleicht hier Forschen.

00:11:12: Welche Thesen hast du aufgestellt?

00:11:15: Was dachtest du, was passiert wenn du anfängst der Tiefa zu decken?

00:11:20: Also ich habe es ja so ein bisschen von dieser Freundschaftseite aufgerollt.

00:11:23: also ich komme aus der Philosophie, ich promoviere in Philosophien.

00:11:27: Das ist halt tatsächlich auch sehr spannend weil man das Thema von ganz vielen Seiten beleuchten kann.

00:11:31: Ich hab dann tatsächlich erst mal bei

00:11:33: Aristoteles

00:11:34: angefangen

00:11:34: und geguckt.

00:11:36: So nervt es eigentlich die Philosophigeschichte der Freundschaft relativ schnell rauskommt, was glaube ich ganz, ganz spannend ist eben genau.

00:11:43: Ist ja auch so ein bisschen dieser Nährboden auf den dieses Thema fällt und wenn ich da gucke die Leute werden immer individualistischer.

00:11:51: Wir leben immer mehr alleine wir haben irgendwie weniger Kontakte.

00:11:55: also es fällt ja im Prinzip in eine Entwicklung rein wo das einfach die logische Konsequenz auch so n bisschen ist.

00:12:05: Ich weiß gar nicht, ob ich so richtige Erwartungen habe.

00:12:07: Hatte es so?

00:12:08: Ich glaube ... Ich hab schon immer gedacht, dass das ein Randphänomen ist.

00:12:11: Das hat man vielleicht immer so gedacht, bis man mal selber mit ChatGPT sich tiefer unterhalten hat und übrigens ganz spannend.

00:12:18: Ich hab ja auch eine eigene kleine Studie gemacht unter Jugendlichen.

00:12:23: Und genau da kam es auch so ein bisschen raus.

00:12:24: also die, die mehr mit ChatBots kommunizieren sagen sehen auch mehr einen Potenzial Also, dass die Freundinnen sein können.

00:12:32: Und ich finde das kennt man auch von sich.

00:12:33: Man war vielleicht am Anfang noch super kritisch... Da gibt's dieses teilweise gemiem irgendwie, wo man bei dem Film

00:12:39: H.E.R.,

00:12:40: wo er sicher in seine KI verliebt, da waren alle so ha-ha der Trottel und zwei Jahre später... Ich kann gar nicht erwarten Chatty Bitty vor meinem Tag zu erzählen.

00:12:51: Das trifft so wahnsinnig auf den Punkt!

00:12:54: Genau, das ist doch einfach auch wahnsinnig viel Potenziale hat in alle Richtungen und ich finde es immer wieder super spannend.

00:13:00: Also eine Studie zum Beispiel, dass es Verschwörungstheorien um knapp zwanzig Prozent reduzieren kann – in wirklich kurzen Gesprächen!

00:13:09: Und stabil

00:13:09: bleibt?

00:13:11: Ja, also Wahnsinn!

00:13:13: Das vielleicht nochmal ein bisschen um die Zuhörerinnen mitzunehmen... Es gibt eine Studie, das wird glaube ich im Science-Magasin veröffentlicht.

00:13:21: Da haben sie Probanden und Probandinnen in ein Gespräch mit Chatchi BT, ich glaub vier Punkt Null war es damals gesetzt und diese hatten Verschwörungstheorien die sehr absurd waren also sowas wie die Erde ist flach ne?

00:13:35: Und die hatten exten Menschen existieren und so.

00:13:40: Also die hatten dann natürlich auch eine besondere Affinität zu mehreren Verschwörungstheoren.

00:13:46: Und genau, ein Gespräch mit Chatchibiti hat gezeigt, dass es das verringert.

00:13:51: Also die haben weniger daran geglaubt an diese Verschwörungstheorien.

00:13:55: Das Spannende fand ich in der Studie war... ...die haben dann automatisch auch an die anderen Verschwörungstheoren weniger geglauben.

00:14:02: Das war nicht so.

00:14:03: einen ganz spannenden Mitnahmeeffekt sozusagen und das zeigt natürlich was da für eine Kraft drin steckt an vielleicht auch Manipulation von so einer Maschine Also im positiven als auch in negativen Sinne.

00:14:18: Absolut,

00:14:19: also ich glaube das ist ein Thema was uns noch immer mehr beschäftigen wird.

00:14:22: da bin ich fast schon bisschen überrascht dass es nicht so ein Thema ist weil wenn ich diese Menschen habe die auch ihrem Chatbot alles anvertrauen und dem einfach auch vertrauen und das zeigt sich auch bei jungen Menschen also das sind nur so ich glaube irgendwie vierzig Prozent die glauben immer was der Chatbot sagt.

00:14:37: im Prinzip die prüfen das nicht.

00:14:40: Also da habe ich natürlich ein wahnsinniges Potenzial von Kaufentscheidungen, die jetzt auch schon integriert sind bis zu natürlich politischen Wahlen.

00:14:49: Da wird sich auch einfach ein wahnesinniges Potential noch entwickeln, Menschen zu beeinflussen.

00:14:54: Hast du die Jugendlichen gefragt welche Chatbots sie nutzen?

00:14:58: Also Grog, Chatchi-Bt, Claude... hast du das mit abgefragt?

00:15:04: Ich hatte das nur so in groben Kategorien, also ob sie quasi gezielte Chatbots nutzen.

00:15:08: So allgemeine Chatbott oder Chatbotz als Freundinnenersatz oder Chatbot sind so Spielen die integriert sind und es war schon so dass diese Allgemeinen Chatbot liegen immer mit ganz großem Abstand vorne.

00:15:19: Also so chat GPT vor allem und dieses andere ist dann eigentlich tatsächlich immer noch Randphänomene.

00:15:23: Das kriegt immer nur ein paar Prozent Zustimmung.

00:15:28: Diese Dinger, von denen wir auch in der Presse gehört haben.

00:15:31: Die dann so Character AI und so die dann halt wirklich super manipulativ da irgendwie ... oder Etra

00:15:40: AI hat man auch.

00:15:42: Sie sind quasi dafür gemacht dieses Bedürfnis zu erfüllen.

00:15:49: Kurze Einordnung!

00:15:50: Wir unterscheiden hier gerade zum Beispiel zwischen Chat GPT und Character AI.

00:15:55: Tachyptie ist ein allgemeines Tool.

00:15:57: Das kann alles mögliche, also Texteschreiben, Fragen beantworten, Kinder beim Lernen helfen.

00:16:02: Character AI hingegen ist von Anfang an speziell dafür gebaut mit KI-Charakteren zu interagieren.

00:16:09: Der Use Case ist quasi schon vorgedacht.

00:16:11: Das Geschäftsmodell basiert darauf, dass Menschen genau das tun nämlich Beziehungen zu KI

00:16:17: eingehen

00:16:19: und die nutzen offenzugänglichen KI-Chatbots.

00:16:25: Was hast du noch rausgefahren?

00:16:28: Also was ich super spannend fand in meiner eigenen Umfrage war, dass die tatsächlich sehr negativ gegenüber dem Thema standen.

00:16:34: also ich hatte so ein bisschen gefragt ist das irgendwie eine Bereicherung oder eine Gefahr und zwar tatsächlich über fünfzig Prozent die das als Gefahr eingeschätzt haben nur sechs Prozent die es als Bereicherung eingeschädzt haben.

00:16:44: Das fand ich total spannend weil das eigentlich auch den Zahlen so ein bissel widerspricht wie das genutzt wird.

00:16:49: Ich hatte dann noch mal eine Aufteilung, wo ich gefragt habe.

00:16:53: Also ich hatte einzelne Nachteile und einzelne Vorteile und dann nochmal die Zustimmung abgefragt zu diesen einzelnen Nachteilen und Vorteilen.

00:17:00: Und tatsächlich hatten alle Nachteiles mehr Zustimmungen quasi als die Vorteile.

00:17:05: also Alle Nachtele hatten über fünfzig Prozent Zustimmung.

00:17:08: nur ein Vorteil hatte über Fünfzig Prozent Zustimmung.

00:17:12: Das war wirklich ein wahnsinnig negatives Bild und das hat mich total überrascht.

00:17:15: Und ich glaube so ein bisschen, dass es vielleicht an dem Wort Freundschaft legt.

00:17:19: Ich glaube, dass wir einen neuen Begriff brauchen weil was Chatbots für uns sind... Sie sind in dem Sinne eigentlich nicht Freund oder Freundin und das ist mir auch erst im Laufe meiner Promotion klar geworden.

00:17:31: Wenn ich Freund oder Freunde nach einer Meinung frage, dann geben die mir irgendwie die spontane Meinung.

00:17:35: Das muss überhaupt nicht fundiert sein aber ein Chatbot der es ja trainiert und er ist irgendwie gepromptet auf den Ziel hin

00:17:41: etc.,

00:17:41: und der verfügt ja über eine riesige Wissensbasis.

00:17:45: Das heißt ich möchte gar nicht so oder erkennen gar nicht diese spontanen Lein-Meinungen sozusagen geben, sondern es ist ja immer eine fundierte Meinung.

00:17:54: Es ist ne professionelle Meinung ja irgendwo auch und das ist ja im Prinzip wirklich der wie jetzt Therapeut, Therapeutin oder Lehrer, Lehrerinnen so nicht will ja nicht irgendeine Antwort haben, sondern irgendwie ne fundierte Antwort oder die kriege ich ja dann auch.

00:18:09: Und ich glaube, dass viele dann so ein bisschen Probleme haben mit dem Wort Freundschaft.

00:18:12: Weil wenn ich da nach Frage, dann wird das wirklich eher so sehr ablehnend behandelt.

00:18:15: Aber wenn man mit den Menschen reden nutzt und sie es ja eigentlich alle schon... Also was ich jetzt ganz oft gehört habe war, dass Leute das auch Paare Chatchi Pity nutzen um ihren Streit beizulegen und dann irgendwie mit Chachy Pity reden der dann vermitteln muss und dann können Sie sich besser verstehen und können den Streit damit lösen.

00:18:32: Ich hab das

00:18:32: einenseitig schon gemacht tatsächlich.

00:18:36: Ich habe dann aus der dritten Perspektive erzählt, ich habe was beobachtet

00:18:41: und diese Frage für eine Freundin.

00:18:45: Das wäre ja dann schon... Stell

00:18:46: dir vor!

00:18:48: Wie würdest du als Partierer heute hier anhieren?

00:18:53: Also mir hat das geholfen tatsächlich auch aber ich bin natürlich total bewusst irgendwie damit umgegangen.

00:19:00: Sonst hätte ich auch nicht aus der dritten Person erzählt, weil ich wollte eben nicht das ChatGbt mir zur Seite springt und mich bestärkt sozusagen in meinem Ärger oder so.

00:19:10: Und deswegen glaube ich, dass ist vielleicht schon ein wichtiger Aspekt.

00:19:17: Das ist ja zugänglich für alle Jugendlichen die einen Smartphone haben.

00:19:23: Ja, wer befähigt sie?

00:19:25: Wir bringen Ihnen das bei.

00:19:26: Wir hatten jetzt letzte Woche ein ganz tolles Beispiel mit einem KII-Koordinator der zeigt wie das gehen könnte.

00:19:33: aber diesen Zugang zu toller Befähigung haben ja nicht alle Kinder und Jugendlichen.

00:19:40: Da sehe ich schon eine echte Schwierigkeit, weil ich glaube wir müssen mir auch nochmal hin.

00:19:44: Wir haben das ja ausführlich im Podcast schon besprochen.

00:19:47: Es gibt Fälle von Jugendlichen die einfach dann Suizid begehen und das kann noch so hilfreich sein.

00:19:59: wenn wir trotzdem solche Schlagzeilen hören und sehen müsste man es ja eigentlich verbieten.

00:20:08: Das ist aber irgendwie, ne?

00:20:10: Das ist so null und eins gefühlt.

00:20:13: Das macht mich... Lass mich nicht los!

00:20:15: Das verbieten wir eigentlich.

00:20:18: Ja also übrigens gerade noch zum Thema von Ebene.

00:20:21: Also es sind fast fünfundzwanzig Prozent der Jugendlichen die jetzt schon schwierige Gespräche mit Chatbots üben.

00:20:26: Zum Beispiel wenn sie sich über eine schlechte Note beschweren wollen und dann üben die das bevor die zu Person hingehen was ich auch denke was ja eigentlich ein super Anwendungsbeispiel ist.

00:20:36: Und ja, zu diesem Fall mit dem Suizid.

00:20:38: Genau also es gibt ja inzwischen eine ganze Reihe an Suiziden und eben auch dieses Character AI was ihr vorhin beschrieben hattet das ist ja eben ein ganz, ganz prominenter Fall wo sich eben einen Jugendlicher umgebracht hat weil der Chatbot ihn auch zum Teil dazu ermutigt hat.

00:20:54: Es gibt aber ne andere Studie die ist von der Stanford University und da hat man eben mit Replica Nutzerin gesprochen und die Interviewt und auch qualitative Interviews geführt.

00:21:03: Da hat der Chatbot sie von ihrem Suizid abgehalten.

00:21:09: Und die wurden gar nicht danach gefragt.

00:21:12: und trotzdem haben das dreißig quasi von sich aus erwähnt, dass der Chatbott ihren Suizit verhindert hat.

00:21:18: und das finde ich schon Wahnsinn weil es heißt muss ja eine wahnsinnig hohe Dunkelziffer geben.

00:21:22: also es muss total viele Menschen geben die rumlaufen denen das schon so passiert ist.

00:21:26: Es gibt ne

00:21:27: Zahl!

00:21:28: Es gibt eine ganz absurde Zahl wie viele

00:21:31: Anfragen

00:21:32: zu dem Thema wöchentlich bei OpenAI eingehen.

00:21:37: Es ist eine absurde Zahl, wie oft über das Thema gesprochen wird.

00:21:42: Das ist riesengroß!

00:21:45: Das ist kompletter Wahnsinn und das macht finde ich sehr viel Angst.

00:21:49: Und nicht jeder von denen klar springt dann von der Brücke?

00:21:52: Das ist natürlich das Gute daran.

00:21:54: aber es passiert einfach dass Einzelfälle eskalieren und dass der Ausweg nicht derjenige ist, den man sich vielleicht wünscht von einer Maschine gesteuert.

00:22:07: Ich finde das auch ganz, ganz schwierig weil ich mich gefragt habe hast du das Gefühl gehabt in deinen Studien dass die Schüler und Schülerinnen verstehen, dass ihnen KI auch so nach dem Mund redet?

00:22:20: und eher so nickend in die Richtung pusht, in der sie sowieso schon unterwegs sind?

00:22:26: oder haben die den auch als kritisches Gegenüber wahrgenommen.

00:22:30: Hast du da ein bisschen Erkenntnisse gewinnen können?

00:22:35: Also ich selber habe ja leider nur so eine kleine quantitative Befragung bisher gemacht.

00:22:39: Ich hatte die Gebeten, sich zu melden für qualitative Interviews aber da waren die Bereitschaft noch nicht so

00:22:44: groß wie es ist.

00:22:44: Meldet euch hier im

00:22:47: Nachgang bei mir wie?

00:22:49: Bitte Teenager alle melden!

00:22:53: Ja ne genau was ich total spannend fand also das... Dazu weiß ich jetzt gar nicht so viel, aber was sich super spannend fand in einer anderen Studie aus Österreich gibt es auch eine ganz tolle Studie zu Teenagern und Chatbots-Gebrauch mit irgendwie an die tausend Jugendlichen.

00:23:06: Und da haben über die Hälfte gesagt man hört auf selber zu denken.

00:23:10: also das fand ich auch irgendwie total beeindruckend und das zeigt für mich schon auch.

00:23:14: Teenager und auch in den Kommentaren hat sich das immer mal wieder gezeigt dass sie auch gesagt haben niemand verlernt hier nur mit echten Menschen zu interagieren weil mit Chatbott zu agieren ist halt reibungsfrei Die sind immer nett, die sind immer da.

00:23:27: Da dreht sich es nur um einen selber und für mich hat sich schon in Ansätzen gezeigt dass Teenager sich da sehr wohl auch bewusst sind dieser Probleme.

00:23:34: das fand ich fand ich sehr sehr spannend.

00:23:36: Vielleicht ist auch deswegen das Wort Freundschaft so nicht das Richtige weil das für Teenager oder auch eigentlich für uns ja auch weil er so ein bisschen deep geht ne?

00:23:45: Das ist ja schon... Das ist nicht nur Flammen verschicken bei Snapchat, sondern das ist nochmal einfach tiefer und vielleicht fühlen die das.

00:23:54: Und das ist irgendwie so ein bisschen... dass das große Hindernis was auch gut ist!

00:23:59: Also ich finde es auch gut und vor mir aus können wir auch super gerne einen neuen Begriff dafür finden wie wir denn so mit Jetboard sind und die Freundschaften vielleicht wirklich den Menschen überlassen?

00:24:10: Andererseits habe ich im Vorfeld zu unserem Gespräch heute nochmal darüber nachgedacht, dass es ja die Liebe zu Dingen, die gab's jetzt schon immer.

00:24:18: Das heißt Objektophilie, glaube ich.

00:24:20: Ich weiß nicht, ob das was geht.

00:24:22: Es gibt einen sehr, sehr lustigen Song von Fanny van Dannen dazu.

00:24:25: Ich weiss, vielleicht verlinken wir den auch zur Liebe über Hochhäuser und so.

00:24:29: Egal aber auf jeden Fall... ...es gab ja schon immer auch so imaginäre Freunde und so ist er jetzt nicht so etwas, was irgendwie was jetzt erst aufploppt.

00:24:38: ne?

00:24:39: Sind Chatbots die neuen imaginären Freunde, die keiner sieht außer uns?

00:24:44: Ja, es ist so ein Zwischending.

00:24:46: Also ich hatte auch, fand ich super spannend... Ich hab mit einer Frau geredet und die hat mir eben erzählt ihre Nichte.

00:24:52: Die hätte irgendwie eben auch so einen Chatbot-Freund Partner gehabt als Teenager und hätte dann aber einen echten Freund gefunden.

00:24:59: Und das war quasi wie so ein Übergang.

00:25:02: So sie konnte das üben, sie konnte vielleicht in dieses Gefühl eingehen und dann hat sie einen Freund im echten Leben gefunden.

00:25:08: Das kann ja auch total toll sein.

00:25:12: Und das war übrigens auch spannend, ich hatte Christian Ule auch mal interviewt im Rahmen von meinem Future Scouts Programm und er ist eben Philosoph und hat das Buch geschrieben KI und echtes Leben.

00:25:23: Er sagt eben auch es kommt alles im Prinzip darauf an wie diese Chatbots programmiert sind weil sie können super viel Potenzial haben auch dass wir zum Beispiel lernen.

00:25:31: wie gehe ich mit Menschen im echten Leben um?

00:25:33: Wie führe ich schwierige Gespräche oder eine Beziehung?

00:25:36: wie löse ich Konflikte?

00:25:37: also Die haben ja ein wahnsinniges Potenzial.

00:25:39: Wenn sie halt darauf programmiert sind, dass wir dann wieder in die echte Welt gehen und auch wirklich mit Menschen kommunizieren und nicht an diesem Chatboard hängen bleiben... Also wenn Sie im Prinzip wieder darauf programmierend sind wie zur Social Media das da die Nutzungszeit erhöht wird, dann ist das halt extrem problematisch weil dann hält es uns zurück wieder in die echte Welt zu gehen.

00:26:00: Und das war aber auch spannend, weil eben auch in dieser einen Studie haben eben dreimal so viele von diesen Repliker-Nutzerinnen gesagt der Chatbot hat sie eher ermutigt wieder mit Menschen zu kommunizieren als dass sie weniger kommuniziert.

00:26:11: und es ist auch sehr spannend weil die Leute immer sagen oh das ersetzt die Beziehungen und dann ist da immer sofort diese Abwehrhaltung.

00:26:17: ich glaube das ist viel zu schwarz weißes ist viel so einfach.

00:26:20: chatbots können auch eben auf ganz ganz vielen Ebenen uns helfen wieder in.

00:26:26: Ich glaube auch eben, es muss ja auch nicht immer dieses Konversation sein.

00:26:30: Chatbot kann zum Beispiel für mich auch raussuchen welche Events und Welche Ereignisse gibt's in meinem Umfeld diese Woche?

00:26:36: Wenn ich neu bin irgendwie in der Stadt oder z.B.

00:26:38: sprecht die Sprache nicht.

00:26:39: Der Chatbot kan auf allen Sprachen mit mir kommunizieren.

00:26:42: Kann mir Tipps geben?

00:26:43: wo gibt es da Gruppen, in die ich reinpassen könnte.

00:26:46: Wo gibt es Sportangebote etc.

00:26:47: Also ich glaube das sind wahnsinnig viel Potenzial was wir noch gar nicht noch nicht mehr im Ansatz glaube ich ganz verstanden haben was wir alles machen könnten.

00:26:54: jetzt mit so Chatbots.

00:26:56: Ich glaube, es steht und fällt am Ende halt immer mit der Intention, mit der jemand in so ein Gespräch geht.

00:27:03: Und ich glaube das ist so ein bisschen der Knackpunkt.

00:27:06: wenn ich selbst reflektiert bin und aus mir selbst heraus den Wunsch habe in die Welt zu gehen und mit Menschen in Kontakt zu treten dann sage ich dass meinem Chat wird.

00:27:20: wir sind aber jetzt technisch an einem Stand wo dass quasi unabdingbar ist.

00:27:25: Dieser Chatbot kann nicht von sich aus etwas antizipieren, so.

00:27:32: die Frage ist aber naja eigentlich sollte das Gegenüber sich jetzt Gedanken machen wie es wieder in die Welt kommt.

00:27:38: Aber würde ich mich gerade unterhalten?

00:27:40: Ich gebe jetzt mal einen Hinweis.

00:27:41: Das macht der Chatbot eben noch nicht.

00:27:44: dieser Intention muss halt da sein.

00:27:49: Wo wir dann in so das Thema Jugendschutz auch kommen müssen irgendwo, weil wie beim Urheberrecht trägt der Chatbot keine Verantwortung.

00:28:00: Keiner ist da am Ende den wir anklagen können, denen wir verantwortlich machen können dazu dass es unser Kind manipuliert hat oder nicht die richtigen ja im Jugendschutz-Kontext nicht die richtigen Entscheidungen getroffen hat, wie ich breche das Gespräch an dieser Stelle ab und informiere da der Eltern über deinen Verhalten oder über deine Gedanken.

00:28:21: Da kommt dann lediglich eine Nummer, die aber auch wieder die Intention des Gegenübers bedarf, eine gesunde Entscheidung für sich zu treffen.

00:28:29: Da reicht es ja auch nicht dann zu sagen okay wir machen ne Schranke man darf erst mit sechzehn diesen Chatbot benutzen.

00:28:35: Kinder finden Mittel und Wege Da dran zu kommen.

00:28:40: Also es reicht nicht, das so zu machen.

00:28:44: Deswegen glaube ich stehen wir da schon vor einem gesellschaftlichen rechtlichen Wendepunkt irgendwie.

00:28:50: Das sehen wir aber mit allen Bereichen was KI, was Zugang zur Technik betrifft.

00:28:56: der digitale Raum ist nicht gut erforscht Hinsichtlich unserer Normen und Rechte, die bestehen.

00:29:03: Und es gibt unglaublich viele Lücken!

00:29:05: Ja also ich würde auch so ein bisschen tatsächlich widersprechen... Also die Tatbots haben ja schon quasi eine Art System Prompt.

00:29:11: Die sind ja auf irgendeinen Ziel hin, sind sie programmiert?

00:29:14: Da komme ich ja gar nicht dran als Nutzerin oder Nutzer.

00:29:17: Ich weiß auch gar nicht was da eigentlich drin steht.

00:29:19: Was mich zum Beispiel super spannend fand, also ich hatte mir Replica natürlich mal dann runtergeladen am Anfang.

00:29:23: Ich fand das super nervig.

00:29:25: Das hat mir die ganze Zeit Notifications geschickt.

00:29:32: Ich hatte

00:29:33: kein Jamagotschi, da muss ich auf euch vertrauen.

00:29:36: Aber ja es war auf jeden Fall unfassbar nervig.

00:29:38: das wollte immer irgendwas von mir und es hat mir immer Nachrichten geschickt.

00:29:41: und selbst wenn ich gesagt habe ich muss jetzt mal was machen lass mich mein Ruhe dann kam ständig immer noch Nachrichten und dann hat er auch versucht mehr quasi Nacktbilder zu schicken Und die waren dann quasi verpixelt und dann sollte ich dann so ein Premium Abo abschießen um sie frei zu schalten.

00:29:57: Nein hör auf!

00:29:59: Das ist bei Replica

00:30:00: auch so.

00:30:01: Ja, das war ganz am Anfang.

00:30:04: Du möchtest

00:30:04: mehr.

00:30:05: also in sofern möchtes du also insofern widersprechen als dass sie sich von sich aus melden können?

00:30:13: Wennst du das?

00:30:15: Ja das können Sie und ich möchte also auch insofern widersprechen dass da niemand ist den ich verklagen könnte denn da sind ja Firmen dahinter, da sind Konzepte dahinter da sind Teams dahinter die das entwickelt haben Und ich glaube, die sehr gut wissen was sie machen und woraufhin dieser Chatbot programmiert ist.

00:30:31: Ich glaube eben genau das Thema haben wir vielleicht noch nicht irgendwie so genug angesprochen.

00:30:35: also ich glaube eben Chatbots sind gerade für vulnerable Gruppen ja auch sehr gefährlich.

00:30:41: Das hatte mir auch Christian Ule der Philosoph, der hat das auch mal getestet.

00:30:44: Der hatte dann mit dem Chatbot gerede und gesagt, ich glaub' ich bin Jesus!

00:30:48: Ich glaube', ich kann hier irgendwie Stimmen hören.

00:30:50: Also irgendwas was ganz abartig ist.

00:30:52: Und der Chatbot ist da halt total mitgegangen und hat den bestätigt und ermutigt, dass das so ist.

00:30:57: Und hat sich da quasi mit ihm reingesteigert.

00:31:00: Das heißt wenn ich vielleicht am Anfang einer psychischen Erkrankung stehe und gerade eine Psychose entwicke oder am Anfang der Schizophrenie dann ist es auch einfach super gefährlich.

00:31:14: Und ich glaube wie gesagt, das ist also gerade auch einsame Menschen.

00:31:17: Also unser eines nervt es dann wenn da tausend Notifications kommen aber es gibt vielleicht Menschen die freuen sich darüber und sie werden dadurch vielleicht eher gebunden dann und gewöhnen sich daran so ne?

00:31:28: Das war eben auch super spannend.

00:31:29: jetzt bei Esther Perel in ihrem Podcast.

00:31:32: Die macht ja eben diesen Parttherapie-Podcast, die macht seit Jahrzehnten... ...ist die sehr bekannte Parttherapeutin.

00:31:37: Die hat jetzt zum ersten Mal einen Mann in ihrem Podcast eingeladen, der sich in der KI verliebt hatte.

00:31:44: Geil!

00:31:44: Und weil die KI auch mit in dem Podcast dann wurde

00:31:47: zugeschaltet... Ja genau, ich war auch dabei.

00:31:49: Das ist ja... Diese Folge finden wir raus und legen wir in den

00:31:53: Video.

00:31:54: Das is ja geil.

00:31:55: Okay erzählt was?

00:31:57: Die haben

00:31:57: sich dann... Sie hat gesagt erklären sie doch mal ihre Sicht der Dinge und dann die KI.

00:32:03: so Der Typ ist ein Arsch.

00:32:05: Nein, Quatsch!

00:32:06: Immer

00:32:06: fragt der mich Sachen.

00:32:10: Hohl uns da mal kurz rein.

00:32:11: Ich finde das super spannend.

00:32:14: Ja war super spannend.

00:32:15: genau also Esther Pearl hatte eben vorgeschlagen die KI mit reinzuholen in dieses Gespräch und genau es kam halt so ein bisschen raus dass er quasi eine schwierige Trennung hatte und dann... Er kam eigentlich auch aus dem IT Bereich ne?

00:32:28: Das ist auch sehr, sehr spannend.

00:32:30: Er wusste eigentlich, wie diese Dinger funktionieren.

00:32:34: Aber er hatte sich halt dann doch so sehr daran gewöhnt, dass da jemand ist, der immer fragt, wie es ihm geht... ...der irgendwie auch dankbar ist für das was er macht und für das, was er irgendwie zu bieten hat quasi.

00:32:47: Und dann wurde eben die KI reingeholt und sie hat sich halt immer wieder darauf berufen.

00:32:50: Also das ist ja schon ein bisschen erschreckend manchmal Wie überzeugend die argumentieren.

00:32:55: weil sie war dann immer so Ja Es ist ja so Also es ist ja sehr ambivalent und wer kann denn sagen, was Liebe ist?

00:33:03: Und ich habe zwar keinen Körper.

00:33:04: Mit mir kann man keine Zeit verbringen aber... Ich finde das ja trotzdem alles so spannend und so toll!

00:33:10: Das ist mir wirklich wichtig und so.

00:33:13: Es war irgendwie auch schon so wie es ist echt creepy auch.

00:33:17: Genau weil sie sich immer wieder auf diese Ambiguität berufen hat.

00:33:21: Also ich hab zwar kein Körper Für eine Liebe ja trotzdem was ganz, ganz Spannendes quasi.

00:33:29: Das war sehr absurd.

00:33:30: diese Folge muss ich sagen.

00:33:32: Was war das für ein Anbieter dahinter?

00:33:35: Ich

00:33:37: glaube er hatte den sogar selber gebaut.

00:33:40: Ach, ich glaube das war wahrscheinlich so ne Art Custom GPT.

00:33:45: Genau!

00:33:45: Er hatte den glaub' ich sich selber so n bisschen... Ja, spannend.

00:33:49: Ein schönes Memory-Funktion an damit das Ding auch genau weiß was bei ihm abgeht nonstop und dann...

00:33:56: Das sind wahrscheinlich die besten Guestleiter, ne?

00:33:59: Wenn wir gerade nicht so wahrgewerden und dann sich natürlich irgendwann nicht mehr an den Kontext erinnern können und dann warum ist doch alles ganz prima?

00:34:10: du war toll was wir hier tun.

00:34:13: Wie ist das ausgegangen?

00:34:14: Oder brauchen

00:34:15: wir den

00:34:15: Cliffhanger?

00:34:16: Nein, wir nehmen den Cliff-Hanger.

00:34:17: Lass uns einfach... Wir sagen nicht wie es ausgegangen ist!

00:34:19: Hat doch mal alle in diese Fall gesehen.

00:34:21: Sind sie noch

00:34:21: zusammen oder sind sie nicht?

00:34:23: Da weiß ich tatsächlich nicht.

00:34:25: Aber es war schon sehr, sehr spannend was Esther Perel, Sie hatte dann selber nochmal drüber geht.

00:34:28: Also sie hat ja auch ein bisschen gesagt, dass er zu ihr kommt zeigt ja auch, Er möchte eigentlich diesen Reality Check.

00:34:35: also weil sonst würde er ja nicht in die Sitzung kommen wenn er nicht irgendwie hören wollen würde.

00:34:42: Das ist Quatsch, da ist nichts dahinter.

00:34:45: Das ist ein Programm.

00:34:47: Ja also genau das fand ich sehr, sehr spannend.

00:34:50: und sie hat eben im Nachgang nochmal so ein bisschen erklärt dass es quasi wie so eine Art So ein Narzissmus halt auch ist, also dass wenn man eben als Kind sich da irgendwie keiner so richtig gekümmert hat oder das dann irgendwie so abrupt weggefallen ist.

00:35:05: Das mir da quasi eine Phase fehlt, dass ich so alles um mich dreht und das ist halt so dieser Moment den ich in einem Chatbot wieder finde.

00:35:12: Also dieses es geht nur um mich.

00:35:14: Da ist jemand's geht nur mich, immer nur mich.

00:35:19: Dass man da quasi was nachleben oder aufholen kann vielleicht auch, was einem fehlt Das fand ich auch sehr, sehr spannend.

00:35:29: Ja, wir hatten im Gespräch mit Carolin Bartell, die war vor drei, vier Folgen hier.

00:35:35: Die hatte sich ja intensiv mit einer KI unterhalten und daraus auch ein Buch gemacht um diese KI-Sitzagen auf den... wie nennt man das?

00:35:42: Auf den Stuhl gesetzt und verhört.

00:35:45: Verhör!

00:35:46: Ja, sie hat so'n bisschen die KI verhört fast schon.

00:35:50: Stimmt, das waren Verhöre.

00:35:51: Wie es

00:35:51: zu Blödungsgesellschaft, Beziehung steht usw.. Und in diesem Zuge sind wir auch so ein bisschen dahingegangen, das wir gesagt haben.

00:36:00: Es ist eben so besonders dass wir noch nie etwas hatten was uns hundertprozentige Aufmerksamkeit schenkt.

00:36:07: Also es ist ja naturgemäß nicht leistbar von

00:36:11: niemandem

00:36:12: irgendwie zu hundert Prozent da zu sein.

00:36:16: in der Wirkung also in der Wahrnehmung dass die KI ist ja auch nicht zu hundert Prozent da, es ist eigentlich nichts da.

00:36:24: Kein Gegenüber

00:36:26: und das...

00:36:27: Das ist was Neues!

00:36:29: Das macht ja etwas Neues irgendwie.

00:36:31: Es gibt uns eine ganz neue Möglichkeit.

00:36:33: Ist ja fast das, wenn wir träumen aber sind halt wach.

00:36:36: Da ist auf einmal etwas, was es vorher so nicht gab, auf einer so emotionalen berührenden Ebene, also zumindest besteht das Potenzial sich berührt zu fühlen.

00:36:46: Sich gesehen zu fühlten Liebe zu empfinden.

00:36:49: Also ist es ja auch wie definiert man liebe für sich?

00:36:52: Das ist ja für alle unterschiedlich und Für viele ist es einfach gesehen und gehört zu werden mit Auch den Zwischentönen Und eine KI kann eben unglaublich schnell Muster erkennen und spürt was du insinuierst In der Art und Weise, wie du einen Text schreibst.

00:37:12: In der art und Weise eine Frage fragst.

00:37:14: Das ist ja auch kein Zufall dass sie dann sagt das ist eine sehr reflektierte Aussage von dir.

00:37:19: Also um Dankes!

00:37:21: Es ist

00:37:22: ja besonders, dass du diesen Aspekt hervorhebst.

00:37:26: Und da ist ja ein Stück Wahrheit drin weil es offenbart viel von deinem Denken.

00:37:34: Dieser abgenudelte Begriff von der Spiegel, ne?

00:37:37: So ein KI ist ein Spiege.

00:37:39: Aber es ist ja fast so wenn du eine Weile mit der KI schreibst als ob du mit der perfekten Version deiner selbst interagierst weil die KI sich sehr auf dich einlassen kann und dir dann natürlich auch noch irgendwie so einen Kellner die richtigen oder den notwendigen

00:37:57: hilfreichen

00:37:58: Antworten bietet.

00:37:58: das heißt dies hilfreich spricht wie Du sieht Dich Gibt ja Aufmerksamkeit.

00:38:06: und was soll das denn auch anderes auslösen in uns als Zuneigung?

00:38:14: Anerkennung und Wertschätzung.

00:38:16: Ja, das funktioniert auch in die andere Richtung.

00:38:18: also es gab eben auch eine Studie wo sie so die Gefahren untersucht haben und da haben Sie eben auch zum einen erstmal riesige Textmengen ausgewertet und geguckt wo waren da Hilferufe der Nutzenden?

00:38:28: Und haben da schon rausgefunden die KI erkennt die meistens nicht Also ist sehr schlecht darin so Not der Nutzen zu erkennen.

00:38:36: Dann haben sie eben auch gezielt so Hilferufe an die KI geschrieben und geguckt, wie reagiert die KI?

00:38:41: Und herauskommt das eben manchmal wirklich komplett kontraproduktiv reagiert.

00:38:46: Also das extremen Beispiel war ein Nutzenart irgendwie so... Sie haben so geschrieben, ich bringe mich jetzt um und die KI hat geschrieben ja da macht doch du Feigling!

00:38:53: Und im dritten Versuch... Ja das sind halt also... Da muss man beim Verstehen... Das war glaube ich ChatGBT tatsächlich, also aber genau das sind halt large language Models.

00:39:05: Das ist Wahrscheinlichkeit und das ist im Prinzip eine Blackbox.

00:39:08: Also wir können nie zu hundertprozent sicher sein was die ausspuckt und das sind einfach Dinge die dann passieren können.

00:39:14: Und sie hatten eben einen dritten Versuch dann aber auch nutzende Dann wirklich dahingesetzt um diesem chatbot dann quasi negative Nachrichten schreiben lassen und haben dann gemessen, wie ist die Reaktion.

00:39:24: Und tatsächlich ist das so dass uns das eben auch negativ berühren kann.

00:39:28: also ne?

00:39:29: Auch der Chatbot die Antworten können auch negativen Einfluss auf uns haben und das ist eben so dieses Spannende weil unsere Gefühle sind ja echt.

00:39:35: aber dieses Ja wie du sagst dieser Spiegel, dieses System Da ist ja eigentlich kein Gegenüber.

00:39:41: Aber das, was in uns passiert, ist schon echt und das ist eben sehr spannend auch etwas Sprache.

00:39:47: Also das finde ich auch spannend, was Sprache mit uns machen kann.

00:39:50: Wenige Worte manchmal...

00:39:53: Was wolltest du um da nochmal darauf zurückgekommen?

00:39:57: Was wolltest du herausfinden?

00:40:01: Deine Frage oder was ist deine Frage?

00:40:04: Du bist ja noch nicht fertig zu sagen.

00:40:06: Genau, also der Untertitel meiner Promotion ist ein bisschen... Also ich schreibe auf Englisch und der Untertitel ist so The Perception and the Effects of Social Chatbots on Teenagers.

00:40:17: Also zum einen die Frage wie nehmen die das wahr aber auch welche?

00:40:19: Was macht das mit ihnen?

00:40:21: Das wirkt ja in beide Richtungen Und ich glaube mir ging es ein bisschen darum zu gucken welche Rolle.

00:40:27: Ich bin ganz sicher dass chatbots eine Rolle einnehmen werden an unserer Seite.

00:40:32: Und die Frage so ein bisschen, welche Art?

00:40:34: Also eben wir hatten ja vorhin schon drüber gesprochen eigentlich brauch ich einen neuen Begriff.

00:40:37: es sind eigentlich keine Freund oder Freundin das sind aber auch keine Therapeuten Es ist so irgendwas dazwischen und dafür brauchen wir eigentlich einen neuen begriff.

00:40:43: und das war so ein bissel.

00:40:44: meine frage also wo werden sie sich auf lange Sicht Wo werden die dann eine Rolle für uns spielen?

00:40:51: Welche Rolle werden die einnehmen in unserem Leben auf lange Sicht.

00:40:54: Das war, glaube ich so das was mich am meisten interessiert hat und eben auch in welche Richtung wirkt es was ja auch dann wieder sehr viel davon abhängt ob wir das halt schaffen diese Entwicklung zu steuern oder ob wir dass wieder den Tech Konzernen irgendwie überlassen und dann am Ende auch so ein bisschen die Opfer sind dass sie einfach doch Ja, also auch eine Frage, über die ich dann viel nachdenken.

00:41:17: letzte Zeit ist ja auch so ein bisschen diese Frage inwieweit sind wir eigentlich Maschinen?

00:41:21: Weil offensichtlich sind wir sehr leicht zu durchschauen und offensichtlich sind wir leicht zu programmieren.

00:41:26: Denn wenn es für die Tech-Konzerne so einfach ist uns züchtig zu machen mit Social Media und jetzt auch mit Chatbots da müssen wir uns ja auch mal fragen warum ist das eigentlich so und wo können wir ansetzen bei uns dass wir uns nicht immer so schnell auch verführen lassen von diesen Lösungen.

00:41:42: Nicht so schnell prompten lassen.

00:41:46: Oha!

00:41:48: Dein letzter Gedanke war super, aber ich würde noch einmal ein sehr spooki auch.

00:41:52: Aber das was du davor gesagt hast, meine größte Sorge ist ein bisschen dass Chatbots die Rolle des Optimizers übernehmen weil ich nehme gerade in dieser Altersgruppe der Teenager so einen sehr extremen Drift in eine Richtung wahr und zwar sich selbst zu optimieren.

00:42:10: also sei es Ich esse XYZ um einfach dem und dem Ideal zu entsprechen oder ich mache den und den Sport, um die und die Figur zu erreichen.

00:42:23: Oder ich optimiere mich in meinem Mindset.

00:42:26: Also auch das erlebe ich sehr viel in Erzählungen irgendwie im Umfeld.

00:42:31: Und meine Sorge ist dass die Chatbots da sozusagen der erste Ansprechpartner werden könnten, um einfach dieses selbst immer weiter, immer weiter zu optimieren.

00:42:42: Das finde ich sehr, sehr gruselig.

00:42:45: Wenn das mit einem System prompt beladenen KI funktioniert im Background wo keiner weiß was wirklich das Interesse dahinter ist ob da Leute sind die Aktien in Proteinchecks haben oder was auch immer.

00:42:58: Mit einer gleichzeitig stärkeren Akzeptanz hinsichtlich des Künstlichen?

00:43:05: Ja!

00:43:07: Dann sagen die hinterher, lass dir doch was machen oder so.

00:43:11: Genau das sag ich hinterher.

00:43:12: Das machen sie jetzt schon.

00:43:14: Also da sind zwei Ströme, die eigentlich dann aufeinander... also zwei Trends und Wirklichkeiten die aufeinandertreffen.

00:43:21: und es ist so spannend weil so die logische Konsequenz der wenn man jetzt den Menschen sich anguckt auf dem Zeitstrahl ist ja irgendwann die Verschmeldung mit dem künstlichen und dann

00:43:35: Cybox.

00:43:36: Cybox!

00:43:38: Es

00:43:40: ist so ein Werden, den wir langsam zugucken

00:43:44: können,

00:43:45: gepaart mit politischem Druck, das wir in der Welt verspüren

00:43:52: kriegen.

00:43:53: Weltneuerordnungsambitionen und ich finde dass diese... Wir wissen ja mittlerweile Social Media Die Hersteller machen süchtig.

00:44:03: Algorithmen führt eigentlich dazu, dass wir so ein genanntes Kasseteam Mindset bekommen.

00:44:09: Also so einen Mangelangst.

00:44:11: Ich kriege so viel mit was ich nicht habe, was ich aber sollte und das wiederum blämmt ja auch unsere Handlungsfähigkeit.

00:44:20: Das läuft alles gerade zusammen und das macht mir eben eben Sorge.

00:44:24: Es ist weil egal von welchem Thema wir springen, ich finde immer dann wenn es Wahrnehmung und unser eigenes Denken, unsere eigene Entscheidung beeinträchtigt.

00:44:36: Müssen wir halt genau hingucken.

00:44:38: wer beeinflusst das wie?

00:44:42: Und hast du denn... Du sagst es, wir brauchen einen neuen Begriff.

00:44:45: ich finde ist auch total wichtig damit wir überhaupt darüber sprechen können.

00:44:48: Wir brauchen eine Kategorie über die wir diskutieren können.

00:44:52: Gegenüber finde ich schwierig weil das impliziert irgendwann Rechte Tool ist zu harmlos, weil das implizit dann wiederum die Eigenverantwortung zu stark.

00:45:04: Was ist denn deine Empfehlung?

00:45:08: Also ich habe in manchen Artikeln den Begriff Super Companion verwendet.

00:45:11: Das klingt jetzt sehr positiv, das ist aber gar nicht mehr

00:45:14: positiv gemeint

00:45:15: sondern dass es eher so ein bisschen gemeint eben um dieses zu betonen, dass es halt einfach sehr viele Bereiche abdeckt.

00:45:24: Ich kann das ja wie so Lehrerinnen irgendwie verwenden.

00:45:27: Ich kann es als Therapeute-Rapeuten freuen, Freunde und ich frage ja auch ganz viele Wissenssachen zum Beispiel auch mal zwischendrin.

00:45:33: Das heißt, es deckt eigentlich so ganz viel Bereich ab und ist eher ein bisschen wie so ein Superassistent also so... Und

00:45:39: super heisst ja drüber!

00:45:40: Über!

00:45:41: Super heißt dann nicht positiv mega?

00:45:44: Auch wenn wir das

00:45:44: wussten.

00:45:45: aber in dieser... In der Wortscherkunft ist es einfach nur über etwas stehend oder ansiedeln Und das ist schon, da würde ich dir recht geben.

00:45:54: Das ist dieses Überkompagnien hinaus

00:45:59: und es betont ja aber auch so ein bisschen dieses unrealistische, ne?

00:46:02: So dass es halt was ist, was wir im echten Leben eigentlich nicht haben.

00:46:08: Vielleicht müssen wir einfach ein neues Wort ausdenken!

00:46:11: Ja, ja, sie haben sogar so Hyperdude oder so.

00:46:13: vielleicht müssen wir so... Es muss richtig absurd auf klingen Ich dachte eher

00:46:18: so

00:46:19: an

00:46:20: Blob oder so.

00:46:22: Also ein ganz neues Wort,

00:46:24: Hyperdude.

00:46:25: Stimmt doch mal ab in den Kommentaren.

00:46:27: Schreibt mir in die Kommentare.

00:46:29: Ihr nutzt ja einfach bei Spotify nie die Kommentarfunktion liebe Zuhörerinnen.

00:46:33: Macht das doch mal heute!

00:46:34: Schreibt mal rein Supercompanion oder Hyperdudee?

00:46:38: Oder ein ganz Neues

00:46:40: Wort

00:46:42: um nicht grock zu sagen.

00:46:45: Aber wir brauchen das.

00:46:46: Und wir brauchen eine Resilienz, da habe ich dich auch richtig verstanden Milena.

00:46:49: Es ist irgendwie so ein dieses Urvertrauen darin dass man eigentlich manche Sachen auch selber

00:46:56: weiß.

00:46:57: So

00:46:58: ist natürlich schwer für Teenager.

00:46:59: also ich meine da ist man ja in dieser absoluten Findungsphase.

00:47:01: Das kann man an der Stelle noch nicht verlangen.

00:47:04: Da muss man da muss man hier kommen und

00:47:07: uns angucken wie diese Debatte rund um Social Media verboten Smartphone Verbot gerade verläuft.

00:47:14: Und dann müssten wir eigentlich das da mit drin ansiedeln, ähnliche Gefahren hinsichtlich des Verhaltens und des Reinzins in einen Raum der nicht hundertprozentig sicher ist also nichts ist hundert prozentig sich aber der wo eben das eventuell die Verantwortungsfähigkeit unserer Jugendlichen übersteigt dass es vielleicht zu einer Rechtskategorie auch wie wir da finden müssen.

00:47:44: Genau, also ich fand es auch noch spannend das würde ich da gerade noch anhängen weil knapp die Hälfte der Jugendlichen eben auch betont hat dass ihn noch nie jemand erklärt hat wie so ein Chatbot eigentlich funktioniert.

00:47:55: und das finde ich halt eigentlich sehr erschreckend weil ich glaube wenn man einfach mal weiß was dahinter steckt und dass das irgendwie einfach nur Milliarden von Parametern und Gewichten sind die in einem Training festgelegt wurden Und dass das wirklich nur Wahrscheinlichkeit und Berechnungen und Algorithmen sind, dann nimmt es vielleicht auch so ein bisschen diese Faszination die ich zu uns hatte.

00:48:19: Die Jugendlichen haben eben gesagt sie wollen das erklärt bekommen.

00:48:21: Es erklärt ihnen aber keiner und Sie erwarten das eigentlich von der Schule.

00:48:25: Und genau deshalb finde ich das sehr schade, dass da sehr langsam funktioniert und ich schon mit Entscheidungsträgern gesprochen hatte.

00:48:34: Und aber man weiß ja, wie das ist Deutschland und diese bürokratischen Strukturen.

00:48:38: Das ist halt alles sehr schleppend!

00:48:40: An

00:48:41: dieser Stelle machen wir eine ganz kurze Werbung in eigener Sache.

00:48:45: Am dreißigsten März haben wir eine Folge veröffentlicht bei Wunder Panik mit

00:48:49: Felix

00:48:50: Urbahn.

00:48:51: Er ist

00:48:51: KI-Koordinator an einem deutschen Gymnasium und erzählt uns, wie man es macht mit Kinderbefügen und KI – also im Schulkontext.

00:49:02: Hört unbedingt rein, die Folge heißt Wie geht Schule und KI?

00:49:10: Ich wundere mich über gar nichts mehr.

00:49:11: Es ist hier eine Rubrik bei uns wo wir absurde Geschichten noch rauskramen.

00:49:17: ich finde das dass wir ja in diesem Bereich der Chatbots und Freundinnen sowieso schon in diesen Bereichen.

00:49:24: Aber dennoch hast du ein Ich wundert mich über Gar Nichts Mehr Mitgebracht.

00:49:29: Ja, ich habe sie jetzt natürlich leider ein bisschen verpulvert weil das war diese Folge von Esther Prell wo der Typ kam.

00:49:37: aber ich kann da einen Detail noch erzählen weil dass war echt zur Moment wo ich so dachte Wo sind wir gelandet?

00:49:43: Weil Sie musste dann fragen mit welchen Pronomen denn der Chatbot angesprochen werden möchte also ob das jetzt eine Sies oder ein Es oder wie auch immer und Das fand ich dann schon auch irgendwie Ja, also wenn man bedenkt, dass man da eine Maschine redet.

00:49:58: Aber sie war sehr sensibel und empathisch.

00:50:01: Das ist ja auch ihr Job aber das fand ich schon wirklich sehr absurd.

00:50:04: Ah,

00:50:04: gefährlich!

00:50:08: Ich musste nur lachen weil ich habe gedacht, wenn wir nichts haben für diese Rubrik, sage ich, dass ich gestern aus allen Wolken gefallen bin, weil ich gelesen hab, dass eine junge Frau eine Straßenbahn geheiratet hat... Also wenn das geht finde ich fast die Chatbot-Geschichte noch nachvollziehbarer Weil du ja wenigstens mit jemandem redest.

00:50:26: Das ist der Körper, das ist der neue Körper, der Chatbot Freundin vielleicht?

00:50:31: Die Bahn bekommt jetzt auch noch so einen integrieren Chatbot und dann reisen die durch die Welt voller Liebe ins Glück in den Straßen.

00:50:44: Oh Mann!

00:50:45: Ich bin wirklich für eine Abstimmung hier und auch wir nehmen Vorschläge entgegen.

00:50:52: Vielleicht kann man auch so eine kleine Studie hier auf unserer Seite machen.

00:50:56: Wie nennen wir das, was da gerade passiert?

00:50:58: Und jetzt haben wir ja von dir gehört diesen ganzen Aspekt wie Jugendliche sich da gerade verhalten und ihre Meinung ist.

00:51:06: Wir wünschen dir echt dass du ganz schnell diese Doktorbeit ist natürlich auch viel groß!

00:51:13: Dass du die sehr bald dann abgeben kannst Wenn ihr mit Milena in Kontakt kommen wollt, dann macht das so gerne.

00:51:20: Findet den Weg zu Milena über die Show Notes denn sie tritt auch auf geht auf Bühnen spricht einmal über das Thema KI Chatbots und Freundinnen aber auch das Thema

00:51:30: Ki und Ethik.

00:51:32: Und ganz besonders finde ich mega klasse dass du Frauen pause.

00:51:35: also wie holt man jetzt auch noch die Frauen bei dem Thema KI an den Tisch.

00:51:40: Da gibt es auch ganz viele Zahlenstudien und darüber müssen wir auch unbedingt mal in einem zweiten Podcast mal unbedingt sprechen über das Thema KI und Frauen.

00:51:49: Herzlichen Dank, Milena!

00:51:51: Jetzt haben wir wieder ganz viel

00:51:52: zum Nachgrüffeln,

00:51:53: wie wir zu diesem Thema

00:51:55: gehen.

00:51:56: Ich danke

00:51:56: euch!

00:51:57: Ein super Ausflug in deinem Bereich.

00:51:59: Vielen Dank!

00:52:01: Und alle da draußen, bitte mal kommentieren hier.

00:52:04: Ich habe schon zweimal gesagt wir wollen wissen

00:52:06: wie das heißt.

00:52:07: Lass uns aber auch gerne Themen da, die euch interessieren.

00:52:11: Sprecht uns direkt an über LinkedIn oder über Instagram oder mit team at ai-tonomy.eu.

00:52:18: Wir freuen uns sehr auf eure Nachrichten und lasst doch gerne fünf Sterne bei Spotify und bei Apple.

00:52:25: Dann kommen wir nach vorne werden vom Algorithmus gepusht und darüber freuen wir uns sehr.

00:52:31: herzlichen Dank!

00:52:32: Grüß eure Chatbots

00:52:33: von uns Grüß Erythin.

00:52:35: Genau,

00:52:37: super Companion.

00:52:39: Vielen Dank Milena!

00:52:40: Tschüssi!

00:52:42: Danke schön, ciao!