DER ENKELTRICK HAT JETZT KI

00:00:11: Ja.

00:00:27: Willkommen bei Wunder Panik, dein Podcast zwischen Staunen und Stress.

00:00:31: Wir sind Katar und Melanie von AI-Tonomy und sprechen hier über die Wirkung von künstlicher Intelligenz auf unser Leben.

00:00:43: Wir haben heute den ersten Sechsten erster Juni

00:00:46: des Montagmorgen.

00:00:48: Ich habe schon überlegt das ist jetzt nicht ja dass es ganz schön tricky, Montags aufzuleben

00:00:54: so aber wir sind dafür natürlich Total frisch und ausgeschlafen.

00:00:59: Hattest du ein schönes Wochenende?

00:01:01: Ja, die Sonne hatte übriges getan.

00:01:04: Es hätte wie immer einen Tag länger sein können aber jetzt hier heute Morgen rein zu starten ist ja fast wie Urlaub!

00:01:09: Ist seitdem du hast ein ganz schlimmes Thema

00:01:11: mitgebracht oder nicht?

00:01:13: Aber ich lass mich einfach mal überraschen heute

00:01:17: Wie man es nimmt... also ich war am Wochenende auf Camping-Tour Und am Freitag sind wir erst mal in dieses ganz schlimme Unwetter reingekommen.

00:01:26: Aber der Samstag war ganz hervorragend und gestern hatte mein Papa Geburtstag.

00:01:31: Ich grüße meinen Papa, alles Gute.

00:01:33: Herzlichen Glückwunsch nachträglich auch von mir!

00:01:36: Und da waren wir dann nach dem Campingtrip, waren wir bei uns zu Hause und hatten auch die Familie da und da habe ich länger mich mit meiner Oma unterhalten.

00:01:45: Die ist einundneinzig und sie findet das alles wirklich spannend mit Kairi aber sie kriegt nicht so richtig... Sie begreift es nicht so richtig, sie kann sich das einfach nicht so gut vorstellen.

00:01:59: Und irgendwann sind wir dann auch natürlich auf die beunruhigenden Themen gekommen.

00:02:06: und was sie natürlich besonders auch interessiert und was ihr auch auf ihrem Umfeld mitbekommt, sind diese Betrugsmaschen, die durch künstliche Intelligenz immer stärker werden.

00:02:18: Wir hatten das schon mal in einer unserer ersten Folgen Bald einjähriges, oh mein Gott.

00:02:25: Da hatten wir schon mal eine Influencerin da die dessen Stimme geklont wurde.

00:02:32: in ihrem Fall wurde Werbung dann mit ihr gemacht als Bild also ist es mit Ihrem Gesicht und Ihrer Stimme.

00:02:38: aber wir haben in diesem Zuge natürlich auch über sogenannte KI-Deepfake Anrufe gesprochen Und ich finde das ist heute nochmal ein toller Tag um das nochmal aufzumachen und heute noch mal ein bisschen aufzuklären vielleicht auch mit dem Podcast.

00:03:00: Ich habe auch eine gute Nachricht, die stelle ich aber ans Ende an von meinem kleinen Exkurs und möchte dass wir einmal wirklich in diese Ernsthaftigkeit reingehen.

00:03:12: also ich finde das Thema ist auf jeden Fall so alltagsnah umso relevant Dass wir darüber sprechen müssen und ich glaube, dass du auch mal zählst das es gerade zu Kampagnen in Hamburg

00:03:22: gibt.

00:03:23: Ja, leg auf oder so?

00:03:25: Ich lege auf heißt die Kampagne glaub ich.

00:03:30: Du siehst verschiedene Gesichter Porträtaufnahmen.

00:03:33: Es sind bin ich mir zu acht, neunzig Prozent sicher KI generierte Bilder aber das lassen wir jetzt mal hier außen vor also Porträtt Aufnahmen von Leuten verschiedener Altersgruppen Und sehr präsent ist.

00:03:44: eine Omidie sagt Also ich leg auf Deine Geschichten interessieren mich nicht.

00:03:49: Deine Lügenmärchen, deine gemeinbetrügerischen...

00:03:55: Also da sieht man schon das es so relevant ist dass die Polizei Flyer druckte.

00:04:00: Fünfzehn Komma Neun Milliarden Euro!

00:04:05: Kannst du diese Zahl fassen?

00:04:08: Ist dir klar wie viel das ist?

00:04:10: Das ist viel

00:04:11: ne?!

00:04:12: Ich kann... ich oute mich hier mal Ich kann ab einer Million fällt es mir schwierig zu realisieren, wie viel Geld und wieviel ist.

00:04:20: Ja so viele haben Betrüger im Jahr zwanzig fünfundzwanzig laut der US-amerikanischen Handelsaufsichtsbehörde FTC erbeutet.

00:04:30: Nee Quatsch!

00:04:31: Also fünfzehn Komma neun Milliarden durch solche Scam Geschichten

00:04:37: zum Vergleich.

00:04:38: Zwanzig Zwanzig waren es noch rund zwei Komma fünf Milliarden

00:04:43: ach Komm her.

00:04:44: Fünfzehnt zu zwei Wahnsinn!

00:04:48: Genau, also die haben sich in fünf Jahren versexfert und Expertinnen führen diesen Schub direkt auf generative KI zurück.

00:04:57: Oh!

00:04:57: Willst du noch eine

00:04:59: Zahl?

00:05:01: Ja.

00:05:02: Laut dem FBI ist Deep Fake betrugt ihrem schnellsten wachsende Cybercrime Kategorie in den USA überhaupt.

00:05:10: Zwanzigfünfundzwanzig sollen deep fake Betrügereien im Vergleich zum Vorjahr um ... tausend zweihundert Prozent gestiegen

00:05:18: sein.

00:05:21: Das ist komplett irre, ne?

00:05:22: Ja,

00:05:22: hundert Prozent ist der Verdopplung von einem Wert...

00:05:26: ...tausendzweihundert

00:05:28: Prozent isst!

00:05:32: Also das sind die amerikanischen Zahlen und der Trempp ist natürlich trotzdem global.

00:05:37: Es ist immer ein ganz guter... ja kann man sich... So jetzt möchte ich mal mit dir....mit euch man wirklich da reinsteigen wie so ein Schockanruf, so einen sogenannten Schock-Anruf abläuft.

00:05:57: Darüber also wie der konzipiert ist warum Menschen vielleicht auch darauf einfallen und so das habe ich mir mal angeguckt auch psychologisch mit Studien.

00:06:08: aber Ich finde um sich das noch besser vorzustellen zu können macht es Sinn sich da mein Beispiel von anzuhören.

00:06:16: Triggerwarnung.

00:06:17: Kurzer Hinweis an dieser Stelle, bevor wir jetzt mit der Aufnahme starten.

00:06:21: Wir spielen jetzt die Aufnahme eines Schock-Anrufs ein.

00:06:25: Zu hören ist eine simulierte Notsituation.

00:06:28: Es gibt einen Autor im Fall, es gibt starke Emotionen, es gib Druck und das ist bewusst unangenehm.

00:06:35: Wenn ihr eigene Erfahrungen mit Unfällen oder ähnlichen Ausnahmesituationen habt oder hattet und es gerade nicht hören wollt dann springt doch gerne sechs Minuten weiter.

00:06:45: Wir holen euch dann dort wieder ab.

00:07:08: Ich hab noch nie so viel Blut gesehen.

00:07:36: Wo kommen Memels willen?

00:07:42: In welchem Polizeipräsidium bist du denn, Mama?

00:07:48: Mama, ich dreh' langsam hier durch!

00:07:51: Ja aber...ich komme.

00:07:54: Ich komme.

00:07:55: Wo bist Du denn?

00:07:56: Wo?

00:07:57: Du musst erstmal mit der Polizei sprechen.

00:08:02: Ja, wo bist du denn, Marie?

00:08:04: Ich bin nur der Polizei!

00:08:07: Ich kann nicht mehr.

00:08:08: Ja... ja ich... bei welcher

00:08:16: Polizei?!

00:08:17: So darf ich mal bitte.

00:08:18: Hier ist die Kriminalpolizei.

00:08:19: mein Name ist Weber.

00:08:20: mit wem spreche ich?

00:08:22: Ich...ich bin die Mutter von

00:08:24: Marie Vogt.

00:08:25: Ich bräuchte einmal bitte Ihren Vor- und Nachnamen

00:08:28: Malene Vogt.

00:08:30: Können Sie das noch einmal wiederholen?

00:08:31: bitte Malene Vogt.

00:08:34: Malene Vogd, Wohnanschrift ist der Treusenweg?

00:08:38: Treusendweg drei!

00:08:41: In Hamburg?

00:08:43: Ja...

00:08:44: Gut und dann bräuchte ich jetzt von ihrer Tochter den Vor- und Nachnamen und die Wohnanenschrift für den Datenabgleich.

00:08:51: Ja Marie Vogt, Wegmannstraße auch Hamburg

00:08:56: Nummer achtzehn B Moment.

00:09:01: ja

00:09:01: Das stimmt überein und zwar kann ich Sie jetzt auch dazu aufklären.

00:09:05: Frau Vogt,

00:09:06: Ihrer Tochter wird der Paragraf zweihundertzweiundzwanzig zulasten gelegt.

00:09:09: das heißt für sie als Lein die fahrlässige Tötung dass nicht beachten einer roten Ampel.

00:09:15: Frau Vogue haben Sie das verstanden?

00:09:17: Dabei hat sie eine junge Frau erfasst, die leider Gottes an der Unfallstelle verstarbt.

00:09:21: Ja, um Gottes

00:09:22: Willen!

00:09:24: Sie

00:09:25: warten sie mal, das Opfer... Das war zweiunddreißig Jahre alt und sie ist Mutter von zwei Kindern.

00:09:32: Ja!

00:09:32: Frau Vogt, ihre Tochter hat auch einen posttraumatischen Schock erlitten?

00:09:37: Ja!

00:09:38: Sie ist jetzt auch mit einem Arzt hier in Verbindung und sie wird jetzt ein bisschen beruhigt weil sie nur dauernd am Weinen ist und hat sich leider auch übergeben.

00:09:48: Oh Gott es

00:09:49: will n...

00:09:50: Wo wo ist sie

00:09:52: denn?!

00:09:53: In welchem Polizeipräsidium?

00:09:56: Frau Vogt, wir sind in Hamburg.

00:09:57: Das große Präsidium.

00:09:59: Das kennen Sie doch sicherlich.

00:10:01: Ja... Frau Vogtt!

00:10:02: Kennen sie

00:10:03: das?!

00:10:04: Ja,

00:10:05: ja, kenne ich.

00:10:07: Frau Vogth?

00:10:08: Ja, kann

00:10:11: nicht.

00:10:12: Und zwar... Nein, zurzeit können Sie Ihre Tochter noch nicht hier besuchen.

00:10:15: Ihre Tochter konnte mir noch gar nicht vernehmen.

00:10:19: Frau Voght, sie ist in einem sehr tiefen Schock Und bevor wir ihre Tochter nicht vernehmen können, geht das auch nicht.

00:10:26: Haben Sie das verstanden Frau Vogt?

00:10:28: Okay... Frau Vogte ich muss Ihnen leider jetzt auch mitteilen dass Ihre Tochter heute auch noch dem Haftrichter vorgeführt wird.

00:10:37: Ja!

00:10:38: Und sie muss auch drei bis neun Monate in Untersuchungsaft dann untergebracht werden weil wie schon gesagt da ein Tötungsdelikt

00:10:47: besteht.

00:10:48: Ein

00:10:48: Tötumsdelikt?!

00:10:50: Naja heute ist eine junge Frau gestorben Frau Vogт.

00:10:53: Ach ja Ja, entschuldigen

00:10:57: Sie.

00:11:00: Jetzt treten

00:11:00: wir... Deswegen wird sie auch drei bis neun Monate in Untersuchungsaft untergebracht.

00:11:07: Ach du Scheiße!

00:11:10: Aber Ihre Tochter

00:11:11: hat einen festen Wohnsitz draufhuckt und warten Sie mal eine ... Eine saubere Akte sehe ich hier auch.

00:11:19: Und bei Ihrer Tochter besteht ja auch keine Verdunklungsgefahr.

00:11:24: Nee, dazu komme ich gleich!

00:11:25: Das heißt sie hat eine Chance einen Antrag auf Kaution zu stellen

00:11:31: und beider

00:11:31: Kautionen könnte sie dann auch heute mit viel Glück freigelassen werden.

00:11:38: Kann nicht da irgendwie behilflich

00:11:40: sein?

00:11:40: Ja, dazu kommen wir jetzt.

00:11:41: Ihre Tochter hat nämlich hier ausgesagt dass Sie das machen können.

00:11:46: Okay, das würde

00:11:47: ich tun wollen.

00:11:49: Gut, gut Frau Vogt!

00:11:50: Das ist sehr, sehr gut.

00:11:52: Hören Sie, ich stelle jetzt einen Antrag.

00:11:54: Sie können dann aber heute hoffentlich das Geld noch beim Amtsgericht einbezahlen?

00:11:58: Ja... Beim Amts-Gericht einzahlen.

00:12:01: Gut.

00:12:02: Ja in

00:12:02: Hamburg.

00:12:05: Wie hoch

00:12:06: ist

00:12:06: denn der

00:12:07: Betrag?!

00:12:08: Ja geben sie mal eine Sekunde.

00:12:09: Der Betrag liegt bei... ...fünfundfünfzigtausend Euro.

00:12:12: Fünfund

00:12:15: fünfzig...

00:12:18: Ja, Frau Vogt.

00:12:20: Ab fifty-fünfzigtausend Euro!

00:12:23: Das ist üblich beim Tötungsdelikt.

00:12:48: Ah,

00:12:52: ich hab's noch

00:12:52: nie so gehört.

00:12:55: Ich

00:12:55: sitz hierher und...

00:12:59: Bin

00:12:59: fassungslos.

00:13:00: Ich habe mich nämlich immer gefragt, wie das funktioniert?

00:13:04: Dass sie dann am Ende wirklich erklären warum Geld fließen muss.

00:13:07: also dass ich hab ich bin immer... Ich habe das immer verstanden, wie schlimm es ist wenn da jemand anruft.

00:13:13: aber wie erklärst du wirklich so dass jemand sagt okay mache ich Wie erklärs du das mit der Kohle?

00:13:18: und ich habe in dem Moment wo jetzt gerade abgespielt wurde gesagt ja klar

00:13:23: Und das geht natürlich noch weiter.

00:13:25: Wir hinterliegen dieses YouTube-Video von der Hamburger Polizei in den Shownutz, da sieht man wie die Masche sich auch vollzieht.

00:13:33: im weiteren Verlauf also wie sie das Geld beschaffen soll, wo sie das hinterlegen soll und wie sie es machen wird Das ist wirklich perfide von, wir rufen Sie jetzt auf dem Handy an und dann bestelle ich Ihnen ein Taxi.

00:13:48: Und dann gehen sie zur Bank und da dürfen sie wegen der Schweigepflicht nicht sagen dass es sich

00:13:52: Unfall

00:13:53: handelt geben ihr dann Beispiele was sie sagen soll bei der Bank.

00:13:59: im weiteren Verlauf stellt sie natürlich auch fest also jetzt quasi wo ich stopp gemacht hat stellt sie fest die hat nur zwanzig tausend die sie flüssig machen kann.

00:14:10: Und dann geht er mit ihr rein und sagt, okay was haben sie denn an Wertgegenständen noch da?

00:14:15: Weil Sie können auch Wert gegen Stände hinterlegen.

00:14:19: Und so geht das dann weiter!

00:14:22: Ich hatte auch im Vorfeld... ich habe eine ganz gute Fantasie eigentlich wie sowas abläuft.

00:14:29: aber genau wie du sagst, ich hab mir eigentlich noch gar nicht so richtig vorstellen können wie man das macht.

00:14:36: und in dem Moment wo er sagt darf ich mal bitte

00:14:41: Das ist der Moment.

00:14:42: Die

00:14:43: Frau in einer so authentischen Art und Weise, ne?

00:14:47: So gehen Sie mal zur Seite geben Sie mir mal das Telefon.

00:14:50: also du hast das Gefühl Du wirst so reingezogen in eine echte Polizeiszenario wo der Polizeikommissar dann dran geht mit einer absoluten Autorität Sachen sagt, wie Paragraf zweihundertzweiundzwanzig.

00:15:07: Das ist nichts was du in dem Moment nachvollziehen kannst.

00:15:10: Er sagt die große... das große Polizeipräsidium.

00:15:13: kennen sie das?

00:15:15: Was is' das denn?

00:15:17: Am Anfang lässt er sich von ihr alle Daten geben!

00:15:21: Ja so geschickt.

00:15:22: Ach gut gemacht auch.

00:15:23: Nicht

00:15:24: nicht hier sitzt Marie Vogt oder sonst irgendjemand sondern er lässt sich von Ihr eigentlich alles ja ... ausdeklinieren, was er dann braucht.

00:15:35: Und ich finde das so krass, wenn wir das jetzt noch mal so ein Rik happitulieren also erstmal... ist natürlich der Schock.

00:15:44: Mama und Weinen ja?

00:15:46: Ja!

00:15:46: Mama, Mama, und auch sie sagt wo bist du, wo bist Du und eigentlich die Tochter oder die... ja vermeintliche Tochter geht da ja gar nicht richtig drauf ein sondern sie zeigt wirklich dass sie völlig

00:15:58: fertig ist.

00:15:58: Super authentische Schocksituation

00:16:01: Genau.

00:16:02: Und man hört direkt, dass die... ich nenn sie mal die Oma oder die alte Frau ist eine alte Frau, die es sofort total verwirrt ... und ist auch sofort emotionalisiert.

00:16:17: Oh Gott, oh Gott!

00:16:18: Selbst ich war Auto... also so... Ich wusste ja okay du spielst jetzt was vorher.

00:16:22: Du hast vorher gesagt es ist von Schauspielern nachgesprochen.

00:16:25: In einer halben Sekunden war ich selber in einer Stresssituation.

00:16:29: Und jetzt stelle vor es ist jemand mit dem du scheinbar verwandt bist?

00:16:33: Ja und da ist überall Blut und die Verzweiflung der Mutter sozusagen auf.

00:16:41: Also man kann sich das einfach Richtig gut vorstellen, du bist auch Mutter.

00:16:45: Ich bin Mutter.

00:16:48: Ja das ist irgendwie... Da setzt er dann irgendwas aus und dann kommt ja.

00:16:55: also ich gehe da gleich nochmal durch.

00:16:56: es gibt dazu ziemlich genaue Belege wie diese Masche abläuft.

00:17:01: Dann spielt er das schlechte Gewissen aus.

00:17:03: die Frau ist von drei sich hinterlass zwei Kinder Das macht das noch mal.

00:17:11: Es gibt diesem Opfer eine Person dahinter, mit der man sich identifizieren kann.

00:17:17: Also es ist eigentlich so ein Aufbau-Aufbau,

00:17:21: dass sie sich

00:17:22: so gegen die Wand gestellt fühlen muss.

00:17:27: Da geht's dann nicht darum was wollte ich mit dem Geld was ich noch habe überhaupt in meinem Leben machen?

00:17:32: Ist das meine Rente vielleicht?

00:17:33: da geht es nur noch um den Moment die Tochter da irgendwie rauszuhauen und eine Lösung zu finden.

00:17:40: Du willst dann hilfreich sein?

00:17:48: Das ist schon ganz schön heftig, ne?

00:17:49: Und das ist nicht dramatisiert!

00:17:52: Ich hab das Internet durchforstelt.

00:17:53: Das war jetzt für mich das Beste was wir hier zeigen können weil es einfach gut gemacht ist, weil's von der Quelle ist, der Hamburger Polizei wo ich auch denke... ...das kann man unterstützen.

00:18:02: diese Kampagne also in diesem Video werdet ihr auch sehen.

00:18:06: Polizei erklärt das vorne, sie erklärt es am Ende noch mal.

00:18:08: Also ist wirklich ein guter Quelle für das.

00:18:11: aber ich habe mir auch andere Aufnahmen aus dem englischsprachigen Raum angehört.

00:18:17: Das ist heftig!

00:18:18: Das kommt ja jetzt zu so einer Zeit nochmal hoch dass in der Presse dieser eine Fall tatsächlich aufgegriffen worden ist.

00:18:26: Es ist.

00:18:27: seine Hamburger ältere Dame ist verstorben aufgrund eines Herzinfarktes aufgrund eines solchen Anrufes.

00:18:34: Das ging jetzt tatsächlich, ich laufe letzte Woche durch die Presse nochmal und das ist wenn nicht mehr das jetzt so anhören was du vorgespielt hast.

00:18:43: es ist exakt diese gleiche Marsche und sie hat einfach ein Erstinfarkt bekommen und die ist daran einfach verstorben.

00:18:49: Und wir hatten im Freundeskreis und ich glaube, ich habe das damals auch einmal kurz erzählt.

00:18:54: Wir haben auch so ein Fall, dass von einer Freundin von mir die Mutter angerufen worden ist und die Marsche war die gleiche.

00:18:59: in dem Fall hieß es sie hätte eine Schwange rüberfahren.

00:19:05: Es war genauso aufgebaut mit einem wahnsinnig heulenden Ego am anderen Ende wo die Mutter, die sonst super pleatsch ist nicht mehr heraushören konnte, ob das das eigene Kind ist.

00:19:18: Und an der Stelle kommt ja KI ins Spiel weil du kannst ja theoretisch auch noch einen Stimmklon der Tochter bereits erstellt haben und dann damit anrufen.

00:19:27: Das ist so krass!

00:19:29: Die hatte einfach nur Glück, weil zwischen dem ersten und dem zweiten Anruf hat diese Frau entschieden... Nee glaube ich, durch Zufall hat ihre Tochter selber durch zu viel angerufen oder sie versucht ihre Tocher zurückzurufen?

00:19:42: Auf jeden Fall gab es nochmal Beiden anrufen.

00:19:44: Wir rufen sie gleich nochmal an, haben die nämlich auch gesagt und dann hat die Tochter entweder selber angerufen oder sie versuchte zu erreichen... Und dann wurde das aufgelöst.

00:19:54: wo bist du denn?

00:19:55: War es wie...?

00:19:57: Wo reden wir hier gerade?

00:19:58: Ich bin hier zu Hause ich bin da.

00:19:59: was

00:20:00: ein Glück

00:20:00: ist hier los und die wäre auch darauf noch stärker reingefallen weil das

00:20:06: so krass war.

00:20:08: Ja und nochmal es reichen heute zwei Minuten Social Media Sprachnachricht, was auch immer um die Stimme so richtig und so gut zu klonen dass man es kaum noch unterscheiden kann.

00:20:23: Und eine McAfee-Studie hat gezeigt, siebzig Prozent der Menschen können echte Stimmen nicht mehr von geklonten unterscheidten.

00:20:31: Und ich würde mich glaube ich selbst unter die siebzig Prozent

00:20:35: zählen.

00:20:37: Ich find's krass.

00:20:38: Aber zurück zu meiner Oma kurz.

00:20:41: Die sagte nämlich das ist so schlimm.

00:20:44: Weißt du, wir sind eigentlich alle so gut aufgeklärt mittlerweile und meine Freundin auch.

00:20:50: Und trotzdem ist es ihr passiert!

00:20:53: Das hat mich eigentlich veranlasst diese Folge heute zu Mahoma zu gucken.

00:20:58: Warum klappt das so gut?

00:21:01: Warum funktioniert das denn trotzdem so

00:21:02: gut?!

00:21:03: Dafür gibt es zwischen ziemlich gute Erklärungen.

00:21:11: Also für mich war das allein schon super spannend.

00:21:17: Wenn ich mal in so eine Situation kommen sollte, das zu wissen... Das Gehirn schaltet unter Schock buchstäblich ab.

00:21:26: Der Schock angeruft, der heißt nicht zufällig so sondern es versetzt uns in einen Schock und das setzt einen neurobiologischen Mechanismus in Gang.

00:21:40: Wenn wir in eine akute Stresssituation kommen, wenn wir hören zum Beispiel dass unser eigenes Kind irgendwie ein Unfall hatte dann aktiviert das die Amygdula, die ist hinten im Gehirn und das ist unsere Angstzentrum.

00:21:55: Und das passiert so schnell zu heftig, dass der präfrontale Cortex also hier vorne hinter der Stirn der Teil des Gehirns der rational denkt und Informationen abruft deutlich weniger aktiv wird.

00:22:09: Die stehen dann sozusagen nicht mehr in Verbindung, sei es das Angstzentrum arbeitet und die Ratio ist ausgeschaltet Und das bedeutet wer dann in diesem Schockzustand ist kann sich dann überhaupt kaum noch daran erinnern.

00:22:25: Das heißt also alles was du vorher wusstest was man lassen sollte tun sollte Alles was du gelernt hast zu diesen vermeintlichen Betrüger-Szenen ... kannst du in dem Moment vielleicht nicht mehr abrufen.

00:22:41: Das heißt also... Kommt das denn wieder?

00:22:48: Nein, also verstehst du was ich meine.

00:22:49: ist es dann so okay?

00:22:51: du hast diesen Schockmoment.

00:22:53: Es ist halt der Moment in den du in die Situation kommst musst du ja irgendwie aus dieser Situation raus.

00:22:59: Der Körper hat Angst und dann hast du mehrere Optionen.

00:23:01: beziehungsweise die Amygdala löst verschiedene Szenarien aus entweder freeze also einfrieren, laufen, weglaufen oder kämpfen.

00:23:13: So das ist das was wir kennen fight flight or freeze.

00:23:17: ich denke mal es wird so lange dauern bis sich die situation beruhigt ja oder es klare anzeichen dafür gibt dass es eine lösung gibt.

00:23:26: jetzt zweitens was ich was ich spannend fand weil es geht ja hier um ältere menschen und bei älteren Menschen verändert sich das gehören neurologisch nochmal.

00:23:36: Es gibt eine Studie aus dem Fachjournal PNAPS.

00:23:40: Das ist ein renommiertes amerikanisches Wissenschaftsjournal, die hat mit FMRT Scans gemessen wie Gehirne auf Gesichter reagieren und bei älteren Menschen war dann eine bestimmte Region der Teil der für Bauchgefühl- und Risikoeinschätzung zuständig ist deutlich weniger aktiv wenn sie nicht vertrauenswürdige Gesichter gesehen haben.

00:24:05: Also sie haben diese Gesichter häufiger als vertrauenswürdig bewertet, als jüngere Menschen.

00:24:12: Das ist also eine messbare neurologische Veränderung im Alter.

00:24:16: die Warnglocke im Kopf klingelt quasi

00:24:19: leiser.

00:24:20: Da könnte man jetzt nicht fragen überträgt sich das vielleicht auch auf Telefon-Situationen?

00:24:25: aber das finde ich ein interessanter Aspekt dass sich tatsächlich da was verändert zwischen Jugendgehörn und älteren Gehirnen.

00:24:33: Deiner Hinweis dieser Aufnahme krankt an manchen Stellen ein bisschen, weil ich so ein stimmes Kratzen während der Aufnahme im Hals hatte dass sie sehr oft unterbreche und mich reus war.

00:24:45: Deswegen nehme ich zwischendurch immer mal wieder so einen Teil auf.

00:24:48: also nicht wundern.

00:24:51: Also wir haben uns ja jetzt angeguckt.

00:24:53: zwei Sachen schon warum man trotzdem drauf rein fällt Und der dritte Aspekt davon ist das der Schockanruf tatsächlich in so einem drei Phasensystemen.

00:25:07: Eine Springer Studium mit zweihundertvierundsechzig Teilnehmerinnen hat das konkret beschrieben.

00:25:12: Phase eins, der emotionale Schock.

00:25:14: Hier wird das rationale Ding ausgeschaltet also über diesen schrecklichen emotionalen Moment dass die Tochter anruft.

00:25:23: Phase zwei es gibt einen Vertrauensaufbau durch eine zweite Person auf jemand der sich als Polizist oder Anwalt ausgibt.

00:25:30: Das haben wir ja auch in diesem Anruf gesehen.

00:25:33: und dann Phase drei Die Forderung und Übergabe.

00:25:37: Also wirklich dann ein heftiges System, in das die Person, die betrogen wird, reingezogen wird.

00:25:46: Und diese Schritte sind überhaupt nicht zufällig.

00:25:49: Das ist ein professionell organisiertes System.

00:25:51: Es ist arbeitsteilig!

00:25:53: Das ist dann wie... Kannst dir vorstellen wie so eine Firma, ja?

00:25:57: Dass quasi alles komplett dann diese Person durch ein System führt.

00:26:01: Und wenn man diesen Anruf weiter sich anhört, dann hört man das auch.

00:26:04: Also wir haben Schritt eins und zwei uns angehört.

00:26:09: Schock!

00:26:09: Und dann Vertrauenspersonen?

00:26:11: Und die Forderung nach dem Geld.

00:26:13: Im weiteren Verlauf dieses Anrufs hört man in welches System sie eingeführt wird.

00:26:20: Es gibt eine Verschwindenheitserklärung.

00:26:22: Jetzt gehen Sie zur Bank.

00:26:23: Wir schicken einen Taxi.

00:26:24: Wir helfen Ihnen dabei, dieses Geld zu hinterlegen oder die Wert gegen Stände.

00:26:31: Und viertens ist auch spannend und das ist eher eine These, weil meine Oma hat ja gesagt wir wissen es doch.

00:26:39: Trotzdem fallen wir drauf rein.

00:26:40: Es gibt die Hypothese dass Menschen die glauben sie würden etwas erkennen oder besonders gut einschätzen können auch besonders anfällig sind.

00:26:53: Weil diese Sicherheit Selbstsicherheit Wachsamkeit erzeugt Weißt du?

00:26:59: Und das ist plausibel.

00:27:01: Wir kennen den Dining-Kruger Effekt, also je mehr man sich selbst sozusagen überschätzt, desto mehr Fehler kann man auch machen.

00:27:11: aber es ist eben nur eine These.

00:27:12: Aber ich finde das recht plausibel!

00:27:14: Ja, ich würde Leute auch in meinem Umfeld, die sich da sehr sicher sind und wo ich nicht darauf wetten würde dass dann tatsächlich funktioniert Das Misstrauen und dann wirklich auch sagen, nee ich glaube, ich werde dir gerade über den Tisch gezogen.

00:27:35: Tschüss!

00:27:39: Ich glaube das heißt aber auch was damit zu tun.

00:27:41: du hörst ja auch ganz oft zur Stories wo dann OPs denjenigen reingelegt haben.

00:27:48: es gibt ja dann auch manchmal so diesen diesen drei Fragezeichen Moment wo du denkst ahaa und da hat er die eine Falle gelockt und dann sind sie nämlich erwischt worden und ich glaube man wäre gerne so einer von denen.

00:27:57: dann Und da hat man so Heldenbilder im Background.

00:28:02: Ich glaube halt wirklich, wenn du denkst es ist deine Tochter und die so schreit.

00:28:08: Ja

00:28:11: das Risiko einzugehen dass sie's vielleicht doch ist, ist glaube ich das schwierigste an der Sache.

00:28:18: ne?

00:28:20: Da aufzulegen stell dir vor, leg's auf und danach passiert was ganz Schlimmes.

00:28:25: dann warst du die letzte Kontaktperson und hast gedacht ja du verarsch mich ja.

00:28:29: Das ist perfide einfach und deswegen.

00:28:32: Fünftens, KI.

00:28:35: Das was es jetzt verschärft und es verbessert diese Phase eins.

00:28:43: Diese Springerstudie hat das noch gesagt.

00:28:45: irgendwie scheitert das ziemlich oft aber wenn KI da reinkommt der emotionale Schock sozusagen tiefer wird weil die Stimme jetzt echt klingt dann haben wir den Salat Dann wird es so eine richtig krassen Erfolgsmasche.

00:29:01: Und das ist auch das, was wir glaube ich in diesen Zahlen sehen können, die ich am Anfang genannt habe.

00:29:05: Dieser Anstieg von Betrugsgeld, was wirklich ja weg ist.

00:29:13: Fünfzehn Komma neun Milliarden US-Dollar.

00:29:17: So wo haben dir die ganzen Telefonnummern her?

00:29:21: Wie machen die das?

00:29:22: Warum haben sie überhaupt ein Händchen dafür ausgerechnet, alte Leute herauszufinden.

00:29:28: Ich habe mich gefragt, es sind wahrscheinlich die Telefonbücher noch.

00:29:31: Die einzigen Menschen, die noch in einem Telefonbuch stehen, sind glaube ich einfach echt ältere Menschen.

00:29:35: Niemand unter fünfzig steht im Telefon Buch

00:29:39: oder

00:29:40: vielleicht noch Handwerker.

00:29:42: Ja, ich weiß das nicht.

00:29:44: Das müsste man mal vielleicht nochmal nach recherchieren aber... Ich glaube an Nummern kommst du mittlerweile schnell.

00:29:52: Und dann gibt es ja auch einfach Schnittstellen, Verzeichnisse.

00:29:56: Also wo du vielleicht den Telefon nochmal einsingen kannst und das sind meistens Senioren oder irgendwie du kommst an die Nummern von einem Hörgeräteunternehmen.

00:30:05: ich weiß es nicht.

00:30:07: Ohja!

00:30:07: Ja klar.

00:30:10: Und dritt an Beta, denen da irgendwelche Nummern gegeben wird und wo du nicht überall deinen Haken setzen kannst, damit deine Daten nicht öffentlich werden.

00:30:19: Ich glaube das ist nicht so schwer tatsächlich.

00:30:23: Und ich glaube dass vieles einfach auf Verdacht auch angerufen wird.

00:30:30: Und wenn du...ich glaube was jetzt halt interessant ist, wenn du dann wirklich weißt wer ist die Tochter von?

00:30:37: da in die Nummer dran zu kommen und dann das zu klonen.

00:30:40: Ich glaube, dass... Da lohnt sich dann wahrscheinlich für die Betrüger die Recherche ein Ticken mehr weil dann das Endergebnis irgendwie für sie besser ausfällt.

00:30:52: Ja aber ich habe ja auch gesagt, dass ich was Positives hab.

00:30:59: Und es ist halt eine lustige Korrelation.

00:31:02: mal wieder also gestern meine Oma dich getroffen hat Und gleichzeitig auch gestern Jugendforschpreis.

00:31:09: Vincent Nack hat mit neunzehn Jahren den Preis für die innovativste Arbeit bekommen.

00:31:17: Jetzt rate mal wofür.

00:31:19: Oh, oh!

00:31:21: Warte, warte... Der hat eine Detection Software entwickelt.

00:31:27: Ja quasi.

00:31:28: Er hat ein System entwickelt, das bekämpft.

00:31:31: Sein KI-gestützes System läuft im Hintergrund während eines Telefongesprächs Und wir hören jetzt mal ganz kurz was er dazu in der Tagesschau sagt.

00:31:42: Das System holt sie erstmal die Live-Audiodaten vom Telefonat und übersetzt sie dann erst einmal in Text Dann hat man quasi einfach einen Dialog und der wird auch alle zehn Sekunden immer weiter hat.

00:31:51: Und diesen Dialog gebe ich dann einem KI Sprachmodell in näheren Schritten Und das überprüft es auf typische Textbetrugsmuster.

00:31:58: Also zum Beispiel, es muss Geld übergeben werden...

00:32:00: Die Nutzerin oder der Nutzer muss gar nichts tun.

00:32:03: Das System kann vollautomatisch im Hintergrund laufen und es ist entwickelt für Senioren und Senioren die nicht erst eine App bedienen müssen.

00:32:15: Es ist schon zu Patent jetzt angemeldet.

00:32:18: Oh cool!

00:32:19: Dann wird es hoffentlich mit Telefonanbietern verbunden, die dann diesen Service mit inklusive Mit einem Anschluss anbieten oder so, das wäre ja toll.

00:32:28: Das müssen wir jetzt mal beobachten in der nächsten Zeit.

00:32:30: aber wie cool es ist dass ein neunzeljähriger KI versteht das Problem erkennt und sagt ich baue jetzt mit KI eine Lösung.

00:32:41: Ja

00:32:43: richtig gut!

00:32:43: Ich erinnere mich an so eine ich glaube auch eine Kampagne von einer britischen Telefonanbieter der auch so ein Gegenpart gebaut hat, wo dann einfach der Scammer gegen die Wand gelabert wird.

00:32:55: Und das ist dann so eine Oma, die einfach ununterbrochen... What?

00:32:59: I can't hear you!

00:33:00: Can we say it

00:33:02: again?!

00:33:03: Das erinnert mich so ein bisschen daran.

00:33:05: also weil immer wenn ich das dann lese denke ich ja für mich, oh geil bitte lass dich mich doch mal anrufen.

00:33:10: Ey komm und mir würde es einen liebischen Spaß bereiten deine Story daraus zu machen.

00:33:15: Weil kennst du diese Sache mit diesen Kettenbriefen von früher?

00:33:21: Es ist eigentlich jetzt zu früh an dieser Stelle, für ich wundere mich über gar nichts mehr.

00:33:24: Aber es gab ja mal eine ganze Weile lang Schwämmen von Emails die man bekommen hat wo man dann angeblich die neue Prinzessin aus Borundi wird oder jemand an die beim Lotto gesagt hat wenn ich das nicht mehr kriegen kann, dann solls die Melanie kriegen.

00:33:39: Und dann musste man immer schon relativ schnell so, ja das wird wahrscheinlich nicht so sein.

00:33:45: Weil man dann immer zweitausend Euro vorerst mal überweisen sollte um irgendwie ein Konto freizuschalten und so weiter und so fort.

00:33:50: Es gab eine Internetseite wenn ich die finde hinterleg ich die Mal, der sich darauf spezialisiert zu zeigen wie Leute dieses Scammer-Hops genommen haben.

00:33:58: Und zwar haben sie dann zum Beispiel Sachen gesagt aus religiösen Gründen brauche ich bevor ich große Geld zum Überweise einen Foto von dir mit einem Sauerteigbrot auf dem Kopf Und dann haben die das sind wahnsinnig getrieben und es gibt auf dieser Seite, das ist natürlich sehr despektierlich weil diese Leute einfach da zu sehen sind.

00:34:16: Ich glaube die sind leicht verpixelt aber die Brote auf dem Kopf sieht man sehr deutlich.

00:34:22: Wir haben die halt wirklich in diesen Dialog gegangen, weil das Geld anscheinend so nah war und dann haben sie sich sozusagen dann erst gefreut.

00:34:30: Ja, schöner Dialog.

00:34:32: Aber das bringt mich eigentlich auch zu... dem Gedanken, den ich dann wiederum hatte wenn wir jetzt darüber nachdenken.

00:34:41: Also KI verbessert dass die Cyberkriminalität höher wird und wir fangen an dann KI zu nutzen um das zu bekämpfen und es wird so eine Wettrüstfrage.

00:34:57: Das ist auch wieder die die sich nicht kümmern oder die nicht kein Gedanke daran verschwenden und so.

00:35:02: Und jetzt gerade dieser wilde Westen da ist alles möglich

00:35:05: bis...

00:35:08: Wenn

00:35:09: ich jetzt an den Jungen denke, der dieses LLM dazwischen schaltet was er erkennt die Muster erkennt und dann Alarm schlägt.

00:35:19: Die Scammer werden sich ja genau darauf dann einstellen und dann entwickeln die neue Muster die eine KI wiederum nicht erkennt oder nutzen die KI um die KI auszuspielen usw.

00:35:30: Und das ist dieses wo ich wirklich nicht weiß wo wir da hinkommen.

00:35:38: Ja,

00:35:40: ich musste jetzt auch gerade einfach nochmal an die ganzen Fake-Bilder und Fake-Videos denken.

00:35:45: Auch dafür haben wir ja noch keine richtig coolen Direktoren

00:35:49: gerade.

00:35:49: Und das ist ja eigentlich auch ein Teil dieser Betrugsmasche wenn du mit gefakten Bildern unterwegs bist und wie lange wird es dauern?

00:36:00: Und wird das überhaupt gelingen dass wir da Programme entwickeln oder halt Kennzeichnungen haben, auf die wir uns so verlassen können.

00:36:07: Dass wir da nicht drauf reinfallen und ich glaube es ist so wie du gerade gesagt hast das wird nicht funktionieren weil jede neue Software wieder einen Hook findet um wieder gehackt zu werden und dann geht das immer so weiter und das wird jetzt spannend wenn es ja sowieso um die Kennzeichnungspflicht von Bildmaterial geht.

00:36:26: eigentlich

00:36:27: kurzer ein Schub zur Einordnung weil wir ein bisschen schnell darüber hinweg gehen.

00:36:31: Wenn Melanie von der Kennzeichnung vom Bildmaterial spricht, meint sie die Pflicht KI-generierte Bilder als solche offen zu legen.

00:36:38: Geregelt ist das im EUAI Act in Artikel fünftig Gemeinsind dabei Bilder, die realistisch wirken und als echtes Foto wahrgenommen werden könnten.

00:36:48: Nicht jedes KI-Bild und nicht jede normale Bildbearbeitung sind damit gemeint.

00:36:53: Die Offenlegungspflicht greift ab dem zweiten August.

00:36:56: Die zusätzliche technische Markierung, also ein Wasserzeichen die die Anbieter einbauen sollen kommt etwas später voraussichtlich Ende.

00:37:09: Wir machen dazu ganz sicher nochmal eine eigene Folge kurz bevor dieser Paragraf greift.

00:37:15: für den Moment nur so viel zur Einordnung.

00:37:17: und zurück zum Gespräch.

00:37:21: Ja ich komme immer wieder zum Schluss.

00:37:23: wir brauchen irgendwie neue digitale Verifizierungsverfahren Also auch bei Anrufen

00:37:31: quasi.

00:37:33: Ist it you?

00:37:33: Aber ich meine, wenn du da auf einem Old School Festnetz angerufen wirst, bei einer Oma... Das hat ja nicht die Möglichkeiten wie mein Handy was vielleicht... Ich kenne aus das, dass mein Handy schon so ein Aufrufezeichen macht und sagt Achtung Spam verdacht oder so.

00:37:49: Unbekannter Anruf.

00:37:54: Bleiben wir denn trotzdem bei unserem Tipp Macht einen Familienpasswort oder Kennwort Aus.

00:38:02: Weil was du ja gerade erklärt hast, war ja wenn das Gehirn sozusagen in einen Schockzustand versetzt wird dass man sich dann gar nicht mehr an dieses Geschichten erinnert würde vielleicht ein Post-Date neben dem Telefon helfen auf dem dieses vorher vereinbarte Kennwort sich gemeinsam überlegt hat, wenn man das stehen hat.

00:38:20: Würde das helfen um sich daran zu erinnern?

00:38:23: vielleicht dass das Gehirn rauskommt aus der Schockstarre und man dann sagt ich weiß das klingt grad doof mein Schatz aber sag nochmal kurz was ist dein Lieblingsessen?

00:38:30: würde man das schaffen?

00:38:31: Dann vielleicht?

00:38:35: Ich glaube das muss auch unbedingt der Tipp bleiben.

00:38:38: also so lange man selber nicht im Hintergrund irgendeine Software laufen hat die sowas erkennt Ist das immer noch, glaube ich der beste Tipp?

00:38:48: Also wirklich so ein absurdes analogisch abgesprochenes Passwort festzulegen.

00:38:56: und guter Tipp mit dem Post-It.

00:38:59: Vielleicht dass man da einmal nämlich aufbricht und dann sieht man es dann in dem Telefon.

00:39:06: Ich frage jetzt nur ob Menschen in dem Alter die... Ob sie das dann im Moment noch sehen.

00:39:14: Ja und erkennen, aber unbedingt.

00:39:17: Also ich glaube auch dass niemand davor befreit ist auf so etwas herein zu fallen.

00:39:23: das haben wir heute ausgiebig analysiert.

00:39:27: Und unbedingt macht euch ein Passwort Macht euch einen Erkennungspasswort Dass ihr das wirklich seid und kein anderer sein kann.

00:39:38: Beispiel Wir hatten es glaube ich schon mal Erdbeerkuchen.

00:39:42: Nur wenn ich das sage, dann bin ich wirklich deine Tochter und das sollte natürlich niemand mitbekommen.

00:39:50: Das sollte man sich jetzt auch nicht per WhatsApp irgendwie absprechen sondern wirklich einmal aussprechen, wenn man es sieht.

00:39:59: Ja.

00:40:00: Heidewitzka!

00:40:01: So bekommen wir denn jetzt hier gut aus der Folge raus?

00:40:04: Haben wir noch vielleicht ein paar Meldungen?

00:40:09: Ich habe eine Sache, die erst doof ist und dann aber sich positiv umdreht.

00:40:14: Also die sich auch um dieses Scams dreht von denen wir eigentlich gerade gesprochen haben.

00:40:18: Und zwar ist auf Instagram ne Masche jetzt seit ... oh das geht aber auch schon glaube ich so zwei drei Monate... dass man also Videos sieht von scheinbaren Handwerkerinnen oder Leuten, die einfach ein ganz tolles Hobby haben und irgendwas töpfern oder Ledertaschen nähen

00:40:32: oder Schmuck

00:40:33: schmieden die dann in mehreren Videos gezeigt werden, wie sie wirklich erbärmlich weinen weil sie beschimpft worden sind.

00:40:42: Dann werden so scheinbare Posts eingeblendet wo dann steht hey es stirbt doch einfach mit deinen Taschen niemand will die haben.

00:40:51: du bist selber so hässlich glaubst du deine Töpferware will jemand haben?

00:40:54: So ganz despektierlich.

00:40:55: ganz ganz schlimme Kommentare werden eingeblende diese Handwerker im Back on Wine und sagen ich will doch einfach

00:41:01: nur ältere

00:41:02: Männer hat.

00:41:02: also Ich will doch weil es mich glücklich macht, seitdem meine Frau tot ist und so ganz schlimm.

00:41:09: Und dann schreiben Tausende von Leuten darunter ey ganz ehrlich ich würde dich sofort supporten du hast total schöne Sachen ich kaufe das irgendwie so.

00:41:18: und dann werden langsam Kauflings eingeblendet und dann kannst du auf einer vermeintlichen kleinen kleinen mini shoppie website kannst du da diesen handgeschnitzen Toilettenpapierhalter kaufen oder diese Leder Tasche oder so Genau, es sind dann Sachen die wenn du dann die Bilder suche rückwärts machst bei Temu für zehn, zwanzig Cent verkauft werden.

00:41:39: Das ist also eine KI generierte Videomasche wo du mit dem Schicksal von diesen Handwerker in Heiz sprichst.

00:41:49: Die komplett KI-generierten.

00:41:51: und jetzt haben aber die ersten Leute darauf reagiert weil was diese Betrüger als kleinen Fehler an der Stelle gemacht haben war sie haben sich zum Teil Profile Werkerinnern gesucht und haben Videos von denen kopiert.

00:42:07: Und es ist dann irgendwann mal aufgefallen, dann haben die ersten News das gemeldet und so.

00:42:12: und jetzt haben also Menschen aus dieser Instagram-Bubble angefangen Jagd auf diese Betrüger zu machen und das fand ich sehr schön dass man einfach gesehen hat, dass da eine Masse von SupporterInnen gesagt haben.

00:42:26: ernsthaft sie haben eure Sachen geklaut und jetzt werden halt rammschware Versionen Töpferschalen, Vogeltränken verkauft und euer eigenes Business ist zusammengebrochen.

00:42:36: Wir suchen die alle im Netz und haben dann also wirklich so eine Meldepflut losgetreten.

00:42:43: Also jetzt niemand persönlich verfolgt worden sondern die haben einfach zugesehen dass diese ganzen Profile die halt Betrügerin sind gemeldet worden sind und dann halt vor beiden Instagram und TikTok und so rausgeflohen sind.

00:42:54: Und ich finde das ein schönes Zeichen dafür Dass du dann doch auch noch Follower in mobilisieren kann es und sagen kannst, ey.

00:43:02: Und hier sind aber echte Leute hinter und guck mal was passiert wenn man auf dieses Scams reinfällt.

00:43:08: bitte helft mir wir müssen diese leute Ding fest machen.

00:43:11: das fand ich ganz schön.

00:43:12: Das mochte ich.

00:43:13: Also ich mochte diesen Träger

00:43:15: cool.

00:43:15: er zeigt erstens dass die Community irgendwie noch am Start ist und dass das Menschen wirklich motiviert werden können für die gute Sache einzutreten.

00:43:25: passt dazu meine good news?

00:43:28: gut KI News der Woche.

00:43:29: Du hast gerade von Jagd gesprochen.

00:43:32: Und es passt so gut, KI hilft dabei, Rangern gezielter gegen Wilderer vorzugehen also Menschen die nicht das Wild da jagen dürfen in den Wäldern.

00:43:48: und zwar gibt's ein neues KI-System und das erkennt Schüsse im Wald über Mikrofone in Echtzeit mit einer Genauigkeit von sieben Achtzig Prozent Zehnmal so präzise wie bisherige akustische Systeme und damit können jetzt die Ranger viel schneller, viel gezielter davor gehen.

00:44:05: Das heißt auch eine Jagd gegen Wilderer mit KI an der Stelle und bei dir ist es gegen KI.

00:44:13: Damit aber keiner schossen mal mehr!

00:44:14: Das ist wichtig.

00:44:15: Nein!

00:44:17: Aber Businesses werden gekillt.

00:44:19: kleine Businesses also schon in Parallese ja Und damit entlassen wir euch auch heute wieder.

00:44:26: Echt so zeitaktuell sind wir noch nie rausgekommen!

00:44:30: Wir wünschen euch eine wunderbare Woche, ruft

00:44:34: mal Oma und Opa an in echt oder geht vorbei besser noch.

00:44:37: Genau, geht vorbei macht

00:44:38: ein Passwort raus.

00:44:40: Auch mit allen anderen Lieben die ihr habt.

00:44:43: Ja, Nachbarinnen

00:44:45: und so.

00:44:46: An uns dürft ihr hier ein kleines digitales Zeichen setzen, indem er uns fünf Sterne gibt.

00:44:52: Spread the World Spread the word.

00:44:54: Bleib bachsam.

00:44:56: Hab ne schöne Woche!

00:44:57: Tschüss, tschüss.