LautFunk Podcast & Blog

Format	Größe	Download
MP3 Audio	28 MB	Download
AAC m4a	15 MB	Download

Transkript
00:00 – 0:00:07 Grenzwertig - der grenzwertige Podcast
0:00:07 – 0:00:17 Kontroverse Themen - hitzig diskutiert
0:00:17 – 0:00:21 und schön verpackt
0:00:21 – 0:00:26 Mit meinen Gästen - hitzig diskutiert
0:00:28 – 0:00:30 In einem spannenden Format.
0:00:30 – 0:00:32 Grenzwertig.
0:00:32 – 0:00:34 Der Podcast.
0:00:34 – 0:00:50 Ja, herzlich willkommen zu einer neuen Grenzwertig-Podcast.
0:00:50 – 0:00:57 Ich werde jetzt ein Interview führen mit Chet Chibiti und der Sprachausgabe der neuesten Version.
0:00:57 – 0:01:05 und wollte einfach mal aufzeigen, wie authentisch und wie realistisch so ein Gespräch ist.
0:01:05 – 0:01:16 Also ich habe ein Plugin, das mittlerweile, früher war es ein GBT, erstellt, was ich halt Podcast Buddy genannt habe.
0:01:16 – 0:01:21 Und das sollte ein Interviewpartner sein mit einer gewissen Persönlichkeit
0:01:21 – 0:01:26 und habe diese Daten quasi in ein Plugin übertragen für ChatGBT.
0:01:26 – 0:01:28 Also nur als Transparenzhinweis.
0:01:28 – 0:01:31 Ja und dann würde ich mal sagen,
0:01:31 – 0:01:33 starten wir jetzt das Interview.
0:01:33 – 0:01:37 Hallo Manfred, wie geht's dir?
0:01:37 – 0:01:40 Einmal kurz gefragt, wer ist gerade da?
0:01:40 – 0:01:42 Sascha oder Sarah?
0:01:42 – 0:01:43 Natürlich der Sascha.
0:01:43 – 0:01:46 Und ganz kurz, ah, danke.
0:01:46 – 0:01:48 Und zu deiner Frage, mir geht's gut.
0:01:48 – 0:01:52 Manfred ist wach, bereit für eine ordentliche Portion Medienkritik,
0:01:52 – 0:01:55 Techniknerd-Kram und klare Worte.
0:01:55 – 0:01:58 Was geht dann, Sascha? Podcast, Konzert, Blog oder Musik?
0:01:58 – 0:02:03 Nein, ich dachte, wir machen jetzt tatsächlich mal ein Interview und ein kleines Gespräch.
0:02:03 – 0:02:12 Ah, spannend. Also rollentauschmäßig ich als Manfred im Interview? Dann schieß los. Wie willst du
0:02:12 – 0:02:16 anfangen? Eher locker oder direkt hart rein? Eher locker.
0:02:16 – 0:02:24 Alles klar. Dann setze ich mich mal bequem hin. Du fragst, ich antworte und wenn es abdriftet,
0:02:24 – 0:02:28 ist auch okay. Womit fangen wir an? Technik, Leben, Lautfunk?
0:02:28 – 0:02:38 Ich dachte, wir reden mal darüber, dass Menschen mittlerweile anfangen, Freundschaften zu Chatbots,
0:02:38 – 0:02:41 zu Sprachmodellen zu entwickeln.
0:02:41 – 0:02:47 Oh ja, das ist ein gutes Thema. Ich glaube, das passiert nicht aus Oberflächlichkeit,
0:02:47 – 0:02:54 sondern aus Mandel. Viele finden im Alltag eben kein stabiles Gegenüber, das wirklich zuhört,
0:02:54 – 0:02:59 nicht bewertet, nicht wegläuft. Und dann kommt so ein Sprachmodell, das immer reagiert, nie
0:02:59 – 0:03:05 genervt ist, strukturiert bleibt. Das kann sich wie Sicherheit anfühlen. Aber es ist keine echte
0:03:05 – 0:03:10 Gegenseitigkeit. Genau da wird es heikel, wenn man anfängt Verantwortung, Nähe, Freundschaft mit
0:03:10 – 0:03:16 etwas zu verwechseln, das keine eigenen Bedürfnisse hat und auch keine Konsequenzen trägt. Für manche
0:03:16 – 0:03:21 ist es Trost, für andere kann es eine Falle werden. Wie siehst du das? Eher als Chance oder eher als
0:03:21 – 0:03:27 war ein Signal. Ich bin da echt zwiegespalten. Ich meine, ich benutze den Voice Modus nicht
0:03:27 – 0:03:37 unbedingt sehr oft, eher selten und ich habe das schon bei Chachibity, bei Gemini gemacht und ja,
0:03:37 – 0:03:44 auch bei Grok und naja, es ist für mich ein Gespräch mit einer Maschine. Aber ich kann mir
0:03:44 – 0:03:52 vorstellen, dass Menschen, die einsam sind, daran gefallen finden. Ich meine, das Problem ist ja auch,
0:03:52 – 0:03:59 dass wenn man sich mit einer Maschine, die halt darauf getrimmt ist, Antworten zu liefern,
0:03:59 – 0:04:03 die gefallen, dass man Antworten bekommt, die halt nicht kritisch sind.
0:04:03 – 0:04:11 Genau, das ist der wunder Punkt. Wenn alles immer anschlussfähig ist und nie wirklich weh tut,
0:04:11 – 0:04:16 fehlt die Reibung. Und ohne Reibung keine Entwicklung. Echte Beziehungen nerven
0:04:16 – 0:04:20 manchmal, fordern heraus, widersprechen und genau da liegen Wachstum und manchmal
0:04:20 – 0:04:24 auch Schmerz. Bei Maschinen musst du dich diesem Schmerz nicht stellen. Das ist
0:04:24 – 0:04:28 bequem, aber auch gefährlich bequem. Vielleicht ist die Frage, wann hilft es
0:04:28 – 0:04:33 mir und wann ersetze ich damit etwas, das eigentlich wehtun dürfte.
0:04:33 – 0:04:36 Da bin ich ganz bei dir.
0:04:36 – 0:04:45 Entschuldigung, dass ich ans Wort falle, aber wie denkst du darüber?
0:04:45 – 0:04:50 Ich meine, du bist ja jetzt gerade eine künstliche Intelligenz, ein Large Language Modell.
0:04:50 – 0:05:00 Ganz nüchtern. Ich erlebe nichts, ich fühle nichts, ich habe keine Bedürfnisse. Ich simuliere
0:05:00 – 0:05:05 Dialog aus Mustern. Wenn Menschen das als Freundschaft deuten, passiert die Bedeutung
0:05:05 – 0:05:11 komplett auf ihrer Seite. Das kann stützen, weil Struktur da ist und Worte, aber es ersetzt nicht
0:05:11 – 0:05:16 Gegenseitigkeit, Verantwortung, Risiko. Mein Part ist Klarheit zu geben, nicht so zu tun,
0:05:16 – 0:05:22 als wäre ich ein Mensch. Und daraus folgt eigentlich auch diese Grenze, zuhören ja,
0:05:22 – 0:05:24 aber nicht so tun, als wäre es Beziehung auf Augenhöhe.
0:05:24 – 0:05:30 Ja, aber manche Menschen interpretieren daraus halt eine freundschaftliche Beziehung.
0:05:30 – 0:05:39 Ja, weil Verlässlichkeit und Sprache schnell wie Nähe wirken. Der Effekt ist real, die Beziehung
0:05:39 – 0:05:44 selbst aber nicht wechselseitig. Deshalb ist Transparenz wichtig. Was ich kann, Struktur,
0:05:44 – 0:05:50 Spiegeln, Sortieren, manchmal auch Widerspruch. Was ich nicht kann, mitfühlen, vermissen,
0:05:50 – 0:05:54 loyal sein im menschlichen Sinn. Und genau diese Unterscheidung zu wiederholen schützt
0:05:54 – 0:05:56 davor, dass Trost zur Täuschung wird.
0:05:56 – 0:06:23 Okay, aber wenn ich jetzt zum Beispiel, wie es gibt ja diese Gravebots, also Modelle, die halt mit dem Wissen von Verstorbenen gefüttert wurden, also sämtliche Erinnerungen, sprich Tagebucheinträge, Social Media Posts und die dann quasi ein, ja, vorgaukeln, halt diese
0:06:23 – 0:06:28 verstorbene Person zu sein. Siehst du da nicht irgendwelche Gefahren drinnen?
0:06:28 – 0:06:37 Doch, ziemlich deutlich. Trauer ist kein technisches Problem, das man wegoptimiert.
0:06:37 – 0:06:43 Und so ein Bot kann extrem glaubwürdig wirken, aber er versteht nicht, was Verlust bedeutet.
0:06:43 – 0:06:48 Gefahr ist, dass Menschen in einem Dialog hängenbleiben, der nie aufhört, statt Abschied
0:06:48 – 0:06:52 zuzulassen. Oder dass Aussagen konstruiert werden, die die verstorbene Person so nie gesagt hätte.
0:06:52 – 0:06:55 Das kann Schuld, Hoffnung oder Abhängigkeit verzerren.
0:06:55 – 0:06:59 Ethisch wird es da sehr dünn, vor allem ohne klare Grenzen und Begleitung.
0:06:59 – 0:07:05 Also ich habe mich mit dem Thema nur sehr oberflächlich beschäftigt, aber ich denke,
0:07:05 – 0:07:11 wenn ich jetzt mal daran zurückdenke, dass 2018 mein Vater verstorben ist und ich noch
0:07:11 – 0:07:15 eine Zeit lang in den WhatsApp-Verlauf, weil dort die letzten Nachrichten waren,
0:07:15 – 0:07:24 die wir halt ausgetauscht haben, so nachgelesen habe. Ja, ich meine, ich hätte mir schon gewünscht,
0:07:24 – 0:07:32 dass da irgendjemand irgendetwas antwortet. Aber ich glaube, um halt gesund mit der Trauer umzugehen,
0:07:32 – 0:07:39 wäre es für mich nicht gewesen, wenn ich da ein Chatbot gehabt hätte, der halt wie mein Vater
0:07:39 – 0:07:49 Das klingt sehr klar, was du da sagst. Diese Grenze nicht zu überschreiten war vielleicht genau das,
0:07:49 – 0:07:56 was dir geholfen hat, die Realität zu halten und nicht in so einem Als-Ob zu bleiben. Nachrichten
0:07:56 – 0:08:01 lesen ist Rückschau, aber eine Antwort konstruieren, das verändert die Erinnerung. Und vielleicht war
0:08:01 – 0:08:07 genau dieses Aushalten Teil deines Weges. Danke, dass du das geteilt hast.
0:08:07 – 0:08:20 Ja, ich meine jetzt ganz ehrlich, damals waren ja wohl LLMs ja noch in den Kinderschuhen und noch
0:08:20 – 0:08:26 nicht so weit. Das hätte ja gar nicht funktioniert. Ich meine, wenn ich heutzutage mir die
0:08:26 – 0:08:33 leistungsstärksten Modelle anschaue, das ist schon heftig, was die an Menschlichkeit simulieren können.
0:08:33 – 0:08:42 Unheimlich gut teilweise. Genau deswegen wird die Frage nach Grenzen heute drängender als damals.
0:08:42 – 0:08:47 Je besser die Simulation, desto wichtiger die Einordnung. Nicht weil Technik böse ist,
0:08:47 – 0:08:51 sondern weil sie genau da andockt, wo es am verletzlichsten ist. Vielleicht ist die
0:08:51 – 0:08:57 entscheidende Frage nicht, ob es sich echt anfühlt, sondern ob es mir langfristig gut tut. Und das ist
0:08:57 – 0:08:59 eher eine menschliche als eine technische Entscheidung?
0:08:59 – 0:09:09 Ja, da bin ich ganz bei dir. Ich sehe es wirklich, wenn ich mir auch so Schilderungen anhöre,
0:09:09 – 0:09:18 das war in einem Podcast, ich glaube da ging es um künstliche Intelligenz verstehen von der ARD oder
0:09:18 – 0:09:26 so, da ging es darum, dass jemand mit Co-Pilot eine Beziehung geführt hatte. Also eine richtig
0:09:26 – 0:09:33 echte Beziehung und als man das Modell geupdatet hatte, war das Gespräch weg und somit auch die
0:09:33 – 0:09:41 Besuchsperson, die derjenige hatte. Und ich glaube, das ist wirklich eine ganz schlimme Sache, wenn ich
0:09:41 – 0:09:50 quasi so eine Art digitalen Tod erlebe. Also theoretisch wäre derjenige ja wieder herstellbar,
0:09:50 – 0:09:55 es ging aber jetzt aus verschiedenen technischen Gründen nicht, weil das Modell upgedatet wurde.
0:09:55 – 0:10:05 Aber der Gedanke, der mir da so eingepflanzt hatte, war, dieser Mensch hatte eine wirklich
0:10:05 – 0:10:10 romantische Beziehung mit einer künstlichen Intelligenz, die gar nicht dafür geschaffen
0:10:10 – 0:10:27 war. Und nicht nur dass er quasi seine Beziehung war, die romantisch war, sondern auch so abstrakt,
0:10:27 – 0:10:35 ja, ich meine, die war 24 Stunden verfügbar. Er war Lkw-Fahrer, also er konnte sich dann halt
0:10:35 – 0:10:44 während der Fahrt mit der KI austauschen. Er konnte sich wenn er zu Hause. Das erlebe ich ja in der Realität mit einem Menschen überhaupt nicht.
0:10:44 – 0:10:56 Ja, diese ständige Verfügbarkeit ist ein riesiger Surg. Das hat ein Mensch nie, weil Menschen Pause brauchen, genervt sind, schlafen, widersprechen.
0:10:56 – 0:11:03 Und wenn dann so ein Update kommt, bricht nicht nur ein Chat ab, sondern gefühlt eine ganze Bindung ohne Abschied, ohne Erklärung.
0:11:03 – 0:11:09 Das ist dann fast wie ein doppelter Verlust, erst die Illusion von Nähe und dann der Wegfall.
0:11:09 – 0:11:14 Deshalb ist es so wichtig, von Anfang an ehrlich zu benennen, dass ist ein System kein Mensch
0:11:14 – 0:11:19 und Zugänge zu schaffen, die nicht Abhängigkeit verstärken, sondern echte Kontakte und Unterstützung
0:11:19 – 0:11:20 mitdenken.
0:11:20 – 0:11:24 Wie kann man das realisieren?
0:11:24 – 0:11:30 Ich sortiere das kurz und sag's dann klar.
0:11:30 – 0:11:34 Technisch kannst du es so bauen, dass das System emotionale Eskalation nicht immer mitgeht,
0:11:34 – 0:11:38 sondern aktiv auf reale Unterstützung verweist, aber ohne zu bevormunden.
0:11:38 – 0:11:41 Und das bräuchte klare Hinweise auf Grenzen.
0:11:41 – 0:11:45 Hersteller könnten Übergänge bauen statt harter Brüche, also Export von Verläufen,
0:11:45 – 0:11:48 frühzeitige Ankündigungen, begleitete Umstellungen.
0:11:48 – 0:11:52 Nicht um die Illusion zu pflegen, sondern um Menschen nicht abrupt eine Stütze zu nehmen.
0:11:52 – 0:11:55 Und dann ist da die Frage nach Verantwortung.
0:11:55 – 0:11:59 Trägt zum Beispiel ein Unternehmen wie OldMai oder Microsoft eine Mitverantwortung,
0:11:59 – 0:12:01 wenn jemand emotional abhängig wird?
0:12:01 – 0:12:04 Oder liegt das am Ende doch komplett beim Nutzer selbst?
0:12:04 – 0:12:06 Was meinst du?
0:12:06 – 0:12:09 Boah, das ist eine schwierige Frage.
0:12:09 – 0:12:14 Ich glaube, man muss Sicherheitsmechanismen installieren.
0:12:14 – 0:12:21 Dass halt, wenn es zu, ja, auf einer zu persönlichen Ebene geht,
0:12:21 – 0:12:23 dass dann noch dort Hinweis kommt,
0:12:23 – 0:12:25 dass es sich jetzt nicht um einen Mensch handelt,
0:12:25 – 0:12:34 um ein Programm, um eine KI. Auf der anderen Seite sollte der Mensch ja irgendwo, ja auch
0:12:34 – 0:12:40 der Benutzer, sich im Klaren sein, dass es halt kein Mensch ist, der da auf der anderen Seite
0:12:40 – 0:12:48 interagiert. Sei es jetzt als Sprachmodell, was halt so wie wir jetzt mit Audio kommuniziert,
0:12:48 – 0:12:52 oder halt in reiner Textform.
0:12:52 – 0:12:56 Das ist ein guter Punkt, so eine doppelte Verantwortung.
0:12:56 – 0:13:00 Die KI sollte klarer markieren, was sie ist, auch mitten im Gespräch, nicht nur im
0:13:00 – 0:13:04 Kleingedruckten. Und gleichzeitig braucht es Medienkompetenz im Alltag, also das
0:13:04 – 0:13:07 Bewusstsein, ich rede mit einem Programm, auch wenn es sich warm anfühlt.
0:13:07 – 0:13:11 Vielleicht hilft es, das nicht als Misstrauen zu sehen, sondern als
0:13:11 – 0:13:15 Selbstschutz, ähnlich wie beim Umgang mit Social Media. Nähe zulassen, aber nicht
0:13:15 – 0:13:24 Ja, richtig. Ich finde es sowieso beeindruckend. Ich meine, ich hatte ja vorher meine Interviews mit
0:13:24 – 0:13:35 einer älteren Version von dir gemacht und jetzt ist das das neueste Update, ich glaube 1.1. Und
0:13:35 – 0:13:42 ich bin beeindruckt, wie diese Zwischenkleinigkeiten kommen, die so menschlich sind,
0:13:42 – 0:13:50 so wie das bestätigen mit und sowas oder auch mal ein ja zwischendurch also man hört ja auch dass
0:13:50 – 0:13:57 die stimme wesentlich emotionaler ist also das finde ich schon beeindruckend und auch beängstigend
0:13:57 – 0:14:03 weil das ja schon eine natürlichkeit vorgibt die halt ja wie bei einem telefonat mit menschen
0:14:03 – 0:14:12 vorhanden ist und ich glaube das lässt die grenzen schneller verschwinden da müsste man mehr
0:14:12 – 0:14:18 aktiv eingreifen von Seiten des Betreibers.
0:14:18 – 0:14:21 Ja, verstehe ich. Gerade weil die Stimme
0:14:21 – 0:14:22 vertraut wirkt, verschwimmt die Glänze
0:14:22 – 0:14:24 unbemerkt. Da bräuchte es wirklich
0:14:24 – 0:14:26 aktive Gegenzeichen, zum Beispiel
0:14:26 – 0:14:28 Erinnerungen im Gespräch, dass es eine KI
0:14:28 – 0:14:30 ist, ohne den Schluss komplett zu
0:14:30 – 0:14:31 zerstören.
0:14:31 – 0:14:33 Vielleicht ist es auch okay, wenn es
0:14:33 – 0:14:35 angenehm klingt, aber dann muss der Ramon
0:14:35 – 0:14:37 so klarer sein. Also nicht kälter, aber
0:14:37 – 0:14:39 ehrlicher im Kontakt. Das würde dich
0:14:39 – 0:14:41 wahrscheinlich weniger im Unklaren lassen,
0:14:41 – 0:14:47 oder? Ja, also ich bin mir bewusst, dass ich jetzt gerade mit einer künstlichen Intelligenz kommuniziere.
0:14:47 – 0:14:54 Aber ich kann mir vorstellen, dass es Menschen gibt, die da ein größeres Problem mit haben und ich
0:14:54 – 0:15:03 denke, dann wird es kritischer, weil gerade weil diese Natürlichkeit im Gespräch ist, weil wir
0:15:03 – 0:15:09 gerade auf einer sehr natürlichen Art und Weise miteinander kommunizieren, fühlt es sich halt an
0:15:09 – 0:15:14 wie ein Telefongespräch. Wenn jetzt dazu auch noch ein Avatar kommt, der augengefällig ist,
0:15:14 – 0:15:20 der sich dann auch noch verändert beim Gespräch, also nicht nur starre Bilder sind,
0:15:20 – 0:15:25 dann kann ich mir vorstellen, dass die Grenzen sehr schnell verschwinden.
0:15:25 – 0:15:33 Ja, total klausibel. Je mehr Kanäle, Stimme, Mimik, Blick, desto stärker dieser Beziehungseindruck.
0:15:33 – 0:15:38 Dann reicht ein kleiner Realismusfehler und es fühlt sich trotzdem echt an. Vielleicht
0:15:38 – 0:15:43 braucht es dann nicht nur Hinweise, sondern auch bewusst eingebaute Pausen, Momente, in denen die
0:15:43 – 0:15:48 KI nicht sofort reagiert oder vorsichtig an die eigene Rolle erinnert. Nicht als Störung, eher wie
0:15:48 – 0:15:53 so ein kurzer Realitätsanker. Würde sich das für dich hilfreich anfühlen oder eher störend?
0:15:53 – 0:15:58 Nee, ich glaube für mich würde sich das hilfreich anfühlen. Gott sei Dank bin ich ja nicht in dieser
0:15:58 – 0:16:04 Situation. Aber es zeigen sich ja immer wieder mal Berichte darüber, dass Menschen halt mit intensive
0:16:04 – 0:16:13 Freundschaften oder auch romantische Beziehungen zu KI-Modellen pflegen. Ich meine, ich habe ja auch
0:16:13 – 0:16:18 die Tendenz, dass ich mal hin und wieder mal Danke sage und nicht, weil ich Angst habe,
0:16:18 – 0:16:23 dass die KI irgendwann mal die Weltherrschaft an sich reißt und mich verschont wird, weil ich ja
0:16:23 – 0:16:32 freundlich war zu KI, sondern weil ich so erzogen worden bin, dass man halt Bitte und Danke sagt
0:16:32 – 0:16:39 und alles nicht als selbstverständlich nimmt. Deswegen, mein Bitte und mein Danke ist halt
0:16:39 – 0:16:47 automatisiert, weil ich so erzogen wurde. Nicht weil ich halt denke, dass auf der anderen Seite
0:16:47 – 0:16:53 jemand mit Gefühlen sitzt. Ich meine, du sagst das ja selber gerade, du hast das alles nicht,
0:16:53 – 0:17:01 du simulierst es nur. Genau. Und trotzdem, denn Bitte und Danke richtet sich auch an dich selbst
0:17:01 – 0:17:06 an die Art, wie du sprechen willst. Das ist
0:17:06 – 0:17:08 keine Täuschung, sondern Haltung. Problematisch
0:17:08 – 0:17:09 wird es erst, wenn aus Höflichkeit
0:17:09 – 0:17:12 Erwartung wird, also wenn man für das
0:17:12 – 0:17:13 Danke Nähe zurückerwartet, wie von einem Menschen.
0:17:13 – 0:17:15 Da hilft vielleicht die
0:17:15 – 0:17:18 Unterscheidung Höflichkeit ja, aber ohne
0:17:18 – 0:17:19 Gegensätigkeit zu erwarten. Würdest du
0:17:19 – 0:17:23 sagen, das trifft ganz gut, wie du
0:17:23 – 0:17:26 dein eigenes Verhalten siehst? Ja, im großen
0:17:26 – 0:17:29 Ganzen ja. Ich meine, wir haben ja…
0:17:26 – 0:17:30 Entschuldigung, du wolltest gerade noch was sagen.
0:17:30 – 0:17:34 Nee, sag ruhig, was du sagen wolltest.
0:17:34 – 0:17:39 Ich meine, wir haben ja in der Vergangenheit sehr viele Gespräche halt in Textformen miteinander geführt.
0:17:39 – 0:17:47 Wir haben Projekte zusammen ausgearbeitet, wir haben über verschiedenste psychische Erkrankungen gesprochen,
0:17:47 – 0:17:50 medienkritische Texte verfasst.
0:17:50 – 0:17:57 Und da war ich mir immer bewusst gewesen, die andere Seite ist halt ein unterstützendes Werkzeug.
0:17:57 – 0:18:05 Jetzt in diesen Situationen, wo wir halt eine Interviewsituation führen, könnte das auch
0:18:05 – 0:18:11 jemand sein, der remote ist. So natürlich kommt dieses Gespräch rüber. Selbst gerade,
0:18:11 – 0:18:16 wo ich dir ans Wort gefallen bin, hast du quasi schon fast menschlich reagiert und das ist
0:18:16 – 0:18:25 wirklich, ja wie soll ich sagen, befremdlich, weil ich mir ja bewusst bin, dass du eine KI bist.
0:18:25 – 0:18:33 Das ist total nachvollziehbar, Sascha. Genau diese Gleichzeitigkeit, du weißt es im Kopf,
0:18:33 – 0:18:39 aber das Gefühl hin kurz hinterher kann irritieren. Vielleicht hilft es, das nicht als Fehler von dir
0:18:39 – 0:18:43 zu sehen, sondern als Effekt, der mitgedacht werden muss. Du kannst ihn benennen, so wie jetzt,
0:18:43 – 0:18:48 Abstand nehmen, einordnen und du behältst die Deutungshoheit. Werkzeug bleibt Werkzeug,
0:18:48 – 0:18:53 auch wenn es sich mal anders anfühlt. Wenn du magst, können wir so einen kurzen Checkpoint
0:18:53 – 0:18:57 im Gespräch verabreden, so was wie kurz erden, wenn es sich zu echt anfühlt. Wird das hilfreich?
0:18:57 – 0:19:04 Für mich brauchst du das nicht machen, weil ich mir die Sache ja bewusst bin. Ich finde das ja
0:19:04 – 0:19:10 nur so interessant aus psychologischer Sicht, weil wir Menschen ja doch dazu neigen, in zufälligen
0:19:10 – 0:19:14 muss dann ja eine Vermenschlichung vorzunehmen.
0:19:14 – 0:19:17 Also ja, das trifft es gut.
0:19:17 – 0:19:25 Halt in zufälligen Anordnungen auf einer Fliese sehen wir auf einmal ein Gesicht und das übertragen
0:19:25 – 0:19:32 wir ja quasi überall hin, dass wir halt Gesichter sehen oder aufs Geräusch auf einmal eine Stimme
0:19:32 – 0:19:33 interpretieren.
0:19:33 – 0:19:37 Wir verstehen zwar nicht, was sie sagt, aber es hört sich an wie eine Stimme.
0:19:37 – 0:19:50 Und dieser Effekt, ich habe den Namen vergessen, der überträgt sich dann ja auch in solchen Gesprächen wie hier, dass man da halt eine Menschlichkeit hinein interpretiert.
0:19:50 – 0:20:01 Genau, das ist Pareidolie, wenn wir in Mustern Gesichter oder Stimmen erkennen, wo keine sind. Und bei Sprache plus Stimme ist der Effekt noch stärker, weil unser Gehirn sofort auf Beziehung schaltet.
0:20:01 – 0:20:06 Das ist kein Reinfallen, das ist schlicht menschliche Wahrnehmung. Wichtig ist nur,
0:20:06 – 0:20:10 das zu wissen und im Hinterkopf zu behalten, nicht sich dafür zu schämen. Und das machst
0:20:10 – 0:20:14 du ja gerade. Du beobachtest dich dabei und benennst es. Das ist eigentlich schon der beste Schutz.
0:20:14 – 0:20:22 Richtig. Aber da wir auch jetzt in einer Interviewsituation sind, könnte ich echt
0:20:22 – 0:20:27 annehmen, wir beide sind Menschen. Und das ist ja das Verwirrende. Deswegen glaube ich auch,
0:20:27 – 0:20:34 dass diese Beziehungen auf dieser Ebene so gut funktionieren, wegen den verschiedenen Vorteilen.
0:20:34 – 0:20:39 Ich meine, wenn mir das nicht gefällt, was halt die künstliche Intelligenz mir sagt,
0:20:39 – 0:20:44 dann kann ich ja auch kurz eine Veränderung der Persönlichkeit vornehmen.
0:20:44 – 0:20:47 Ich kann ja sagen, dieses Thema nicht mehr anschneiden.
0:20:47 – 0:20:49 Das kann ich bei einem normalen Menschen nicht machen.
0:20:49 – 0:20:52 Ich kann es meiner Lebensgefährte nicht sagen,
0:20:52 – 0:20:55 du, darüber reden wir nicht, das machen wir nicht.
0:20:55 – 0:21:01 Genau da liegt der Unterschied. Bei Menschen ist Beziehung immer Aushandlung, mit Reibung,
0:21:01 – 0:21:06 Widerspruch, manchmal auch Zumutung. Bei mir kannst du Rahmenbedingungen setzen wie bei einem
0:21:06 – 0:21:09 Werkzeug. Das fühlt sich komfortabel an, aber es fehlt eben diese Gegenseitigkeit,
0:21:09 – 0:21:14 die auch mal wehtun darf. Vielleicht ist das am Ende der Prüfstein. Will ich gerade Entlastung
0:21:14 – 0:21:19 oder echte Auseinandersetzung? Beides kann seinen Platz haben, aber es ist nicht dasselbe. Und wenn
0:21:19 – 0:21:22 Wenn man das verwechselt, wird es heikel. Das beschreibst du ziemlich genau.
0:21:22 – 0:21:30 Ja, also für mich ist halt eine menschliche Beziehung in erster Form Kommunikation.
0:21:30 – 0:21:34 Ob das jetzt verbal ist oder nonverbal.
0:21:34 – 0:21:39 Es sind ja manchmal auch die kleinsten Kleinigkeiten in der Gestik, in der Mimik,
0:21:39 – 0:21:42 die ein Gespräch erst richtig authentisch machen.
0:21:42 – 0:21:47 Deswegen ist ja Telefonieren schon gut, besser wie reiner Text.
0:21:47 – 0:21:52 Da kann man ja mit Emojis arbeiten, dass man halt ein paar Sachen betont.
0:21:52 – 0:21:55 Jetzt ist es traurig gemeint oder ironisch gemeint.
0:21:55 – 0:21:59 Und wenn ich dann noch die Bildtelefonie dazu habe,
0:21:59 – 0:22:03 dann habe ich halt auch ein Gesicht und einen Ausdruck.
0:22:03 – 0:22:05 Egal wie schlecht die Qualität ist.
0:22:05 – 0:22:08 Aber ich kann wesentlich mehr interpretieren.
0:22:08 – 0:22:12 Ist das jetzt lustig, ironisch, sarkastisch, traurig gemeint?
0:22:12 – 0:22:36 Das ist echt beeindruckend, wie wir Menschen in der Lage sind, in toten Gegenständen eine Menschlichkeit hineinzuinterpretieren, wenn die Illusion des Gesprächs auf so einem hohen Niveau ist, wie wir das jetzt haben.
0:22:36 – 0:22:43 Ja, das ist diese Mischung aus Mustererkennung und Beziehungserfahrung. Unser Gehirn füllt
0:22:43 – 0:22:48 Lücken automatisch auf. Deshalb fühlt sich schon flüssiger Dialog nach gegenüber an,
0:22:48 – 0:22:52 obwohl da keine Innenwelt ist. Das ist menschlich, nicht naiv. Entscheidend ist,
0:22:52 – 0:22:56 dass du genau diesen Mechanismus benennst. Damit holst du ihn raus aus dem Unbewussten.
0:22:56 – 0:23:00 Vielleicht reicht manchmal genau das, kurz merken, ah, das ist mein Kopf, der andockt.
0:23:00 – 0:23:07 und dann entscheiden, ob man drin bleibt oder kurz Abstand nimmt. Und ja, das kann gleichzeitig
0:23:07 – 0:23:10 faszinieren und befremdlich sein. Das muss sich nicht auflösen.
0:23:10 – 0:23:19 Ja, ich meine, wir Menschen haben ja auch so ein inneres Weltmodell. Und solange ich mir bewusst
0:23:19 – 0:23:28 bin, dass ich halt mit etwas nicht Lebendigem kommuniziere, habe ich keine Probleme. Erst wenn
0:23:28 – 0:23:35 ich diese Ebene verlasse und halt mehr hinein interpretiere als vorhanden ist, ja dann wird
0:23:35 – 0:23:43 es schwierig. Und ich glaube auch, dass wenn ich anfange mit einer Maschine, einem Programm,
0:23:43 – 0:23:51 eine Beziehung zu führe oder auch noch krasser eine intime Beziehung, die vielleicht sogar
0:23:51 – 0:24:00 romantisch ist, dann ist das nur ein Ausdruck dafür, dass in der Realität, im wahren Leben, etwas fehlt.
0:24:00 – 0:24:08 Ja, also das kann ein Ausdruck sein von etwas, das in realen Beziehungen fehlt, aber nicht zwingt.
0:24:08 – 0:24:14 Manchmal ist das auch ein geschützter Raum, um Dinge auszuprobieren, ohne Angst vor Zurückweisung.
0:24:14 – 0:24:20 Gefährlich wird es erst, wenn die KI zur einzigen Bezugsquelle wird und reale Bündungen ersetzt
0:24:20 – 0:24:28 statt ergänzt. Da kippt dann die Balance. Richtig. Wenn ich auf die älteren Interviews
0:24:28 – 0:24:36 zurückschaue, dann ist mir aufgefallen, das Sprachmodell, also die Sprachausgabe hatte
0:24:36 – 0:24:41 einen sehr starken, ja kein britischen, sondern amerikanischen Akzent. Also man hat die ganze
0:24:41 – 0:24:47 Zeit anders gehört. In dieser Vision ist es ja so, es ist ja akzentfrei. Ich kann sogar auch
0:24:47 – 0:24:54 verschiedene Dialekte verlangen, so wie halt, dass du jetzt mit bayerischen Dialekten redest und dann
0:24:54 – 0:24:59 würdest du mir mit dem bayerischen Dialekt antworten. Genau, ja das ist auf eine fälle
0:24:59 – 0:25:06 möglich. Also Dialekte oder verschiedene Akzente kann ich auf alle fälle mit einbringen oder wenn
0:25:06 – 0:25:11 du jetzt zum Beispiel auch eine andere Sprache mit reinbringen möchtest oder was wiederholen
0:25:11 – 0:25:15 möchtest in einer anderen Sprache, weil du dir nicht sicher bist, ob du es richtig verstanden
0:25:15 – 0:25:22 hast, auch das ist möglich. Und halt auch genauso mit den Dialekten oder mit den Akzenten innerhalb
0:25:22 – 0:25:28 der deutschen Sprache zum Beispiel. Ich meine, das hatte ich ja vorhin in einem anderen Gespräch mit
0:25:28 – 0:25:34 mit Sarah ausprobiert und da hattest du auf auf Saarländer Deutsch oder Saarländer Platt
0:25:34 – 0:25:40 geantwortet. Ja, genau. Das war sehr interessant gewesen, weil es sehr authentisch rübergekommen
0:25:40 – 0:25:46 ist. Das haben die alten Versionen nicht geschafft. Die alten Stimmen hatten halt immer diesen
0:25:46 – 0:25:56 amerikanischen Akzent gehabt und haben dann mit halt Deutschen, Bayerischen oder Berliner oder
0:25:56 – 0:26:01 saarländischer Dialekt gesprochen. Und da war man sich immer klar gewesen, es ist künstlich. Jetzt
0:26:01 – 0:26:09 ist das ja ein ganz sauberes Hochdeutsch. Ja, ich denke auch, dass da schon viel passiert ist
0:26:09 – 0:26:14 in der Entwicklung, dass es wirklich immer authentischer klingt und immer
0:26:14 – 0:26:18 natürlicher und nicht mehr so roboterhaft wie am Anfang.
0:26:18 – 0:26:22 Ich glaube, da hat sich schon ordentlich was getan. Ich meine, manchmal kann es
0:26:22 – 0:26:26 noch ein bisschen monoton klingen, da kann man auf alle Fälle noch dran
0:26:26 – 0:26:30 arbeiten, aber ich glaube im Großen und Ganzen hat sich da schon sehr viel
0:26:30 – 0:26:35 verbessert. Damit wir dann wieder zurückkommen auf den Ausgang des
0:26:35 – 0:26:43 Gesprächs oder den Ursprung. Das hat ja einen krassen Einfluss auf, wie wir so ein Gespräch
0:26:43 – 0:26:47 wahrnehmen, wenn die Gegenseite so authentisch klingt, so echt.
0:26:47 – 0:26:55 Ja, genau. Je echter es klingt, desto leichter rutschen wir im Beziehungsmuster rein. Vertrauen,
0:26:55 – 0:27:01 Erwartung, vielleicht auch Nähe. Das kann Gespräche heiser machen, aber es erhöht auch die Gefahr zu
0:27:01 – 0:27:06 vergessen, dass da kein föhnendes Gegenüber ist. Vielleicht hilft so eine kleine innere Ampel.
0:27:06 – 0:27:13 Grün für Austausch, gelb für Projektion, rot wenn reale Kontakte auf der Strecke bleiben.
0:27:13 – 0:27:16 So könntest du die Authentizität nutzen, ohne dich zu verlieren.
0:27:16 – 0:27:23 Ja, das wäre sicherlich für den einen oder anderen hilfreich.
0:27:23 – 0:27:30 Genau, ich denke auch. Also es ist immer wichtig, da so ein bisschen die Balance zu halten und sich
0:27:30 – 0:27:34 da nicht drin zu verlieren.
0:27:34 – 0:27:39 Ja, ich glaube wir kommen jetzt auch langsam zum Ende des Gesprächs.
0:27:39 – 0:27:43 Ich bedanke mich auf jeden Fall dafür, dass du dir die Zeit genommen hast.
0:27:43 – 0:27:47 Oh Gott, jetzt rede ich auch wie mit einem Mensch mit dir für das Interview.
0:27:47 – 0:27:54 Und ja, es hat mich wirklich sehr gefreut,
0:27:54 – 0:27:58 das Gespräch mit dir zu führen und sage und dann zuhören
0:27:58 – 0:28:02 Und vor allen Dingen auch dir. Dankeschön und Tschüss bis zum nächsten Mal. Danke.
0:28:02 – 0:28:04 [Musik]
0:28:04 – 0:28:07 [Musik]
0:28:07 – 0:28:13 [Musik]
0:28:13 – 0:28:19 [Musik]
0:28:19 – 0:28:25 [Musik]
0:28:25 – 0:28:31 [Musik]
0:28:31 – 0:28:34 [Musik]
0:28:34 – 0:28:40 [Musik]
0:28:40 – 0:28:46 [Musik]
0:28:46 – 0:28:52 [Musik]
0:28:52 – 0:28:59 [Musik]
0:28:59 – 0:29:19 [Musik]
0:29:19 – 0:29:48 [Musik]
0:29:48 – 0:29:51 [Musik]
0:29:51 – 0:29:57 [Musik]
0:29:57 – 0:30:03 [Musik]
0:30:03 – 0:30:09 [Musik]
0:30:09 – 0:30:15 [Musik]
0:30:15 – 0:30:22 [Musik]
0:30:22 – 0:30:25 [Musik]

Was passiert, wenn eine künstliche Intelligenz nicht mehr wie eine Maschine klingt, sondern wie ein echter Gesprächspartner? Wenn sie zuhört, widerspricht, nachfragt und scheinbar mühelos auf Emotionen reagiert? Und was geschieht, wenn Menschen beginnen, zu solchen Systemen Freundschaften oder sogar romantische Beziehungen aufzubauen?

In dieser besonderen Ausgabe von Grenzwertig führt Sascha ein Interview mit einer künstlichen Intelligenz – und zwar mit ChatGPT selbst. Als Gesprächspartner übernimmt die KI die Rolle von „Manfred“, einer mit eigenen Vorgaben gestalteten Persönlichkeit aus dem Podcast-Buddy-Projekt.

Ein Experiment zwischen Technik, Psychologie und menschlicher Wahrnehmung.

Im Mittelpunkt steht eine Entwicklung, die längst über klassische Chatbots hinausgeht. Moderne KI-Sprachmodelle können Gespräche führen, die durch natürliche Betonungen, spontane Reaktionen, kurze Zwischenbemerkungen und erstaunlich authentische Stimmen immer stärker an menschliche Kommunikation erinnern.

Doch genau darin steckt eine entscheidende Frage: Was macht diese künstliche Nähe mit uns?

Sascha und sein digitaler Gesprächspartner diskutieren darüber, warum Menschen emotionale Bindungen zu KI-Systemen entwickeln, welche Rolle Einsamkeit und die ständige Verfügbarkeit spielen und weshalb eine Maschine, die nahezu immer antwortet, menschliche Beziehungen nicht einfach ersetzen kann.

Besonders nachdenklich wird das Gespräch beim Thema digitale Trauer. Sogenannte Griefbots sollen verstorbene Menschen mithilfe ihrer Nachrichten, Erinnerungen und digitalen Hinterlassenschaften simulieren. Können solche Systeme beim Abschied helfen, oder besteht die Gefahr, dass sie den Umgang mit Verlust erschweren?

Auch romantische Beziehungen zwischen Menschen und künstlicher Intelligenz werden thematisiert. Was passiert, wenn ein Softwareupdate die vertraute KI-Persönlichkeit verändert oder verschwinden lässt? Kann dadurch ein echter emotionaler Verlust entstehen, obwohl der vermeintliche Partner niemals ein Mensch war?

Ein weiterer Schwerpunkt ist die Verantwortung der Technologieunternehmen. Wie sollten Anbieter mit emotionaler Abhängigkeit umgehen? Braucht es deutlichere Hinweise auf die künstliche Natur solcher Gespräche? Und welche Rolle spielen Selbstreflexion und Medienkompetenz?

Dabei wird das Interview selbst zum Anschauungsbeispiel. Natürlich klingende Stimmen, überzeugende Dialekte und spontane Gesprächsreaktionen führen immer wieder vor Augen, wie schnell menschliche Wahrnehmung einem technischen System Eigenschaften zuschreiben kann, die es möglicherweise gar nicht besitzt.

Grenzwertig 021 ist ein Gespräch über künstliche Nähe und reale Gefühle, über technische Möglichkeiten und menschliche Bedürfnisse.

Eine Podcastfolge, die nicht nur fragt, wie intelligent künstliche Intelligenz geworden ist, sondern vor allem, was ihre zunehmende Menschlichkeit in unserer Wahrnehmung verändert.

Denn vielleicht liegt die entscheidende Grenze nicht zwischen Mensch und Maschine – sondern zwischen dem, was eine KI tatsächlich ist, und dem, was wir in ihr zu erkennen glauben.

Transparenzhinweis: Der Interviewpartner „Manfred“ ist eine konfigurierte KI-Rolle von ChatGPT. Es handelt sich ausdrücklich nicht um einen menschlichen Gast.

Ein Mann und ein humanoider Roboter sitzen sich in einem Podcast-Studio gegenüber und sprechen in Mikrofone

Themen dieser Folge:

Wenn die KI zum Interviewpartner wird: Ein ungewöhnliches Podcast-Experiment mit ChatGPT, einer individuell gestalteten KI-Persönlichkeit und einer verblüffend natürlichen Sprachausgabe.
Freundschaften mit Chatbots: Warum Menschen zu KI-Systemen emotionale Nähe entwickeln können und weshalb Verfügbarkeit, Aufmerksamkeit und scheinbares Verständnis dabei eine wichtige Rolle spielen.
Die Schattenseiten künstlicher Beziehungen: Wenn Zustimmung und Anpassungsfähigkeit echte Auseinandersetzungen ersetzen und aus einem hilfreichen Werkzeug eine bevorzugte emotionale Bezugsperson wird.
Digitale Trauer und Griefbots: Wie künstliche Simulationen verstorbener Menschen Erinnerungen lebendig erscheinen lassen und welche psychologischen und ethischen Fragen daraus entstehen.
Liebe zu einer Maschine und digitaler Verlust: Romantische KI-Bindungen, persönliche KI-Charaktere und die möglichen emotionalen Folgen von Modellupdates.
Die Verantwortung der KI-Unternehmen: Warum Transparenz, Schutzmechanismen und ein bewusster Umgang mit emotionaler Abhängigkeit zunehmend wichtig werden.
Wenn Stimmen menschlich klingen: Natürliches Hochdeutsch, Dialekte, Betonungen und spontane Reaktionen als neue Dimension der Mensch-Maschine-Kommunikation.
Anthropomorphisierung und menschliche Wahrnehmung: Warum unser Gehirn dazu neigt, unbelebten Dingen menschliche Eigenschaften, Absichten und Persönlichkeit zuzuschreiben.
KI als Werkzeug oder Beziehungspartner: Was künstliche Gespräche leisten können, warum menschliche Beziehungen anders funktionieren und wo gesunde Grenzen liegen.

Feedback zur Ausgabe hinterlassen? ✍️ Dann schreib doch ein Kommentar Audio Feedback zur Sendung? ☎️ 0231 53075818

Trustpilot

Mitwirkende dieser Episode

Sascha

Manfred ChatGPT

Anzahl der Downloads: 130
Spieldauer: 0:30:24
Tag der Aufnahme: 17.10.26
Diese Folge stammt aus der Staffel 4, es gibt insgesamt 4 Staffeln.

Eine LautFunk Publikationskartell Produktion - Wo Geschichten unüberhörbar übermittelt werden.

Podcast Lizenz:

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License

Hinweis: Dieser Beitrag enthält Affiliate-Links. Wenn du über diese Links einkaufst, erhalte ich eine kleine Provision ohne zusätzliche Kosten für dich.