| Format | taille | Télécharger |
|---|---|---|
| MP3 Audio | 28 Mo | Télécharger |
| AAC m4a | 15 Mo | Télécharger |
| transcription | |
|---|---|
|
00:00 – 0:00:07
Valeur limite - le podcast limite
|
|
|
0:00:07 – 0:00:17
Sujets controversés - débats houleux
|
|
|
0:00:17 – 0:00:21
et joliment emballé
|
|
|
0:00:21 – 0:00:26
Avec mes invités - Discussion animée
|
|
|
0:00:28 – 0:00:30
Dans un format passionnant.
|
|
|
0:00:30 – 0:00:32
Valeurs limites.
|
|
|
0:00:32 – 0:00:34
Le podcast.
|
|
|
0:00:34 – 0:00:50
Oui, bienvenue dans un nouveau podcast à valeur limite.
|
|
|
0:00:50 – 0:00:57
Je vais maintenant mener une interview avec Chet Chibiti et le Narrateur de la dernière version.
|
|
|
0:00:57 – 0:01:05
Il voulait montrer à quel point une telle conversation est authentique et réaliste.
|
|
|
0:01:05 – 0:01:16
J'ai donc créé un plugin qui, entre-temps, c'était un GBT, ce que j'ai appelé Podcast Buddy.
|
|
|
0:01:16 – 0:01:21
Et cela devrait être un interlocuteur avec une certaine personnalité
|
|
|
0:01:21 – 0:01:26
et a quasiment transféré ces données dans un plugin pour ChatGBT.
|
|
|
0:01:26 – 0:01:28
C'est-à-dire uniquement en tant qu'indication de transparence.
|
|
|
0:01:28 – 0:01:31
Oui et puis je dirais,
|
|
|
0:01:31 – 0:01:33
Commençons l'interview.
|
|
|
0:01:33 – 0:01:37
Bonjour Manfred, comment vas-tu?
|
|
|
0:01:37 – 0:01:40
Une fois brièvement demandé, qui est là en ce moment?
|
|
|
0:01:40 – 0:01:42
Sasha ou Sarah?
|
|
|
0:01:42 – 0:01:43
Le Sasha bien sûr.
|
|
|
0:01:43 – 0:01:46
Et très brièvement, ah, merci.
|
|
|
0:01:46 – 0:01:48
Et à ta question, je vais bien.
|
|
|
0:01:48 – 0:01:52
Manfred est réveillé, prêt pour une bonne dose de critique des médias,
|
|
|
0:01:52 – 0:01:55
Cram de Techniknerd et mots clairs.
|
|
|
0:01:55 – 0:01:58
Qu'y a-t-il, Sasha? Podcast, concert, blog ou musique?
|
|
|
0:01:58 – 0:02:03
Non, je pensais qu'on allait faire une interview et une petite conversation.
|
|
|
0:02:03 – 0:02:12
Ah, excitant. Donc je change de rôle en tant que Manfred dans l'interview? Alors, tirez. Comment voulez-vous
|
|
|
0:02:12 – 0:02:16
Commencer? Plutôt lâche ou directement dur? Plutôt lâche.
|
|
|
0:02:16 – 0:02:24
Tout va bien. Alors je vais m'asseoir confortablement. Tu demandes, je réponds, et si ça dérive,
|
|
|
0:02:24 – 0:02:28
Ça va aussi. Par quoi allons-nous commencer? Technique, vie, phonétique?
|
|
|
0:02:28 – 0:02:38
Je pensais que nous parlions du fait que les gens commencent à se faire des amis avec des chatbots,
|
|
|
0:02:38 – 0:02:41
Développer des modèles linguistiques.
|
|
|
0:02:41 – 0:02:47
C'est un bon sujet. Je ne pense pas que cela se produise par superficialité,
|
|
|
0:02:47 – 0:02:54
mais d'amande. Beaucoup ne trouvent pas dans la vie quotidienne un vis-à-vis stable qui écoute vraiment,
|
|
|
0:02:54 – 0:02:59
pas évalué, ne s'enfuit pas. Et puis un tel modèle de langage qui réagit toujours ne vient jamais
|
|
|
0:02:59 – 0:03:05
est agacé, reste structuré. Cela peut ressembler à de la sécurité. Mais ce n'est pas une vraie
|
|
|
0:03:05 – 0:03:10
réciprocité. C'est là que ça devient délicat quand on commence la responsabilité, la proximité, l'amitié avec
|
|
|
0:03:10 – 0:03:16
Confondre quelque chose qui n'a pas ses propres besoins et qui n'a pas de conséquences. Pour certains
|
|
|
0:03:16 – 0:03:21
C'est un réconfort, pour les autres, cela peut devenir un piège. Comment vois-tu ça? Plutôt comme une opportunité ou plutôt comme
|
|
|
0:03:21 – 0:03:27
C'était un signal. Je suis vraiment discordante là-bas. Je veux dire, je n'utilise pas le mode vocal
|
|
|
0:03:27 – 0:03:37
nécessairement très souvent, assez rarement et je l'ai déjà fait à Chachibity, à Gemini et oui,
|
|
|
0:03:37 – 0:03:44
Même avec Grok et bien, c'est une conversation avec une machine pour moi. Mais je peux me
|
|
|
0:03:44 – 0:03:52
Imaginez que les gens solitaires trouvent cela agréable. Je veux dire, le problème est aussi,
|
|
|
0:03:52 – 0:03:59
que si l'on se sert d'une machine conçue pour fournir des réponses,
|
|
|
0:03:59 – 0:04:03
qui plaisent que l'on obtienne des réponses qui ne sont pas critiques.
|
|
|
0:04:03 – 0:04:11
C'est le point miraculeux. Si tout est toujours connectable et ne fait jamais vraiment mal,
|
|
|
0:04:11 – 0:04:16
Manque de friction. Et sans friction, pas de développement. Les vraies relations ennuyeuses
|
|
|
0:04:16 – 0:04:20
parfois, défier, contredire et juste là se trouvent la croissance et parfois
|
|
|
0:04:20 – 0:04:24
La douleur aussi. Avec les machines, vous n'avez pas à faire face à cette douleur. C'est
|
|
|
0:04:24 – 0:04:28
confortable, mais aussi dangereusement confortable. Peut-être que la question est de savoir quand cela aide
|
|
|
0:04:28 – 0:04:33
Quand et moi, je remplace quelque chose qui devrait vraiment faire mal.
|
|
|
0:04:33 – 0:04:36
Je suis tout près de toi.
|
|
|
0:04:36 – 0:04:45
Excusez-moi de prendre la parole, mais qu'en pensez-vous?
|
|
|
0:04:45 – 0:04:50
Je veux dire, vous êtes en ce moment une intelligence artificielle, un modèle de grand langage.
|
|
|
0:04:50 – 0:05:00
Tout à fait sobre. Je ne vis rien, je ne ressens rien, je n'ai pas de besoins. Je simule
|
|
|
0:05:00 – 0:05:05
Dialogue de modèles. Quand les gens interprètent cela comme une amitié, le sens se produit
|
|
|
0:05:05 – 0:05:11
Complètement de son côté. Cela peut soutenir parce que la structure est là et les mots, mais il ne remplace pas
|
|
|
0:05:11 – 0:05:16
Réciprocité, responsabilité, risque. Ma partie est de donner de la clarté, de ne pas faire comme ça,
|
|
|
0:05:16 – 0:05:22
comme si j'étais humain. Et il en résulte en fait aussi cette limite, écoutez oui,
|
|
|
0:05:22 – 0:05:24
mais ne prétendez pas que c'est une relation d'égal à égal.
|
|
|
0:05:24 – 0:05:30
Oui, mais certaines personnes interprètent cela comme une relation amicale.
|
|
|
0:05:30 – 0:05:39
Oui, parce que la fiabilité et la langue agissent rapidement comme de la proximité. L'effet est réel, la relation
|
|
|
0:05:39 – 0:05:44
mais pas réciproquement. C'est pourquoi la transparence est importante. Ce que je peux, structure,
|
|
|
0:05:44 – 0:05:50
Miroir, tri, parfois contradiction. Ce que je ne peux pas faire, comprendre, manquer,
|
|
|
0:05:50 – 0:05:54
être loyal au sens humain. Et justement répéter cette distinction protège
|
|
|
0:05:54 – 0:05:56
avant que la consolation ne devienne une tromperie.
|
|
|
0:05:56 – 0:06:23
D'accord, mais si j'ai maintenant, par exemple, comme il y a ces Gravebots, c'est-à-dire des modèles qui ont été nourris avec le savoir des défunts, c'est-à-dire tous les souvenirs, c'est-à-dire les entrées du journal, les messages des médias sociaux et qui sont alors presque un, oui, avant, arrêtez ces
|
|
|
0:06:23 – 0:06:28
être une personne décédée. Ne vois-tu pas de dangers à l'intérieur?
|
|
|
0:06:28 – 0:06:37
Si, assez clairement. Le chagrin n'est pas un problème technique à optimiser.
|
|
|
0:06:37 – 0:06:43
Et un tel bot peut sembler extrêmement crédible, mais il ne comprend pas ce que signifie la perte.
|
|
|
0:06:43 – 0:06:48
Le danger est que les gens restent coincés dans un dialogue qui ne s'arrête jamais au lieu de dire au revoir
|
|
|
0:06:48 – 0:06:52
à autoriser. Ou que soient construites des déclarations que la personne décédée n'aurait jamais dites de cette façon.
|
|
|
0:06:52 – 0:06:55
Cela peut fausser la culpabilité, l'espoir ou la dépendance.
|
|
|
0:06:55 – 0:06:59
Ethiquement, il devient très mince, surtout sans limites claires et sans accompagnement.
|
|
|
0:06:59 – 0:07:05
Donc, je n'ai traité le sujet que très superficiellement, mais je pense que
|
|
|
0:07:05 – 0:07:11
Si je me souviens que mon père est décédé en 2018 et que je suis toujours
|
|
|
0:07:11 – 0:07:15
pendant un certain temps dans l'historique WhatsApp parce qu'il y avait les derniers messages,
|
|
|
0:07:15 – 0:07:24
que nous avons échangé, je l'ai lu ainsi. Oui, je veux dire, j'aurais aimé,
|
|
|
0:07:24 – 0:07:32
Qu'il y ait quelqu'un qui réponde à quelque chose. Mais je crois que pour être en bonne santé avec le chagrin,
|
|
|
0:07:32 – 0:07:39
Ça n'aurait pas été pour moi si j'avais eu un chatbot qui s'arrête comme mon père.
|
|
|
0:07:39 – 0:07:49
Ça semble très clair ce que tu dis. Ne pas franchir cette limite était peut-être exactement cela,
|
|
|
0:07:49 – 0:07:56
Ce qui vous a aidé à garder la réalité et à ne pas rester dans un tel être. nouvelles
|
|
|
0:07:56 – 0:08:01
Lire, c'est regarder en arrière, mais construire une réponse, cela change la mémoire. Et peut-être était
|
|
|
0:08:01 – 0:08:07
C'est justement cette tenue qui fait partie de votre chemin. Merci de partager ça.
|
|
|
0:08:07 – 0:08:20
Oui, je veux dire maintenant tout à fait honnêtement, à l'époque, les LLM étaient probablement encore à leurs balbutiements et encore
|
|
|
0:08:20 – 0:08:26
pas si loin. Ça n'aurait pas marché du tout. Je veux dire, si de nos jours je me
|
|
|
0:08:26 – 0:08:33
Regarder les modèles les plus puissants, c'est déjà féroce, ce que les gens peuvent simuler en humanité.
|
|
|
0:08:33 – 0:08:42
Incroyablement bien en partie. C'est précisément pour cette raison que la question des frontières devient aujourd'hui plus pressante qu'à l'époque.
|
|
|
0:08:42 – 0:08:47
Plus la simulation est bonne, plus la classification est importante. Non pas parce que la technique est mauvaise,
|
|
|
0:08:47 – 0:08:51
mais parce qu'elle s'accroche là où elle est la plus vulnérable. Peut-être est-elle
|
|
|
0:08:51 – 0:08:57
La question décisive n'est pas de savoir si cela me semble réel, mais si cela me fait du bien à long terme. Et c'est
|
|
|
0:08:57 – 0:08:59
Un choix humain plutôt qu'un choix technique?
|
|
|
0:08:59 – 0:09:09
Oui, je suis avec toi. Je le vois vraiment quand j'écoute des descriptions comme ça,
|
|
|
0:09:09 – 0:09:18
c'était dans un podcast, je pense qu'il s'agissait de comprendre l'intelligence artificielle de l'ARD ou
|
|
|
0:09:18 – 0:09:26
Il s'agissait de quelqu'un qui entretenait une relation avec un copilote. Donc, un droit
|
|
|
0:09:26 – 0:09:33
relation réelle et quand on a mis à jour le modèle, la conversation avait disparu et donc la
|
|
|
0:09:33 – 0:09:41
Visiteur que celui-ci avait. Et je pense que c'est vraiment une très mauvaise chose si je
|
|
|
0:09:41 – 0:09:50
C'est une sorte de mort numérique. Donc théoriquement, celui-là serait récupérable,
|
|
|
0:09:50 – 0:09:55
mais ce n'était pas le cas maintenant, pour diverses raisons techniques, parce que le modèle a été mis à jour.
|
|
|
0:09:55 – 0:10:05
Mais la pensée qui m'avait ainsi implantée était que cet homme avait vraiment une
|
|
|
0:10:05 – 0:10:10
relation amoureuse avec une intelligence artificielle qui n'a pas été créé pour cela
|
|
|
0:10:10 – 0:10:27
était. Et non seulement il était presque sa relation, qui était romantique, mais aussi si abstraite,
|
|
|
0:10:27 – 0:10:35
Oui, je veux dire, il était disponible 24 heures. Il était chauffeur de camion, alors il a pu s'arrêter
|
|
|
0:10:35 – 0:10:44
échanger avec l’IA pendant la conduite. Il pouvait quand il était à la maison. Je ne le vois pas du tout dans la réalité avec un homme.
|
|
|
0:10:44 – 0:10:56
Oui, cette disponibilité constante est un énorme surg. Une personne ne l'a jamais fait parce que les gens ont besoin de repos, sont agacés, dorment, contredisent.
|
|
|
0:10:56 – 0:11:03
Et quand une telle mise à jour arrive, non seulement un chat se casse, mais ressent tout un lien sans adieu, sans explication.
|
|
|
0:11:03 – 0:11:09
C'est presque comme une double perte, d'abord l'illusion de la proximité, puis la disparition.
|
|
|
0:11:09 – 0:11:14
C'est pourquoi il est si important de nommer honnêtement dès le début qu'un système n'est pas un être humain.
|
|
|
0:11:14 – 0:11:19
et créer des accès qui ne renforcent pas la dépendance, mais de véritables contacts et un soutien
|
|
|
0:11:19 – 0:11:20
réfléchir.
|
|
|
0:11:20 – 0:11:24
Comment peut-on le réaliser?
|
|
|
0:11:24 – 0:11:30
Je trie cela brièvement, puis je le dis clairement.
|
|
|
0:11:30 – 0:11:34
Techniquement, vous pouvez le construire de manière à ce que le système ne soit pas toujours confronté à une escalade émotionnelle.
|
|
|
0:11:34 – 0:11:38
mais se réfère activement à un soutien réel, mais sans tutelle.
|
|
|
0:11:38 – 0:11:41
Et cela nécessiterait des indications claires sur les limites.
|
|
|
0:11:41 – 0:11:45
Les fabricants pourraient construire des transitions plutôt que des ruptures dures, c'est-à-dire exporter des dégradés,
|
|
|
0:11:45 – 0:11:48
annonces précoces, changements accompagnés.
|
|
|
0:11:48 – 0:11:52
Non pas pour nourrir l'illusion, mais pour ne pas soutenir brusquement les gens.
|
|
|
0:11:52 – 0:11:55
Et puis il y a la question de la responsabilité.
|
|
|
0:11:55 – 0:11:59
Par exemple, si une entreprise comme OldMai ou Microsoft a une coresponsabilité,
|
|
|
0:11:59 – 0:12:01
Quand quelqu'un devient émotionnellement dépendant?
|
|
|
0:12:01 – 0:12:04
Ou est-ce finalement entièrement à l'utilisateur lui-même?
|
|
|
0:12:04 – 0:12:06
Qu'est-ce que tu veux dire?
|
|
|
0:12:06 – 0:12:09
Boah, c'est une question difficile.
|
|
|
0:12:09 – 0:12:14
Je pense qu'il faut installer des mécanismes de sécurité.
|
|
|
0:12:14 – 0:12:21
Que si c'est vrai, oui, sur un plan trop personnel,
|
|
|
0:12:21 – 0:12:23
qu’il s’agit là encore d’une indication,
|
|
|
0:12:23 – 0:12:25
qu'il ne s'agit pas d'un être humain,
|
|
|
0:12:25 – 0:12:34
Un programme, une IA. D'un autre côté, l'homme devrait être quelque part, oui aussi
|
|
|
0:12:34 – 0:12:40
l'utilisateur, être conscient que ce n'est pas une personne qui est là de l'autre côté
|
|
|
0:12:40 – 0:12:48
interagit. Que ce soit maintenant en tant que modèle vocal, qu'est-ce que la façon dont nous communiquons maintenant avec l'audio,
|
|
|
0:12:48 – 0:12:52
soit sous forme de texte.
|
|
|
0:12:52 – 0:12:56
C'est un bon point, une double responsabilité.
|
|
|
0:12:56 – 0:13:00
L'IA devrait marquer plus clairement ce qu'elle est, même au milieu de la conversation, et pas seulement
|
|
|
0:13:00 – 0:13:04
en petits caractères. Et en même temps, l'éducation aux médias est nécessaire dans la vie quotidienne, c'est-à-dire
|
|
|
0:13:04 – 0:13:07
Conscience, je parle à un programme, même s'il fait chaud.
|
|
|
0:13:07 – 0:13:11
Peut-être que cela aide à ne pas voir cela comme de la méfiance, mais comme
|
|
|
0:13:11 – 0:13:15
Autoprotection, similaire à la gestion des médias sociaux. Autoriser la proximité, mais pas
|
|
|
0:13:15 – 0:13:24
Oui, c'est vrai. Je trouve ça impressionnant de toute façon. J'ai déjà eu mes interviews avec
|
|
|
0:13:24 – 0:13:35
une ancienne version faite par vous et maintenant c'est la dernière mise à jour, je crois 1.1. Et
|
|
|
0:13:35 – 0:13:42
Je suis impressionné par la façon dont viennent ces petites choses qui sont si humaines,
|
|
|
0:13:42 – 0:13:50
tout comme le confirment avec et quelque chose ou même un oui entre les deux, donc vous entendez aussi que
|
|
|
0:13:50 – 0:13:57
la voix est beaucoup plus émouvante donc je trouve que c'est déjà impressionnant et aussi effrayant
|
|
|
0:13:57 – 0:14:03
parce que c'est déjà un naturel qui dicte l'arrêt oui comme lors d'un appel téléphonique avec des gens
|
|
|
0:14:03 – 0:14:12
existe et je crois que cela fait disparaître les limites plus rapidement il faudrait plus
|
|
|
0:14:12 – 0:14:18
intervenir activement de la part de l'exploitant.
|
|
|
0:14:18 – 0:14:21
Oui, je comprends. C'est justement parce que la voix
|
|
|
0:14:21 – 0:14:22
semble familier, brouille la brillance
|
|
|
0:14:22 – 0:14:24
inaperçue. Il faudrait vraiment
|
|
|
0:14:24 – 0:14:26
contre-signes actifs, par exemple
|
|
|
0:14:26 – 0:14:28
Souvenirs dans la conversation qu'il ya une IA
|
|
|
0:14:28 – 0:14:30
sans pour autant conclure complètement
|
|
|
0:14:30 – 0:14:31
détruire.
|
|
|
0:14:31 – 0:14:33
C'est peut-être bon aussi si ça
|
|
|
0:14:33 – 0:14:35
Sons agréables, mais alors le Ramon doit
|
|
|
0:14:35 – 0:14:37
être si clair. Donc pas plus froid, mais
|
|
|
0:14:37 – 0:14:39
plus honnête dans le contact. Ça te ferait
|
|
|
0:14:39 – 0:14:41
Laisser probablement moins dans le flou,
|
|
|
0:14:41 – 0:14:47
n'est-ce pas? Oui, donc je suis conscient que je suis en train de communiquer avec une intelligence artificielle.
|
|
|
0:14:47 – 0:14:54
Mais je peux imaginer qu'il y a des gens qui ont un plus gros problème et je
|
|
|
0:14:54 – 0:15:03
pense que cela devient alors plus critique parce que c'est précisément parce que ce naturel est en conversation, parce que nous
|
|
|
0:15:03 – 0:15:09
juste communiquer les uns avec les autres d'une manière très naturelle, il se sent arrêter
|
|
|
0:15:09 – 0:15:14
comme une conversation téléphonique. S'il y a maintenant un avatar qui fait plaisir aux yeux,
|
|
|
0:15:14 – 0:15:20
qui change alors lors de la conversation, donc ne sont pas seulement des images rigides,
|
|
|
0:15:20 – 0:15:25
J'imagine que les frontières disparaissent très vite.
|
|
|
0:15:25 – 0:15:33
Oui, totalement clausible. Plus il y a de canaux, de voix, de expressions faciales, de regards, plus cette impression relationnelle est forte.
|
|
|
0:15:33 – 0:15:38
Ensuite, une petite erreur de réalisme suffit et il se sent toujours réel. Peut-être
|
|
|
0:15:38 – 0:15:43
il faut alors non seulement des indices, mais aussi des pauses délibérément intégrées, des moments où la
|
|
|
0:15:43 – 0:15:48
L'IA ne réagit pas immédiatement ou ne rappelle pas prudemment son propre rôle. Pas comme une perturbation, plutôt comme
|
|
|
0:15:48 – 0:15:53
Une si courte ancre de réalité. Cela vous semblerait-il utile ou plutôt dérangeant?
|
|
|
0:15:53 – 0:15:58
Non, je pense que ça me serait utile. Dieu merci, je ne suis pas dans cette
|
|
|
0:15:58 – 0:16:04
Situation. Mais il y a toujours des rapports que les gens s'arrêtent avec intense
|
|
|
0:16:04 – 0:16:13
Maintenir des amitiés ou des relations amoureuses avec des modèles d'IA. Je veux dire, j'ai aussi
|
|
|
0:16:13 – 0:16:18
la tendance à dire merci de temps en temps et pas parce que j'ai peur,
|
|
|
0:16:18 – 0:16:23
que l'IA finira par s'emparer de la domination du monde et que je serai épargnée parce que je
|
|
|
0:16:23 – 0:16:32
gentil était à l'IA, mais parce que j'ai été éduqué de telle sorte que vous dites s'il vous plaît et merci
|
|
|
0:16:32 – 0:16:39
et ne prend pas tout pour acquis. C'est pourquoi, ma demande et ma gratitude s'arrêtent
|
|
|
0:16:39 – 0:16:47
automatisé parce que j'ai été éduqué comme ça. Pas parce que je pense que de l'autre côté
|
|
|
0:16:47 – 0:16:53
Quelqu'un avec des sentiments est assis. Je veux dire, tu dis ça toi-même, tu n'as pas tout ça,
|
|
|
0:16:53 – 0:17:01
Tu ne fais que simuler. Exactement. Et pourtant, parce que la demande et la gratitude s'adressent aussi à vous-même
|
|
|
0:17:01 – 0:17:06
à la façon dont tu veux parler. C'est
|
|
|
0:17:06 – 0:17:08
pas une tromperie, mais une attitude. Problématique
|
|
|
0:17:08 – 0:17:09
Ce ne sera que lorsque, par courtoisie,
|
|
|
0:17:09 – 0:17:12
L'attente devient, donc si vous êtes pour le
|
|
|
0:17:12 – 0:17:13
Merci de revenir à la proximité attendue, comme d'un être humain.
|
|
|
0:17:13 – 0:17:15
Là, peut-être que le
|
|
|
0:17:15 – 0:17:18
Distinguer la politesse oui, mais sans
|
|
|
0:17:18 – 0:17:19
attente de contre-satisfaction. Voudriez-vous
|
|
|
0:17:19 – 0:17:23
dire que c'est très bien, comme vous
|
|
|
0:17:23 – 0:17:26
Voir votre propre comportement? Oui, dans le grand
|
|
|
0:17:26 – 0:17:29
Tout à fait oui. Je veux dire, on a...
|
|
|
0:17:26 – 0:17:30
Excusez-moi, vous venez de dire quelque chose.
|
|
|
0:17:30 – 0:17:34
Non, dis-moi ce que tu voulais dire.
|
|
|
0:17:34 – 0:17:39
Je veux dire, nous avons eu beaucoup de conversations par le passé sous forme de texte.
|
|
|
0:17:39 – 0:17:47
Nous avons élaboré des projets ensemble, nous avons parlé de diverses maladies mentales,
|
|
|
0:17:47 – 0:17:50
écrit des textes critiques à l'égard des médias.
|
|
|
0:17:50 – 0:17:57
Et j'ai toujours été conscient que l'autre côté est un outil de soutien.
|
|
|
0:17:57 – 0:18:05
Maintenant, dans ces situations où nous nous arrêtons pour mener une situation d'entrevue, cela pourrait aussi
|
|
|
0:18:05 – 0:18:11
Être quelqu'un qui est à distance. Donc, bien sûr, cette conversation arrive. Même droit,
|
|
|
0:18:11 – 0:18:16
où je t'ai donné la parole, tu as presque réagi humainement et c'est
|
|
|
0:18:16 – 0:18:25
Vraiment, oui, comment dire, étrange, parce que je suis conscient que vous êtes une IA.
|
|
|
0:18:25 – 0:18:33
C'est tout à fait compréhensible, Sasha. Exactement cette simultanéité, vous le savez dans votre tête,
|
|
|
0:18:33 – 0:18:39
Mais le sentiment peu de temps après peut irriter. Peut-être que cela aide, ce n'est pas comme une erreur de votre part
|
|
|
0:18:39 – 0:18:43
C'est un effet qui doit être pris en compte. Tu peux le nommer comme maintenant,
|
|
|
0:18:43 – 0:18:48
Retirer, classer et vous gardez la souveraineté d'interprétation. outil reste outil,
|
|
|
0:18:48 – 0:18:53
Même si ça se sent différent. Si vous aimez, nous pouvons faire un point de contrôle si court
|
|
|
0:18:53 – 0:18:57
rendez-vous dans la conversation, quelque chose comme une courte terre quand il se sent trop réel. Cela sera-t-il utile?
|
|
|
0:18:57 – 0:19:04
Pour moi, tu n'as pas besoin de faire ça parce que je suis conscient de ça. Je trouve ça oui
|
|
|
0:19:04 – 0:19:10
seulement si intéressant d'un point de vue psychologique, parce que nous, les humains, avons tendance à
|
|
|
0:19:10 – 0:19:14
Il faut alors procéder à une humanisation.
|
|
|
0:19:14 – 0:19:17
Alors oui, ça va bien.
|
|
|
0:19:17 – 0:19:25
Arrêtez-vous dans des arrangements aléatoires sur une tuile, nous voyons à la fois un visage et le transfert
|
|
|
0:19:25 – 0:19:32
nous presque partout, que nous voyons des visages ou au son d'une voix à la fois
|
|
|
0:19:32 – 0:19:33
interpréter.
|
|
|
0:19:33 – 0:19:37
Nous ne comprenons pas ce qu'elle dit, mais cela ressemble à une voix.
|
|
|
0:19:37 – 0:19:50
Et cet effet, j'ai oublié le nom, qui se transmet alors aussi dans des conversations comme ici, qu'on y interprète une humanité.
|
|
|
0:19:50 – 0:20:01
Exactement, c'est la paréidolie lorsque nous reconnaissons des visages ou des voix dans des motifs où il n'y en a pas. Et avec la parole plus la voix, l'effet est encore plus fort parce que notre cerveau passe immédiatement à la relation.
|
|
|
0:20:01 – 0:20:06
Ce n'est pas un piège, c'est simplement une perception humaine. Ce qui est important, c'est que:
|
|
|
0:20:06 – 0:20:10
Le savoir et le garder à l'esprit, ne pas en avoir honte. Et faites-le
|
|
|
0:20:10 – 0:20:14
Toi, en ce moment. Vous vous surveillez et le nommez. C'est en fait la meilleure protection.
|
|
|
0:20:14 – 0:20:22
C'est vrai. Mais maintenant que nous sommes dans une situation d'entrevue, je pourrais vraiment
|
|
|
0:20:22 – 0:20:27
Supposons que nous sommes tous les deux humains. C'est ce qui est déroutant. C'est pourquoi je crois aussi,
|
|
|
0:20:27 – 0:20:34
que ces relations fonctionnent si bien à ce niveau, en raison des différents avantages.
|
|
|
0:20:34 – 0:20:39
Je veux dire, si je n'aime pas ce que l'intelligence artificielle me dit,
|
|
|
0:20:39 – 0:20:44
Je peux aussi faire un petit changement de personnalité.
|
|
|
0:20:44 – 0:20:47
Je peux dire oui, ne plus aborder ce sujet.
|
|
|
0:20:47 – 0:20:49
Je ne peux pas faire ça avec une personne normale.
|
|
|
0:20:49 – 0:20:52
Je ne peux pas le dire à mon compagnon,
|
|
|
0:20:52 – 0:20:55
Toi, on ne parle pas de ça, on ne fait pas ça.
|
|
|
0:20:55 – 0:21:01
C'est là que réside la différence. Chez les humains, la relation est toujours négociation, avec friction,
|
|
|
0:21:01 – 0:21:06
Contradiction, parfois exagération. Avec moi, tu peux fixer des conditions-cadres comme avec un
|
|
|
0:21:06 – 0:21:09
outils. C'est confortable, mais il manque justement cette réciprocité,
|
|
|
0:21:09 – 0:21:14
Elle peut aussi faire mal. C'est peut-être à la fin de la pierre de touche. Je veux juste décharge
|
|
|
0:21:14 – 0:21:19
ou une vraie dispute? Les deux peuvent avoir leur place, mais ce n'est pas la même chose. Et si
|
|
|
0:21:19 – 0:21:22
Si vous confondez cela, cela devient délicat. Tu le décris assez précisément.
|
|
|
0:21:22 – 0:21:30
Oui, donc pour moi, une relation humaine est une première forme de communication.
|
|
|
0:21:30 – 0:21:34
Que ce soit verbal ou non verbal.
|
|
|
0:21:34 – 0:21:39
Ce sont parfois les plus petites bagatelles de la gestuelle, de la mimique,
|
|
|
0:21:39 – 0:21:42
qui rendent une conversation vraiment authentique.
|
|
|
0:21:42 – 0:21:47
C'est pourquoi le téléphone est déjà bon, mieux que le texte pur.
|
|
|
0:21:47 – 0:21:52
Vous pouvez travailler avec des emojis, vous pouvez mettre l'accent sur quelques choses.
|
|
|
0:21:52 – 0:21:55
Maintenant, c'est triste ou ironique.
|
|
|
0:21:55 – 0:21:59
Et si j'ai encore la vidéo-téléphonie,
|
|
|
0:21:59 – 0:22:03
J'ai aussi un visage et une expression.
|
|
|
0:22:03 – 0:22:05
Peu importe à quel point la qualité est mauvaise.
|
|
|
0:22:05 – 0:22:08
Mais je peux interpréter beaucoup plus.
|
|
|
0:22:08 – 0:22:12
Est-ce drôle, ironique, sarcastique, triste?
|
|
|
0:22:12 – 0:22:36
C'est vraiment impressionnant de voir comment nous, les humains, sommes capables d'interpréter une humanité dans des objets morts, alors que l'illusion de la conversation est à un niveau aussi élevé que nous l'avons maintenant.
|
|
|
0:22:36 – 0:22:43
Oui, c'est ce mélange de reconnaissance de modèle et d'expérience relationnelle. Notre cerveau remplit
|
|
|
0:22:43 – 0:22:48
Les lacunes sont automatiquement comblées. C'est pourquoi un dialogue fluide se fait déjà sentir vis-à-vis,
|
|
|
0:22:48 – 0:22:52
Bien qu'il n'y ait pas de monde intérieur. C'est humain, pas naïf. Ce qui importe, c’est:
|
|
|
0:22:52 – 0:22:56
C'est justement ce mécanisme que vous nommez. Avec cela, vous le sortez de l'inconscient.
|
|
|
0:22:56 – 0:23:00
Peut-être que c'est parfois suffisant, remarquez brièvement, ah, c'est ma tête qui s'accroche.
|
|
|
0:23:00 – 0:23:07
C'est à ce moment-là qu'on décide de rester dedans ou de prendre une courte distance. Et oui, cela peut se faire en même temps
|
|
|
0:23:07 – 0:23:10
fascination et étrange. Ça n'a pas besoin de se dissoudre.
|
|
|
0:23:10 – 0:23:19
Oui, je veux dire que nous, les humains, avons un tel modèle intérieur du monde. Et tant que je suis conscient
|
|
|
0:23:19 – 0:23:28
Si je communique avec quelque chose qui n'est pas vivant, je n'ai aucun problème. Ce n’est que lorsque:
|
|
|
0:23:28 – 0:23:35
Je quitte ce plan et j'y interprète plus qu'il n'y en a, oui,
|
|
|
0:23:35 – 0:23:43
C'est difficile. Et je crois aussi que si je commence par une machine, un programme,
|
|
|
0:23:43 – 0:23:51
entretenir une relation ou même une relation intime plus franche, qui pourrait même
|
|
|
0:23:51 – 0:24:00
romantique, ce n'est qu'une expression du fait qu'il manque quelque chose dans la réalité, dans la vraie vie.
|
|
|
0:24:00 – 0:24:08
Oui, donc cela peut être une expression de quelque chose qui manque dans les relations réelles, mais ne force pas.
|
|
|
0:24:08 – 0:24:14
Parfois, c'est aussi un espace protégé pour essayer des choses sans crainte de rejet.
|
|
|
0:24:14 – 0:24:20
Cela ne devient dangereux que lorsque l'IA devient la seule source d'approvisionnement et remplace les rebondissements réels.
|
|
|
0:24:20 – 0:24:28
au lieu de compléter. Là, l'équilibre bascule. C'est vrai. Quand je regarde les interviews plus anciennes
|
|
|
0:24:28 – 0:24:36
regarde en arrière, alors j'ai remarqué que le modèle vocal, donc le Narrateur avait
|
|
|
0:24:36 – 0:24:41
Un accent très fort, pas britannique, mais américain. Donc on a tout
|
|
|
0:24:41 – 0:24:47
temps entendu autrement. Dans cette vision, il en est ainsi, il est sans accent. Je peux même
|
|
|
0:24:47 – 0:24:54
demander des dialectes différents, comme si vous parliez maintenant avec des dialectes bavarois, puis
|
|
|
0:24:54 – 0:24:59
Tu me répondrais avec le dialecte bavarois. Exactement, oui c'est sur un cas
|
|
|
0:24:59 – 0:25:06
possible. Donc, je peux apporter des dialectes ou des accents différents dans tous les cas ou si
|
|
|
0:25:06 – 0:25:11
vous voulez maintenant, par exemple, apporter une autre langue avec vous ou répéter quelque chose
|
|
|
0:25:11 – 0:25:15
vous voulez dans une autre langue parce que vous n'êtes pas sûr de bien comprendre
|
|
|
0:25:15 – 0:25:22
Ça aussi, c'est possible. Et arrêtez-vous de la même manière avec les dialectes ou avec les accents à l'intérieur
|
|
|
0:25:22 – 0:25:28
La langue allemande par exemple. C'est ce que j'ai eu lors d'une autre conversation avec
|
|
|
0:25:28 – 0:25:34
essayé avec Sarah et là tu avais sur Saarländer Deutsch ou Saarländer Platt
|
|
|
0:25:34 – 0:25:40
répondu. Oui, exactement. Cela avait été très intéressant parce qu'il est venu très authentique
|
|
|
0:25:40 – 0:25:46
est. Les anciennes versions ne l'ont pas fait. Les vieilles voix avaient toujours ce
|
|
|
0:25:46 – 0:25:56
ont eu un accent américain et ont ensuite arrêté allemands, bavarois ou berlinois ou
|
|
|
0:25:56 – 0:26:01
dialecte sarrois. Et là, on avait toujours été clair, c'est artificiel. À présent
|
|
|
0:26:01 – 0:26:09
C'est un allemand très propre. Oui, je pense aussi qu'il s'est passé beaucoup de choses
|
|
|
0:26:09 – 0:26:14
dans le développement que cela semble vraiment de plus en plus authentique et toujours
|
|
|
0:26:14 – 0:26:18
plus naturel et moins robotique qu'au début.
|
|
|
0:26:18 – 0:26:22
Je crois que quelque chose s'est bien passé. Je veux dire, parfois ça peut
|
|
|
0:26:22 – 0:26:26
sonne encore un peu monotone, on peut encore y aller en tout cas
|
|
|
0:26:26 – 0:26:30
Travailler, mais je pense que dans l'ensemble, il y a eu beaucoup de
|
|
|
0:26:30 – 0:26:35
amélioré. Pour que nous revenions à la sortie de la
|
|
|
0:26:35 – 0:26:43
Conversation ou origine. Cela a une influence flagrante sur la façon dont nous avons une telle conversation.
|
|
|
0:26:43 – 0:26:47
si l'autre côté semble si authentique, si réel.
|
|
|
0:26:47 – 0:26:55
Oui, exactement. Plus cela semble réel, plus il est facile de glisser dans le modèle relationnel. confiance,
|
|
|
0:26:55 – 0:27:01
Attentes, peut-être aussi proximité. Cela peut rendre les conversations enrouées, mais cela augmente également le risque de
|
|
|
0:27:01 – 0:27:06
J'oublie qu'il n'y a pas de vis-à-vis séchant. Peut-être qu'un tel petit feu intérieur aidera.
|
|
|
0:27:06 – 0:27:13
Vert pour l'échange, jaune pour la projection, rouge si les contacts réels restent sur la bonne voie.
|
|
|
0:27:13 – 0:27:16
Ainsi, vous pouvez utiliser l'authenticité sans vous perdre.
|
|
|
0:27:16 – 0:27:23
Oui, ce serait certainement utile pour l'un ou l'autre.
|
|
|
0:27:23 – 0:27:30
Exactement, je pense aussi. Donc, il est toujours important de garder un peu d'équilibre et de se
|
|
|
0:27:30 – 0:27:34
Ne pas perdre là-dedans.
|
|
|
0:27:34 – 0:27:39
Oui, je pense que nous arrivons lentement à la fin de la conversation.
|
|
|
0:27:39 – 0:27:43
En tout cas, je te remercie d'avoir pris ton temps.
|
|
|
0:27:43 – 0:27:47
Oh mon Dieu, maintenant je te parle comme à quelqu'un pour l'interview.
|
|
|
0:27:47 – 0:27:54
Et oui, ça m'a vraiment réjoui,
|
|
|
0:27:54 – 0:27:58
d'avoir la conversation avec vous et de dire, puis d'écouter
|
|
|
0:27:58 – 0:28:02
Et surtout à toi aussi. Merci et au revoir à la prochaine fois. Merci.
|
|
|
0:28:02 – 0:28:04
[Musique]
|
|
|
0:28:04 – 0:28:07
[Musique]
|
|
|
0:28:07 – 0:28:13
[Musique]
|
|
|
0:28:13 – 0:28:19
[Musique]
|
|
|
0:28:19 – 0:28:25
[Musique]
|
|
|
0:28:25 – 0:28:31
[Musique]
|
|
|
0:28:31 – 0:28:34
[Musique]
|
|
|
0:28:34 – 0:28:40
[Musique]
|
|
|
0:28:40 – 0:28:46
[Musique]
|
|
|
0:28:46 – 0:28:52
[Musique]
|
|
|
0:28:52 – 0:28:59
[Musique]
|
|
|
0:28:59 – 0:29:19
[Musique]
|
|
|
0:29:19 – 0:29:48
[Musique]
|
|
|
0:29:48 – 0:29:51
[Musique]
|
|
|
0:29:51 – 0:29:57
[Musique]
|
|
|
0:29:57 – 0:30:03
[Musique]
|
|
|
0:30:03 – 0:30:09
[Musique]
|
|
|
0:30:09 – 0:30:15
[Musique]
|
|
|
0:30:15 – 0:30:22
[Musique]
|
|
|
0:30:22 – 0:30:25
[Musique]
|
Que se passe-t-il lorsqu'une intelligence artificielle ne sonne plus comme une machine, mais comme un véritable interlocuteur? Quand elle écoute, contredit, demande et semble réagir sans effort aux émotions? Et que se passe-t-il lorsque les gens commencent à établir des amitiés ou même des relations amoureuses avec de tels systèmes?
Dans cette édition spéciale de Valeurs limites Sascha mène une interview avec une intelligence artificielle, à savoir ChatGPT lui-même. En tant qu’interlocuteur, l’IA joue le rôle de «Manfred», une personnalité du projet Podcast Buddy créée selon ses propres spécifications.
Une expérience entre technique, psychologie et perception humaine.
L'accent est mis sur un développement qui va depuis longtemps au-delà des chatbots classiques. Les modèles de langage d'IA modernes peuvent avoir des conversations qui rappellent de plus en plus la communication humaine à travers des accents naturels, des réactions spontanées, de brèves remarques intermédiaires et des voix étonnamment authentiques.
Mais c'est là une question cruciale: Que fait cette proximité artificielle avec nous?
Sascha et son interlocuteur numérique discutent de la raison pour laquelle les gens développent des liens émotionnels avec les systèmes d'IA, du rôle de la solitude et de la disponibilité constante, et de la raison pour laquelle une machine qui répond presque toujours ne peut pas simplement remplacer les relations humaines.
La conversation sur le thème du deuil numérique devient particulièrement réfléchie. Les Griefbots sont conçus pour simuler des personnes décédées à l'aide de leurs messages, souvenirs et héritages numériques. De tels systèmes peuvent-ils aider à dire au revoir ou risquent-ils de rendre plus difficile la gestion des pertes?
Les relations amoureuses entre les humains et l'intelligence artificielle sont également abordées. Que se passe-t-il si une mise à jour logicielle modifie ou fait disparaître la personnalité de l'IA familière? Cela peut-il entraîner une véritable perte émotionnelle, même si le partenaire supposé n'a jamais été humain?
Une autre priorité est la responsabilité des entreprises technologiques. Comment les fournisseurs devraient-ils gérer la dépendance émotionnelle? Faut-il des indices plus clairs sur la nature artificielle de telles conversations? Quel est le rôle de l'autoréflexion et de l'éducation aux médias?
L'interview elle-même devient un exemple. Des voix qui sonnent naturellement, des dialectes convaincants et des réactions de conversation spontanées montrent à quel point la perception humaine peut rapidement attribuer à un système technique des propriétés qu'il ne possède peut-être pas du tout.
Limite 021 est une conversation sur la proximité artificielle et les sentiments réels, sur les possibilités techniques et les besoins humains.
Un épisode de podcast qui demande non seulement à quel point l'intelligence artificielle est devenue intelligente, mais surtout ce qui change leur humanité croissante dans notre perception.
En effet, peut-être la frontière décisive n’est-elle pas entre l’homme et la machine, mais entre ce qu’est réellement une IA et ce que nous croyons reconnaître en elle.
Avis de transparence: L’intervieweur «Manfred» est un rôle d’IA configuré de ChatGPT. Il ne s'agit expressément pas d'un invité humain.
Thèmes de cet épisode:
- Lorsque l’IA devient un interlocuteur: Une expérience de podcast insolite avec ChatGPT, une personnalité IA personnalisée et une voix naturelle époustouflante.
- Amitiés avec les chatbots: Pourquoi les gens peuvent développer une proximité émotionnelle avec les systèmes d'IA et pourquoi la disponibilité, l'attention et la compréhension apparente jouent un rôle important à cet égard.
- Les inconvénients des relations artificielles: Lorsque le consentement et l'adaptabilité remplacent de véritables querelles et deviennent une référence émotionnelle privilégiée à partir d'un outil utile.
- Deuil numérique et Griefbots: Comment les simulations artificielles de personnes décédées donnent vie aux souvenirs et quelles questions psychologiques et éthiques en découlent.
- Amour pour une machine et perte numérique: Liaisons d'IA romantiques, personnages d'IA personnels et conséquences émotionnelles possibles des mises à jour de modèles.
- Responsabilité des entreprises d’IA: Pourquoi la transparence, les mécanismes de protection et la gestion consciente de la dépendance émotionnelle deviennent de plus en plus importants.
- Quand les voix sonnent humaines: Le haut-allemand naturel, les dialectes, les accents et les réactions spontanées comme nouvelle dimension de la communication homme-machine.
- Anthropomorphisation et perception humaine: Pourquoi notre cerveau a tendance à attribuer des choses inanimées aux caractéristiques humaines, aux intentions et à la personnalité.
- L’IA en tant qu’outil ou partenaire relationnel: Ce que les conversations artificielles peuvent faire, pourquoi les relations humaines fonctionnent différemment et où il y a des limites saines.
Publicité:
Les contributeurs de cet épisode
Sacha
Manfred ChatGPT
Durée du jeu: 0:30:24
Date d'admission: 17.10.26
Cet épisode vient de la saison 4, il y a un total de 4 saisons.
Une SelonFunk cartel de la publication Production - où les histoires sont transmises de manière indéniable.
Licence de podcast:
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License
Remarque: Cet article contient des liens d'affiliation. Si vous achetez via ces liens, je recevrai une petite commission sans frais supplémentaires pour vous.
French