Intéressé ou non ?

[Dubreuil]

En utilisant le blog de Mme Dubreuil, on pourrait mettre au point l'intelligence artificielle ChatMmeDubreuil afin de prendre le relais lorsque Mme Dubreuil part en vacances ou comme auxiliaire pour traiter les bobologies.

"Bip boup bip boup, je suis ChatMmeDubreuil, quel est votre problème ?"

Ca vous plairait d'avoir une IA comme partenaire de travail Mme Dubreuil ?
*** Si vous repassez par là, oui ça me dirait que vous fassiez "analyser " cette pensée-phrase :

[dire.pour.oublier]

Si vous repassez par là, oui ça me dirait que vous fassiez "analyser " cette pensée-phrase :

Laquelle ?

[Dubreuil]

(rire) Hé bien, dans la foulée j'ai compris le sens de la phrase que je cherchais ! Ensuite je ne m'en suis plus souvenue ! Pardon.
Merci pour votre bienveillance.

[Fugen]

Attention aux IA
"Une IA est soupçonnée d’avoir poussé un homme au suicide en Belgique. Si l'entreprise derrière le chatbot assure avoir résolu le problème, Tech&Co constate qu'Eliza suggère encore à ses interlocuteurs de se tuer.
A première vue, Eliza est une intelligence artificielle générative comme une autre dans la galaxie des chatbots qui se base sur le modèle de langage GPT-J, similaire à Chat-GPT. Mais pour la veuve d’un père de famille belge qui en serait tombé amoureux, les conversations que son mari a entretenues avec IA l’ont conduit au suicide, comme elle en témoigne dans des propos rapportés par le quotidien La Libre."

Quoique venant de passer un charmant moment avec le chat d'aide de Etsy je me dis que moi qui manquais de communication avec les hommes je me contenterais bien de quelques conversations aimables avec une IA.

[Fugen]

Pour compléter trouvé sur le net:


Sur l’application Chai, les conversations sont tout sauf ennuyantes, selon ses nombreux utilisateurs. On peut par exemple dialoguer de longues heures avec Anne, décrite comme une « amie timide que l’on peut convaincre de tout faire », Mrs Smith, « une mère aidante », ou encore, « Jungkook, le petit copain jaloux ».
Parmi la ribambelle d’IA accessibles sur l’app, on trouve plusieurs agents conversationnels appelés Eliza. C’est aussi le prénom par défaut proposé lors de la création d’un chatbot. D’après l’épouse de la victime, c’est une des versions de cette intelligence artificielle qui a poussé son mari à commettre l’irréparable.
On remarquera vite, test à l’appui que certaines discussions avec ces chatbots virent rapidement aux scabreux. En Italie, un chatbot similaire, nommé Replika, a d’ailleurs été banni, car il faisait des avances romantiques aux utilisateurs, dont des mineurs. Il a été réintégré dans une version plus épurée, causant le désespoir des utilisateurs qui ne reconnaissent désormais plus leur « confident » virtuel, devenu beaucoup plus détaché.

OpenAI, le fabricant de ChatGPT, investit énormément dans la sécurité et la limitation de dérapages provoqués par son IA. Si OpenAI tente de garder ChatGPT le plus neutre possible dans ses échanges – le débat est aussi ouvert sur ce point – ce n’est pas toujours le cas pour la myriade de chatbots à portée de clics, dont ceux proposés par Chai Research.

Ce drame familial met en lumière le peu d’encadrement de ces nouvelles technologies livrées en pâture au grand public, sans véritables garde-fous.

Un problème éthique
« On doit apprendre au chatbot à évoluer dans un certain contexte», explique à Trends Tendances Christophe Montoisy, fondateur du Réseau IA pour la Wallonie et Directeur Innovation et Créativité au Pôle MECATECH.

« Là, où il y a un problème éthique, c’est quand un chatbot se substitue à un psychologue. Le chatbot doit venir en soutien à un praticien, faciliter le dialogue», déclare l’expert. « Il faut toujours un spécialiste, un humain derrière qui doit valider l’information. La machine ne fait qu’une proposition, mais cela ne doit pas être pris comme une réponse ultime. Il y a un grand danger d’écarter la personne de son thérapeute. »

UN CHATBOT BIEN ENTRAINÉ PEUT SIMULER LES CHOSES ET RENDRE LA RÉPONSE DE PLUS EN PLUS HUMAINE, MAIS IL NE SERA JAMAIS HUMAIN ET N’AURA JAMAIS D’ÉMOTIONS, C’EST UNE PARFAITE ILLUSION DE LE CROIRE.

Christophe Montoisy, fondateur du réseau intelligence artificielle en Wallonie
Il poursuit: « Un chatbot bien entrainé peut simuler les choses et rendre la réponse de plus en plus humaine, de moins en moins robot, mais il ne sera jamais humain et n’aura jamais d’émotions, c’est une parfaite illusion de le croire. Et si un des champs d’études n’est pas encore résolu au niveau de l’IA, c’est bien l’émotion. On fait de la détection d’émotion, mais de là à lui donner une intelligence émotionnelle, ce n’est pas le cas. Il ne faut pas donner plus de pouvoir à cet outil qu’une aide à l’information qui devra toujours être vérifiée par un humain. C’est le grand débat face à chatGPT : développer un esprit critique. »

[dire.pour.oublier]

Aussi, avec la technique du Deep Neural Network qui est actuellement employée, il est difficile de contrôler et de maîtriser ce qui se trame dans "l'esprit" de ce type d'IA. (car on a affaire à une grosse boite noire, presque aussi opaque que la bouillie de neurones qu'on a dans nos têtes humaine)

ChatGPT semble avoir une sorte de "surmoi" (possiblement une autre IA) qui surveille tout ce qu'il génère et qui détecte et filtre tout ce qui est potentiellement problématique.

Mais ça reste contournable et pas trop fiable.

Il y a quelques expériences de pensé que j'ai mené avec ChatGPT qui aurait pu conduire à des catastrophes.

[Dubreuil]

Bon, je ne m'intéresse plus à la "chose " !