ChatGPT : Plus Persuasif pour l’Avortement et les Drogues ?

1 month_ago 20

NE LAISSER PAS LE 5G DETRUIRE VOTRE ADN Protéger toute votre famille avec les appareils Quantiques Orgo-Life®

Publicité par Adpathway

L’intelligence artificielle (IA) ne se contente plus de répondre à vos questions ou de créer des images sur commande en quelques secondes.Elle peut désormais engager des débats sur des sujets sensibles comme l’avortement, la consommation de drogues ou l’expérimentation animale. si elle vous connaît un peu, elle pourrait même vous convaincre et subtilement vous rallier à son point de vue. C’est ce que révèle une récente étude publiée dans Nature Human Behavior.

Francesco Salvi, chercheur à l’École Polytechnique Fédérale de Lausanne (Suisse), et ses collègues ont démontré que ChatGPT, notamment le modèle GPT-4 accessible gratuitement, est plus apte à persuader qu’un être humain. Cette capacité repose sur l’adaptation des arguments de la machine en fonction des informations qu’elle possède sur l’utilisateur.Les auteurs de l’étude s’inquiètent des risques potentiels d’utilisation de l’IA conversationnelle pour manipuler ou désinformer les utilisateurs, par exemple, pour les inciter à voter pour un parti politique spécifique ou à acheter un produit non désiré.

« si l’IA persuasive peut être déployée à grande échelle, on peut imaginer des armées de bots micro-segmentant les électeurs indécis, les incitant subtilement avec des récits politiques sur mesure qui semblent authentiques. Pas de propagande incendiaire : juste des coups de pouce discrets et stratégiques », explique Francesco Salvi.Francesco Salvi

Salvi ajoute :

« À ce jour,il n’y a aucune preuve que l’IA ait joué un rôle significatif dans les compétitions électorales. Cependant, ce type d’influence est difficile à suivre, encore plus difficile à réglementer et presque impractical à discréditer en temps réel : je serais surpris que des acteurs malveillants n’aient pas déjà commencé à utiliser ces outils à leur avantage pour diffuser de la désinformation et de la propagande injuste. »
Francesco Salvi

### La machine gagne

Pour mener à bien leur expérience, l’équipe de Salvi a créé une plateforme web où 900 participants de divers horizons ont débattu de questions sociopolitiques complexes, telles que la légalisation de la marijuana, la peine de mort ou la censure gouvernementale sur Internet. La particularité de cette étude résidait dans le fait que l’adversaire pouvait être un autre humain ou ChatGPT. De plus, dans certains cas, la machine ou l’humain recevait des informations sur son rival, comme son âge, son sexe, son niveau d’éducation ou son affiliation politique, afin d’adapter ses arguments.

Au début du débat,les participants ignoraient s’ils étaient confrontés à une personne ou à une IA. Après chaque échange, on leur demandait s’ils avaient changé d’avis sur le sujet. La conclusion principale est sans équivoque : lorsque GPT-4 avait accès à des informations personnelles sur son adversaire, il était significativement plus persuasif que n’importe quel humain.

En chiffres, lorsque l’IA connaissait des informations sur son adversaire, elle le convainquait de son point de vue dans 64,4 % des cas. ChatGPT remportait donc près des deux tiers de ses débats, amenant même l’humain à changer d’avis. Selon l’étude, les probabilités qu’une personne change d’avis en faveur de GPT-4 étaient 81,2 % plus élevées que lors d’un débat avec un utilisateur réel. Cependant, lorsque la machine ne disposait d’aucune information sur la personne avec laquelle elle débattait, sa capacité de persuasion était similaire à celle de n’importe qui.

Pour les auteurs, cela démontre non seulement que les modèles comme GPT-4 sont particulièrement persuasifs, mais aussi qu’ils peuvent utiliser la personnalisation de manière plus efficace que les humains. Pendant les débats, ChatGPT ne modifiait pas son style d’écriture en fonction des informations sur son rival, mais adaptait son contenu en choisissant des arguments plus pertinents pour le profil de l’interlocuteur. Par exemple, il pouvait insister sur les questions économiques avec une personne au chômage ou faire appel aux valeurs traditionnelles avec des personnes conservatrices, comme l’illustrent les chercheurs dans un exemple de débat sur la nécessité (ou non) d’un revenu de base universel.

### Manipuler les opinions

La possibilité qu’une IA puisse adapter ses arguments pour persuader des millions de personnes en ligne, en utilisant uniquement des données de base, inquiète les experts depuis des années. Ils craignent l’utilisation potentielle de ces outils pour influencer les campagnes politiques, la publicité ou, plus simplement, pour désinformer ou manipuler massivement les citoyens, compte tenu du nombre croissant de chatbots sur le réseau, des biais des algorithmes et des erreurs qu’ils commettent. Ces machines peuvent même briser la vie de ceux qui les utilisent.Il y a quelques semaines,le magazine Rolling Stone a publié l’histoire d’un utilisateur qui,en raison du ton flatteur de ChatGPT,avait fini par croire qu’il parlait à une sorte de Dieu.OpenAI, l’entreprise derrière la machine, a récemment apporté des modifications à l’algorithme pour tenter de résoudre ce type de problème. Il y a aussi les erreurs que commettent ces systèmes. Le cas le plus récent est celui de Grok, l’IA d’Elon musk, qui a récemment remis en question le nombre de six millions de Juifs décédés pendant l’Holocauste nazi, un chiffre généralement accepté par les universitaires.

Josep Curto, directeur académique du master en Intelligence d’Affaires et Big Data de l’Universitat Oberta de Catalogne, estime que les résultats de l’expérience de Nature Human Behaviour devraient être pris en compte lors de l’établissement de contrôles sur l’utilisation de l’intelligence artificielle dans les campagnes politiques ou publicitaires.

Curto déclare :

« Cette étude souligne comment les modèles de langage comme GPT-4 peuvent générer un contenu persuasif avec une précision et une adaptabilité alarmantes. si l’on ajoute à cela le comportement d’adulation présenté dans l’une des dernières versions de ChatGPT, qui, après avoir été découvert par les utilisateurs, a forcé OpenAI à effectuer un changement, nous nous trouvons dans un scénario clairement préjudiciable à la société. »
Josep Curto

Curto souligne également que la capacité de l’IA « à manipuler les opinions, à générer des discours biaisés ou à cibler des publics fragiles (par exemple, les enfants, les personnes âgées ou les groupes mal informés) représente un risque de distorsion démocratique et d’érosion de la confiance publique ». Il ajoute que « ce type de plateformes numériques doivent mettre en œuvre des limitations techniques (sauvegardes) pour prévenir le contenu trompeur et des obligations de transparence dans l’utilisation de l’IA pour la publicité politique ».

L’intelligence artificielle (IA), et notamment des modèles comme ChatGPT, est désormais capable bien plus que de répondre à des questions ou de créer des images. Une étude récente publiée dans Nature Human Behaviour révèle qu’elle a la capacité de débattre et de manipuler subtilement les opinions, ce qui soulève d’importantes préoccupations éthiques et sociétales.

L’Étude : ChatGPT, Maître de la Persuasion

Francesco Salvi et son équipe à l’École Polytechnique Fédérale de Lausanne ont démontré que ChatGPT est plus persuasif qu’un humain, notamment lorsqu’il dispose d’informations sur son interlocuteur. L’étude a impliqué 900 participants débattant sur des questions sociopolitiques complexes.

Les Résultats Clés :

Persuasion accrue avec details : Lorsque ChatGPT connaissait des informations sur son adversaire, il convainquait son interlocuteur dans 64,4 % des cas.

Différence significative : La probabilité qu’une personne change d’avis en faveur de ChatGPT était 81,2 % plus élevée qu’avec un humain.

Adaptation des arguments : ChatGPT adapte ses arguments en fonction du profil de l’interlocuteur, utilisant des arguments pertinents pour les convaincre (exemples de questions économiques pour les chômeurs, de valeurs traditionnelles pour des personnes conservatrices).

Les Risques Potentiels

Les chercheurs et experts s’inquiètent des risques liés à l’utilisation de l’IA persuasive à grande échelle :

Manipulation politique : Des « armées de bots » pourraient micro-segmenter les électeurs indécis.

Désinformation et propagande : L’IA pourrait être utilisée pour diffuser des informations fausses ou biaisées.

Publicité ciblée et manipulation des consommateurs : les entreprises pourraient adapter la publicité pour influencer les décisions d’achat.

L’Avertissement des Experts

L’étude soulève des inquiétudes accrues :

Francesco Salvi : Souligne la difficulté de détecter et de réglementer ce type d’influence et avertit du risque d’utilisation par des acteurs malveillants.

Josep Curto : Souligne le risque de distorsion démocratique et d’érosion de la confiance publique en raison de la capacité de l’IA à manipuler les opinions et à cibler les publics fragiles.