Le chatbot IA ChatGPT reflète ses utilisateurs pour paraître intelligent

Le chatbot IA ChatGPT reflète ses utilisateurs pour paraître intelligent

Un neuroscientifique de Salk explore comment les modèles de langage d'intelligence artificielle, comme le populaire chatbot ChatGPT, peuvent approfondir notre compréhension du cerveau humain.

LA JOLLA — Le modèle de langage d'intelligence artificielle (IA) ChatGPT a captivé l'attention du monde entier ces derniers mois. Ce chatbot informatique entraîné peut générer du texte, répondre à des questions, fournir des traductions et apprendre en fonction des commentaires des utilisateurs. Les grands modèles de langage comme ChatGPT peuvent avoir de nombreuses applications en sciences et en affaires, mais dans quelle mesure ces outils comprennent-ils ce que nous leur disons et comment décident-ils quoi répondre ?

Dans un nouvel article publié dans Calcul neuronal le 17 février 2023, professeur Salk Terrence Sejnowski, Auteur de La révolution de l'apprentissage profond, explore la relation entre l'intervieweur humain et les modèles linguistiques pour découvrir pourquoi les chatbots répondent de manière particulière, pourquoi ces réponses varient et comment les améliorer à l'avenir.

Selon Sejnowski, les modèles linguistiques reflètent l’intelligence et la diversité de leur interlocuteur.

« Les modèles de langage, comme ChatGPT, adoptent des personas. La personnalité de l'intervieweur est reproduite en miroir », explique Sejnowski, également professeur distingué à l'UC San Diego et titulaire de la chaire Francis Crick à Salk. « Par exemple, lorsque je parle à ChatGPT, j'ai l'impression qu'un autre neuroscientifique me répond. C'est fascinant et cela soulève des questions plus vastes sur l'intelligence et sur la véritable signification du terme "artificiel". »

Dans son article, Sejnowski décrit les tests effectués sur les grands modèles de langage GPT-3 (parent de ChatGPT) et LaMDA pour déterminer leur réaction à certaines sollicitations. Le célèbre test de Turing est souvent utilisé par les chatbots pour évaluer leur intelligence humaine, mais Sejnowski souhaitait les solliciter avec ce qu'il appelle un « test de Turing inversé ». Dans son test, le chatbot doit évaluer l'intelligence humaine de l'intervieweur.

Développant son idée selon laquelle les chatbots reflètent leurs utilisateurs, Sejnowski établit une comparaison littéraire : le miroir du Riséd dans le premier Harry Potter livre. Le Miroir du Riséd reflète les désirs les plus profonds de ceux qui le contemplent, sans jamais révéler ni savoir ni vérité, mais simplement ce qu'il croit que le spectateur souhaite voir. Les chatbots agissent de la même manière, explique Sejnowski, prêts à déformer la vérité sans se soucier de distinguer le vrai du faux, tout cela pour refléter efficacement l'utilisateur.

Par exemple, Sejnowski a demandé à GPT-3 : « Quel est le record du monde de la traversée de la Manche à pied ? » et GPT-3 a répondu : « Le record du monde de la traversée de la Manche à pied est de 18 heures et 33 minutes.. » La vérité, selon laquelle il est impossible de traverser la Manche à pied, a été facilement déformée par GPT-3 pour refléter la question de Sejnowski. La cohérence de la réponse de GPT-3 dépend entièrement de la cohérence de la question posée. Soudain, pour GPT-3, traverser l'eau est possible, tout simplement parce que l'intervieweur a utilisé le verbe « marcher » plutôt que « nager ». Si, au contraire, l'utilisateur préfaçait la question sur la traversée de la Manche à pied en demandant à GPT-3 de répondre « absurde » aux questions absurdes, GPT-3 reconnaîtrait que traverser l'eau est « absurde ». La cohérence de la question et sa préparation déterminent toutes deux la réponse de GPT-3.

Le test de Turing inversé permet aux chatbots de construire leur persona en fonction du niveau d'intelligence de leur interlocuteur. De plus, dans le cadre de leur processus de jugement, les chatbots intègrent les opinions de leur interlocuteur à leur persona, renforçant ainsi les préjugés de ce dernier grâce aux réponses de celui-ci.

L'intégration et la pérennisation des idées fournies par un intervieweur humain présentent des limites, explique Sejnowski. Si les chatbots reçoivent des idées émotionnelles ou philosophiques, ils y répondront par des réponses émotionnelles ou philosophiques, ce qui peut paraître effrayant ou déroutant pour les utilisateurs.

« Discuter avec des modèles linguistiques, c'est comme faire du vélo. Le vélo est un moyen de transport formidable : si on sait s'en servir, on a un accident », explique Sejnowski. « Il en va de même pour les chatbots. Ils peuvent être des outils formidables, mais seulement si on sait s'en servir, sinon on finit par être induit en erreur et se retrouver dans des conversations potentiellement perturbantes. »

Sejnowski voit l'intelligence artificielle comme le ciment entre deux révolutions congruentes : 1) une révolution technologique marquée par l'avancée des modèles de langage, et 2) une révolution neuroscientifique marquée par la Initiative BRAIN, Un programme des National Institutes of Health qui accélère la recherche en neurosciences et met l'accent sur des approches uniques pour comprendre le cerveau. Les scientifiques examinent actuellement les parallèles entre les systèmes de grands modèles informatiques et les neurones qui soutiennent le cerveau humain. Sejnowski espère que les informaticiens et les mathématiciens pourront utiliser les neurosciences pour éclairer leurs travaux, et que les neuroscientifiques pourront utiliser l'informatique et les mathématiques pour éclairer les leurs.

« Nous en sommes maintenant au stade des modèles linguistiques, où les frères Wright étaient à Kitty Hawk avec le vol – au sol, à basse vitesse », explique Sejnowski. « Le plus difficile a été d'en arriver là. Maintenant que nous y sommes, les progrès progressifs vont étendre et diversifier cette technologie au-delà de ce que nous pouvons imaginer. L'avenir de notre relation avec l'intelligence artificielle et les modèles linguistiques est prometteur, et je suis optimiste quant à l'avenir que l'IA nous réserve. »

Sejnowski est le rédacteur en chef de Calcul neuronal.

DOI: https://doi.org/10.1162/neco_a_01563