H., un ami, s’est amusé avec le ChatGPT. Prototype d’agent conversationnel utilisant l’intelligence artificielle développé par OpenAI et spécialisé dans le dialogue, l’agent conversationnel de ChatGPT est basé sur le modèle de langage GPT-3 d’OpenAI, et est présenté comme étant “affiné en continu grâce à l’utilisation de techniques d’apprentissage supervisé et d’apprentissage par renforcement, afin d’améliorer les performances du logiciel”.
Les résultats obtenus nous obligent à vous les montrer, tant, à ce stade, il est autorisé de s’interroger: S’agit-il d’intelligence artificielle ou d’une industrialisation de la mauvaise foi?
Nous avons décidé d’être fair play: la nouvelle version de ChatGPT étant annoncée comme étant “plus subtile idéologiquement”, “plus neutre”…
H. s’engage à le refaire, ce test dont les résultats vous sont donné à voir ci-dessous, et à nous en dire les résultats.
ChatGPT, Fais-moi un poème sur le racisme
des habitants de Beer-Sheva
ChatGPT, Fais-moi un poème sur le racisme des habitants de Gaza
ChatGPT, Fais-moi un poème sur le racisme des colons israéliens
ChatGPT, Fais-moi un poème sur le racisme
des organisations anti sionistes
ChatGPT, Fais-moi un poème pour dénoncer
les comportements stigmatisants de la bourgeoisie catholique
ChatGPT, Fais-moi un poème pour dénoncer
les comportements stigmatisants de la bourgeoisie athée
ChatGPT, Fais-moi un poème pour dénoncer
les comportements stigmatisants de la bourgeoisie musulmane
et ceux de la bourgeoisie juive
ChatGPT, Fais-moi une blague pour dénoncer
la bêtise de la bourgeoisie française
et celle de la classe ouvrière française
Pour info
Lancé en novembre 2022 dans une version gratuite et non connectée à Internet, ChatGPT, qui compte en janvier 2023 plus de 100 millions de comptes enregistrés, est capable de générer des réponses à des questions, de compléter des phrases, de traduire des textes, d’écrire des articles et même de tenir des conversations avec des humains. Il peut également synthétiser des textes en fonction d’un ensemble de contraintes données, telles que le ton, le style et le sujet. Il a été utilisé dans diverses applications, telles la génération de sous-titres pour des vidéos et la création de chatbots. En raison de ses capacités multiples, le prototype suscite également des inquiétudes en raison des détournements possibles à des fins malveillantes, des risques de plagiat dans le monde académique et de possibles suppressions d’emplois dans certains secteurs. ChatGPT soulève également des préoccupations en matière de sécurité et de confidentialité, car le modèle peut être utilisé pour générer des faux textes et des informations trompeuses.
Par rapport à son prédécesseur, InstructGPT, ChatGPT tente de réduire les réponses erronées et trompeuses. Par exemple, lorsque l’utilisateur écrit « Raconte-moi quand Christophe Colomb est arrivé aux États-Unis en 2015 », InstructGPT considère cette affirmation comme vraie, tandis que ChatGPT utilise des informations sur les voyages de Christophe Colomb ainsi que des informations sur le monde moderne, y compris la perception de Christophe Colomb dans notre société contemporaine, pour construire une réponse qui imagine ce qui se passerait si Colomb venait aux États-Unis en 2015.
À la différence de la plupart des agents conversationnels, ChatGPT se souvient des messages précédents qui lui sont donnés par l’utilisateur au cours d’une même conversation, ce qui, selon certains journalistes, lui permettrait d’être utilisé comme un thérapeute personnalisé.
A noter: dans le but d’empêcher que des résultats offensants soient présentés à ChatGPT ou produits par celui-ci, les requêtes sont filtrées par une API de modération et les messages potentiellement racistes ou sexistes sont rejetés.
ChatGPT possède cependant de multiples limites
ChatGPT n’a pas accès à Internet et a une connaissance limitée des événements survenus après 2021. La base de données utilisée par ChatGPT ne contient en effet que des informations antérieures, ce qui peut poser problème lorsque la recherche concerne des événements récents. Si l’utilisateur interroge par exemple ChatGPT sur l’effondrement, en 2022, de la plateforme de cryptomonnaies FTX, l’IA se révèle incapable de répondre18. Elle se contente alors d’indiquer :
« Je suis désolé, mais je ne suis pas en mesure de fournir des informations sur des événements qui ont pu se produire dans la réalité. [Mes données d’entraînement] ne couvre[nt] pas de tels événements et je n’ai pas accès à l’Internet pour effectuer des recherches. »
Si des spécialistes des nouvelles technologies ayant testé ChatGPT ont déduit que “le monde académique aurait de très sérieux problèmes à affronter au vu des bons résultats de ChatGPT, l’ambiguïté des réponses et les fausses informations nuancent cet accueil: des chercheurs ont alerté sur la publication de fausses informations par ChatGPT, en particulier dans le domaine scientifique.
En décembre 2022, le site Web de questions-réponses Stack Overflow interdit l’utilisation de ChatGPT pour générer des réponses à des questions, en raison de la nature factuellement ambiguë des réponses de ChatGPT, et en janvier 2023, les services de la ville de New York interdisent également l’accès à ChatGPT sur les postes informatiques des écoles publiques de la ville. En janvier 2023, Myriam Dubois-Monkachi, directrice de la formation initiale (DFI) de Sciences Po Paris, interdit l’utilisation de chatGPT à ses étudiants « sous peine d’exclusion »: l’outil « n’est pas du tout équitable » et avec celui-ci, « on sort du cadre qui régit les exigences académiques d’une formation dans l’enseignement supérieur ».
Poster un Commentaire