ChatGPT n'est pas doué pour rédiger des articles Wikipédia

Que souhaitez-vous savoir

• Jimmy Wales, fondateur de Wikipédia, a récemment souligné ses inquiétudes concernant l'outil basé sur l'IA d'OpenAI, en particulier sa précision.
• Le fondateur a expliqué que l'utilisation de l'outil pour générer du texte sur la plate-forme était un gâchis car il faisait un travail épouvantable car il comportait la plupart des détails erronés et fournissait même des informations inexactes.
• Le Pays de Galles n’a pas totalement exclu la possibilité d’exploiter les capacités de l’IA sur Wikipédia.
• Il a souligné la nécessité d’un outil basé sur l’IA qui puisse être utilisé pour identifier les inexactitudes dans les articles.

---

L'intégration de IA générative est à un niveau record dans diverses organisations comme Microsoft, surtout après avoir fait un investissement de plusieurs milliards de dollars dans la technologie, qui a étendu son partenariat avec OpenAI.

Par conséquent, cela a conduit à l'émergence de chatbots basés sur l'IA, comme celui d'OpenAI. ChatGPT et Le copilote de Microsoft

. Ces modèles de langage peuvent générer du texte et des images en fonction d'invites, résoudre des problèmes mathématiques complexes, et plus. Certains utilisateurs ont même repoussé les limites en tentant de diriger une entreprise entière capable de développer un logiciel en moins de 7 minutes en utilisant ChatGPT.

S’il ne fait aucun doute que l’IA a réalisé des exploits incroyables dans de nombreux domaines au cours des dernières années, elle s’accompagne également de son lot de revers. Le fondateur de Wikipédia, Jimmy Wales, a récemment fait écho aux mêmes sentiments en s'adressant à Actualités européennes.

ChatGPT pourrait être dans une spirale descendante

Le Pays de Galles a décrit le processus d'exploitation du chatbot alimenté par l'IA d'OpenAI, ChatGPT, pour écrire des articles sur Wikipédia comme un gâchis, citant que l'outil est terrible et ne fait pas le travail. Il a ajouté que l'outil manque de détails lors de la rédaction d'articles et se trompe parfois, ce qui rappelle le lancement de Microsoft Copilot lorsque plusieurs utilisateurs ont déposé des plaintes, citant cas où le chatbot hallucine ou donne carrément de mauvaises réponses.

Les inquiétudes du Pays de Galles concernant l'exactitude du chatbot ne sont ni nouvelles ni uniques. En juillet, une étude menée par des chercheurs a révélé et démontré que ChatGPT devenait plus bête au milieu des affirmations selon lesquelles OpenAI était au bord de la faillite.

Cela pourrait expliquer le nombre croissant de plaintes concernant des articles générés par l’IA contenant des informations inexactes qui semblent relativement insensibles. Le plus récent était un Sondage généré par l'IA présenté dans Microsoft Start (MSN) aux côtés d'un article du Guardian soulignant le décès malheureux d'une jeune femme, qui demandait aux lecteurs de voter sur la façon dont la femme est décédée. D'autres exemples incluent un article généré par l'IA et publié par Microsoft recommandant la Banque alimentaire d'Ottawa comme l'une des principales attractions touristiques au Canada. Sans oublier l'article généré par l'IA et republié via MSN qui est devenu viral en septembre pour qualifiant ouvertement d'inutile un ancien joueur de la NBA décédé, âgé de 42 ans.

L’idée selon laquelle Wikipédia exploiterait les capacités de l’IA n’est pas entièrement exclue

Même si le fondateur de Wikipédia a exprimé ses réserves à l'égard de cette technologie, cela ne signifie pas pour autant que la possibilité que l'IA soit utilisée pour améliorer les services offerts sur la plateforme n'est pas prévisible avenir.

Le Pays de Galles a catégoriquement indiqué qu'il serait très utile qu'un outil basé sur l'IA soit mis à disposition pour aider à identifier les erreurs dans les articles Wikipédia en les référençant aux sources originales. Il a ajouté que cela contribuerait considérablement à réduire les inexactitudes dans les articles, ajoutant en outre qu'il était disposé à s'associer à une société d'IA open source et librement utilisable pour s'aligner sur les exigences de la plateforme. des principes.

La plupart des entreprises, et pas seulement les organismes caritatifs comme nous, diraient qu'il faut être très très prudent si l'on veut mettre au cœur de ses activités votre entreprise une technologie qui est contrôlée par quelqu'un d'autre, car s'ils vont dans une direction différente, toute votre entreprise pourrait être au point mort. risque.

Le Pays de Galles indique que si Wikipédia s'intéresse à l'IA, la priorité absolue sera de garantir que le contenu présenté dans l'encyclopédie en ligne est exact et renvoie à la source originale. Il y a eu une bataille de longue date depuis l'émergence de l'IA et de ses volutiliser le contenu de sites Web sans donner de crédit.

La superintelligence pourrait être à l’horizon pour OpenAI

Ailleurs, le Pays de Galles a prédit qu’il faudrait jusqu’à 50 ans pour parvenir à une IA surhumaine. Curieusement, au milieu Fiasco d’OpenAI observé la semaine dernière après Le licenciement de Sam Altman, l'entreprise pourrait potentiellement être sur le point d’une percée qui montre une trajectoire positive vers la superintelligence même si nous en sommes aux premiers stades.

Pensez-vous que le battage médiatique de ChatGPT s'est calmé en raison de son inexactitude et de la dégradation générale du service? Partagez vos réflexions avec nous dans les commentaires.