ChatGPT et Google's Bard : cherchons-nous des réponses aux mauvais endroits ?

Jusqu’à présent, les chatbots conversationnels peuvent nous donner des réponses plausibles à nos questions. Mais savent-ils toujours comment analyser les quantités croissantes de données mondiales ?

Une nouvelle ère de recherche sur Internet est en cours, portée par les progrès impressionnants de l’IA. Quelques mois seulement après son lancement, le chatbot conversationnel ChatGPT d'OpenAI amène Google à repenser son service de base, et il a créé une ouverture permettant à d'autres entreprises technologiques comme Microsoft de gagner du terrain.

Il n'est pas surprenant qu'un outil conversationnel tel qu'un chatbot puisse perturber le secteur de la recherche si l'on considère l'évolution du marché.

En détail : Ces experts se battent pour protéger l'IA des pirates informatiques. Le temps presse

Google, le moteur de recherche dominant dans le monde depuis environ deux décennies, affirme que sa mission est « d'organiser l'information mondiale et de la rendre universellement accessible et utile ».

Toutefois, l'information mondiale continue de s'accumuler à un rythme vertigineux. L'année dernière, le cabinet de recherche IDC a prédit que la quantité de données créées sur une base annuelle atteindrait plus de 221 000 exaoctets d'ici 2026. Cela représente plus du double de la quantité de données créées en 2022.

Un moteur de recherche qui indexe les sites Web est certes un moyen efficace d’organiser toutes ces informations, mais ce n’est pas nécessairement le meilleur moyen de les rendre utiles.

En fait, il est si facile de collecter et d'organiser des données qu'il peut être difficile de simplement passer au crible vos propres données ou celles que vous recherchez au travail. Vous souvenez-vous du temps qu'il vous a fallu la dernière fois pour parcourir la plateforme RH de votre entreprise pour savoir comment déposer une note de frais ?

Ce type de défis présente des opportunités pour la prochaine itération de recherche.

"Quand les gens pensent à Google, ils pensent souvent à se tourner vers nous pour obtenir des réponses factuelles rapides, comme 'combien de touches possède un piano ?'", a écrit le PDG de Google, Sundar Pichai, dans un article de blog cette semaine, présentant le propre chatbot expérimental d'IA de Google, Barde. "Mais de plus en plus de gens se tournent vers Google pour obtenir des informations et une compréhension plus approfondies, par exemple : "Le piano ou la guitare sont-ils plus faciles à apprendre et de combien de pratique chacun a-t-il besoin ?" Se renseigner sur un sujet comme celui-ci peut demander beaucoup d'efforts pour comprendre ce que vous avez vraiment besoin de savoir, et les gens souhaitent souvent explorer un large éventail d'opinions ou de perspectives.

Pichai a ajouté : « L'IA peut être utile dans ces moments-là, en synthétisant des informations sur des questions pour lesquelles il n'y a pas de bonne réponse. »

Le problème, cependant, est que ces idées subjectives, soigneusement présentées dans un format conversationnel, doivent généralement être fondées sur une sorte de vérité.

Comme Sabrina Ortiz l'a expliqué pour ZDNET, ces chatbots conversationnels sont conçus pour converser avec les gens - pas nécessairement pour fournir des réponses précises. OpenAI a formé son modèle de langage à l'aide de l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF), selon OpenAI. Les formateurs en IA humaine ont fourni au modèle des conversations dans lesquelles ils ont joué les deux rôles, l'utilisateur et les assistants IA. Au lieu de demander des éclaircissements sur des questions ambiguës, le modèle se contente de deviner ce que signifie votre question, ce qui peut conduire à des réponses involontaires aux questions.

Cela a déjà conduit le site de questions et réponses des développeurs StackOverflow à interdire au moins temporairement les réponses aux questions générées par ChatGPT. "Le principal problème est que même si les réponses produites par ChatGPT ont un taux élevé d'erreurs, elles semblent généralement bonnes et les réponses sont très faciles à produire", ont expliqué les modérateurs de Stack Overflow.

OpenAI lui-même le reconnaît : « ChatGPT écrit parfois des réponses plausibles mais incorrectes ou absurdes. »

Bard de Google tente apparemment de résoudre ce problème en permettant à ses modèles d'exploiter des données récemment créées à partir de sources externes. Bard est basé sur LaMDA, un grand modèle de langage développé par Google. Les développeurs de LaMDA, comme l'a souligné Tiernan Ray pour ZDNET, se sont spécifiquement concentrés sur la façon d'améliorer ce qu'ils appellent « l'ancrage factuel ». Pour ce faire, ils ont permis au programme de faire appel à des sources externes d'informations au-delà de ce qu'il a déjà traité au cours de son développement, ce qu'on appelle la phase de formation.

Cependant, la récente démo de Bard de Google qui a mal tourné illustre exactement pourquoi l'exploitation de sources d'informations externes est une activité risquée, en particulier pour les modèles d'IA qui privilégient la cohérence plutôt que l'exactitude. En réponse à la question « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard a déclaré que le télescope avait pris la toute première image d'une exoplanète - ce qui est faux.

Comment Bard a-t-il fini par faire cette déclaration inexacte ? Cela est probablement dû à la qualité des informations externes disponibles sur le sujet. Comme tout informaticien le sait, « les déchets entrent, les déchets sortent ».

Et en effet, les propres documents de la NASA sur le télescope spatial James Webb - essayant sans aucun doute de présenter le télescope sous le meilleur éclairage possible - étaient ambigus. En septembre 2022, l'agence écrivait : « Pour la première fois, des astronomes ont utilisé le télescope spatial James Webb de la NASA pour prendre une image directe d'une planète en dehors de notre système solaire. » Pour être plus clair, c'était la première fois que ce télescope spécifique prenait une image directe d'une exoplanète - mais un autre télescope l'a fait dès 2004.

Un moyen immédiat de remédier à ces lacunes des chatbots est d’offrir autant de transparence que possible. La nouvelle version de Microsoft du moteur de recherche Bing, qui fonctionne sur un grand modèle de langage OpenAI de nouvelle génération, cite ses sources avec ses réponses.

Alors, où cela nous mène-t-il ? Bien sûr, comme toujours, il est utile pour les utilisateurs d'exploiter ces outils avec un œil sceptique et une compréhension claire de leur fonctionnement, comme le souligne Microsoft.

"Bing vise à baser toutes ses réponses sur des sources fiables, mais l'IA peut commettre des erreurs et le contenu de tiers sur Internet peut ne pas toujours être précis ou fiable", peut-on lire dans la section FAQ de Bing. "Bing déforme parfois les informations qu'il trouve, et vous pouvez voir des réponses qui semblent convaincantes mais qui sont incomplètes, inexactes ou inappropriées. Utilisez votre propre jugement et vérifiez les faits avant de prendre des décisions ou d'agir en fonction des réponses de Bing."

Nos nouveaux amis numériques voudront peut-être être utiles, mais il ne serait pas judicieux de compter sur eux pour l’instant.