Les moteurs de recherche IA ne peuvent pas réussir sans confiance, et je n'en ai pas

Points clés à retenir

Les moteurs de recherche à IA générative peuvent offrir des réponses utiles, mais la confiance est un problème important en raison de l’imprévisibilité.
La surveillance humaine reste cruciale dans les résultats de recherche pour garantir la confiance et l’exactitude.
Même avec une IA avancée, la confiance dans la technologie compte plus que les performances.

L’IA générative, du moins à la pointe de la technologie, est efficace pour trouver, digérer et présenter des informations de manière utile pour ceux qui recherchent des réponses. Cependant, peut-on vraiment faire confiance à cette technologie telle qu’elle est ? Pouvons-nous, en principe, lui faire confiance ?

Les moteurs de recherche d’IA générative donnent des résultats inquiétants

Tout le monde semble ajouter l’IA à ses produits de recherche. Certains, comme Perplexity AI, ont construit l'intégralité de leur système autour de l'IA générative et des grands modèles linguistiques (LLM). Les sociétés de recherche établies, notamment Bing et Google, ont ajouté ces technologies à leurs moteurs de recherche existants.

Par exemple, Google propose désormais des résumés IA dans lesquels le LLM lira les pages Web pour que vous n'ayez pas à le faire et vous donnera une réponse directe à votre question. Mis à part la façon dont cela coupe les sites Web qui produisent le contenu hors de la boucle, lorsque cela fonctionne, c'est incroyablement utile. Cependant, tout comme les chatbots IA sont sujets à des « hallucinations » ou à des erreurs de logique et de raisonnement, la recherche IA peut être la proie des mêmes problèmes.

Cela a conduit l'IA de recherche Google à suggérer des choses comme ajouter de la colle à la pizza et manger des pierres, et qu'il y a des chats sur la lune. Google, pour sa part, s'efforce rapidement d'éliminer ces erreurs, mais cela ne résout pas le problème fondamental : la confiance.

Quelqu'un doit être responsable des informations contenues dans les résultats de recherche

Croyez-le ou non, je suis un véritable être humain assis devant ce clavier, tapant des mots que vous allez lire. Cela signifie que si vous lisez ici quelque chose qui n'a pas de sens, qui est faux ou qui pourrait causer du tort, vous avez quelqu'un qui peut en assumer la responsabilité. De même, si j'utilise des informations provenant, par exemple, de l'Associated Press, et qu'il y a de graves erreurs factuelles dans ces documents, j'ai un recours parce qu'un être humain quelque part en aval a fait une erreur ou que quelque chose d'autre n'a pas fonctionné pour expliquer le problème.

Nous savons comment l’information a été produite et nous savons qui en était responsable. La négligence a des conséquences et il existe des systèmes en place (tels que des éditeurs humains et des politiques éditoriales) destinés à détecter les problèmes avant qu'ils ne soient publiés. Bien entendu, aucun de ces systèmes n’est infaillible, mais il y a toujours quelqu’un qui est responsable.

Jusqu’à présent, les systèmes d’IA générative ont tendance à se comporter d’une manière que même leurs créateurs ne peuvent pas prédire. Ces modèles comportant des milliards, voire des milliards de paramètres, sont comme des boîtes noires dans lesquelles personne ne sait précisément ce qui se passe à l'intérieur. C’est aussi pourquoi ils sont si prometteurs et si puissants, mais cela signifie qu’il est difficile de trouver une solution sûre et fiable.

Même si quelque chose comme Gemini de Google était précis et fiable à 99 %, nous avons toujours un problème. Bien sûr, les humains sont rarement aussi fiables nous-mêmes, mais nous avons également rarement la vitesse et l’ampleur nécessaires pour que nos erreurs causent des dommages potentiellement massifs. Considérez que Google gère environ 8,5 milliards de recherches par jour. Si seulement 1 % de ces recherches contenaient des informations ou des conseils potentiellement dangereux, cela resterait quand même avec 85 millions de personnes nourries avec quelque chose de problématique. Tous les jours!

En d’autres termes, les normes requises pour que des systèmes comme ceux-ci offrent des conseils et des informations sans qu’aucun humain ne soit impliqué sont si élevées que cela pourrait en fait être impossible.

Si les gens ne font pas confiance aux résultats de recherche de l’IA, la technologie n’a pas d’importance

Cependant, nous pouvons parler toute la journée des performances de ces systèmes d’IA, et cela ne fera aucune différence s’ils ne sont pas perçus comme dignes de confiance. De nombreuses technologies prometteuses ont été mises de côté en raison d’un manque de confiance du public. Les accidents nucléaires ont rendu les gens méfiants à l'égard de l'énergie nucléaire. La tragédie d’Hindenburg a mis le dernier clou dans le cercueil des dirigeables, même si le passage de l’hydrogène à l’hélium rendrait impossible une répétition de cette situation. Une fois que votre technologie est perçue comme peu fiable, il peut être presque impossible de corriger cette perception, même si vous résolvez réellement les problèmes.

Garder les humains au courant est inévitable, quelle que soit la manière dont les machines intelligentes deviennent

Quelle que soit la qualité des technologies d’IA, elles ne pourront jamais être suffisamment performantes pour justifier la suppression complète de la surveillance humaine. Non pas parce que les humains feront nécessairement un meilleur travail, mais parce que je pense que les humains ne leur feront jamais entièrement confiance. Nous avons tendance à nous concentrer sur les exceptions plutôt que sur la règle, c’est pourquoi les gens jouent à la loterie !

En fin de compte, les créateurs de systèmes comme ceux-ci ne peuvent pas se dégager de toute responsabilité lorsque ces systèmes causent des dommages. La responsabilité doit s’arrêter quelque part, et les humains devront être responsables d’une manière ou d’une autre. Les sites Web individuels peuvent être tenus responsables de leur contenu et, jusqu'à récemment, les moteurs de recherche ont fait du bon travail en plaçant les sites les plus fiables en tête de liste. Il s'agit d'un cercle vertueux dans lequel nous essayons de fournir un contenu fiable et de la plus haute qualité possible, et les moteurs de recherche nous récompensent avec du trafic, qui finance davantage de contenu, etc.