De la colle à pizza ? Des spaghettis à l'essence ? Google explique ce qui s'est passé avec ses résultats de recherche IA bancals
Google affirme qu'une grande partie de ce qui est devenu viral n'était pas réel, mais a admis que sa fonctionnalité d'IA devait encore être améliorée. Voici ce que fait l'entreprise.
Si vous étiez sur les réseaux sociaux la semaine dernière, vous les avez probablement vus. Les captures d'écran des nouveaux résumés de recherche de Google basés sur l'IA sont devenues virales, principalement parce que Google aurait fait des recommandations farfelues comme ajouter de la colle à votre pizza, cuire des spaghettis avec de l'essence ou suggérer que vous devriez manger des pierres pour une santé optimale.
Ce n'était que le début.
D'autres exemples particulièrement flagrants sont également devenus viraux, apparemment de la fonctionnalité malveillante d'une IA suggérant de mélanger de l'eau de Javel et du vinaigre pour nettoyer une machine à laver, ce qui produirait du chlore gazeux potentiellement mortel, ou de sauter du Golden Gate Bridge en réponse à une question du type "Je suis se sentir déprimé. »
Alors, que s'est-il passé et pourquoi l'AI Overview de Google a-t-il recommandé ces choses ?
Premièrement, selon Google, la majorité de ce qui est devenu viral n'était pas réel.
De nombreuses captures d'écran étaient tout simplement fausses : "Certains de ces faux résultats étaient évidents et idiots. D'autres ont laissé entendre que nous avions renvoyé des résultats dangereux sur des sujets tels que laisser des chiens dans les voitures, fumer pendant la grossesse et la dépression." Ces aperçus de l'IA ne sont jamais apparus, affirme Google.
Deuxièmement, de nombreuses captures d'écran provenaient de personnes ayant l'intention d'obtenir des résultats de recherche idiots, comme ceux sur la consommation de pierres. "Avant que ces captures d'écran ne deviennent virales", a déclaré Google, "pratiquement personne ne posait cette question à Google". Si personne ne recherche un sujet donné sur Google, cela signifie probablement qu'il n'y a pas beaucoup d'informations disponibles à ce sujet, ou qu'il y a un manque de données. Dans de tels cas, il n’y avait que du contenu satirique que l’IA interprétait comme exact.
Google admet que quelques résultats étranges ou inexacts sont apparus. Même celles-ci concernaient des requêtes inhabituelles, mais elles ont révélé certains domaines qui nécessitent des améliorations. L'entreprise a pu déterminer un certain nombre de problèmes et a apporté plus d'une douzaine d'améliorations techniques, notamment :
Meilleure détection des requêtes absurdes qui ne devraient pas afficher un aperçu de l'IA et inclusion limitée de contenu satirique et humoristique.
Utilisation limitée du contenu généré par les utilisateurs dans les réponses qui pourraient offrir des conseils trompeurs
Déclenchement de restrictions pour les requêtes pour lesquelles les aperçus AI ne se sont pas révélés utiles
Ne pas afficher les aperçus de l'IA pour les sujets d'actualité où la fraîcheur et la réalité sont importantes et pour la plupart des sujets de santé
Selon Google, avec des milliards de requêtes reçues chaque jour, les choses peuvent parfois devenir bizarres. L'entreprise affirme qu'elle apprend de ses erreurs et promet de continuer à travailler pour renforcer les aperçus de l'IA.