Google ouvre son chatbot expérimental d’IA à des tests publics

Google ouvre LaMDA au public, mais il le lance avec des garde-fous qui visent à l'empêcher de générer des réponses offensantes.

Google a ouvert son application mobile AI Test Kitchen pour donner à chacun une expérience pratique limitée de ses dernières avancées en matière d’IA, comme son modèle conversationnel LaMDA.

Google a annoncé AI Test Kitchen en mai, ainsi que la deuxième version de LaMDA (Language Model for Dialogue Applications), et permet maintenant au public de tester des parties de ce qu’il croit être l’avenir de l’interaction homme-machine.

AI Test Kitchen est « destiné à vous donner une idée de ce que cela pourrait être d’avoir LaMDA entre vos mains », a déclaré le PDG de Google, Sunday Pichai, à l’époque.

AI Test Kitchen fait partie du plan de Google visant à s'assurer que sa technologie est développée avec des rails de sécurité. N’importe qui peut s’inscrire sur la liste d’attente pour la cuisine d’essai de l’IA. Dans un premier temps, il sera disponible pour de petits groupes aux États-Unis. L’application Android est disponible dès maintenant, tandis que l’application iOS est attendue « dans les semaines à venir ».

VOIR : Data scientist vs data engineer : comment la demande pour ces rôles évolue

Lors de son inscription, l’utilisateur doit accepter quelques éléments, notamment « Je n’inclurai aucune information personnelle sur moi-même ou sur d’autres personnes dans mes interactions avec ces démos ». 

À l'instar de la récente présentation publique par Meta de son modèle d'IA de chatbot, BlenderBot 3, Google avertit également que ses premiers aperçus de LaMDA « peuvent afficher un contenu inexact ou inapproprié ». Meta a averti lors de l'ouverture de BlenderBot 3 aux résidents américains que le chatbot pourrait « oublier » qu'il s'agit d'un bot et pourrait « dire des choses dont nous ne sommes pas fiers ».

Les deux sociétés reconnaissent que leur IA peut parfois apparaître comme politiquement incorrecte, comme l'a fait le chatbot Tay de Microsoft en 2016 après que le public l'ait nourri de ses mauvaises entrées. Et comme Meta, Google affirme que LaMDA a subi des « améliorations clés en matière de sécurité » pour éviter qu’il ne donne des réponses inexactes et offensantes.

Mais contrairement à Meta, Google semble adopter une approche plus restreinte, en fixant des limites à la façon dont le public peut communiquer avec lui. Jusqu’à présent, Google n’a exposé LaMDA qu’aux Googlers. L’ouvrir au public peut permettre à Google d’accélérer le rythme de l’amélioration de la qualité des réponses.

Google lance AI Test Kitchen sous la forme d’une série de démos. Le premier, « Imagine it », vous permet de nommer un lieu, après quoi l'IA propose des chemins pour « explorer votre imagination ». 

La deuxième démo « List it » vous permet de « partager un objectif ou un sujet » que LaMDA tente ensuite de décomposer en une liste de sous-tâches utiles.

La troisième démo est « Talk about it (Dogs edition) », qui semble être le test le plus libre - bien que limité aux questions canines : « Vous pouvez avoir une conversation amusante et ouverte sur les chiens et uniquement les chiens, qui explore la capacité de LaMDA à rester dans le sujet même si vous essayez de vous écarter du sujet », explique Google.

LaMDA et BlenderBot 3 recherchent les meilleures performances dans les modèles de langage qui simulent le dialogue entre un ordinateur et des humains. 

LaMDA est un modèle de langage de grande taille de 137 milliards de paramètres, tandis que le BlenderBot 3 de Meta est un « modèle de dialogue capable de conversation à domaine ouvert avec accès à Internet et à une mémoire à long terme » de 175 milliards de paramètres. 

Les tests internes de Google ont été axés sur l'amélioration de la sécurité de l'IA. Google a déclaré qu'il avait effectué des tests contradictoires pour trouver de nouvelles failles dans le modèle et qu'il avait recruté une « équipe rouge » - des experts en attaques qui peuvent mettre le modèle à l'épreuve d'une manière que le public sans contrainte pourrait faire  -  qui ont « découvert des résultats nuisibles supplémentaires, mais subtils », selon Tris Warkentin de Google Research et Josh Woodward de Labs chez Google. 

Alors que Google veut assurer la sécurité et éviter que son IA ne dise des choses honteuses, Google peut également bénéficier de la mettre dans la nature pour faire l'expérience d'un discours humain qu'il ne peut pas prévoir. Tout un dilemme. Contrairement à un ingénieur de Google qui s'est demandé si LaMDA était conscient, Google met l'accent sur plusieurs limitations dont souffrait Tay de Microsoft lorsqu'il était exposé au public. 

« Le modèle peut mal comprendre l'intention derrière les termes d'identité et parfois ne pas produire de réponse lorsqu'ils sont utilisés, car il a du mal à faire la différence entre les invites bénignes et contradictoires. Il peut également produire des réponses nuisibles ou toxiques basées sur des biais dans ses données de formation, générant des réponses qui stéréotypent et déforment les personnes en fonction de leur sexe ou de leur origine culturelle. Ces domaines et bien d’autres continuent de faire l’objet de recherches actives », déclarent Warkentin et Woodward.

VOIR : Comment j’ai fait revivre trois anciens ordinateurs avec ChromeOS Flex

Google affirme que les protections qu’il a ajoutées jusqu’à présent ont rendu son IA plus sûre, mais n’ont pas éliminé les risques. Les protections comprennent le filtrage des mots ou des phrases qui enfreignent ses politiques, qui « interdisent aux utilisateurs de générer sciemment du contenu sexuellement explicite ; haineux ou offensant ; violent, dangereux ou illégal ; ou divulgue des informations personnelles.   

De plus, les utilisateurs ne doivent pas s'attendre à ce que Google supprime tout ce qui est dit à la fin de la démo LaMDA.

« Je pourrai supprimer mes données lors de l’utilisation d’une démo particulière, mais une fois que je fermerai la démo, mes données seront stockées de manière à ce que Google ne puisse pas dire qui les a fournies et ne puisse plus répondre aux demandes de suppression », indique le formulaire de consentement.