Microsoft a discrètement révélé un nouveau type d’IA (il pourrait vous pétrifier tranquillement)

Vous avez toujours pensé que cela pourrait être possible, mais quand une entreprise célèbre dit qu'elle l'a fait, cela ajoute un peu plus de peur.

Il vous a eu à bonjour. 

C'est tout un privilège d'être l'un des derniers humains entiers.

Je suis conscient que dans un futur tangible, les artistes anciennement connus sous le nom d'humains seront un hybride touchant de chair et de copeaux.

Peut-être n'aurais-je pas dû être surpris, alors, lorsque les chercheurs de Microsoft sont venus hâter un peu l'avenir désespéré.

Tout semblait si innocent et si scientifique. Le titre de l'article des chercheurs était d'une opacité créative : « Les modèles de langage de codec neuronal sont des synthétiseurs de texte en parole à tir zéro. »

Qu’imaginez-vous que cela pourrait signifier ? Il existe une nouvelle façon plus rapide pour une machine d'écrire vos mots parlés ? 

Le résumé des chercheurs commence assez bien. Il utilise beaucoup de mots, d'expressions et d'acronymes qui ne sont pas familiers, par exemple, à de nombreux modèles de langage humain profanes. Il explique que le modèle de langage de codec neuronal est appelé VALL-E.

Ce nom est sûrement censé vous attendrir. Qu’est-ce qui pourrait être effrayant dans une technologie qui ressemble presque à ce mignon petit robot d’un film réconfortant ?

Eh bien, peut-être ceci : « VALL-E émerge de capacités d’apprentissage en contexte et peut être utilisé pour synthétiser un discours personnalisé de haute qualité avec seulement un enregistrement inscrit de 3 secondes d’un locuteur invisible en tant qu’invite acoustique. »

J'ai souvent voulu faire émerger des capacités d'apprentissage. Au lieu de cela, j'ai dû attendre qu'ils émergent.

Et ce qui ressort de la dernière phrase des chercheurs, c'est des frissons. Les gros cerveaux de Microsoft n'ont plus besoin que de 3 secondes pour que vous disiez quelque chose afin de simuler des phrases plus longues et peut-être de grands discours qui n'ont pas été faits par vous, mais qui vous ressemblent beaucoup.

Je ne vais pas trop m'attarder sur la science, car aucun de nous n'en bénéficierait.

Je me contenterai de mentionner que VALL-E utilise une bibliothèque audio constituée par l'une des sociétés les plus admirées et les plus fiables au monde - Meta. Appelé LibriLight, il s'agit d'un référentiel de 7 000 personnes qui parlent pour un total de 60 000 heures.

Naturellement, j'ai écouté le travail de VALL-E.

J’ai écouté un homme parler pendant 3 secondes. Puis j’ai écouté les 8 secondes où sa version VALL-E avait été incitée à dire : « Ils se sont ensuite déplacés prudemment autour de la cabane, tâtonnant devant et autour d’eux pour trouver quelque chose qui montrait que Warrenton avait rempli sa mission. »

Je vous défie de remarquer beaucoup de différence, s’il y en a.

Il est vrai que beaucoup de ces invites ressemblaient à de très mauvais extraits de la littérature du XVIIIe siècle. Extrait : « C’est ainsi que ce père humain et juste d’esprit réconforta sa fille malheureuse, et sa mère, l’embrassant de nouveau, fit tout ce qu’elle put pour apaiser ses sentiments. »

Mais que pouvais-je faire d’autre que d’écouter d’autres exemples présentés par les chercheurs ? Certaines versions de VALL-E étaient un peu plus suspectes que d’autres. La diction ne me semblait pas correcte. Ils se sentaient épissés. 

L’effet global, cependant, est pertinentement effrayant.

Vous avez déjà été prévenus, de couse. Vous savez que lorsque des escrocs vous appellent, vous ne devez pas leur parler au cas où ils vous enregistreraient et recréeraient ensuite votre diction pour que votre voix abstraite commande des produits coûteux.

Ceci, cependant, semble un autre niveau de sophistication. Peut-être ai-je déjà regardé trop d'épisodes de « The Capture » de Peacock, où les deepfakes sont présentés comme une partie naturelle du gouvernement. Peut-être que je ne devrais vraiment pas m'inquiéter parce que Microsoft est une entreprise si gentille et inoffensive ces jours-ci.

Cependant, l'idée que quelqu'un, n'importe qui, puisse être facilement trompé en croyant que je dis quelque chose que je n'ai pas dit - et que je ne dirai jamais - ne me réconforte pas. D'autant plus que les chercheurs affirment qu'ils peuvent reproduire « l'émotion et l'environnement acoustique » des 3 premières secondes de parole.

Vous serez alors soulagé que les chercheurs aient peut-être repéré ce potentiel d'inconfort. Ils proposent : « Étant donné que VALL-E pourrait synthétiser un discours qui maintient l’identité du locuteur, il peut comporter des risques potentiels en cas d’utilisation abusive du modèle, tels que l’usurpation de l’identification vocale ou l’usurpation de l’identité d’un locuteur spécifique. »

La solution ? Construire un système de détection, disent les chercheurs.

Ce qui peut amener une ou deux personnes à se demander : « Pourquoi avez-vous fait cela, alors ? »

Très souvent, dans le domaine de la technologie, la réponse est : « Parce que nous le pourrions. »