Une chose surprenante s'est produite lorsqu'un réseau neuronal a pu choisir ses propres neurones
Cette recherche révèle l’importance de la diversité évolutive pour la vie sur Terre et, plus incroyable encore, dans les machines.
Il fut un temps où les chiens de race pure étaient des symboles de statut social. Les propriétaires se vantent des pedigrees impeccables de leur berger allemand ou de leur cocker spaniel, se vantant parfois de lignées qui suivent une seule lignée au sein de la même famille depuis plusieurs générations.
Cette attirance pour la pureté s'est accentuée pendant l'Allemagne nazie d'Hitler, lorsque les lignées « contaminées » de bergers allemands étaient abhorrées. Cependant, c'est à l'époque victorienne des années 1800 que les gens se sont consanguinés sans relâche avec des chiens, au point où toutes les races que nous voyons aujourd'hui - et leurs affections, telles que les problèmes de hanche et d'autres articulations - sont le résultat de ce processus de consanguinité.
Aujourd'hui, l'accent mis sur la pureté a changé et nous continuons à en apprendre davantage sur la génétique, en particulier sur la façon dont la consanguinité est le moyen le plus rapide d'acquérir des problèmes de santé débilitants et des tempéraments instables.
Maintenant, c'est le chien qui règne. Nous savons que plus la diversité des environnements est grande, plus grande est la diversité des organismes qui émergent après s’y être adaptés - et, en fin de compte, plus grande est la stabilité du monde dans lequel nous vivons.
Dans le monde moderne, plus que dans toute autre période de l’histoire humaine moderne, des pools génétiques diversifiés sont recherchés, d’autant plus que les environnements instables et les problèmes de changement climatique nécessiteront des espèces plus résistantes. Ce processus en soi, en tant que loi de la Terre, n’est pas si difficile à comprendre.
Mais qu’en est-il si une machine présente la même capacité à mieux fonctionner dans le cadre d’une configuration technique plus diversifiée ?
De plus, que se passerait-il si la machine choisissait la diversité après avoir été autorisée à façonner ses propres entrailles -- et que ses choix se traduisaient par une augmentation sans précédent de la vitesse du processeur ?
Méta-apprentissage pour l'IA
Cette question a été mise à l'épreuve par une expérience révolutionnaire entreprise par une équipe de chercheurs (Anshul Choudhary, Anil Radhakrishnan, John F. Lindner, William Ditto et Sudeshna Sinha) issus de diverses institutions (État de Caroline du Nord, Indian Institute of Science). , Mohali, Collège de Wooster). Leur objectif était de tester le type de choix opérationnels que les IA avancées, telles que les réseaux neuronaux, feraient lorsqu’elles seraient laissées à elles-mêmes.
"Nous avons créé un système de test avec une intelligence non humaine, une intelligence artificielle (IA), pour voir si l'IA choisirait la diversité plutôt que le manque de diversité et si son choix améliorerait ses performances", explique l'article co- auteur William Ditto, professeur de physique à NC State et directeur du laboratoire d'intelligence artificielle non linéaire (NAIL) de NC State.
"Nos vrais cerveaux possèdent plus d'un type de neurones", explique Ditto, extrapolant davantage sur l'expérience, qui commence à redéfinir la façon dont nous envisageons la diversité neurologique dans les machines et la relation avec la performance.
"Nous avons donc donné à notre IA la capacité de regarder à l'intérieur et de décider si elle devait modifier la composition de son réseau neuronal. Essentiellement, nous lui avons donné le bouton de contrôle de son propre cerveau. Pour qu'elle puisse résoudre le problème, regardez le résultat, et changez le type et le mélange de neurones artificiels jusqu'à ce qu'il trouve celui qui est le plus avantageux. C'est du méta-apprentissage pour l'IA.
La diversité est une nécessité évolutive pour la survie et les performances optimales, y compris dans les machines.
Un réseau neuronal, qui est au cœur de la plupart des IA avancées et conventionnelles, imite le fonctionnement de notre cerveau. Tout comme notre cerveau envoie et reçoit des impulsions électriques qui dépendent de la force de leurs connexions, les réseaux neuronaux le font également, en ajustant les pondérations numériques et les biais lors de leur entraînement.
Alors qu'un réseau neuronal suit une formation et tente, par exemple, d'identifier à quoi ressemblent les bus en parcourant une vaste collection de photos de bus, le réseau ajuste ses poids numériques et s'équilibre tout en négociant les bonnes et les mauvaises images de bus.
La force des connexions entre ces neurones fluctue au cours du processus d’entraînement, mais elles resteront essentiellement verrouillées en ce qui concerne leur composition.
Jusqu’à ce que les scientifiques donnent au réseau neuronal la liberté de s’activer - et alors quelque chose de remarquable s’est produit.
Choisir la diversité pour des performances optimales
Premièrement, le réseau a sélectionné des arrangements de neurones non linéaires complètement différents ou hétérogènes.
En d’autres termes, le système a choisi la diversité plutôt que l’uniformité dans un processus appelé « diversité apprise ».
Ensuite, il s’est avéré que le réseau neuronal hétérogène et autosélectionné surpassait également le réseau homogène avec la même formation.
Lorsque l'équipe a demandé à l'IA d'effectuer un « exercice de classification numérique standard », l'exercice d'IA diversifié et autosélectionné a battu son frère homogène de 70 % à 57 % en termes de précision.
Idem affirme que l’IA diversifiée peut être jusqu’à 10 fois plus précise qu’un réseau neuronal conventionnel.
"Nous avons montré que si vous donnez à une IA la capacité de regarder à l'intérieur et d'apprendre comment elle apprend, elle modifiera sa structure interne - la structure de ses neurones artificiels - pour embrasser la diversité et améliorer sa capacité à apprendre et à résoudre efficacement les problèmes. et plus précisément", déclare Idem.
Il a ajouté qu’à mesure que les problèmes deviennent plus complexes et chaotiques, les performances du réseau neuronal diversifié de l’IA s’améliorent avec le temps par rapport à l’IA non diversifiée.
Selon les scientifiques, cette diversité apprise peut même améliorer les performances des IA existantes basées sur la physique, telles que les réseaux neuronaux hamiltoniens.
À mesure que l’IA est déployée dans presque toutes les applications - dont beaucoup sont impliquées dans des fonctions de vie ou de mort, comme les avions et les véhicules autonomes - nous aurons besoin de systèmes beaucoup plus robustes et rapides.
Une trajectoire évolutive diversifiée a fait des humains, des animaux, des plantes et à peu près tout ce qui a survécu sur Terre jusqu'à présent une réussite - et elle semble également séparer les gagnants des perdants dans le monde des machines.