Recherche de site Web

Musk, Wozniak et d'autres leaders technologiques signent une pétition pour arrêter les nouveaux développements de l'IA

Une pétition comptant plus de 1 000 signatures appelle à une pause dans les expériences géantes d’IA. Voici pourquoi.

L’intérêt pour l’IA a atteint des niveaux sans précédent, avec de nouvelles applications d’IA mises à la disposition du public presque quotidiennement. Quatre mois seulement après le lancement de ChatGPT par OpenAI, il a dévoilé son grand modèle de langage le plus performant, GPT-4.

Une nouvelle pétition vise à stopper ces développements rapides et massifs et appelle les laboratoires d'IA à suspendre - pendant au moins six mois - la formation de systèmes d'IA plus puissants que GPT-4.

La pétition, portée par des experts du secteur, vise à protéger la société contre les « risques profonds pour la société et l'humanité » que peuvent provoquer les systèmes d'IA dotés d'une intelligence humaine-compétitive.

Plus précisément, la pétition cible le manque de planification et de gestion nécessaire au déploiement de ces modèles d'IA avancés, dans ce que la pétition appelle une « course incontrôlable » produisant des systèmes que ses créateurs ne peuvent pas « comprendre, prédire, ou un contrôle fiable."

La pause suggérée par la pétition donnerait aux laboratoires d'IA et aux experts indépendants le temps de développer des protocoles de sécurité pour une conception avancée de l'IA qui rendrait les systèmes d'IA plus précis, plus sûrs, interprétables, dignes de confiance et fidèles, selon la lettre ouverte.

Si les principaux acteurs ne souhaitent pas adhérer rapidement à une pause, la pétition suggère que les gouvernements interviennent et décrétent un moratoire.

Les technologies du passé ayant des « effets potentiellement catastrophiques sur la société », telles que le clonage humain et l'eugénisme, ont déjà été suspendues par les agences gouvernementales, et la pétition indique que cet événement doit être traité avec la même prudence.

La pétition a recueilli plus de 1 100 signatures, dont celles de personnalités notables du secteur, telles que le PDG de Tesla, Elon Musk, le co-fondateur d'Apple, Steve Wozniak, et Emad Mostaque, PDG de Stability AI, la société responsable de l'invention de la diffusion stable.

Musk, à l'origine investisseur dans OpenAI lors de sa création en 2015, a exprimé ses inquiétudes face à la croissance rapide de l'IA et en particulier à l'implication de Microsoft auparavant.

Articles connexes