Les leaders de l’IA signent une déclaration pour reconnaître ouvertement les dangers de l’IA
L’intelligence artificielle est capable de provoquer l’extinction des humains, selon les dirigeants de l’industrie et les chercheurs.
Sam Altman témoignant sur l'IA.
En mars, une lettre ouverte dirigée par des experts de l'industrie technologique cherchait à arrêter le développement de modèles avancés d'IA, de peur que cette technologie ne pose un « risque profond pour la société et l'humanité ».
Cette semaine, une déclaration cosignée par Sam Altman, PDG d'OpenAI, le « parrain » de l'IA Geoffrey Hinton, et d'autres cherche à réduire le risque que l'IA pose pour pousser l'humanité vers l'extinction. La préface de la déclaration encourage les dirigeants de l’industrie à discuter ouvertement des menaces les plus graves de l’IA.
Selon le communiqué, le risque que représente l’IA pour l’humanité est si grave qu’il est comparable aux pandémies mondiales et à la guerre nucléaire. Les autres cosignataires sont des chercheurs de Google DeepMind, Kevin Scott, directeur de la technologie de Microsoft, et Bruce Schneier, un pionnier de la sécurité Internet.
Les grands modèles de langage (LLM) d'aujourd'hui popularisés par ChatGPT d'Altman ne peuvent pas encore atteindre l'intelligence générale artificielle (AGI). Cependant, les dirigeants de l’industrie s’inquiètent de la progression des LLM à ce point. L'AGI est un concept qui définit un être artificiellement intelligent qui peut égaler ou dépasser l'intelligence humaine.
AGI est un exploit qu’OpenAI, Google DeepMind et Anthropic espèrent atteindre un jour. Mais chaque entreprise reconnaît qu’il pourrait y avoir des conséquences importantes si ses technologies atteignent l’AGI.
Altman a déclaré lors de son témoignage devant le Congrès au début du mois que sa plus grande crainte était que l'IA « cause des dommages importants au monde », et que ces dommages pourraient se produire de plusieurs manières.
Quelques semaines plus tôt, Hinton avait brusquement démissionné de son poste où il travaillait sur les réseaux neuronaux chez Google, déclarant à CNN qu'il était "juste un scientifique qui s'est soudain rendu compte que ces choses devenaient plus intelligentes que nous".