OpenAI partage des mises à jour de sécurité après les plaintes des lanceurs d'alerte, exige le législateur
Dans un fil de discussion X, le géant de l'IA explique « comment nous donnons la priorité à la sécurité dans notre travail ». Voici les nouveautés.
La sécurité est l'une des plus grandes préoccupations liées à la croissance rapide des modèles d'intelligence artificielle générative. Une plainte de sept pages déposée par des lanceurs d'alerte et obtenue par le Washington Post concernant les pratiques de sécurité d'OpenAI n'a fait qu'exacerber ces inquiétudes. En conséquence, OpenAI partage désormais avec le public une mise à jour sur ses initiatives en matière de sécurité.
Mardi, OpenAI s'est adressé à X, anciennement Twitter, pour partager un résumé des mises à jour sur "la façon dont nous donnons la priorité à la sécurité dans notre travail". Le fil de discussion comprenait les faits saillants des initiatives récentes et des mises à jour des projets en cours.
Pour que l’IA puisse profiter à tous, il faut commencer par créer une IA utile et sûre. Nous souhaitons partager quelques mises à jour sur la façon dont nous accordons la priorité à la sécurité dans notre travail.
OpenAI a commencé par présenter son cadre de préparation, publié pour la première fois en version bêta en décembre. Le cadre inclut les diverses précautions prises par OpenAI pour garantir la sécurité de ses modèles d'IA frontaliers, telles que la fourniture de cartes de pointage de modèles sur différentes mesures et le fait de ne pas publier un nouveau modèle s'il franchit un seuil de risque « moyen ».
En tandem, OpenAI a déclaré qu'elle développait activement des « niveaux » pour aider OpenAI et les parties prenantes à catégoriser et à suivre les progrès de l'IA, sur lesquels la société partagera plus de détails « bientôt ».
OpenAI a également proposé des mises à jour sur son comité de sûreté et de sécurité, initialement lancé par le conseil d'administration d'OpenAI en mai pour ajouter une autre couche de freins et contrepoids à ses opérations. L'examen mené par le comité, qui comprend des experts techniques et politiques, est actuellement en cours. Une fois terminé, OpenAI partagera les autres mesures qu'il envisage de prendre.
Enfin, OpenAI a attiré l'attention sur sa politique de dénonciation, qui « protège les droits des employés à faire des divulgations protégées », selon l'entreprise. Pour promouvoir les conversations sur la technologie, l'entreprise a également modifié le processus de départ de ses employés, en supprimant les conditions de non-dénigrement.
OpenAI a partagé ces mises à jour juste un jour après que les législateurs américains ont exigé qu'OpenAI partage des données concernant ses pratiques de sécurité à la suite du rapport du lanceur d'alerte. Certains des points majeurs du rapport incluaient qu'OpenAI empêchait le personnel d'alerter les autorités compétentes concernant les risques technologiques et obligeait les employés à renoncer à leurs droits fédéraux à l'indemnisation des dénonciateurs, deux sujets abordés par les messages X.