Les 5 plus gros risques de l’IA générative, selon un expert
L’IA nous facilite la vie de différentes manières. Cependant, ces avantages peuvent avoir un coût.
Les IA génératives, telles que ChatGPT, ont révolutionné la façon dont nous interagissons avec l'IA et la percevons. Des activités telles que l'écriture, le codage et la candidature à un emploi sont devenues beaucoup plus faciles et rapides. Malgré tous ces aspects positifs, il existe néanmoins des risques assez sérieux.
L’une des principales préoccupations liées à l’IA concerne la confiance et la sécurité, ce qui a même amené certains pays à interdire complètement ChatGPT dans son ensemble ou à reconsidérer leur politique autour de l’IA afin de protéger les utilisateurs contre tout préjudice.
Aussi : Cette nouvelle technologie pourrait faire exploser GPT-4 et tout le reste
Selon Avivah Litan, analyste chez Gartner, certains des plus grands risques liés à l’IA générative concernent la confiance et la sécurité et incluent les hallucinations, les deepfakes, la confidentialité des données, les problèmes de droits d’auteur et les problèmes de cybersécurité.
1. Hallucinations
Les hallucinations font référence aux erreurs que les modèles d’IA sont susceptibles de commettre car, bien qu’ils soient avancés, ils ne sont toujours pas humains et s’appuient sur la formation et les données pour fournir des réponses.
Si vous avez utilisé un chatbot IA, vous avez probablement ressenti ces hallucinations en raison d'une mauvaise compréhension de votre invite ou d'une réponse manifestement erronée à votre question.
Litan affirme que les données de formation peuvent conduire à des réponses biaisées ou factuellement incorrectes, ce qui peut constituer un problème sérieux lorsque les gens s'appuient sur ces robots pour obtenir des informations.
"Les données de formation peuvent conduire à des réponses biaisées, erronées ou fausses, mais celles-ci peuvent être difficiles à repérer, d'autant plus que les solutions sont de plus en plus crédibles et fiables", explique Litan.
2. Deepfakes
Un deepfake utilise l’IA générative pour créer des vidéos, des photos et des enregistrements vocaux qui sont faux mais prennent l’image et la ressemblance d’un autre individu.
De parfaits exemples sont la photo virale générée par l'IA du pape François dans une doudoune ou la chanson de Drake and the Weeknd générée par l'IA, qui a recueilli des centaines de milliers de streams.
"Ces fausses images, vidéos et enregistrements vocaux ont été utilisés pour attaquer des célébrités et des hommes politiques, pour créer et diffuser des informations trompeuses, et même pour créer de faux comptes ou prendre le contrôle et pirater des comptes légitimes existants", explique Litan.
Tout comme les hallucinations, les deepfakes peuvent contribuer à la diffusion massive de faux contenus, conduisant à la diffusion de fausses informations, ce qui constitue un grave problème de société.
3. Confidentialité des données
La confidentialité est également une préoccupation majeure avec l’IA générative puisque les données des utilisateurs sont souvent stockées pour la formation des modèles. Cette préoccupation est le facteur primordial qui a poussé l'Italie à interdire ChatGPT, affirmant qu'OpenAI n'était pas légalement autorisé à collecter des données sur les utilisateurs.
« Les employés peuvent facilement exposer des données d'entreprise sensibles et propriétaires lorsqu'ils interagissent avec des solutions de chatbot génératives d'IA », explique Litan. "Ces applications peuvent stocker indéfiniment les informations capturées via les entrées des utilisateurs, et même utiliser ces informations pour entraîner d'autres modèles, ce qui compromet encore davantage la confidentialité."
Litan souligne qu'en plus de compromettre la confidentialité des utilisateurs, les informations stockées présentent également le risque de « tomber entre de mauvaises mains » en cas de faille de sécurité.
4. Cybersécurité
Les capacités avancées des modèles d’IA générative, comme le codage, peuvent également tomber entre de mauvaises mains, ce qui suscite des problèmes de cybersécurité.
"En plus des menaces d'ingénierie sociale et de phishing plus avancées, les attaquants pourraient utiliser ces outils pour générer plus facilement du code malveillant", explique Litan.
Litan affirme que même si les fournisseurs qui proposent des solutions d'IA générative assurent généralement à leurs clients que leurs modèles sont formés pour rejeter les demandes malveillantes de cybersécurité, ces fournisseurs ne donnent pas aux utilisateurs finaux la possibilité de vérifier toutes les mesures de sécurité mises en œuvre.
5. Problèmes de droits d'auteur
Le droit d’auteur est une préoccupation majeure car les modèles d’IA générative sont formés sur d’énormes quantités de données Internet utilisées pour générer un résultat.
Ce processus de formation signifie que les œuvres qui n'ont pas été explicitement partagées par la source originale peuvent ensuite être utilisées pour générer du nouveau contenu.
Le droit d'auteur est une question particulièrement épineuse pour toute forme d'art généré par l'IA, y compris les photos et la musique.
Pour créer une image à partir d'une invite, les outils de génération d'IA, tels que DALL-E, feront référence à la vaste base de données de photos sur laquelle ils ont été formés. Le résultat de ce processus est que le produit final peut inclure des aspects du travail ou du style d'un artiste qui ne lui sont pas attribués.
Étant donné que les œuvres exactes sur lesquelles les modèles d’IA générative sont formés ne sont pas explicitement divulguées, il est difficile d’atténuer ces problèmes de droits d’auteur.
Quelle est la prochaine étape ?
Malgré les nombreux risques associés à l’IA générative, Litan ne pense pas que les organisations devraient cesser d’explorer cette technologie. Au lieu de cela, ils devraient créer une stratégie à l’échelle de l’entreprise qui cible la gestion de la confiance, des risques et de la sécurité de l’IA.
"Les développeurs d'IA doivent travailler de toute urgence avec les décideurs politiques, y compris les nouvelles autorités de régulation qui pourraient émerger, pour établir des politiques et des pratiques de surveillance de l'IA générative et de gestion des risques", déclare Litan.