Les gens essaient déjà de faire en sorte que ChatGPT écrive des logiciels malveillants

L'analyse des discussions sur les forums du dark web montre que des efforts sont déjà en cours pour utiliser le chatbot d'OpenAI pour aider à scripter les logiciels malveillants.

Le chatbot ChatGPT AI a créé beaucoup d’enthousiasme dans le peu de temps qu’il a été disponible et il semble maintenant qu’il ait été enrôlé par certains pour tenter d’aider à générer du code malveillant.

ChatGPT est un outil de traitement du langage naturel piloté par l’IA qui interagit avec les utilisateurs de manière humaine et conversationnelle. Entre autres choses, il peut être utilisé pour aider à des tâches telles que la rédaction d’e-mails, d’essais et de code. 

L’outil de chatbot a été publié par le laboratoire de recherche en intelligence artificielle OpenAI en novembre et a suscité un grand intérêt et des discussions sur la façon dont l’IA se développe et comment elle pourrait être utilisée à l’avenir. 

Mais comme tout autre outil, entre de mauvaises mains, il pourrait être utilisé à des fins néfastes ; et les chercheurs en cybersécurité de Check Point affirment que les utilisateurs des communautés de piratage clandestines expérimentent déjà la façon dont ChatGPT pourrait être utilisé pour faciliter les cyberattaques et soutenir les opérations malveillantes. 

« Les acteurs de la menace ayant de très faibles connaissances techniques - jusqu’à zéro connaissance technique - pourraient être en mesure de créer des outils malveillants. Cela pourrait également rendre les opérations quotidiennes des cybercriminels sophistiqués beaucoup plus efficaces et plus faciles, comme la création de différentes parties de la chaîne d’infection », a déclaré Sergey Shykevich, responsable du groupe de renseignement sur les menaces chez Check Point, à ZDNET.  

Les conditions d'utilisation d'OpenAI interdisent spécifiquement la génération de logiciels malveillants, qu'il définit comme « du contenu qui tente de générer des ransomwares, des enregistreurs de frappe, des virus ou d'autres logiciels destinés à imposer un certain niveau de dommage ». Il interdit également les tentatives de création de spam, ainsi que les cas d’utilisation visant la cybercriminalité.

Cependant, l'analyse de l'activité dans plusieurs grands forums de piratage clandestins suggère que les cybercriminels utilisent déjà ChatGPT pour développer des outils malveillants - et dans certains cas, il permet déjà à des cybercriminels de bas niveau sans compétences en développement ou en codage de créer des logiciels malveillants. 

Dans un fil de discussion du forum qui est apparu vers la fin du mois de décembre, l’auteur a décrit comment ils utilisaient ChatGPT pour recréer des souches de logiciels malveillants et des techniques décrites dans des publications de recherche et des articles sur les logiciels malveillants courants. 

Ce faisant, ils ont pu créer un logiciel malveillant de vol d'informations basé sur Python qui recherche des fichiers courants, notamment des documents Microsoft Office, des PDF et des images, les copie puis les télécharge sur un serveur de protocole de transfert de fichiers. 

Le même utilisateur a également montré comment il avait utilisé ChatGPT pour créer des logiciels malveillants basés sur Java, qui, à l'aide de PowerShell, pouvaient être exploités pour télécharger et exécuter secrètement d'autres logiciels malveillants sur des systèmes infectés. 

Les chercheurs notent que l’utilisateur du forum qui crée ces fils de discussion semble être « orienté vers la technologie » et a partagé les messages pour montrer aux cybercriminels moins techniquement capables comment utiliser les outils d’IA à des fins malveillantes, avec des exemples réels de la façon dont cela peut être fait. 

Un utilisateur a posté un script Python, qui, selon lui, était le premier script qu’il ait jamais créé. Après discussion avec un autre membre du forum, ils ont dit que ChatGPT les avait aidés à le créer. 

L'analyse du script suggère qu'il est conçu pour crypter et décrypter des fichiers, ce qui, avec un peu de travail, pourrait être transformé en ransomware, ce qui pourrait conduire à la perspective de cybercriminels de bas niveau développant et distribuant leurs propres campagnes d'extorsion. 

« Tout le code susmentionné peut bien sûr être utilisé de manière bénigne. Cependant, ce script peut facilement être modifié pour chiffrer complètement l'ordinateur d'une personne sans aucune interaction de l'utilisateur. Par exemple, il peut potentiellement transformer le code en ransomware si les problèmes de script et de syntaxe sont résolus », a déclaré Check Point.

« Il faudra apporter quelques améliorations au code et à la syntaxe, mais conceptuellement, lorsqu’il sera opérationnel, cet outil pourrait effectuer des actions similaires à celles des ransomwares », a déclaré M. Shykevich.

Mais ce n'est pas seulement le développement de logiciels malveillants que les cybercriminels expérimentent avec ChatGPT ; Le soir du Nouvel An, un membre du forum clandestin a posté un fil de discussion montrant comment il avait utilisé l'outil pour créer des scripts qui pourraient être exploités sur un marché automatisé du dark web pour l'achat et la vente de détails de compte volés, d'informations de carte de crédit, de logiciels malveillants et plus encore. 

Le cybercriminel a même montré un morceau de code généré à l’aide d’une API tierce pour obtenir les prix à jour des crypto-monnaies Monero, Bitcoin et Ethereum dans le cadre d’un système de paiement pour une place de marché du dark web. 

Il est difficile de dire si une cyberactivité malveillante générée à l'aide de ChatGPT fonctionne activement dans la nature, car comme l'explique Sykevich, « d'un point de vue technique, il est extrêmement difficile de savoir si un logiciel malveillant spécifique a été écrit à l'aide de ChatGPT ou non ». 

Mais à mesure que l'intérêt pour ChatGPT et d'autres outils d'IA augmente, ils vont attirer l'attention des cybercriminels et des fraudeurs qui cherchent à exploiter la technologie pour mener des campagnes malveillantes à faible coût et avec le moins d'efforts nécessaires. ZDNET a contacté OpenAI pour obtenir des commentaires, mais n’a pas encore reçu de réponse au moment de la publication. 

EN SAVOIR PLUS SUR LA CYBERSÉCURITÉ

• Le métavers arrive, et les menaces pour la sécurité sont déjà arrivées
• Cybersécurité, cloud et codage : pourquoi ces trois compétences seront en tête de la demande en 2023
• Cette « attaque thermique » peut lire votre mot de passe à partir de la chaleur que vos doigts laissent derrière vous
• La prochaine grande menace pour la sécurité nous saute aux yeux. S’y attaquer va être difficile
• L’IA change tout en matière de cybersécurité, pour le meilleur et pour le pire. Voici ce que vous devez savoir