ChatGPT est-il une menace pour la cybersécurité ?

Depuis ses débuts en novembre, ChatGPT est devenu le nouveau jouet préféré des internautes. Cet outil de traitement du langage naturel piloté par l'IA a rapidement rassemblé plus d'un million d'utilisateurs, qui ont utilisé le chatbot en ligne pour tout. Un chatbot est un programme informatique conçu pour simuler une conversation avec des utilisateurs, généralement via une interface en ligne,ils sont conçus pour automatiser certaines tâches et répondre aux questions des utilisateurs en utilisant des algorithmes de reconnaissance de langage naturel et des bases de données préprogrammées.

 

 

L'utilisation de ce chatbot varie de la rédaction de discours de mariage et de paroles de chansons de hip-hop à la rédaction d'essais universitaires et de codes informatiques. 

Non seulement les capacités humaines de ChatGPT ont pris internet d'assaut, mais elles ont également alarmé certains milieux. Le département en charge de l’éducation dans la ville de New York a décidé de bannir ChatGPT par crainte qu'il ne soit utilisé pour tricher, des rédacteurs sont déjà remplacés et des rapports affirment que Google est tellement affolé par les capacités de ChatGPT qu'il a émis un "code rouge" pour assurer la survie de son activité de recherche.

New York

Il semble que le secteur de la cybersécurité, une communauté qui s'est longtemps montrée sceptique quant aux implications potentielles de l'IA moderne, s'intéresse également au problème, car il craint que ChatGPT ne soit utilisé de manière abusive par des pirates disposant de ressources limitées et de pauvres connaissances techniques.

Une société de cybersécurité israélienne Check Point a publié un rapport démontrant que des forums criminels clandestins ont fini par prendre le dessus. Dans l'un des messages de forum examinés par Check Point, un pirate a présenté un code écrit par ChatGPT qui volait des fichiers intéressants, les compressait et les envoyait sur le Web. Ils ont présenté un autre outil qui installait une porte dérobée (backdoor) sur un ordinateur et pouvait télécharger d'autres logiciels malveillants sur le PC infecté.

Sur le même forum, un autre utilisateur a partagé un code Python capable de crypter des fichiers, affirmant que l'application d'OpenAI l'avait aidé à le construire. Ils ont affirmé que c'était le premier script qu'ils avaient développé. Comme Check Point l'a noté dans son rapport, un tel code peut être utilisé à des fins tout à fait bénignes, mais il pourrait aussi "être facilement modifié pour crypter complètement la machine de quelqu'un sans aucune interaction de l'utilisateur", de manière similaire au fonctionnement des rançongiciels (logiciel d'extorsion). Le même utilisateur du forum avait déjà vendu l'accès à des serveurs d'entreprises piratés et à des données volées.

 Check Point pense que ce n'était qu'une question de temps avant que des pirates plus "sophistiqués" ne trouvent le moyen d'utiliser l'IA à leur avantage.