Des créateurs du dark web ont mis au point des grands modèles de langage (LLMs) tels que "WormGPT" et "FraudGPT", vantant leurs capacités à perpétrer des campagnes de phishing, générer des messages destinés à pousser des victimes à tomber dans des pièges par e-mail professionnel, et à rédiger du code malveillant. Ces « LLMs » peuvent également servir à créer des outils de hacking personnalisés, identifier des fuites et des vulnérabilités dans les codes et concevoir des pages web d’escroquerie.

Bien que cela puisse sembler alarmant, la réalité est plus nuancée. WormGPT est en réalité un dérivé d’un autre outil nommé GPT-J, introduit par une entreprise appelée EleutherAI en 2021. Bien que WormGPT puisse susciter des préoccupations, il est important de noter qu’il n’est pas équipé des mêmes mesures de sécurité que d’autres outils similaires plus avancés. Pour mettre les choses en perspective, un autre outil, le GPT-4 d’OpenAI, est beaucoup plus avancé. En fait, le GPT-J, bien qu’utile, n’est pas, au demeurant, aussi performant que le GPT-3, surtout dans des domaines autres que la programmation.

Les tests effectués par la société de cybersécurité SlashNext sur WormGPT montrent que, bien que grammaticalement correct, le contenu généré n’est pas particulièrement convaincant, ni innovant. Les erreurs présentes dans le contenu suggèrent une approche générique qui serait probablement rejetée par des utilisateurs vigilants.

De plus, l’accès à ces « LLMs » malveillants est limité. Les créateurs de WormGPT et FraudGPT facturent des sommes allant de dizaines à des centaines de dollars pour des abonnements à leurs outils et interdisent l’accès à leurs bases de code. Ainsi, les utilisateurs ne peuvent ni modifier ni distribuer les modèles eux-mêmes.

Pierre Launay, Président du SFPN, a souligné : "Avec l’essor des outils no-code, qui démocratisent l’accès à la création technologique, il est essentiel de garder un œil sur les utilisations potentielles de l’IA. Ces innovations offrent d’immenses possibilités, mais comment garantir qu’elles soient utilisées à bon escient ? Notre secteur a la responsabilité de veiller à ce que le développement technologique soit à la fois innovant, sécurisé et éthique."

-----------------------------

À propos du SFPN
Le Syndicat Français des Professionnels du NoCode (SFPN), fondé en 2021, réunit les acteurs de la filière autour de 5 collèges représentatifs (freelances, organismes de formation, agences, éditeurs de solutions NoCode, international) pour les représenter. Il a pour objectifs de fédérer les professionnel·le·s du NoCode en France, d’identifier des causes communes et de coordonner des actions groupées. Pour ce faire, il a lancé en 2022 deux rendez-vous annuels majeurs : le NoCode Summit et le Tour du France du NoCode.