« Les Advanced large language models (LLM) – dont les capacités dans n’importe quelle langue ne sont plus à démontrer - représentent une menace importante. Avec l’élimination des indicateurs traditionnels du phishing tels que les erreurs de mise en forme ou de grammaire, ils deviennent extrêmement difficiles à détecter. Les entreprises doivent aller au-delà de la formation classique dédiée au phishing et donner la priorité à l’adoption de contrôles de sécurité modernes. Ces méthodes de défenses avancées dépassent non seulement les capacités humaines à détecter un phishing, mais garantissent également la résilience contre ces tactiques », commente Eric Skinner, VP of market strategy – Trend.

Les attaques de phishing en 2024 vont subir d’importantes transformations à cause de la disponibilité généralisée et de l’amélioration de la qualité de l’IA générative, associées à l’utilisation des techniques de machine learning des réseaux antagonistes génératifs (RAG). Ces changements vont favoriser la création de contenus audio et vidéo hyperréalistes, entraînant ainsi une nouvelle vague de fraudes au président, de kidnapping virtuels et d’autres escroqueries.

Face à l’appât du gain, les assaillants seront tentés de développer des outils d’IAGen frauduleux pour mener ces attaques ou à utiliser des outils légitimes avec des identifiants volées et des VPN pour dissimuler leur identité[1].

Les modèles d’IA eux-mêmes pourraient également faire l’objet d’attaques en 2024. Si les assaillants peuvent difficilement influencer les ensembles de données IAGen et LLM, les modèles d’apprentissage automatique spécialisés, basés sur le cloud, constituent une cible bien plus attrayante. Les jeux de données bien plus spécifiques à partir desquels ils sont entraînés feront l’objet d’attaques par empoisonnement avec différents objectifs allant de l’exfiltration de données sensibles à la perturbation des filtres anti-fraude, en passant par les véhicules connectés. De telles attaques sont déjà accessibles pour moins de 100 dollars.
Ces tendances peuvent, à leur tour, conduire à une surveillance réglementaire accrue et pousser l’industrie de la cybersécurité à prendre les choses en main.

« L’industrie de la cybersécurité pourrait, sur l’année à venir, devancer les gouvernements sur le terrain de la mise en place de contrôles et règles répondant aux problématiques spécifiques induites par l’IA. », a déclaré Greg Young, VP of cybersecurity - Trend. « Le secteur évolue rapidement vers l’autorégulation sur la base d’un consentement préalable. »

Par ailleurs, le rapport de Trend sur les perspectives 2024 a mis en évidence :
Une recrudescence des attaques par des cloud-native worms, ciblant les vulnérabilités et les mauvaises configurations via une automatisation maximum pour impacter de multiples conteneurs, comptes et services avec un minimum d’effort.
Pour combler les lacunes de sécurité des environnements Cloud, la sécurité sera un élément incontournable de la politique de sécurité des organisations, en soulignant la vulnérabilité des applications natives cloud aux attaques automatisées. Des mesures proactives, y compris des mécanismes de défense robustes et des audits de sécurité approfondis, sont essentielles pour atténuer les risques.
De plus en plus d’attaques contre la supply chain cibleront non seulement les composants logiciels libres en amont, mais aussi les outils de gestion de l’identité des stocks, tels que les SIM des opérateurs télécoms, essentiels pour les systèmes de flotte et d’inventaire. Les assaillants exploiteront probablement aussi les chaînes d’approvisionnement logicielles des fournisseurs par le biais de systèmes CI/CD, en se concentrant spécifiquement sur les composants tiers.
Les attaques contre les blockchains privées augmenteront en raison des vulnérabilités chez un certain nombre d’entre elles. Les assaillants pourraient utiliser ces droits pour modifier, remplacer ou effacer des entrées, puis demander une rançon. Ils pourraient également essayer de crypter l’ensemble de la blockchain s’il est possible de prendre le contrôle d’un nombre suffisant de nœuds.

[1] D’après le FBI, les fraudes au président ont coûté aux victimes plus de 2,7 milliards de dollars en 2022.