Comment l’intelligence artificielle (IA) va-t-elle changer la nature des cyberattaques ? Quels types de menaces l’IA fera-t-elle peser sur la cybersécurité au cours des prochaines années ? Quels sont les aspects qu’il est important de prendre en compte pour se préparer à ces menaces ?

Ces questions et bien d’autres sont abordées dans un nouveau rapport préparé par le National Cyber Security Centre Finland (NCSC-FI) de Traficom et la National Emergency Supply Agency (NESA).

La menace pour la sécurité des cyberattaques basées sur l’IA

Le sujet des cyberattaques basées sur l’IA a fait surface il y a environ cinq ans avec des exemples de modèles d’IA générative capables d’automatiser les attaques de harcèlement et la découverte de vulnérabilités. Depuis lors, des attaques d’ingénierie sociale et d’usurpation d’identité basées sur l’IA ont eu lieu, causant des millions de dollars de pertes financières.

Les progrès rapides actuels de la recherche sur l’IA, associés aux nombreuses nouvelles applications qu’elle permet, nous amènent à penser que les techniques d’IA seront bientôt utilisées pour prendre en charge un plus grand nombre des différentes étapes habituellement utilisées lors des cyberattaques.

C’est la raison pour laquelle l’idée de cyberattaques basées sur l’IA a récemment fait l’objet d’une attention accrue de la part du monde universitaire et de l’industrie, et pourquoi nous commençons à voir davantage de recherches consacrées à l’étude de la façon dont l’IA pourrait être utilisée pour améliorer les cyberattaques.

Ce rapport vise à étudier la menace que représentent les cyberattaques basées sur l’IA en résumant les connaissances actuelles sur le sujet.

L’IA permet de nouvelles méthodes d’attaque

Selon le rapport, l’IA est déjà largement utilisée, et un large éventail d’opérateurs s’intéresse aux opportunités qu’elle présente dans différents domaines. Toutefois, de nombreux services et applications concrets en sont encore aux premiers stades de développement. L’IA et différents types de modèles de Machine Learning peuvent améliorer la surveillance de la cybersécurité des organisations, mais ils peuvent aussi permettre de nouveaux types d’attaques.

Les cyberattaques basées sur l’IA sont apparues il y a quelques années. Les modèles d’IA sont capables d’automatiser les attaques de spear-phishing et la découverte de vulnérabilités mieux qu’auparavant. Des attaques d’ingénierie sociale et d’usurpation d’identité soutenues par l’IA ont également eu lieu. Il s’agit notamment de divers deepfakes dans lesquels les attaquants visent à générer du matériel vidéo ou audio crédible créé par des modèles de deep learning.

Les techniques d’IA seront bientôt une réalité dans les cyberattaques

Les progrès rapides actuels de la recherche sur l’IA, associés aux nombreuses nouvelles applications qu’elle permet, donnent des raisons de penser que les techniques d’IA seront bientôt utilisées pour soutenir les cyberattaques. L’idée de cyberattaques basées sur l’IA a récemment fait l’objet d’une attention accrue de la part des milieux universitaires et industriels. Même si l’IA ne donnera pas encore lieu à des types d’attaques totalement nouveaux, nous obtenons continuellement de nouvelles informations sur la manière dont l’IA pourrait être utilisée pour améliorer les cyberattaques.

Dans un avenir proche, les progrès rapides de l’IA sont susceptibles d’améliorer et de créer de meilleures opportunités pour l’automatisation des attaques, l’ingénierie sociale et la collecte d’informations. Au fil des ans, les technologies, les compétences et les outils d’IA deviendront plus disponibles et plus abordables, ce qui incitera les attaquants à recourir à des cyberattaques basées sur l’IA.

« S’il est déjà possible d’avoir une conversation avec l’IA, bientôt les escroqueries en ligne pourraient être réalisées par des IA travaillant pour des criminels. Au fil des années, les technologies, les compétences et les outils de l’IA deviendront plus facilement accessibles, ce qui incitera les attaquants à utiliser l’IA pour perpétrer des cyberattaques. Même si l’IA ne donnera pas lieu à des types d’attaques totalement nouveaux dans un avenir proche, elle peut être utilisée pour accroître l’ampleur des cybermenaces. Les cyberattaques peuvent également viser de nouvelles cibles si l’automatisation rend les attaques indépendantes du temps investi par les cybercriminels », déclare Sauli Pahlman, directeur général adjoint du NCSC-FI, à Traficom.

« Dans le monde numérique, le changement est constant et rapide. Nous devons suivre les avancées technologiques et anticiper les menaces qu’elles représentent pour être mieux à même d’assurer la sécurité numérique des fonctions clés de la société. L’IA et le machine learning sont des technologies d’avenir qui nous permettent de développer de nouveaux services numériques. Dans le même temps, elles ouvrent également de nouvelles opportunités aux cybercriminels. Le rapport actuel nous aide à anticiper ces nouvelles menaces », déclare Juha Ilkka, de la National Emergency Supply Agency, responsable du programme Digital Security 2030.

Les avancées technologiques accélèrent le changement

Traficom surveille en permanence les changements dans notre cyberenvironnement et le champ de menaces qui y est lié. « Nous travaillons en étroite collaboration avec nos partenaires et parties prenantes en Finlande et à l’étranger, en échangeant continuellement des informations sur la connaissance de la situation ».

« Traficom surveille et analyse en permanence les phénomènes de la société numérique et de la cybersécurité. Nous aidons les entreprises et les autres autorités à se préparer à l’avenir. Ce travail nous permet également d’influencer le développement technologique et nous aide à atténuer les défis engendrés par les avancées technologiques. L’analyse de l’impact de l’IA sur la cybersécurité est un exemple de ce travail », déclare le directeur général adjoint Pahlman.