L'étude de l'apprentissage automatique antagoniste se concentre sur l'interaction entre les systèmes d'apprentissage automatique et leurs adversaires potentiellement nuisibles. Cette spécialité s'est développée et diversifiée au fil du temps, grâce au travail de nombreux chercheurs. Elle étudie comment des entités nuisibles peuvent tirer parti des procédures d'apprentissage automatique et les manipuler, souvent dans le but d'éviter la détection ou d'induire une classification erronée. Ce domaine englobe un large éventail de méthodes d'attaque, allant de la dissimulation de messages de spam à la manipulation de systèmes de véhicules autonomes. Cette discipline se concentre non seulement sur l'identification et la compréhension de ces menaces, mais aussi sur la formulation et l'exécution de stratégies de défense robustes. Ces stratégies peuvent englober diverses tactiques telles que des contre-mesures en plusieurs étapes, des méthodes d'identification du bruit et des méthodes d'évaluation des répercussions des attaques. La recherche et l'exploration continues dans ce domaine sont cruciales pour garantir la sécurité et la fiabilité des systèmes d'apprentissage automatique.
Apprentissage automatique contradictoire est l'étude des attaques contre apprentissage automatique des algorithmes d'apprentissage automatique et des défenses contre ces attaques. Une enquête réalisée en mai 2020 révèle que les praticiens font état d'un besoin urgent de mieux protéger les systèmes d'apprentissage automatique dans les applications industrielles.
La plupart des techniques d'apprentissage automatique sont conçues pour fonctionner sur des ensembles de problèmes spécifiques, en partant du principe que les données d'apprentissage et de test sont générées à partir de la même distribution statistique (IID). Toutefois, cette hypothèse est souvent dangereusement violée dans les applications pratiques à fort enjeu, où les utilisateurs peuvent intentionnellement fournir des données fabriquées qui violent l'hypothèse statistique.
Les attaques les plus courantes dans le domaine de l'apprentissage automatique antagoniste sont les suivantes les attaques par évasion, les attaques par empoisonnement des données, Attaques byzantines et l'extraction de modèles.
Français 
English 
Español