El estudio del aprendizaje automático adversarial se centra en la interacción entre los sistemas de aprendizaje automático y sus adversarios potencialmente dañinos. Esta especialidad ha crecido y se ha diversificado con el tiempo, gracias al trabajo de muchos investigadores. Investiga cómo las entidades dañinas pueden aprovechar y manipular los procedimientos de aprendizaje automático, a menudo con el objetivo de evitar la detección o inducir una clasificación errónea. Este campo abarca una amplia gama de métodos de ataque, desde disfrazar mensajes de spam hasta manipular sistemas de vehículos autónomos. Esta disciplina no sólo se centra en identificar y comprender estas amenazas, sino también en formular y ejecutar estrategias de defensa sólidas. Estas estrategias pueden abarcar diversas tácticas, como contramedidas en varias fases, métodos de identificación de ruidos y métodos para evaluar las repercusiones de los ataques. La investigación y exploración continuas en este ámbito son cruciales para garantizar la seguridad y fiabilidad de los sistemas de aprendizaje automático.
Aprendizaje automático adversarial es el estudio de los ataques a aprendizaje automático algoritmos, y de las defensas contra tales ataques. Una encuesta de mayo de 2020 expone el hecho de que los profesionales informan de la acuciante necesidad de proteger mejor los sistemas de aprendizaje automático en las aplicaciones industriales.
La mayoría de las técnicas de aprendizaje automático están diseñadas para funcionar en conjuntos de problemas específicos, bajo el supuesto de que los datos de entrenamiento y de prueba se generan a partir de la misma distribución estadística (IID). Sin embargo, esta suposición a menudo se viola peligrosamente en aplicaciones prácticas de alto riesgo, en las que los usuarios pueden suministrar intencionadamente datos fabricados que violen la suposición estadística.
Los ataques más comunes en el aprendizaje automático adversarial incluyen ataques de evasión, ataques de envenenamiento de datos, Ataques bizantinos y extracción de modelos.
Español 
English 
Français