El sesgo algorítmico, un término que denota las imprecisiones constantes y repetibles en un sistema digital que conducen a resultados injustos, a menudo favorece a un grupo demográfico a expensas de otros. Este sesgo puede infiltrarse en distintos puntos, como la recopilación de datos, la codificación o la toma de decisiones de diseño. Puede reflejar prejuicios sociales e institucionales ya existentes o desarrollarse de forma única en entornos digitales. Algunos ejemplos destacados son los sesgos en los resultados de los motores de búsqueda, los algoritmos de las redes sociales y los sistemas de aprendizaje automático. El sesgo algorítmico también puede aparecer en formas más específicas, como sesgos de género, políticos o técnicos. Además, influye considerablemente en diversos sectores, como los ámbitos empresariales, los sistemas judiciales y las plataformas en línea, dando lugar a acciones discriminatorias y violaciones de derechos.
Sesgo algorítmico describe de forma sistemática y repetible errores en un sistema informático que crean "injusto"Por ejemplo, "privilegiando" una categoría sobre otra de forma distinta a la función prevista del algoritmo.
El sesgo puede surgir de muchos factores, incluidos, entre otros, el diseño del algoritmo o el uso no intencionado o imprevisto o las decisiones relacionadas con la forma en que se codifican, recopilan, seleccionan o utilizan los datos para entrenar el algoritmo. Por ejemplo, se ha observado un sesgo algorítmico en resultados de los motores de búsqueda y plataformas de medios sociales. Este sesgo puede tener repercusiones que van desde la violación inadvertida de la intimidad hasta el refuerzo de la prejuicios sociales de raza, género, sexualidad y etnia. El estudio del sesgo algorítmico se centra sobre todo en los algoritmos que reflejan una discriminación "sistemática e injusta". Este sesgo solo se ha abordado recientemente en marcos jurídicos, como el de la Unión Europea Reglamento general de protección de datos (2018) y la propuesta Ley de Inteligencia Artificial (2021).
A medida que los algoritmos amplían su capacidad para organizar la sociedad, la política, las instituciones y el comportamiento, los sociólogos se preocupan por la forma en que la producción y manipulación imprevistas de datos pueden afectar al mundo físico. Dado que los algoritmos suelen considerarse neutrales e imparciales, pueden proyectar de forma imprecisa una mayor autoridad que la experiencia humana (en parte debido al fenómeno psicológico de los sesgo de automatización) y, en algunos casos, la dependencia de los algoritmos puede desplazar la responsabilidad humana de sus resultados. El sesgo puede introducirse en los sistemas algorítmicos como resultado de expectativas culturales, sociales o institucionales preexistentes; por la forma en que se eligen las características y las etiquetas; por las limitaciones técnicas de su diseño; o por ser utilizados en contextos imprevistos o por audiencias que no se han tenido en cuenta en el diseño inicial del software.
El sesgo algorítmico se ha citado en casos que van desde los resultados electorales a la difusión de incitación al odio en línea. También ha surgido en la justicia penal, la sanidad y la contratación, agravando los prejuicios raciales, socioeconómicos y de género existentes. La relativa incapacidad de la tecnología de reconocimiento facial para identificar con precisión rostros de piel más oscura se ha relacionado con múltiples detenciones erróneas de hombres negros, un problema derivado de conjuntos de datos desequilibrados. Los problemas para comprender, investigar y descubrir los sesgos algorítmicos persisten debido al carácter reservado de los algoritmos, que suelen tratarse como secretos comerciales. Incluso cuando se ofrece total transparencia, la complejidad de ciertos algoritmos supone un obstáculo para comprender su funcionamiento. Además, los algoritmos pueden cambiar o responder a la entrada o salida de formas que no pueden preverse o reproducirse fácilmente para su análisis. En muchos casos, incluso dentro de un mismo sitio web o aplicación, no hay un único "algoritmo" que examinar, sino una red de muchos programas y entradas de datos interrelacionados, incluso entre usuarios del mismo servicio.
Español 
English 
Français