Biais algorithmique

Biais algorithmique décrit des méthodes systématiques et reproductibles erreurs dans un système informatique qui créent des "injuste"Les résultats de l'algorithme peuvent être très positifs, par exemple en "privilégiant" une catégorie par rapport à une autre, d'une manière différente de la fonction prévue de l'algorithme.

Les biais peuvent provenir de nombreux facteurs, y compris, mais sans s'y limiter, la conception de l'algorithme ou l'utilisation involontaire ou imprévue ou les décisions relatives à la manière dont les données sont codées, collectées, sélectionnées ou utilisées pour former l'algorithme. Par exemple, des biais algorithmiques ont été observés dans les cas suivants résultats des moteurs de recherche et les plateformes de médias sociaux. Ce biais peut avoir des conséquences allant de la violation involontaire de la vie privée au renforcement de l'intérêt pour la protection de la vie privée. les préjugés sociaux de la race, du sexe, de la sexualité et de l'ethnicité. L'étude des préjugés algorithmiques porte principalement sur les algorithmes qui reflètent une discrimination "systématique et injuste". Ce n'est que récemment que ces biais ont été pris en compte dans des cadres juridiques, tels que la directive de l'Union européenne relative à la protection des données à caractère personnel et à l'accès à l'information. Règlement général sur la protection des données (2018) et la proposition de Loi sur l'intelligence artificielle (2021).

Alors que les algorithmes développent leur capacité à organiser la société, la politique, les institutions et les comportements, les sociologues se sont intéressés à la manière dont les résultats imprévus et la manipulation des données peuvent avoir un impact sur le monde physique. Parce que les algorithmes sont souvent considérés comme neutres et impartiaux, ils peuvent à tort projeter une autorité supérieure à celle de l'expertise humaine (en partie en raison du phénomène psychologique de la "confiance"). biais d'automatisation) et, dans certains cas, la confiance dans les algorithmes peut remplacer la responsabilité humaine pour leurs résultats. Les systèmes algorithmiques peuvent être biaisés par des attentes culturelles, sociales ou institutionnelles préexistantes, par le choix des caractéristiques et des étiquettes, par les limites techniques de leur conception, ou par leur utilisation dans des contextes imprévus ou par des publics qui n'ont pas été pris en compte lors de la conception initiale du logiciel.

La partialité algorithmique a été citée dans des affaires allant des résultats d'élections à la diffusion d'informations sur la santé publique. discours de haine en ligne. Ce problème s'est également posé dans les domaines de la justice pénale, des soins de santé et de l'embauche, aggravant les préjugés raciaux, socio-économiques et sexistes existants. L'incapacité relative de la technologie de reconnaissance faciale à identifier avec précision les visages à la peau plus foncée a été liée à de nombreuses arrestations injustifiées d'hommes noirs, un problème qui découle d'ensembles de données déséquilibrés. Les problèmes de compréhension, de recherche et de découverte des biais algorithmiques persistent en raison de la nature exclusive des algorithmes, qui sont généralement traités comme des secrets commerciaux. Même lorsque la transparence est totale, la complexité de certains algorithmes constitue un obstacle à la compréhension de leur fonctionnement. En outre, les algorithmes peuvent changer ou réagir à des données d'entrée ou de sortie d'une manière qui ne peut être anticipée ou facilement reproduite à des fins d'analyse. Dans de nombreux cas, même au sein d'un seul site web ou d'une seule application, il n'y a pas un seul "algorithme" à examiner, mais un réseau de nombreux programmes interdépendants et d'entrées de données, même entre les utilisateurs d'un même service.