Back تحيز خوارزمي Arabic Algorithmic bias English Sesgo algorítmico Spanish Nesgo algorítmico Galician Algoritma bias ID アルゴリズムバイアス Japanese 알고리즘 편향 Korean Алгоритмын гажуудал Mongolian الگوریتمي انحراف Pashto/Pushto Discriminação algorítmica Portuguese
Pour les articles homonymes, voir Biais.
Un biais algorithmique est le fait que le résultat d'un algorithme ne soit pas neutre, loyal ou équitable, pour des raisons inconscientes ou délibérées de la part de ses auteurs.
Un biais algorithmique peut se produire lorsque les données utilisées pour entraîner un algorithme d'apprentissage automatique reflètent un sous échantillon non représentatif et non exhaustif de la population générale, et donc potentiellement des caractéristiques ou des valeurs implicites des humains impliqués dans la collecte, la sélection, ou l'utilisation de ces données[1]. Les biais algorithmiques ont été identifiés et critiqués pour leur impact sur les résultats des moteurs de recherche[2], les services de réseautage social[3], le respect de la vie privée[4], et le profilage racial[5]. Ainsi, un biais peut être raciste, sexiste, culturel, générationel, social ou autre[6].
Le biais algorithmique peut être involontaire et ne procède pas nécessairement d’une volonté délibérée des concepteurs. Par conséquent, il est important d'avoir conscience que la conception et l'usage d'un algorithme peut reproduire ou amplifier certains biais. Cette problématique pose la question du manque de rétrocontrôle des concepteurs, programmeurs et utilisateurs d'algorithmes[7].
- ↑ (en) Helen Nissenbaum, « How computer systems embody values », Computer, vol. 34, no 3, , p. 120–119 (DOI 10.1109/2.910905, lire en ligne, consulté le ).
- ↑ (en) Lucas Introna et Helen Nissenbaum, « Defining the Web: the politics of search engines », Computer, vol. 33, no 1, , p. 54–62 (DOI 10.1109/2.816269, lire en ligne, consulté le ).
- ↑ (en) Kate Crawford, « Can an Algorithm be Agonistic? Ten Scenes from Life in Calculated Publics », Science, Technology, & Human Values, vol. 41, no 1, , p. 77–92 (DOI 10.1177/0162243915589635).
- ↑ (en) Zeynep Tufekci, « Algorithmic Harms beyond Facebook and Google: Emergent Challenges of Computational Agency », Colorado Technology Law Journal Symposium Essays, vol. 13, , p. 203–216 (lire en ligne, consulté le ).
- ↑ (en) Lisa Nakamura, The new media of surveillance, Londres, Routledge, , 149–162 p. (ISBN 978-0-415-56812-8).
- ↑ (en) Laura Sydell, « Can Computers Be Racist? The Human-Like Bias Of Algorithms », sur NPR.org, National Public Radio / All Things Considered (consulté le ).
- ↑ (en) Paul Lewis, « ‘Our minds can be hijacked’: the tech insiders who fear a smartphone dystopia », Daily, .