{"id":69,"date":"2021-05-01T00:41:56","date_gmt":"2021-04-30T22:41:56","guid":{"rendered":"http:\/\/theseusgame.fr\/?page_id=69"},"modified":"2021-05-01T00:41:56","modified_gmt":"2021-04-30T22:41:56","slug":"mythes-biais-et-inegalites","status":"publish","type":"page","link":"http:\/\/theseusgame.fr\/index.php\/mythes-biais-et-inegalites\/","title":{"rendered":"Mythes, Biais et in\u00e9galit\u00e9s"},"content":{"rendered":"\n

Une croyance populaire en la neutralit\u00e9 des sciences, des math\u00e9matiques et des calculs entretient le mythe selon lequel les algorithmes seraient neutres, loin de l\u00e0. Le tri effectu\u00e9 entre les informations qui nous sont effectivement pr\u00e9sent\u00e9es sur internet n\u2019est pas \u201cjuste\u201d, que ce soit le PageRank de google, ou l\u2019algorithme Instagram, ils ne nous affichent que les informations que l\u2019on a envie de voir, en se basant sur nos donn\u00e9es pass\u00e9es et celles de personnes dont les choix lors de leurs navigations Web sont similaires aux n\u00f4tres. L\u2019intelligence<\/em> artificielle, les algorithmes pr\u00e9dictifs, sont des programmes informatiques bas\u00e9s sur le \u201cmachine learning\u201d, ils sont nourris \u00e0 partir de donn\u00e9es d\u00e9finies par des humains et permettent de d\u00e9terminer un avenir des possibles pour chaque internaute. <\/p>\n\n\n

Si les machines contr\u00f4lent les humains en g\u00e9n\u00e9rant des profils dans lesquels ils les enferment, l\u2019homme reste le ma\u00eetre de la machine, en la modelant \u00e0 son image. Les algorithmes sont le reflet des valeurs de leur cr\u00e9ateur, qui effectue un certain nombre de choix techniques, comme le type de donn\u00e9es qui les nourrissent. Les pr\u00e9jug\u00e9s d\u00e9j\u00e0 existants peuvent alors cr\u00e9er des mod\u00e8les discriminatoires. <\/p>\n\n\n

Je vais prendre l\u2019exemple tr\u00e8s parlant, (et extr\u00eame) du syst\u00e8me judiciaire am\u00e9ricain, que d\u00e9veloppe Cathy O’neil dans son livre Algorithmes : la bombe \u00e0 retardement<\/em>. Certains tribunaux se sont mis \u00e0 utiliser des programmes de \u201cmod\u00e9lisation du r\u00e9cidivisme\u201d dans le but d\u2019aider les juges dans leurs d\u00e9cisions (et donc de faciliter, acc\u00e9l\u00e9rer et rentabiliser). On pourrait se dire que s\u2019ily a bien un endroit o\u00f9 l\u2019impartialit\u00e9 du calcul peut se r\u00e9v\u00e9ler salutaire, c\u2019est bien le domaine de l\u2019application de la justice ! Elle repose sur des r\u00e8gles, des lois tr\u00e8s pr\u00e9cises et doit, pour \u00eatre \u00e9galitaire, se d\u00e9tourner le plus possible de toute forme de subjectivit\u00e9. Dans ces conditions, comment un processus informatis\u00e9 pourrait-il \u00eatre une mauvaise chose, d\u2019autant plus que celui-ci peut se baser sur l\u2019exp\u00e9rience de centaines de juges et de milliers d\u2019affaires diff\u00e9rentes ?<\/p>\n\n\n

Le probl\u00e8me ici, est que l\u2019on souhaite \u00e9liminer les pr\u00e9jug\u00e9s humains qui peuvent subsister aujourd\u2019hui, en se basant pr\u00e9cis\u00e9ment sur les donn\u00e9es. C\u2019est la m\u00eame difficult\u00e9 \u00e0 laquelle ont fait face les d\u00e9veloppeurs de Microsoft en 2016 lors du lancement de leur programme d\u2019intelligence artificielle, le \u00abchatbot\u00bb Tay<\/a>. Cet agent conversationnel avait pour but d\u2019optimiser ses interactions avec les internautes sur Twitter gr\u00e2ce aux \u00e9changes qu\u2019il entretenait avec eux, mais en moins de 24h, il s\u2019est mis \u00e0 \u00e9crire des messages n\u00e9o-nazis apr\u00e8s que les utilisateurs du r\u00e9seau social se soient amus\u00e9s \u00e0 tester ses limites. Si les donn\u00e9es de base ne sont pas neutres, comment le mod\u00e8le engendr\u00e9 pourrait-il le devenir ? Cathy O’Neil d\u00e9montre, dans le cas des algorithmes de pr\u00e9diction des r\u00e9cidives, que ceux-ci d\u00e9pendent de bases de donn\u00e9es loin d’\u00eatre compl\u00e8tement objectives, reposant notamment sur des questionnaires dont les r\u00e9ponses mettent en \u00e9vidence le milieu social d\u2019origine du condamn\u00e9. Sous couvert de la technologie, le syst\u00e8me judiciaire am\u00e9ricain continue alors, en toute bonne conscience, de reposer sur de vieux pr\u00e9jug\u00e9s racistes. <\/p>\n\n\n

Le probl\u00e8me est le m\u00eame avec le machine learning appliqu\u00e9 \u00e0 la reconnaissance faciale\u00a0; ces syst\u00e8mes, sch\u00e9matiquement inspir\u00e9s des r\u00e9seaux neuronaux biologiques, aujourd\u2019hui bas\u00e9s sur des donn\u00e9es statistiques\u00a0 sont souvent sch\u00e9matiques et r\u00e9ducteurs, il suffit alors de sortir un peu trop de la norme<\/a> pour ne pas \u00eatre reconnu.<\/p>\n\n\n

\u00ab\u00a0En France, la plupart des d\u00e9veloppeurs ont \u00e9t\u00e9 form\u00e9s aux math\u00e9matiques appliqu\u00e9es, aux statistiques et \u00e0 l’informatique, sans formation sp\u00e9cialis\u00e9e en sciences sociales. On leur apprend \u00e0 comprendre les d\u00e9fis techniques de la conception et de l’optimisation des algorithmes et non les d\u00e9fis soci\u00e9taux\u00a0\u00bb<\/p>Institut Montaigne, Algorithmes :<\/strong> contr\u00f4le des biais S.V.P.<\/a>, Rapport \u2013 Mars 2020<\/em><\/sub><\/cite><\/blockquote>\n\n\n

\u00ab Les processus reposant sur le Big Data n\u2019inventent pas le futur, ils codifient le pass\u00e9. Il faut pour cela une imagination morale que les humains sont seuls en capacit\u00e9 de fournir. Nous devons express\u00e9ment int\u00e9grer \u00e0 nos algorithmes de meilleures valeurs, en cr\u00e9ant pour le Big Data des mod\u00e8les conformes \u00e0 nos vis\u00e9es \u00e9thiques. Ce qui supposera parfois de placer l\u2019\u00e9quit\u00e9 au-dessus du profit. \u00bb<\/p> Cathy O’Neil, Algorithmes, La bombe \u00e0 retardement<\/em><\/a>, <\/em>Les Arenes Eds, 2018<\/em>, dans Conclusion<\/sub><\/cite><\/blockquote>\n\n\n

<\/div>\n\n\n
\n\n\n
<\/div>\n\n\n
\n
\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n
\n

Le \u00abchatbot\u00bb Tay, bas\u00e9 sur du machine learning, apr\u00e8s moins de 24h \u00e0 \u00e9changer avec des internautes sur le r\u00e9seau social Twitter, s\u2019est mis \u00e0 poster des propos racistes ou complotistes…<\/p>\n<\/div>\n<\/div>\n\n\n

<\/div>\n\n\n
\n
\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n
\n

La chercheuse Joy Buolamwini \u00e9tudie les biais algorithmiques dans les syst\u00e8mes de vision par ordinateur ( la computer vision, la reconnaissance de motifs dans des images ou des vid\u00e9os par l\u2019IA). Apr\u00e8s avoir personnellement constat\u00e9 des ph\u00e9nom\u00e8nes de discrimination algorithmique notamment avec des logiciels de reconnaissance faciale, elle a fond\u00e9 l’Algorithmic Justice League<\/a> qui se bat pour cr\u00e9er un monde utilisant une technologie plus \u00e9thique et inclusive.\u00a0<\/p>\n<\/div>\n<\/div>\n\n\n

Retour au plateau 2<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Une croyance populaire en la neutralit\u00e9 des sciences, des math\u00e9matiques et des calculs entretient le mythe selon lequel les algorithmes seraient neutres, loin de l\u00e0. Le tri effectu\u00e9 entre les informations qui nous sont effectivement pr\u00e9sent\u00e9es sur internet n\u2019est pas \u201cjuste\u201d, que ce soit le PageRank de google, ou l\u2019algorithme Instagram, ils ne nous affichent … Continuer la lecture de « Mythes, Biais et in\u00e9galit\u00e9s »<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-69","page","type-page","status-publish","hentry"],"_links":{"self":[{"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/pages\/69","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/comments?post=69"}],"version-history":[{"count":0,"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/pages\/69\/revisions"}],"wp:attachment":[{"href":"http:\/\/theseusgame.fr\/index.php\/wp-json\/wp\/v2\/media?parent=69"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}