Les coordinateurs des Délégations instruits d'enquêter sur les plaintes relatives aux souscriptions de signatures    Création de start-up: sept incubateurs seront opérationnels en 2020    Offensive turque contre la Syrie: nouvelle réunion mercredi du Conseil de sécurité de l'ONU    Gaïd Salah: l'Algérie aiguillée sur la bonne voie    Les instituteurs reviennent à la charge    Mandat de dépôt renouvelé pour 6 détenus    Marche du 34e mardi à Alger : Les manifestants plus déterminés que jamais    Le RCD, le FFS et le PT appellent au retrait du projet    Pleins pouvoirs à la police judiciaire    L'Opep maintient le cap    L'autre dossier brûlant pour le gouvernement    VFS Global reprend le traitement des demandes    Promesses d'une révolution décomplexée    Les Verts au révélateur colombien    Batelli convoque 23 joueurs    Deux matchs de suspension pour Casoni    Les leaders à l'aise    250 stadiers et 400 agents de police mobilisés    Rassemblement hier à la faculté de médecine de Tizi Ouzou    L'émigration clandestine en recrudescence    Fondant au chocolat au micro-ondes    L'auteur du quadruple crime refuse de se rendre    11e Fcims à Alger: La Corée du Sud, l'Italie, la Turquie et l'Autriche à l'honneur    La chanson kabyle, vecteur des idées militantes    ...sortir ...sortir ...sortir ...    Araba oua hikayat, une nouvelle comédie musicale en montage    L'Alternative démocratique dénonce la poursuite des «arrestations» de militants    Chlef : Neuf sages-femmes en renfort dans les maternités    Mostaganem : Des élevages illicites s'implantent en milieu urbain    Proche-Orient : Moscou et Riyad refondent leur coopération    MO Béjaïa : Les Crabes préparent l'ABS    Vérité et justice, réclament des associations et organisations syndicales et politiques    Une urbanisation désordonnée    Université d'Oran : Mohamed Moulfi présente son ouvrage sur la philosophie et la civilisation    Une belle exploration dans une œuvre majeure    «Une programmation professionnelle pour un festival de proximité»    Recouvrement de la fiscalité: Les chiffres «erronés» du gouvernement    LE DICTAT DU TEMPS    Oran : Intégration de l'aquaculture en agriculture: la ferme "Moulay Abdelaziz" réalise un franc succès    Cyclisme (Tour de France): Le voile se lève après le départ de Nice    SNTF: Lancement de la nouvelle ligne ferroviaire Touggourt-Alger    Salon national de la micro-activité : Ouverture aujourd'hui à Alger sous le thème de l'entrepreneuriat    Bordj-Bou-Arreridj : Une stratégie de création de richesses et d'emplois    Pologne : Les conservateurs remportent les élections législatives avec 45 % des voix    François Aissa Touazi : " Les Saoudiens ont pris conscience que l'instabilité régionale menace leur économie "    Brexit : "Il reste beaucoup de travail à faire", prévient Barnier    Amical Algérie-France: Rencontre aujourd'hui entre le président de la FAF et la FFF    Le parti conservateur PiS largement favori    







Merci d'avoir signalé!
Cette image sera automatiquement bloquée après qu'elle soit signalée par plusieurs personnes.





«Responsabilité algorithmique»
Publié dans Le Soir d'Algérie le 19 - 03 - 2019

Les mathématiciens contemporains ont donné le nom de leur maître, le Perse du IXe siècle, Al-Khwarizmi à l'algorithme dont on retrouve aujourd'hui l'une des applications dans le fonctionnement des ordinateurs.
Pour faire simple, on empruntera à Gérard Berry, chercheur en science informatique, la définition grand public suivante : « Un algorithme, c'est tout simplement une façon de décrire dans ses moindres détails comment procéder pour faire quelque chose. Il se trouve que beaucoup d'actions mécaniques, toutes probablement, se prêtent bien à une telle décortication. Le but est d'évacuer la pensée du calcul, afin de le rendre exécutable par une machine numérique (ordinateur…). »
Aussi, les algorithmes régulent nos vies, avec des finalités diverses telles que le tri, le classement et la prévision, permettant « avec une certaine efficacité d'automatiser des traitements répétitifs à grande échelle, de trier des centaines de milliers de résultats, ou bien de formuler des recommandations après avoir examiné des millions de décisions passées ».
S'il n'y a pas l'ombre d'un doute sur la neutralité des machines, ce n'est pas le cas des algorithmes qui leur servent de matière grise.
Une étude pertinente de 23 pages effectuée par une équipe de chercheurs de Télécom ParisTech liste les biais des algorithmes pouvant conduire à des discriminations dans toutes les sphères où il leur est fait recours : le commerce, l'éducation, l'emploi, etc.(*)
Trois questions motivent leur recherche : par quels mécanismes les biais des algorithmes peuvent-ils se produire ? Peut-on les éviter ? Et, enfin, peut-on les corriger ou bien les limiter ?
Sont en cause ici les biais dont sont conçus les algorithmes et les données qui les nourrissent : « Les biais des algorithmes pourraient être alors définis comme une déviation par rapport à un résultat censé être neutre, loyal ou encore équitable. »
Le biais, nous dit le dictionnaire, est une « distorsion, une déformation systématique d'un échantillon statistique choisi par un procédé défectueux, ou d'une évaluation ».
Qu'il s'agisse d'outils d'aide à la décision pour le choix d'un parcours universitaire, de recommandations de vidéos, de recherches d'information en ligne (moteur de recherche) ou de logiciels intégrés aux véhicules, les algorithmes s'immiscent de plus en plus dans notre quotidien sur une base de confiance d'autant plus large qu'ils sont supposés réunir les qualités de neutralité ou encore d'équité ou de loyauté.
Ces vertus demeurent bien théoriques : « l'actualité quotidienne atteste de nombreux cas de pratiques discriminatoires liées à des algorithmes, volontaires ou involontaires, à l'encontre de certaines populations. Aux Etats-Unis par exemple, des travaux ont mis en évidence que les populations afro-américaines étaient plus souvent pénalisées par les décisions de justice qui s'appuient sur le recours aux algorithmes. Ces mêmes populations sont également plus discriminées sur les plateformes populaires de locations d'appartement en ligne. Enfin, des publicités ciblées et automatisées en ligne relatives aux opportunités d'emploi dans les domaines des sciences, de la technologie, de l'ingénierie et des mathématiques aux Etats-Unis seraient plus fréquemment proposées aux hommes qu'aux femmes ».
Les biais incriminés sont de trois types :
- primo, les biais cognitifs dont de nombreuses recherches en psychologie et sciences cognitives montrent l'existence dans la prise de décision. A ce titre, un type de biais connu est le biais de stéréotype. Ce dernier peut survenir lorsqu'un individu agit en référence au groupe social auquel il s'identifie plutôt que sur ses capacités individuelles ;
- secundo, les biais statistiques : « Un exemple frappant est l'algorithme mis en place à partir de 2015 par Amazon pour faciliter le recrutement de talents. L'algorithme utilisait des données de centaines de milliers de curriculum vitae (CV) reçus par Amazon au cours des dix dernières années en vue de noter de nouvelles candidatures. L'algorithme attribuait une note allant de 1 à 5 étoiles, à l'image de l'évaluation de produits sur Amazon. L'utilisation de l'algorithme a été rapidement suspendue en raison de son incapacité à sélectionner les meilleurs candidats et sa propension à discriminer les femmes. » L'algorithme en question, censé faciliter le recrutement, attribuait fréquemment de mauvaises notes à des femmes pourtant qualifiées et en adéquation avec les postes à pouvoir. De la même manière, l'algorithme utilisé par la justice américaine pour prévoir la probabilité de récidive d'une personne inculpée surévaluait le risque de récidive des Afro-américains et sous-évaluait celui des Blancs ;
- tertio, les biais économiques : «Les algorithmes peuvent être biaisés volontairement ou involontairement pour des raisons économiques, de prix et de coût.»
- les biais peuvent être également dus à des manipulations volontaires de la part des entreprises. Ce phénomène est connu sous le nom de « search engine manipulation ».
Trois enjeux de société s'articulent autour des biais des algorithmes.L'intelligence artificielle est souvent vue comme une menace pour l'emploi, le respect de la vie privée ou le contrôle des décisions prises par des systèmes perçus comme des boîtes noires. Aussi, « l'intelligence artificielle ne tiendra ses promesses que si les enjeux d'équité, d'interprétabilité, d'explicabilité et de responsabilité sont considérés au même niveau que la recherche d'efficacité. »
Le concept d'interprétabilité est en particulier soutenu par un programme ambitieux de l'agence du département de la Défense des Etats-Unis (DARPA) : « Ces recherches s'orientent sur le développement de méthodes qui aident à mieux comprendre ce que le modèle a appris ainsi que des techniques pour expliquer les prédictions individuelles. »
Le concept d'explicabilité se réfère à la nécessité d'expliquer aux utilisateurs finaux comment et pourquoi un résultat a été obtenu. Il est particulièrement souligné ici « la conformité au droit et à la régulation. Un résultat doit pouvoir être contesté en cas de défaut, de discrimination et autres. Depuis l'entrée en vigueur du Règlement général sur la protection des données (RGPD) en Europe, les personnes ont le « droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, y compris le profilage, produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire ». Le RGPD stipule également que, pour les décisions automatisées basées sur des données à caractère personnel, les personnes ont le droit de « demander une explication de la décision [algorithmique] prise à l'issue de cette évaluation et de contester la décision. »
Les menaces qui pèsent sur les libertés individuelles et collectives ont été auparavant recensées et explicitées par la mathématicienne américaine Cathy O'Neil dans son ouvrage Weapons of Math Destruction, publié en 2016 et traduit en français en 2018 sous le titre Algorithmes : la bombe à retardement (aux éditions Les Arènes) : « Aujourd'hui, les modèles mathématiques et les algorithmes prennent des décisions majeures, servent à classer et catégoriser les personnes et les institutions, influent en profondeur sur le fonctionnement des Etats sans le moindre contrôle extérieur. Et avec des effets de bords incontrôlables. »
Aussi, reste-t-il à faire jouer la transparence ou l'auditabilité des algorithmes afin de surmonter « l'idée selon laquelle les algorithmes sont opaques et des boîtes noires ».
Il se dessine en bout de course une «responsabilité algorithmique » selon laquelle « une personne ou une organisation légalement responsable du préjudice doit fournir une explication ou une compensation au préjudice subi ».
A. B.
(*) Patrice Bertail, David Bounie, Stephan Clémençon, Patrick Waelbroeck, Algorithmes : biais, discrimination et équité, Télécom ParisTech, Paris, 14 février 2019
https://www.telecomparistech.fr/fileadmin/documents/pdf/Recherche/Algorithmes_-_Biais__discrimination__equite.pdf


Cliquez ici pour lire l'article depuis sa source.