Les algorithmes, ces programmes de calcul des ordinateurs capables de traiter des données, d'en tirer des conclusions et des décisions sont partout.(Lire l'article "Les algorithmes: amis ou ennemis ?")
Les algorithmes sont la base des intelligences artificielles que les GAFAM cherchent à faire progresser à marche forcée. Mais ils sont même utilisés par les gouvernements et leur police.
La ville de New York a poussé très loin l'utilisation prédictive des risques de criminalité avec des algorithmes.
Les résultats sont là.
Et des questions se posent aussi :
Une des premières questions posées par les algorithmes sont leur intelligibilité
Qui peut les comprendre au-delà de leurs concepteurs ?Leurs logiques d'analyse, de modélisation, de décision sont-elles vraiment claires ?
Et si ce n'est pas le cas, on connait la puissance de contestation des avocats américains pour remettre en cause des décisions entachées d'irrégularités procédurales.Une équipe de spécialistes composée d'informaticiens, de travailleurs sociaux et d'avocats, tous spécialisés dans l'examen des algorithmes a été constituée
Une loi votée en août 2017, exige un examen, une surveillance et une correction permanente des algorithmes programmés sur les machines travaillant pour la police de New-York.Une police des algorithmes est donc ainsi instituée pour établir une sorte d'impartialité, de rigueur, de respect des lois.
Pourquoi sera-t-il atteint dans les algorithmes un meilleur résultat que dans la pratique des policiers de terrain ?
Les problèmes ne sont-ils pas déportés sur un autre terrain sans plus de garantie de l'influence des préjugés de tout ordre.
En France, le Ministère des Finances de Bercy utilise les algorithmes pour détecter les fraudes
En France, si la recherche de la délinquance ne fait pas (encore) appel à l'examen des Big Datas, la fraude fiscale elle est dans le collimateur des algorithmes.
Depuis 2014, ces techniques permettent de repérer les anomalies dans les déclarations fiscales des entreprises et depuis 2017, les particuliers seront progressivement surveillés par des les algorithmes.
Quand des polices et des lois de transparence des algorithmes vont-elles se mettre en place en Europe et en France ?
Dans la Commission Européenne, en octobre 2016, la députée finlandaise Liisa Jaakonsaari avait demandé, lors d’une session de questions à la Commission européenne, que les problématiques liées à la transparence et à la responsabilité des algorithmes soient abordées.En 2014, en France, Le Conseil d’État avait proposé de créer un encadrement national pour faire respecter des garanties de procédure et de transparence des algorithmes prédictifs.
Depuis... plus rien...
