Les algorithmes et le raisonnement humain

Les algorithmes, on en parle de plus en plus.

Ils sont sources de fantasmes, de craintes et d'idéalisation.

Ce sont eux qui traitent les Big Data.

Ce sont eux qui animent l'Intelligence Artificielle.

Du tissage automatisé du métier Jacquard à l'Intelligence Artificielle, comment les algorithmes ont-ils évolué ?

Les algorithmes envahissent notre vie quotidienne

Qu'on fasse une recherche sur son moteur de recherche, qu'on cherche un film, une musique, un document les algorithmes sont partout à l'oeuvre.

Et le développement des algorithmes est exponentiel.
Avec le rôle omniprésent de l'intelligence artificielle, de la multiplication des botnets (ces robots qui se proposent de vous aider), les algorithmes sont partout.

A/ Le processus humain :

Schéma simple algorithme génétique
(Wikimedia)

1. j'observe et je recueille des informations
2. je recherche dans ces informations ce qui peut m'aider à m'éclairer
3. j'applique un raisonnement à ce que j'ai appris
4. j'en déduis des conclusions et des décisions en fonction de mes choix

B/ Ce processus est remplacé, pour les machines d'intelligence artificielle et de collecte de Big Data par :

1. les machines accumulent une quantité énorme d'informations en base de données = Big Data
2. les machines établissent des modes de comparaison, de corrélation (à distinguer d'une relation cause effet) qui rapprochent des données, les filtrent et créent des constations et des connaissances nouvelles. 
3. les machines confrontent le questionnement qui leur est soumis aux données accumulées.
4. les machines élaborent et proposent leurs conclusions.

• Aucun humain ne peut traiter la quantité de données traitées par la machine (les Big Data).
• Aucun humain ne peut appliquer autant de recherches, de raisonnements que les machines.
• Aucun humain ne peut conduire un raisonnement logique rigoureux sans être influencé par les contextes, influences, affects propres à l'espèce humaine. (Est-ce toujours un inconvénient ?)

Un algorithme c'est plus qu'un calcul ou un traitement logique, c'est, globalement une façon de résoudre un problème

Un algorithme peut être décrit comme une recette de cuisine permettant d'exécuter successivement une série d'opérations enregistrées.

Les choses se compliquent quand on introduit de l'interaction avec l'environnement.

La "recette" n'est alors plus un simple canevas mais plutôt une méthode qui doit prendre en compte des conditions pour s'orienter et pondérer ses actions.

Quand enfin, les machines doivent traiter des Big Data, on passe du processus humain décrit ci-dessus en A/ par le processus appliqué par les machines décrit ci-dessus en B/.

On voit que la façon de résoudre le problème par le processus A / devient différent quand il est traité par les machines B/.

Si l'algorithme, au début, peut être confié à une machine de façon réversible. (C'est-à-dire qu'on peut reprendre ce traitement pour le faire exécuter par un humain)

Cela devient maintenant impossible avec les Big Data et les progrès de l'Intelligence Artificielle aujourd'hui.

Les algorithmes sont devenus des traitements si complexes que seules des machines puissantes peuvent les exécuter. Les fonctionnalités qu'elles incarnent leur permettent une certaine autonomie de telle sorte que les résultats ne sont pas prédictibles.

Faut-il avoir peur des algorithmes ?

Algorithme général d'un consensus

Vaste question qui va des algorithmes à l'Intelligence Artificielle jusqu'au transhumanisme.

Pour en rester ici aux algorithmes, une boite noire qui produit des résultats sans qu'ils soient compris et expliqués ne peut qu'être crainte et rejetée à juste titre.

C'est donc la conception même de l'algorithme qui est en cause.

Au lieu d'être élaboré dans le secret, l'algorithme doit intégrer une fonction de communication pour rendre transparent et compréhensible son fonctionnement.

Il n'y a aucune "bonne" raison d'invoquer la technique pour obscurcir et rendre incompréhensible les raisonnements et les décisions.

Mais, la différence avec une organisation ouverte, transparente, communicante et une organisation secrète, fermée, sectaire n'est-elle pas comparable ?

De cette dernière on a tout à craindre qu'elle puisse défendre des intérêts obscurs et dangereux pour la collectivité. De l'autre, on peut connaitre ses fonctionnements et se positionner en connaissance de cause.