THEMA est "La grande soirée documentaire d'ARTE.Il y est question de société, d’économie, de géopolitique, d’histoire et de science".
Quand THEMA a annoncé une soirée sur l'Intelligence Artificielle on a pu se dire que nous allions être éclairés de façon scientifique sur un sujet si souvent maltraité par les médias.
Hélas ! Cet embrouillamini de points de vue confus et terrorisants, prédisant la fin des humains, remplacés par des machines, était très pénible.
Au point de l'abandonner à mi-parcours tellement la recette était imbuvable.
Dès le lendemain, j'ai reçu de nombreux mails d'indignation et de questionnement dont j'en publie un ici.
J'ai alors repris l'enregistrement complet et l'ai analysé en détail pour répondre à mes lecteurs s'interrogeant sur la présence d'un tel film dans une soirée documentaire d'ARTE.
Comment un tel film est possible et pourquoi est-il diffusé sur ARTE.
J'essaie ici de répondre à ces deux questions. Et j'aimerais bien avoir vos avis.
Le mail de Béatrix pose des interrogations graves
Voici ce mail. J'ai mis en gras les points essentiels :--------------------------------------------------------------
Bonjour Pierre,
Merci pour la qualité de vos articles. Celui sur l’AI m’a beaucoup intéressée car il a répondu à plusieurs questions que je me posais depuis quelque temps.
En effet on évolue en ce moment entre 2 mondes d’infos, celui des sachants/savants en qui on ne peut que faire confiance puisque moi même non sachant, et celui des « qui croient savoir, qui dit savoir » aidés par les médias avides de scoops terrorisants.
À ce sujet, je ne comprends pas pourquoi des revues comme Sciences et Vie publient ce type d’information. Pourquoi jouer sur la peur alors que contrairement aux GAFAM ils n’ont rien à y gagner, même pas le scoop?
ARTE qui est une chaine que j’apprécie pour la qualité de ses programmes me déconcerte complètement avec certains de ses documentaires notamment celui sur l’AI, diffusé ce mardi dans le cadre d’un programme documentaire qui se déroulera du 20 avril au 9 juillet 2020.
L’auteur, une certaine Tonje Hessen Schei,realisatrice de documentaires, me pose vraiment question quant à sa capacité d’appréhender ce genre de domaine...
Pourquoi ces médias semblent conforter la volonté des GAFAM en diffusant ces documentaires ?
Loin de moi l’idée d'être complotiste mais pourquoi une telle chaine laisse passer autant de documentaires sensationnels et douteux, car il y en a eu d’autres dans d’autres domaines.
Merci de m’avoir éclairée sur le rôle potentiel des GAFAM dans leur conquête et utilisation de l’AI pour dominer le monde, qui est d’ailleurs tout aussi angoissante que l’éventuelle puissance de l’AI sur l’homme.
Mais je me sens vraiment perdue au milieu de toutes ces infos que je ne sais pas trier.
Très cordialement.
Béatrix.
------------------------------------------------------------------
Effectivement :
- comment et pourquoi des revues comme Science et Vie et une chaîne comme ARTE, qui ont démontré leur sérieux et rigueur par ailleurs, peuvent diffuser des contenus sensationnalistes et douteux (sans théorie du complot auquel je ne crois pas non plus)
- entre "sachants/savants" et ceux qui croient savoir, qui disent savoir" comment les non-sachants peuvent s'y retrouver ? (Cela rappelle, à un autre niveau le problème des fake news, ne trouvez-vous pas ?).
Le film d'arte à voir avec sa présentation :
--------------------------------------------------------------------------------------------
ARTE ne peut pas prétendre que le sensationnalisme aide la réflexion
Pourquoi Arte nous sert-elle, pour traiter un sujet scientifique comme l'intelligence artificielle, un quasi-film d'épouvante où le sensationnalisme et les fantasmes concurrencent les chaînes, comme TF1 ?
Provocation à la discussion ?
Encore faudrait-il qu'il y ait des arguments, des raisonnements, des preuves, que :- les sources soient citées
- que les personnages qui nous présentent leurs thèses soient identifiés et se présentent
- que leurs thèses ou plutôt leurs hypothèses et même leurs croyances soient présentées en tant que telles et non dissimulées, mélangées avec des faits avérés et des recherches scientifiques
Or, dans ce film, c'est tout le contraire.
Les faits scientifiques servent de support pour faire passer des croyances et des philosophies très personnelles.
Au lieu de situer le contexte des opinions de ces personnages si particuliers, Arte annonce ce "documentaire" comme un état des lieux de faits avérés
La présentation d'Arte : "iHuman - L'intelligence artificielle et nous". (La vidéo est accessible jusqu'au 20/42020 à cette adresse) est intéressante.
Je cite :
"L'intelligence artificielle va-t-elle remplacer l'humanité ? Ce documentaire prend la mesure de l'emprise des algorithmes sur nos vies.
Il donne la parole à ceux qui débattent de l'IA (sociologues, avocats des Droits de l'Homme, scientifiques ou journalistes d'investigation) et à ceux qui l'inventent, comme Jürgen Schmidhuber et Ilya Sutskever, à la posture ambivalente".
"La création d'une intelligence artificielle serait le plus grand événement de l'histoire de l'humanité. Mais il pourrait être aussi le dernier", disait Stephen Hawking".
C'est le fameux "je donne la parole à tout le monde", donc, c'est bon, j'ai bien fait mon travail.
Non. c'est un peu facile.
La parole de la plupart des acteurs (sociologues, avocats des droits de l'homme, scientifiques ou journalistes d'investigation) sont saupoudrés. Ils servent de contrepoint ou d'appui aux thèses centrales clairement affichées : le propos bien connu de Stephen Hawking dénonçant le danger de l'Intelligence Artificielle.
Je cite encore : "L'IA sera vite dépassée. On parle aujourd'hui d'une intelligence artificielle générale (IAG), capable de s'adapter et d’apprendre seule, qui égalerait, voire dépasserait les capacités humaines".
Remarquez la façon dont le conditionnel sert quand même à annoncer des faits présentés comme la réalité de demain : "On parle aujourd'hui" ...
Enfin,"Le documentaire dresse l'état des lieux"... en donnant la parole.
Est-ce en "donnant la parole" sans critique de cette parole, sans contextualisation des travaux de ces "inventeurs" que l'on peut faire un "documentaire" ?
"Jürgen Schmidhuber et Ilya Sutskever, deux grands chercheurs et initiateurs, à la posture ambivalente : conscients de la toute-puissance de leur création mais déterminés à poursuivre leurs travaux".
Ça y est ! Le tour de passe-passe est réalisé : les mots "documentaire", "état des lieux", "ceux qui l'inventent", "grands chercheurs" impressionnent-ils suffisamment pour qu'on ne se soit pas rendu compte précédemment que "l'intelligence artificielle générale (IAG)" était une hypothèse au conditionnel.
Et elle devient dans le paragraphe suivant une invention de grands chercheurs qu'on vous présente dans un "état des lieux". Quoi de plus objectif qu'un "état des lieux" !
Et la fin de la présentation est un summum de supercherie : ces deux grands chercheurs ont une posture ambivalente.
Va-t-on se poser la question des preuves qu'ils apportent à leurs affirmations ?
Mais non. Ne rêvez pas. La question que pose le présentateur est que ces chercheurs sont déterminés à poursuivre leurs travaux même en étant "conscients" de la toute-puissance de leur création.
Ah bon. S'ils en sont conscients, c'est donc obligatoirement vrai !
Plus besoin de le démontrer. CQF"D".
Mais, revenons au début : comment un spectateur lambda reçoit le choc de ce film nommé "iHuman - L'intelligence artificielle et nous".
Je sors d'une heure et demi de visualisation de ce documentaire (si on peut appeler ça un documentaire) abasourdi et révolté.
Abasourdi, abruti d'images très violentes, fortes, angoissantes et stressantes d'un monde en cours de décomposition où les seules belles images décrivent la fin de l'être humain remplacé par les machines.
La musique va de pair pour diffuser l'angoisse.
La guerre des mondes et le débarquement des martiens annoncés à la radio par Orson Welles et qui avait déclenché la panique est dépassée !
Et jamais aucune présence humaine dans ces installations.
Les humains sont montrés dans des transports en commun, entassés les uns sur les autres ou dans des villes ultramodernes, où ils déambulent dans tous les sens. (1:25:39)
On voudrait montrer des gibiers poursuivis par des forces supérieures, ou des fourmis qu'on peut facilement écraser, qu'on ne s'y prendrait pas autrement.
Les machines, elles, sont ordonnées d'une façon impeccable et implacable.
"Le poids des mots, le choc des photos" était la devise du grand hebdomadaire français à sensation Paris-Match.
Au moins, ceux qui achetaient ce journal ne cherchaient ni du sens, ni de la réflexion.
Il voulaient de la sensation avec des mots et des photos faits pour provoquer de l'émotion.
Ce journal depuis 1949, avec cette devise, s'affichait ouvertement proche de la presse à scandale mais avec un certain chic.
En 2008, le directeur qui avait osé traiter les déboires du couple Nicolas Sarkozy et Cécilia sur son mode habituel est licencié après 20 ans de loyaux services. Puis Paris Match change sa divise pour "La vie est une histoire vraie". Je vous laisse apprécier.
Mais qu'a à voir Arte avec Paris-Match ?
On aurait aimé répondre : rien ! C'est l'opposé, c'est la qualité des informations, des mises en perspectives, des réflexions.
Malheureusement, à l'heure des fake news et des vérités alternatives, la porosité entre le travail de journalisme éthique et le sensationalisme est accentué par la crise de la presse et du journalisme.
La qualité du travail de journalisme "paie" moins que la course à l'audience et la concurrence d'avec les réseaux sociaux.
Il ne reste plus qu'aux lecteurs, auditeurs et téléspectateurs, de faire eux-mêmes leur propre travail critique.
Et s'y entraîner est le but de cet article.
2 ème phrase : "nous transmettons notre savoir aux machines"
Comment la continuité de ces deux phrases ne créerait-elle pas le rapprochement entre la compréhension et le savoir pour confondre ces deux notions, transmises aux machines.
Affirmer directement qu'on transmet notre compréhension aux machines risquerait de vous rebuter et éveiller la demande de démontrer une telle affirmation.
Mais découper cette idée en deux phrases acceptables revient à suggérer l'idée sans l'affirmer directement.
Et le film enchaîne avec une troisième affirmation, accompagnée d'une image nébuleuse qui se termine quasiment en évocation d'Alien avec un grondement encore plus impressionnant :
"L'Intelligence Artificielle se développe rapidement.
Mais cette nouvelle technologie pourrait poser plus de problèmes que prévu.
On ne la contrôlera pas"
Après être passé :
Avec ces trois affirmations, le décor est planté.
Irréfutables ces affirmations ? Tout est fait pour qu'on ne se pose même pas la question : c'est le préalable.
Remarquons qu'explicitement, il ne manque plus qu'un seul élément "le caractère "vivant" de l'Intelligence Artificielle". Elle est présentée ici comme une "technologie".
Mais la musique angoissante met en valeur une animation d'une forme évolutive qui ne peut faire penser qu'à un développement ambrionnaire de la vie.
Et ces tourbillons animés se rassemblent dans une sorte de colonne du haut de laquelle jaillit un flux qui redescend le long de celle-ci. Une "fontaine de vie" ?
Implicitement, votre esprit est préparé à accepter que ces forces surhumaines soient de nouvelles formes de vie, ce qui reviendra sans cesse dans le film.
Méfiez-vous énormément des introductions qui contiennent des affirmations, des postulats qui n'auront plus à être démontrés si on a réussi, dès le début, à vous les faire inconsciemment accepter.
Après les trois premières affirmations, les "experts" se déchaînent.
Présentés comme des scientifiques au-delà de tout soupçon (on verra que c'est exactement le contraire), ils vont décrire leur pensée originale sous couvert des activités scientifiques auxquelles ils participent.
Les nouveaux héros, les super savants nous sont présentés comme de vrais génies. Ils sont tout à fait à l'aise dans leur activité, se promenant au milieu de la foule comme Gary Cooper dans les anciens westerns.
Ils sont sur leur planche à roulettes, sur un tapis de marche en train de travailler devant leur bureau, ou de faire du ski sur le sommet enneigé en nous annonçant la fin de l'humanité.
Ils n'ont pas peur, car ils acceptent l'inévitable. A titre de prophètes, ils transmettent le message des machines aux humains.
Ils nous demandent d'être compréhensifs et soumis. Ils sont les intermédiaires entre l'humanité et les machines.
Au bord de la plage (1:27:16 dans le film) (est-ce une allusion à la fameuse scène de la Planète des Singes on s'aperçoit que la civilisation humaine s'est détruite ?) une révélation fondamentale nous est faite : si on programme bien les machines, on a moins à craindre d'elles, car elles n'ont pas d'à priori contre nous. Simplement il ne faut pas les gêner.
Au final, sur les magnifiques sommets enneigés, on nous révèle que la fin de la civilisation humaine n'est pas un drame puisque d'autres vies, les machines, continueront. (1:30:30)
Ne restons pas interloqués trop longtemps pour le "happy-end" (?) !
Le personnage (Max Tegmark) qui a fait l'introduction au début sur les choix de société nous rappelle que c'est quand même aux humains de savoir la société qu'ils veulent. (1:33:44)
Bizarre. On a cru comprendre que de toute façon les machines décideraient de façon autonome ?
Son laboratoire a été un des centres de recherche les plus importants de l'Intelligence Artificielle.
Il proclame qu'"une nouvelle forme de vie est en train de voir le jour" en citant les travaux réalisés sur la compréhension du langage par les machines et la vision.
Ils sont effectivement très impressionants et permettent maintenant de dicter des textes à votre smartphone et de décoder des photos pour y reconnaître des formes.
Les assistants vocaux fonctionnent également avec ces découvertes.
Mais malgré tout l'intérêt de ces commandes vocales, de la reconnaissance vocale et des images, vous savez bien en l'expérimentant que les "dialogues" avec ces machines ne vont pas très loin malgré l'ingéniosité de leurs programmeurs.
Je cite :
"L'intelligence artificielle va-t-elle remplacer l'humanité ? Ce documentaire prend la mesure de l'emprise des algorithmes sur nos vies. Il donne la parole à ceux qui débattent de l'IA (sociologues, avocats des Droits de l'Homme, scientifiques ou journalistes d'investigation) et à ceux qui l'inventent, comme Jürgen Schmidhuber et Ilya Sutskever, à la posture ambivalente".
"La création d'une intelligence artificielle serait le plus grand événement de l'histoire de l'humanité. Mais il pourrait être aussi le dernier", disait Stephen Hawking".
C'est le fameux "je donne la parole à tout le monde", donc, c'est bon, j'ai bien fait mon travail.
Non. c'est un peu facile.
La parole de la plupart des acteurs (sociologues, avocats des droits de l'homme, scientifiques ou journalistes d'investigation) sont saupoudrés. Ils servent de contrepoint ou d'appui aux thèses centrales clairement affichées : le propos bien connu de Stephen Hawking dénonçant le danger de l'Intelligence Artificielle.
La "toute-puissance" de l'Intelligence Artificielle présentée comme une réalité
Remarquez la façon dont le conditionnel sert quand même à annoncer des faits présentés comme la réalité de demain : "On parle aujourd'hui" ...
Enfin,"Le documentaire dresse l'état des lieux"... en donnant la parole.
Est-ce en "donnant la parole" sans critique de cette parole, sans contextualisation des travaux de ces "inventeurs" que l'on peut faire un "documentaire" ?
"Jürgen Schmidhuber et Ilya Sutskever, deux grands chercheurs et initiateurs, à la posture ambivalente : conscients de la toute-puissance de leur création mais déterminés à poursuivre leurs travaux".
Ça y est ! Le tour de passe-passe est réalisé : les mots "documentaire", "état des lieux", "ceux qui l'inventent", "grands chercheurs" impressionnent-ils suffisamment pour qu'on ne se soit pas rendu compte précédemment que "l'intelligence artificielle générale (IAG)" était une hypothèse au conditionnel.
Et elle devient dans le paragraphe suivant une invention de grands chercheurs qu'on vous présente dans un "état des lieux". Quoi de plus objectif qu'un "état des lieux" !
Et la fin de la présentation est un summum de supercherie : ces deux grands chercheurs ont une posture ambivalente.
Va-t-on se poser la question des preuves qu'ils apportent à leurs affirmations ?
Mais non. Ne rêvez pas. La question que pose le présentateur est que ces chercheurs sont déterminés à poursuivre leurs travaux même en étant "conscients" de la toute-puissance de leur création.
Ah bon. S'ils en sont conscients, c'est donc obligatoirement vrai !
Plus besoin de le démontrer. CQF"D".
Mais, revenons au début : comment un spectateur lambda reçoit le choc de ce film nommé "iHuman - L'intelligence artificielle et nous".
Un film-choc très impressionnant
Je sors d'une heure et demi de visualisation de ce documentaire (si on peut appeler ça un documentaire) abasourdi et révolté.
Abasourdi, abruti d'images très violentes, fortes, angoissantes et stressantes d'un monde en cours de décomposition où les seules belles images décrivent la fin de l'être humain remplacé par les machines.
La musique va de pair pour diffuser l'angoisse.
Des images, des musiques, des propos angoissants
Les propos... J'ai du mal à retenir une démonstration ou une explication scientifique démontrant ce qui est affirmé du début à la fin : les machines plus fortes "intelligentes" que les humains deviennent la nouvelle vie sur terre qui les remplaceront.La guerre des mondes et le débarquement des martiens annoncés à la radio par Orson Welles et qui avait déclenché la panique est dépassée !
Les images suggèrent une humainité impuissante, réduite à l'état de gibier alors que les machines sont toutes puissantes
Tout ce qui est impressionnant est mobilisé à l'appui de ces affirmations images très géométriques, futuristes : photos de panneau solaires à l'infini, installations de pompes et réservoirs à perte de vue, ordinateurs dans d'immenses fermes de serveurs.Et jamais aucune présence humaine dans ces installations.
Les humains sont montrés dans des transports en commun, entassés les uns sur les autres ou dans des villes ultramodernes, où ils déambulent dans tous les sens. (1:25:39)
On voudrait montrer des gibiers poursuivis par des forces supérieures, ou des fourmis qu'on peut facilement écraser, qu'on ne s'y prendrait pas autrement.
Les machines, elles, sont ordonnées d'une façon impeccable et implacable.
Le sensationalisme qui imprègne le journalisme nous oblige à exercer et entrainer notre sens critique
"Le poids des mots, le choc des photos" était la devise du grand hebdomadaire français à sensation Paris-Match.Au moins, ceux qui achetaient ce journal ne cherchaient ni du sens, ni de la réflexion.
Il voulaient de la sensation avec des mots et des photos faits pour provoquer de l'émotion.
Ce journal depuis 1949, avec cette devise, s'affichait ouvertement proche de la presse à scandale mais avec un certain chic.
En 2008, le directeur qui avait osé traiter les déboires du couple Nicolas Sarkozy et Cécilia sur son mode habituel est licencié après 20 ans de loyaux services. Puis Paris Match change sa divise pour "La vie est une histoire vraie". Je vous laisse apprécier.
Mais qu'a à voir Arte avec Paris-Match ?
On aurait aimé répondre : rien ! C'est l'opposé, c'est la qualité des informations, des mises en perspectives, des réflexions.
Malheureusement, à l'heure des fake news et des vérités alternatives, la porosité entre le travail de journalisme éthique et le sensationalisme est accentué par la crise de la presse et du journalisme.
La qualité du travail de journalisme "paie" moins que la course à l'audience et la concurrence d'avec les réseaux sociaux.
Il ne reste plus qu'aux lecteurs, auditeurs et téléspectateurs, de faire eux-mêmes leur propre travail critique.
Et s'y entraîner est le but de cet article.
Les trois premières phrases vous assènent dès le début les "vérités" à croire
Accompagnées d'un grondement sourd, comme celui d'un tremblement de terre et d'écran totalement noir, les deux premières affirmations de ce "documentaire" sont éloquentes :
1ère phrase : "l'intelligence est la capacité à comprendre."
2 ème phrase : "nous transmettons notre savoir aux machines"
- L'intelligence n'est pas du tout limitée à la compréhension !
- Oui. Nous transmettons notre savoir aux machines.
C'est l'enchainement de ces deux phrases qui leur donne un tout autre sens :
La transmission aux machines ne serait pas seulement "notre savoir" mais aussi "la capacité à comprendre".
Comment la continuité de ces deux phrases ne créerait-elle pas le rapprochement entre la compréhension et le savoir pour confondre ces deux notions, transmises aux machines.Affirmer directement qu'on transmet notre compréhension aux machines risquerait de vous rebuter et éveiller la demande de démontrer une telle affirmation.
Mais découper cette idée en deux phrases acceptables revient à suggérer l'idée sans l'affirmer directement.
Et le film enchaîne avec une troisième affirmation, accompagnée d'une image nébuleuse qui se termine quasiment en évocation d'Alien avec un grondement encore plus impressionnant :
"L'Intelligence Artificielle se développe rapidement.
Mais cette nouvelle technologie pourrait poser plus de problèmes que prévu.
On ne la contrôlera pas"
Après être passé :
- de la simple "capacité à comprendre"
- **fait semblant que c'était la même chose que "notre savoir"
- on affirme que la technologie de l'Intelligence Artificielle a un développement incontrôlable
Avec ces trois affirmations, le décor est planté.
Irréfutables ces affirmations ? Tout est fait pour qu'on ne se pose même pas la question : c'est le préalable.
Remarquons qu'explicitement, il ne manque plus qu'un seul élément "le caractère "vivant" de l'Intelligence Artificielle". Elle est présentée ici comme une "technologie".
Mais la musique angoissante met en valeur une animation d'une forme évolutive qui ne peut faire penser qu'à un développement ambrionnaire de la vie.
Et ces tourbillons animés se rassemblent dans une sorte de colonne du haut de laquelle jaillit un flux qui redescend le long de celle-ci. Une "fontaine de vie" ?
Implicitement, votre esprit est préparé à accepter que ces forces surhumaines soient de nouvelles formes de vie, ce qui reviendra sans cesse dans le film.
Leçon à tirer :
Méfiez-vous énormément des introductions qui contiennent des affirmations, des postulats qui n'auront plus à être démontrés si on a réussi, dès le début, à vous les faire inconsciemment accepter.
La nouvelle "vie" des machines intelligentes est affirmée comme une évidence indiscutable par des experts qui détiennent LA vérité : ils sont les nouveaux Dieux !
Après les trois premières affirmations, les "experts" se déchaînent.
Présentés comme des scientifiques au-delà de tout soupçon (on verra que c'est exactement le contraire), ils vont décrire leur pensée originale sous couvert des activités scientifiques auxquelles ils participent.
Le "véritable Dieu", la "nouvelle progéniture" que nous élevons et que nous ne contrôlerons pas
Max Tegmark (6:20) affirme : "L'humanité est arrivée à un carrefour l'IA actuelle est limitée. Construire une intelligence artificielle qui fait tout mieux. Nous créons un véritable Dieu qui va révolutionner la vie telle que nous la connaissons".
L'écrivain sociologue Zeynep Tufekci (7:07) vient en renfort : "Nous vivons une profonde transformation. Nous élevons cette nouvelle créature, cette sorte de nouvelle progéniture. Mais comme avec n'importe quelle progéniture nous ne sommes pas en mesure de contrôler tout ce qu'elle va faire".
Ces affirmations sont suivies d'une série d'images impressionnantes de calculateurs, panneaux solaires, et infractures techniques vides d'humains. Pour mieux montrer qu'elles n'en ont pas besoin de ces humains ?
Jürgen Schmidhuber directeur de recherche NNAISENSE (8:08) peut entrer en scène et sur la lancée confirmer :
"Nous vivons une époque privilégiée, où pour la première fois nous allons probablement voir l'IA dépasser l'être humain dans de très nombreux domaines, si ce n'est dans tous les domaines importants, cela va tout changer. Une nouvelle forme de vie est en train de voir le jour".
"Nous vivons une époque privilégiée, où pour la première fois nous allons probablement voir l'IA dépasser l'être humain dans de très nombreux domaines, si ce n'est dans tous les domaines importants, cela va tout changer. Une nouvelle forme de vie est en train de voir le jour".
En quoi "dépasser l'humain" dans des domaines de plus en plus nombreux va "tout changer" ?
Les véhicules ont dépassé les humains en vitesse, les avions dans les airs, les bateaux sur l'eau et les sous-marins sous l'eau, depuis que le silex a "dépassé" en dureté les ongles humains, tous les outils et machines ont "dépassé" l'humain. C'est même leur raison d'être.
Bien sûr que cela bouleverse la vie humaine et pas toujours en bien.
Mais en quoi cela démontrerait la "naissance" d'une nouvelle vie ?
En quoi ces machines seraient plus "intelligentes" parce qu'elles calculent plus vite, trient des données, exécutent des programmes de plus en plus performants. Ce sont les programmes qui sont performants, pas les machines qui les exécutent.
Ilya Surélever Directeur de recherches du laboratoire d'Intelligence Artificielle OpenIA d'Elon Musk (13:11 dans le film) est parfaitement clair sur ses idées :
"se prendre pour Dieu : c'est ce dont on accuse depuis longtemps les scientifiques.
Mais en l'occurrence, c'est tout à fait fondé dans la mesure où nous créons quelque chose de tout à fait différent de ce que nous avons créé jusqu'ici".
Ces "experts" se proclament rien moins que nouveaux Dieux !
Ilya Surélever Directeur de recherches du laboratoire d'Intelligence Artificielle OpenIA d'Elon Musk (13:11 dans le film) est parfaitement clair sur ses idées :
"se prendre pour Dieu : c'est ce dont on accuse depuis longtemps les scientifiques.
Mais en l'occurrence, c'est tout à fait fondé dans la mesure où nous créons quelque chose de tout à fait différent de ce que nous avons créé jusqu'ici".
Immédiatement après cette affirmation, le commentateur présente cet "intellectuel d'une créativité exceptionnelle [...] dans le domaine de l'apprentissage profond et de l'intelligence artificielle.."
Ilya Surélever peut donc se prévaloir de son travail sur l'Intelligence Artificielle pour prétendre décrire ce qu'il appelle de la "philosophie appliquée".
Les chercheurs sont les super-héros qui n'ont pas peur et vont nous aider à supporter la dictature des machines puis à accepter notre disparition
Les nouveaux héros, les super savants nous sont présentés comme de vrais génies. Ils sont tout à fait à l'aise dans leur activité, se promenant au milieu de la foule comme Gary Cooper dans les anciens westerns.
Ils sont sur leur planche à roulettes, sur un tapis de marche en train de travailler devant leur bureau, ou de faire du ski sur le sommet enneigé en nous annonçant la fin de l'humanité.Ils n'ont pas peur, car ils acceptent l'inévitable. A titre de prophètes, ils transmettent le message des machines aux humains.
Ils nous demandent d'être compréhensifs et soumis. Ils sont les intermédiaires entre l'humanité et les machines.
Au bord de la plage (1:27:16 dans le film) (est-ce une allusion à la fameuse scène de la Planète des Singes on s'aperçoit que la civilisation humaine s'est détruite ?) une révélation fondamentale nous est faite : si on programme bien les machines, on a moins à craindre d'elles, car elles n'ont pas d'à priori contre nous. Simplement il ne faut pas les gêner.
Au final, sur les magnifiques sommets enneigés, on nous révèle que la fin de la civilisation humaine n'est pas un drame puisque d'autres vies, les machines, continueront. (1:30:30)
Ne restons pas interloqués trop longtemps pour le "happy-end" (?) !
Le personnage (Max Tegmark) qui a fait l'introduction au début sur les choix de société nous rappelle que c'est quand même aux humains de savoir la société qu'ils veulent. (1:33:44)
Bizarre. On a cru comprendre que de toute façon les machines décideraient de façon autonome ?
Qui sont les protagonistes de la vision qu'on vous donne de l'Intelligence Artificielle dans ce film ?
Qui est Max Tegmark
Max Tegmark est mathématicien de formation et cosmologiste. C'est-à-dire qu'il travaille sur "la genèse, l'histoire, la structure, les contenus et l'évolution de l'univers".
Avec Stephen Hawking, le cofondateur de Skype Jaan Tallinn et l'entrepreneur Elon Musk, ils ont fondé le Future of Life Institute (FLI, Institut pour l'avenir de la vie) qui est une association de volontaires basée dans la région de Boston, cherchant à diminuer les risques existentiels menaçant l’humanité, en particulier, ceux provenant de l’intelligence artificielle (IA).
Jürgen Schmidhuber directeur de recherche NNAISENSE
Son laboratoire a été un des centres de recherche les plus importants de l'Intelligence Artificielle.
Il proclame qu'"une nouvelle forme de vie est en train de voir le jour" en citant les travaux réalisés sur la compréhension du langage par les machines et la vision.
Ils sont effectivement très impressionants et permettent maintenant de dicter des textes à votre smartphone et de décoder des photos pour y reconnaître des formes.
Les assistants vocaux fonctionnent également avec ces découvertes.
Les assistants vocaux sont-ils vraiment intelligents ?
Oui du point de vue du vocabulaire puisque "smartphone " = téléphone dit intelligent (Lire l'article : "L'intelligence artificielle n'existe pas... et le smartphone est-il intelligent ?").Mais malgré tout l'intérêt de ces commandes vocales, de la reconnaissance vocale et des images, vous savez bien en l'expérimentant que les "dialogues" avec ces machines ne vont pas très loin malgré l'ingéniosité de leurs programmeurs.
Qui est Elon Musk, le point commun de tous ces chercheurs
Elon Musk est une des plus grandes fortunes du monde et est classé comme la 25e personne la plus puissante du monde selon Forbes (Source Wikipédia).
Elon Musk est PDG et directeur de la technologie de la société SpaceX, ainsi que DG et directeur architecture produit de la société Tesla, après avoir été président du Conseil d'Administration de SolarCity et de Tesla. Il est aussi le fondateur de The Boring Company, une société de construction de tunnels, et de Neuralink, une société de neurotechnologie.
Il est le fondateur de SpaceX et cofondateur de Zip2 et fut le fondateur ainsi que l'un des principaux dirigeants de X.com, qui a finalement fusionné avec Confinity et a pris le nom de PayPal.
En 2015, il cofonde et copréside OpenAI, une association de recherches à but lucratif plafonné (depuis avril 2019, avant elle était à but non lucratif) en Intelligence Artificielle dont l'objectif est de promouvoir et développer une intelligence artificielle open-source bénéficiant à l'humanité tout entière".
En plus de ses activités commerciales, il a proposé en 2013 un projet de transport à grande vitesse, connu sous le nom de Hyperloop6, et également un avion à réaction supersonique à décollage et atterrissage verticaux avec propulsion électrique.
Le 30 octobre 2019, il fait don de 1 million de dollars U.S8 à la fondation Team Trees devenant le plus gros donateur pour quelques heures (il est dépassé le même jour à 22h par Tobias Lütke)"
Le double langage sur la volonté de rendre l'IA plus utile tout en la présentant comme une menace
Le "Future of Life Institute" (FLI, Institut pour l'avenir de la vie) a reçu 10 millions de dollars d'Elon Musk en 2015 (WIkipédia) pour rendre l'Intelligence Artificielle "plus sûre et plus utile à la société".Enfin, le coronavirus a pris Elon Musk de court, comme tout le monde. On ne peut pas lui en vouloir.
Par contre, celui qui veut sauver l'humanité en colonisant Mars, lorsque la terre ne sera plus habitable, a réagi d'une façon qu'on peut juger très primaire face au confinement imposé à ses usines.
Il le refuse totalement pour permettre la continuité des fabrications de ses Tesla et autres matériels.
Décevant pour énormément de ses fans qui espéraient une réaction un peu plus pragmatique, empathique et humaine pour tous ses employés exposés au virus.
Mais, il est vrai que ceux qui connaissaient mieux son parcours d'entrepreneur savent qu'il se préoccupe plus de futurs habitants de Mars, que des malheureux terriens travailleurs dans ses usines.
Ces chercheurs sont-ils vraiment des "pères", des pionniers de l'Intelligence Artificielle ?
Max Tegmark n'a jamais travaillé sur l'Intelligence Artificielle mais sur les conséquences que celle-ci pourrait avoir d'après lui. (Comme Stephen Hawking). S'ils préjugent des possibilités de développement de l'IA, ils n'en n'ont jamais été praticiens.
 |
| Imiter l'humain n'est pas une preuve de vie |
Jürgen Schmidhuber a travaillé sur les réseaux de neurones avec d'autres chercheurs plus renommés que lui comme Yann Le Cun (Prix Turing 2019 et considéré comme l'un des inventeurs de l'apprentissage profond (Wikipédia).
C'est Yann Le Cun que je citais dans mon article précédent "L’Intelligence Artificielle peut-elle dominer les humains ? Que faire ?".
Il coupait court à toutes les prétentions de créer un cerveau avec des machines en disant qu'un réseau de neurones artificiels "ne prétend pas davantage décrire le cerveau qu'une aile d'avion copie celle d'un oiseau".
Jürgen Schmidhuber a donc bien dirigé, avec d'autres, les travaux importants dont il fait état, qui n'ont pas débouché sur de nouvelles formes de vie mais plus prosaïquement sur des assistants vocaux avec la reconnaissance vocale et la reconnaissance visuelle.
Il a pris ensuite une orientation "post-humain" alors que la plupart de ses collègues de l'époque ont continué des recherches sur l'apprentissage profond avec plus de succès concrets sans prétendre que la machine dépasserait l'humain.
La "vérité" que nous servent ces experts est une conclusion scientifique ou une croyance personnelle ?
Ces personnes croient au post-humanisme.
"Le post-humanisme est un courant de pensée né à la fin du xxe siècle, issu notamment des champs de la science-fiction, de l'art contemporain et de la philosophie, qui traite du rapport de l'humain aux technologies (biotechnologies incluses) et du changement radical et inéluctable que cette relation a provoqué ou risque de provoquer dans l'avenir.
Le mot aurait été publié la première fois par Peter Sloterdijk en 1999, lors d'un colloque consacré à Heidegger et à la fin de l'humanisme, Sloterdijk postulant que le développement des technosciences imposait d'envisager un nouveau système de valeurs accompagnant la production d'êtres nouveaux et légitimant le pouvoir de ceux qui bénéficieront des technologies d'augmentation de l'être humain. (Source Wikipédia)
 |
| Source : L'ère du post-humain |
Ce courant de pensée n'est donc pas une émanation de travaux scientifiques ni techniques !
La science-fiction, de l'art contemporain et de la philosophie : où est la démonstration scientifique ?
Le post-humanisme est "issu notamment des champs de la science-fiction, de l'art contemporain et de la philosophie".
C'est d'ailleurs ce qu'un des "experts" du film nous dit, un peu rapidement, c'est vrai. C'est sa réflexion philosophique.
Il en a parfaitement le droit.
Que ce soit une philosophie ou une croyance, il ne faudrait pas le présenter comme une conclusion scientifique : là est le tour de passe-passe !
En conclusion, pourquoi autant de confusion entre science-fiction et travail scientifique
Confusion croyance-pouvoir-état-GAFM agravée par les "vérités alternatives" et les fake-news
Il y a plusieurs forces puissantes qui poussent à la confusion entre les croyances et la science.
N'oublions pas qu'aux États-Unis, de nombreuses sectes sont reconnues comme des religions et noyautent les cercles de pourvoir par de puissants lobbys. Le concept de laïcité, comme de séparation des églises et de l'état, n'existe pas.
Des "expériences scientifiques" sont montées pour prouver que la terre est plate et beaucoup d'autres fadaises.
Ensuite, les "vérités alternatives" et les fake news sont plus utilisées et commentées que les informations sérieuses.
Enfin, partout dans le monde, les GAFAM, omniprésents, popularisent une image d'eux-même comme des arbitres innés de toute information, réflexion ou progrès technologique.
Ce sont eux qui établissent l'éthique, qui nomment des "Haute Autorité" pour publier ou censurer, etc...
C'est ce jeu trouble que dénoncent de experts beaucoup plus crédibles comme Jean-Gabriel Ganascia dans :"Démythifier l'intelligence artificielle et ses prédictions apocalyptiques" et Luc Julia
(voir mon article : "L’Intelligence Artificielle peut-elle dominer les humains ? Que faire ?").
Il faut d'abord se méfier du sensationalisme
Dans le cas du film que nous analysons ici, la recherche de sensationalisme est évidente.
 |
| Tonje Hessen Schei dénonçant les Drones de guerre :"Vous ne combattrez pas la violence par la violence" |
- en 2006 "Independent Intervention" : documentaire sur la couverture médiatique de la guerre en Irak
- en 2014 "Drone" où elle montre des adolescents qui ont tout abandonné pour piloter des drones de guerre semeurs de mort à distance
- en 2019 "iHuman" ce film
- en 2010 "Play Again" où les enfants se replient derrière le monde virtuel des écrans
On voit que tous les thèmes de ces films sont très forts.
Elle dénonce les dégâts que l'humanité subit à la suite des utilisations des nouvelles technologies.
Tonje Hessen Schei, une militante pour les droits de l'homme, l'environnement et l'évolution des relations entre l'homme et la machine
"Vous ne combattrez pas la violence par la violence" commente-t-elle en présentant son film "Drone" pour dénoncer les meutres à distance commandés par Obama.
Ainsi, on comprend mieux alors un parti-pris délibérément provocateur pour dénoncer les dangers de l'Intelligence Artificielle.
Peut-être malheureusement, se trompe-t-elle de cible en crédibilisant ces experts post-humanistes et en les présentant comme représentatifs de la recheche sur l'Intellignece Artificielle ?
Dans le cas de Roman Ikonicoff (voir mon article : "L’Intelligence Artificielle peut-elle dominer les humains ? Que faire ?"), ce dernier écrivait un article aussi mystificateur alors que dans la dernière interview qui figure dans mon article, il dénonce pratiquement ces mystifications.
Peut-être la réalisatrice de ce film Tonje Hessen Schei, pourrait-elle faire un autre film pour dénoncer la mystification de son "iHuman" ?
En tout cas, arte a manqué totalement à son devoir de contextualisation en présentant ce film sous le titre : "iHuman - L'intelligence artificielle et nous" : arte aurait peut-être dû l'appeler "iHuman - L'intelligence artificielle et les fantasmes délirants de certains de ses chercheurs".
Et vous qu'en pensez-vous ?
