À la suite de l'article :"L'Intelligence Artificielle pour remplacer l'humanité ?", nous avons fait une visioréunion pour échanger entre nous.
Ces échanges ont été très intéressants et utiles.
En voici le résumé :
J'ai regroupé par thème les contributions de chacune et chacun en omettant de mentionner leurs auteurs.
J'ai, en effet, été frappé par la pertinence et l'intérêt de toutes ces réflexions ainsi rassemblées.
Réflexions pas très fun mais utiles pour comprendre, gagner en sens critique et en pensée autonome
Merci d'abord pour tout votre travail de réflexion et d'analyse critique qui était très intéressant d'entendre et de confronter.
Oui. Le sujet n'est pas facile.
La vidéo d'arte était particulièrement pénible et l'article d'analyse aride j'en suis conscient.
Pour autant ne pas se laisser bercer dans des discours flatteurs, mais catastrophistes est une condition qui indispensable pour conquérir notre indépendance de pensées et notre autonomie de décision.
Comment nous percevons l'IA
L'Intelligence Artificielle intéresse les militaires et on ne peut dicter de limiter aux militaires.
C'est un enjeu de pouvoir pour les plus puissants.
Nous sommes beaucoup surveillés notamment l'armée qui utilise beaucoup l'IA sans qu'il soit évident de légiférer là-dessus.
Il faut distinguer la source et la cible, les moyens mis en œuvre et l'utilisation de l'Intelligence Artificielle.
On peut craindre de voir nos comportements manipulés.
On entre aussi dans une post-vie privée.
Il y a une notion d'instinct de survie à ne pas se laisser dominer ni emprisonner par le moyen de l'IA.
Cela nécessite une gouvernance internationale même si à mon avis, c'est utopique.
Nécessité d'une gouvernance internationale même s'il paraît utopique que tout le monde se mette d'accord à partir des gouvernants.
Problème des droits de l'homme à sauvegarder qui sont mis en danger par le classement par catégorie sociale d'appartenance, d'orientation politique, ou sexuelle.
La conclusion est logique : l'intelligence artificielle n'est ni gentille ni méchante mais dépend du désir de ceux qui la contrôlent. Donc le rôle de l'homme dans ce monde est central.
Les images font-elles peur ou non ?
On ne voyait pas les images sans le travail critique de l'article.
En ce qui concerne les images du film, il faut reconnaitre qu'il est difficile d'illustrer l'IA qui est abstraite et virtuelle.
Comment montrer en termes simples comment cela fonctionne ?
Ce sont les images de foule qui sont les plus impressionnantes.
Les oppositions des illustrations de foule, de figures géométriques avec les paysages enneigés sont particulièrement frappantes
Les réalisations concrètes d'Intelligence Artificielle
L'exemple des algorithmes de préconisation
Les algorithmes de l'IA pour nous préconiser des livres ou des CD d'après nos achats précédents sont de L'Intelligence Artificielle.
Des données personnelles ont été enregistrées sur nous et c'est avec cela qu'on nous conseille nos futurs achats.
Les réalisations très présentes de l'Intelligence Artificielle
Il est clair que si l'intelligence artificielle est capable de :
- calculer beaucoup plus vite que notre cerveau
- et de disposer de mémoire sans rapport avec la nôtre
Dans le monde médical et les entreprises, l'IA est très utilisée
L'IA rend de nombreux et très grands services dans la médecine et la recherche médicale.
Le monde de l'entreprise fait une énorme utilisation de l'Intelligence Artificielle que ce documentaire Arte ignore totalement.
Qu'on le veuille ou non il faut reconnaître que dans l'histoire, ce sont toujours les militaires qui sont à l'avance de progrès technologiques déterminants.
D'ailleurs, ce sont les militaires qui sont à l'origine d'Internet.
L'Intelligence Artificielle et en particulier les logiciels de reconnaissance faciale n'ont pas que des nuisances.comme la répression des Ouïghours en Chine.
Un enfant volé à sa famille, en Chine, ce qui est assez fréquent, a été retrouvé au bout de 32 ans grâce à l'utilisation de logiciels de reconnaissance faciale.
En conclusion : 4 caractéristiques qui doivent éveiller notre méfiance
1 - le débit accéléré et un grand nombre de sujets traités superficiellement
Nous pouvons constater de façon la plus simple que les discours qu'on nous tient sur l'Intelligence Artificielle sont d'autant plus mystificateurs qu'ils contiennent un grand nombre d'éléments mal expliqués très denses et débités à très grande vitesse.
Autrement dit : plus on vous noie sous un discours rapide ou des articles chargés de faits, d'allusions non expliquées, plus vous devez vous méfier.
2 - Intelligence Artificielle évoquée comme une transcendance abstraite
En parlant de façon générale, abstraite, virtuelle sans dire exactement de quoi on parle ni quelles fonctionnalités sont mises en œuvre, le champ est ouvert aux généralisations abusives et aux analogies sans limites.
Ce qui m'a frappé dans les réflexions faites, dans les analyses présentées dans cette discussion c'est qu'à chaque fois les fonctions étaient désignées clairement :
- intelligence artificielle pour servir de préconisations pour faire acheter des livres ou des disques par exemple
- reconnaissance faciale
En désignant précisément les fonctions, les dispositifs, les processus mis en œuvre, on peut en saisir la réalité et porter une appréciation citoyenne et faire la part entre l'utilité et la nocivité de leur utilisation.
3 - analogies entre les machines et humain pour l'apparence ou le fonctionnement du cerveau (anthropomorphisme)
Pour agiter des fantasmes au sujet de l'intelligence artificielle, on a presque toujours tendance à utiliser l'anthropomorphisme c'est-à-dire faire apparaître des robots à allure humaine comme s'ils pouvaient être aussi intelligents que les humains ou comparer les ordinateurs au cerveau humain.
Comme dit le proverbe "comparaison n'est pas raison".
4 - ne confondons pas les croyances et les sciences
C'est peut-être un des aspects les moins intéressants en soi.
Mais il se trouve que justement dans la vidéo d'arte, les principaux experts interrogés sont des croyants d'un courant de pensée particulier : le post-humanisme.
Ils en ont parfaitement le droit de défendre leurs opinions comme tous les croyants.
Par contre, présenter ce qu'ils appellent des philosophies, des croyances avec des discours scientifiques est particulièrement malsain.
Pour une réflexion sur les vraies conséquences de l'IA dégagée des "penseurs" post-humaniste et du sensationnalisme
Le "Science sans conscience n'est que ruine de l'âme" de Rabelais est à compléter par le risque des sciences dans les mains de croyants mystiques qu'ils soient "port-humains" ou autres.
Sans complotisme ni pensée manichéenne, il faut néanmoins faire un effort de pensée critique pour s'extirper des facilités des discours ambiants.
Pour exercer la responsabilité citoyenne, chacun a besoin d'une information dégagée de ces fantasmes.
L'ampleur des énormes et nombreux problèmes humains, sociaux, économiques, politiques... que posent les bouleversements induits par le déploiement de l'Intelligence Artificielle et de toutes les formes d'automatisations est suffisamment importante pour n'être pas polluée ni manipulée ainsi.
