notre relation à la technologie.
Pour la première fois, nous pouvons dialoguer avec des machines qui semblent nous comprendre et nous répondre de manière naturelle.
Mais cette révolution soulève des questions fondamentales sur notre humanité, nos compétences et notre rapport au monde. Éric Salobir, président de la Human Technology Foundation et membre du Conseil national du numérique, nous aide à décrypter ces enjeux éthiques cruciaux.(linkedin)
La démocratisation de l'IA : une révolution à double tranchant
Jusqu'à récemment, l'intelligence artificielle était invisible, fonctionnant dans l'ombre pour nous faire des recommandations sans que nous en soyons vraiment conscients. Avec l'arrivée des IA génératives comme ChatGPT ou Gemini Live, nous sommes passés d'un rôle passif à celui d'acteur principal : nous décidons ce que nous demandons à la machine, nous formulons nos questions, nous orientons les échanges.
Cette démocratisation présente néanmoins un risque majeur : celui de créer un fossé grandissant entre ceux qui maîtrisent ces outils et ceux qui ne les exploitent pas.
Cette fracture peut même survenir au sein d'une même génération, créant de nouvelles inégalités sociales et professionnelles.(forbes)
Deux façons d'utiliser l'IA : se faire remplacer ou se faire augmenter
Face à ces nouveaux outils, deux attitudes émergent clairement :
L'usage paresseux consiste à déléguer entièrement ses tâches à l'IA, sans effort personnel. Cette approche présente un danger réel : elle risque d'éroder nos compétences professionnelles et de nous rendre remplaçables par ces mêmes machines que nous utilisons.
L'usage intelligent, adopté notamment par de nombreux jeunes, vise à multiplier ses compétences métier par la capacité à utiliser l'IA de manière stratégique. Cette approche crée des "citoyens augmentés" qui démultiplient leurs capacités tout en conservant leur expertise humaine.(larevueia les lois d'Assimov)
La distinction est fondamentale : il faut différencier la pénibilité (tâches répétitives que l'IA gère parfaitement) du goût de l'effort (nécessaire pour développer une vraie compréhension et un discernement critique). (La vallée de l'étrange : Quand les robots trop humains buggent notre cerveau.)
L'importance cruciale de l'agentivité humaine
L'agentivité, terme emprunté à l'anglais "agency", désigne notre capacité à être maîtres de notre existence et à exercer un contrôle sur nos actes. Cette notion devient centrale avec l'IA générative, qui nous pousse à nous interroger sur notre expertise et notre capacité à prendre notre destin en main. (Agentivité Wikipédia+1)
Le danger principal réside dans une délégation excessive des décisions à l'IA, qui pourrait nous mener vers une dépendance inquiétante. Imaginez ne plus pouvoir faire des choix simples, comme commander au restaurant, sans l'aide d'une intelligence artificielle ! (umanz : Agency » : l’agentivité, une qualité pour le XXIème siècle).
Bien que nous soyons déjà dépendants de nombreuses machines (électricité, internet), il est crucial de maintenir une maîtrise consciente de ces outils, à la manière d'un artisan qui connaît parfaitement ses instruments et leurs limites.
Le piège de l'anthropomorphisation
Cette tendance naturelle peut nous amener à percevoir l'IA comme un membre de la famille ou une entité protectrice, ce qui risque de nous éloigner des relations humaines authentiques. La qualité apparente du langage de ces systèmes peut facilement nous tromper sur leur véritable nature. (Wikipédia Vallée de l'étrange)
L'importance de la "friction" dans notre développement
L'IA contribue à créer une société "sans friction", où tout devient facile et rapide. Pourtant, cette friction - le désaccord, l'effort, la résistance - est essentielle pour notre développement humain et démocratique. C'est par la confrontation d'idées différentes, par l'effort de réflexion, que nous grandissons en tant qu'individus et en tant que société.(houseofethics La “vallée de l’étrange” en robotique)
Même OpenAI a reconnu ce problème en cherchant à rendre ses modèles moins conciliants et plus capables de débat constructif.
Vers une éthique intégrée : le "Jiminy Cricket" de l'IA
Les célèbres lois d'Asimov, bien que pionnières, s'avèrent trop simplistes pour gérer la complexité éthique réelle. L'éthique humaine implique constamment des conflits de devoirs entre différents principes moraux et les conséquences de nos actes.(Wikipedia ;Assimov ; Trois lois de la robotique)
La Human Technology Foundation développe actuellement un système éthique superposé à l'IA, agissant comme une "conscience" ou un "Jiminy Cricket" numérique. Ce système ne s'activerait qu'en cas de dilemme éthique pour challenger la proposition initiale de l'IA et l'aider à formuler une réponse plus nuancée éthiquement.(human-technology-foundation)
L'objectif est de permettre aux utilisateurs de paramétrer leurs propres directives éthiques et valeurs personnelles, comme on formerait un collaborateur humain. Ce travail privilégie les modèles open source et économes en ressources, favorisant l'usage local, la protection de la vie privée et la responsabilité environnementale.
Conseils pratiques pour un usage éthique de l'IA
Pour naviguer sereinement dans cette révolution technologique, voici les recommandations essentielles :
Diversifiez vos sources : utilisez plusieurs outils d'IA pour comparer les résultats et éviter la dépendance à un seul système.
Gardez votre esprit critique : ne vous contentez jamais du simple "copier-coller". Relisez systématiquement et analysez ce que produit l'IA.
Explorez les outils spécialisés : des solutions comme NotebookLM permettent de synthétiser et surtout d'interroger de vastes ensembles de documents dans différentes langues, offrant une interaction textuelle approfondie plutôt qu'une simple synthèse audio.
Préservez l'authenticité humaine : il devient capital d'identifier ce qui est produit par un humain et ce qui vient d'une machine, pour des raisons de qualité, de responsabilité et pour valoriser l'effort et le savoir-faire humain.Ethique-et-relation-humain-_-machine.pdf (L’Homme face à l’intelligence artificielle : repenser l’éthique de la relation homme-machine)
L'avenir : vers une intelligence différente ?
Concernant l'AGI (Intelligence Artificielle Générale), Eric Salobir reste prudent quant aux échéances ("if or when"). Il se demande si les modèles de langage actuels pourraient développer des formes de conscience, ou si des "modèles du monde" multimodaux sont nécessaires.
Son approche est nuancée : plutôt que d'attendre de la machine qu'elle développe une conscience humaine, il envisage qu'elle puisse développer sa propre forme d'interaction avec le monde, une "autre forme d'intelligence" que celle, unique jusqu'ici, de l'être humain.
Un défi civilisationnel majeur
Cette révolution de l'IA représente un véritable défi civilisationnel. Un danger majeur est la production d'une "mélasse" de contenu de faible qualité, généré par l'IA pour les algorithmes, qui pourrait noyer l'information pertinente et mettre en péril nos démocraties.
L'IA peut démultiplier notre capacité à appréhender le réel dans sa complexité, à croiser beaucoup plus de paramètres que notre cerveau, permettant une meilleure compréhension du monde et une aide à la décision. Mais cela nécessite de revoir nos attentes envers ces machines et de maintenir notre rôle central dans les processus de décision.
La révolution de l'intelligence artificielle ne fait que commencer. Notre défi collectif est de l'apprivoiser intelligemment, en préservant ce qui fait notre humanité tout en exploitant le potentiel extraordinaire de ces nouveaux outils.
C'est en gardant à l'esprit ces enjeux éthiques que nous pourrons construire un avenir où la technologie serve véritablement l'épanouissement humain.
