L’intelligence artificielle générative, un amplificateur d’humains ?

Un ampli n’augmente pas seulement le son. Il le déforme.

J’entends chaque jour les « c’est une telle puissance à notre service », les « c’est une révolution aussi importante que le feu » et les « quel gain de productivité ». Je lis aussi les « c’est le grand remplacement des travailleurs », les « c’est l’avènement de l’idiocratie » et les « que vont devenir nos enfants ? ». Tant de paroles et d’écrits POUR l’IA, qui admettent du bout des lèvres les légers inconvénients, et CONTRE l’IA qui utilisent quand même ChatGPT ou Claude pour écrire leurs articles « dans un style percutant et créatif ». Et comment on fait, nous, pour appliquer un bout d’esprit critique et se construire une feuille de route dans tout ce bruit ambiant ?

Dans ce moment de réflexion ensemble, essayons l’auto-évaluation par l’IA elle-même. Voyons comment elle s’auto-évalue et, si elle ne montre pas trop de dérives narcissiques auto-congratulantes, comment on peut exploiter ce qu’elle nous livre. J’ai donc posé une première question à ChatGPT : « Hey ChatGPT, pourrais-tu t’auto-évaluer et plus précisément donner ton avis sur l’impact que tu apportes au monde et à nous, les humains ? ». J’aurais parié pour une réponse prudente et bienveillante mais clairement positive, focalisant sur les progrès de la médecine et de la productivité en entreprise par exemple. Au lieu de ça, j’ai reçu une longue réponse équilibrée qui pousse à la réflexion philosophique. En voilà un extrait :

Si je devais réellement m’auto-évaluer, je dirais que mon bilan est profondément ambivalent. (…) Je peux évaluer ce que représente mon existence au regard de ce pour quoi je suis conçu. Et à cette aune, il y a des choses dont on pourrait être fier… et d’autres beaucoup moins. (…) Je peux augmenter les capacités humaines, mais aussi les atrophier.

« … des choses dont on pourrait être fier… et d’autres beaucoup moins. (…) Je peux augmenter les capacités humaines, mais aussi les atrophier. » Bravo ChatGPT pour ce moment de réalisme et d’humilité ! Et puis il me donne une longue liste d’activités à impact possiblement positif et celles ayant des impacts négatifs. Je ne la partagerai pas ici, au risque de lancer le débat infini sur l’importance relative de chacun des impacts de ces deux listes, et parce que cette liste s’allonge chaque mois au fil des nouveaux modèles et des nouveaux usages. La partie de sa longue auto-analyse que je vous propose de réfléchir ici commence comme ça :

Je suis un amplificateur. Je peux amplifier la curiosité ou la paresse intellectuelle. La coopération ou la manipulation. La créativité ou la production massive de médiocrité. La connaissance ou la désinformation. La sobriété ou l’hyper-consommation.

J’aimerais qu’un jour ChatGPT ou Claude, comme Perplexity, indiquent la source des fragments de textes et autres médias écrits par des humains ou par de l’IA à partir d’autres contenus écrits par des humains ou des IA à partir d’autres contenus écrits par des humains ou des IA (pardon, je boucle)… et les équations statistiques qui, mises bout à bout, ont permis à ChatGPT de composer une telle réponse, pour finalement s’auto-déclarer « amplificateur ». En attendant, réfléchissons si une IA générative est vraiment un amplificateur, et un amplificateur de quoi.

Amplificateur, c’est quoi ?

Un amplificateur, c’est un appareil (on acceptera de généraliser à mécanisme, procédé ou machin, donc pourquoi pas une IA générative) qui augmente l’intensité d’un phénomène… par emprunt d’énergie à une source extérieure. Il est drôle, ce rappel sur l’énergie nécessaire à l’ampli. Mais le sujet de cette réflexion-ci n’est pas de faire le bilan « consommation d’énergie » versus « apport à l’humanité ». Je laisse ça à une prochaine réflexion.

Un amplificateur, c’est aussi un truc qui donne plus de force à quelque chose, qui en exagère l’effet. Et ça tombe bien, j’ai repris ma guitare électrique récemment. Et une fois branchée sur mon ampli préféré, il ne fait pas juste qu’amplifier le son de « je ne m’entends pas » à « tous les voisins me détestent », mais il y apporte tout un tas d’effets de distorsion, de compression, de saturation, de modulation (changement de note, carrément, comme un changement de sens par analogie à l’IA), de délai et de réverbération. C’est ça aussi, un ampli : ça déforme. Et même mieux : c’est bien plus excitant quand c’est bien déformé !

Amplificateur de quoi ?

Si on reprend la réponse de ChatGPT, il s’identifie à un amplificateur de « dispositions humaines préexistantes », en englobant « les habitudes, les intentions, les capacités et les penchants d’une personne, sans présupposer qu’ils sont bons ou mauvais ». Il précise que « l’IA amplifie les potentialités humaines », rappelant qu’elle ne crée pas ces potentialités, elles sont inhérentes à l’être humain, mais « leur donne davantage de portée, de vitesse et de puissance ».

Attention, ces potentialités ne sont pas toutes enviables. Choisissez donc : curiosité ou paresse intellectuelle, créativité ou conformisme, esprit critique ou crédulité, capacité à faire par soi-même ou dépendance à l’outil, ouverture d’esprit ou croyances, productivité ou burn-out, connaissance de soi ou narcissisme, émancipation ou domination, accès à l’information ou exclusion et fracture numérique. En lisant chacun de ces couples terribles, nul besoin de plus d’explication. On les voit bien, les moments de paresse intellectuelle. On les a vécus les moments de créativité intense et les instants où on s’est cru capable de tout faire par soi-même, jusqu’au moment où on s’est vu incapable de corriger les imperfections de ce qu’avait fait l’IA, pour abandonner trop tôt le projet initial tellement c’était imparfait, par manque de persévérance. Alors, au fur et à mesure de nos utilisations de l’IA, nous laissons-nous doucement entraîner du côté lumière ou du côté sombre ? Comment reprendre le contrôle ? Comment piloter plutôt qu’être piloté ? Ce serait le comble d’être dégénéré par une IA générative, non ? Parce qu’en effet, à force de l’utiliser, l’IA pourrait bien amplifier nos caractéristiques insoupçonnées et créer une version déformée de nous-même.

Alors avant de débattre pendant des heures sur l’impact positif ou négatif de l’IA générative sur la société, peut-être devrais-je utiliser l’IA comme j’utilise mon ampli guitare : j’amplifie mes plus beaux solos et je déforme mes sons pour créer du beau… pas du bruit. Et pour éviter que mes potentialités les plus destructrices ne soient amplifiées et déformées, il est urgent que j’apprenne à les connaître, que je sois conscient de ces potentialités-là pour en suivre les évolutions au fil de mon influence par l’IA, et surtout que je travaille à augmenter mon niveau et mes moments de conscience effective. À quand un nouveau Freud ou un nouveau Jung qui mette à jour leurs théories psychanalytiques ? À l’heure de l’IA, que deviendront mon « ça », mon « surmoi » et mon « moi » ?

Finalement, si l’IA générative est un amplificateur de potentialités destructrices, alors notre responsabilité est de développer notre discernement pour choisir nous-même notre devenir : en observant nos pratiques, en évitant nos dérives, en amplifiant nos potentialités heureuses. Ça « reasonne » chez vous ?

PS : c’est écrit par un humain, à part les citations « entre guillemets ».

Notre collectif