paru dans lundimatin#409, le 29 décembre 2023

Depuis l’apparition publique de ChatGPT, tout le monde ne parle plus que d’Intelligence Artificielle (IA). Les professeurs seront-ils capables de déceler la triche ? Les journalistes vont-ils encore moins servir à quelque chose ? La classe créative va-t-elle se retrouver chez France Travail comme tout le monde ? Dans ce (long) texte, Gabriel Azaïs essaie d’appréhender les fondements de l’émergence de cette nouvelle technologie en la passant au tamis de l’un des plus célèbre philosophe et penser de la technique : Jacques Ellul.

« La technique a en soi un certain nombre de conséquences, représente une certaine structure, certaines exigences, entraîne certaines modifications de l’homme et de la société, qui s’imposent qu’on le veuille ou non. Elle va d’elle-même dans un certain sens. […] pour changer cette structure ou orienter différemment ce mouvement il faut un effort immense de prise en main de ce que l’on croyait mobile et orientable, il faut la prise de conscience de cette indépendance du système technicien, à quoi s’oppose la conviction rassurante de la neutralité technique. »
Jacques Ellul

« Ces derniers mois ont vu les laboratoires d’IA s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne — pas même leurs créateurs — ne peut comprendre, prédire ou contrôler de manière fiable ». Voici ce qu’indiquait, en préambule, le moratoire [1]signé le 22 mars dernier, préconisant une pause de 6 mois des recherches en IA, suite à l’avènement de ChatGPT et des IA génératives. Scientifiques de renom, sommités de la Sillicon Valley et de la recherche en intelligence artificielle, de Yoshua Bengio [prix Turing] à Steve Wozniak [Apple], en passant par Stuart Russell et Elon Musk [Twitter], experts, universitaires, ingénieurs, nombreux sont ceux à avoir apposé leur signature. Ce moratoire, abondamment relayé dans les médias, prolongeant de manière ambiguë certaines inquiétudes dans la société, concernant l’intelligence artificielle, par une forme de surenchère, de délire millénariste : « Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? »

Cette pétition faisant écho au concept de singularité technologique : ce moment, théorisé à la fin du siècle dernier, où l’IA accèderait à l’autonomie, à une forme de conscience. À des capacités d’« intelligence » supérieures à l’homme, entraînant elles-mêmes un emballement technologique que l’homme ne serait plus en mesure de maitriser. [2]

Une question, assez nouvelle, aussi se posait : dissipant le discours admis d’une IA à visée utilitariste, comment maintenant se positionner exactement par rapport à celui d’une technologie devenue incompréhensible aux yeux mêmes de ses créateurs ?

Bien sûr, avec la législation à venir de ces technologies, l’expert en IA se fera fort de préserver cette vision utilitariste, d’alerter des « dangers », renforçant ainsi la main mise des techniciens et des entreprises spécialisées dans l’IA [3]

Mais la stratégie est pour le moins alambiquée (comme celle de faire la « pub » de l’IA par ce moyen), et on pourra douter qu’il n’y ait là, uniquement, qu’un calcul.

Initiée par des chercheurs et ingénieurs en IA – et au cas où l’on n’aurait pas bien compris – une nouvelle pétition était lancée, fin mai – dont la forme même, à la fois vague et laconique, interroge : « Mitiger le risque d’extinction lié à l’IA devrait être une priorité mondiale au même titre que d’autres risques pour la société telles les pandémies ou la guerre nucléaire. » [SAFE AI Statement [4]…]

Si beaucoup ont souligné l’hypocrisie de cette déclaration, peu semblent avoir relevé la nouveauté d’un discours faisant voler en éclats les considérations habituelles sur la technique : la technologie n’est pas neutre [5] (et, ici, encore moins « bonne »). Notons également ceci, au passage : si cette technologie semble déjà dangereusement échapper au contrôle de ses créateurs (un risque existe, mais on ne peut que le mitiger), cet élément d’hostilité, inhérent semble-t-il à cette technologie, n’est pas considéré comme un problème a priori, mais comme un risque a posteriori [risk of extinction].

Ce récit d’une machine intelligente se retournant contre l’homme, cette surenchère S-F, désamorçant d’une certaine façon toute approche plus rationnelle qui, en s’en tenant à une critique de la technique, ne verrait elle aussi en l’IA qu’une forme d’asservissement, une disqualification à venir de l’homme par cette technologie. Le mythe balaye tout.

Le sentiment qui semble s’instiller est désormais aussi celui, étrange, de vivre dans un monde de science-fiction instrumentalisant en son sein ses propres codes. Une sorte de méta-récit qui ne serait pas de la S-F à proprement parler, mais davantage un simulacre de S-F, instillé de façon diffuse, masquant un horizon dystopique, lui, tout à fait tangible et réel.

Il faudra aussi distinguer science-fiction et dystopie, genre et sous-genre, afin d’y voir plus clair, voir comment ces deux genres fictionnels ici se nourrissent l’un l’autre, agissent par une mise en abyme sur le réel, en un méta-récit où nous ne ferions que semblant de jouer avec leurs codes.

La singularité, c’est le mythe de Frankenstein compris de travers : l’allégorie prométhéenne est évacuée au profit, d’abord, d’une croyance en la toute-puissance de la technique, qui est un contresens complet vis-à-vis du mythe.

Mais il importe peut-être de resituer ici, à rebours de ce millénarisme, la singularité, non comme projection fantasmée d’un futur éventuel, mais comme allégorie de notre présent même, lui redonner ce sens métaphorique. C’est que le « mythe » de l’intelligence artificielle fait très largement écho au questionnement de Jacques Ellul, au siècle dernier, sur la place de la technique dans nos sociétés. Ce mythe traduit lui-même un impensé. Il est aussi un au delà possible de ce « système technicien » (1977) décrit si précisément par Ellul, une matérialisation des craintes qu’il anticipait, dès l’introduction de ce livre. Ce mythe de l’IA matérialisant, en négatif, le risque d’une société de type utopique, un système clos par la technique : une « Mégamachine » où l’individu lui-même, les rapports sociaux, seraient régis eux aussi en puissance par des principes techniques, remplaçables par des techniques (c’est à dire, finalement, réduits à des simulacres).

TECHNIQUE ET MYTHE

Le point de vue le plus « éclairé » sur l’IA – critique, ou non – tend généralement à négliger le mythe, à simplement évacuer cette question. Si elle se veut réalisation de ce qu’avait annoncé ou « prophétisé » la S-F, l’IA n’aurait dans les faits pas grand chose à voir avec cette vision millénariste. Par excès de rationalisme, on finit aussi par ne plus considérer le phénomène technique qu’en soi. La tentation est ainsi toujours grande de reléguer le mythe à une simple fantaisie, en finissant par occulter la construction mythique qui fonde, qui lie ensemble ce qui n’a sans ça avec l’IA, à l’inverse, plus que l’aspect d’un agrégat de techniques, d’applications, sans plus aucun rapport.

C’est à travers son rapport ambivalent avec le mythe que l’on comprend ce qu’est l’intelligence artificielle. Aussi, avant d’évoquer Jacques Ellul (qui a toujours pris soin lui-même de montrer quelles étaient nos nouvelles croyances, les mythes de l’époque moderne [6] voyons déjà quelle est cette relation.

Il y a ainsi, même chez certains des plus fervents défenseurs de l’IA, la conviction qu’il faudrait séparer mythe et technique. L’efficience technique de l’intelligence artificielle, après tout, serait bien la preuve même de sa rationalité, située en dehors de tout système de croyance. Les attentes et craintes irrationnelles autour de l’IA n’auraient pour fonction, si ce n’est de nourrir une sorte de techno-folklore (on n’est jamais très loin, en fait avec l’IA, du phénomène de foire, du tour de prestidigitation), que de servir des intérêts privés, ne seraient que parasitaires !

Mais la vision simplement techniciste [j’emploierai ce terme, ici, plutôt qu’utilitariste, au sens un peu vieilli [7] aura beau jeu de considérer la singularité comme le fait d’illuminés et la technologie de l’IA comme un progrès, rien ne les sépare si franchement. Le mythe fait corps (nous verrons plus loin quel rôle, précisément, joue ce fantasme de science-fiction cauchemardesque).

Rien ne sert, du reste, de déconsidérer l’allusion à la singularité des pétitions évoquées plus haut, de la réduire à un simple coup marketing, même si c’est ce qu’elle est bien sûr également (l’insinuation d’une technologie si puissante… toute-puissante) : l’ambiguïté du mythe frappe. Ce sur quoi elle nous renseigne est non la question, secondaire, d’un pouvoir que l’on prêterait à la machine – et qu’il s’agirait simplement de réguler – mais celle, plus retorse et complexe, de la sacralisation de la technique (dont cette question du pouvoir qu’on délègue ou non à l’IA dépend).

Contrairement au mythe de la singularité, qui en est une extrapolation, le mythe de l’intelligence artificielle, nourri de l’imaginaire S-F, en reste à l’hypothèse de l’émergence possible, dans la « machine », d’une forme de conscience. C’est de ce mythe que je traiterai ici d’abord.

Mais de même que la singularité semblait décontenancer par avance toute critique de la technique, s’en tenir à une déconstruction du mythe semble ici tout aussi problématique : d’un côté, tous les arguments contre lui jouent pour lui, ce mythe ayant d’abord l’attrait d’une fantaisie (ce mythe n’est d’ailleurs lui-même très souvent rien de plus qu’un « discours réaliste » sur le mythe, qui se voudrait démythifiant [8]. De l’autre, le rationalisme de la technique semble se charger lui-même de cette démythification, quand bien même l’IA irait dans le sens d’une personnification de la technique.

Si cette contradiction apparente fait se dérober le mythe à l’analyse, mythe et « rationalisme » technique, nous verrons ceci, sont en réalité ici le produit l’un de l’autre : ils s’interpénètrent, s’amalgament, en une même croyance en une toute-puissance de la technique.

C’est à partir de cette apparente contradiction, du mythe et de la technique, que se construit l’intelligence artificielle, dans ce rapport qu’ils entretiennent l’un l’autre que l’on parvient à saisir cette technologie, plutôt que de traiter tour à tour isolément du mythe ou de la technique.

« Ce n’est plus la technique qui est subordonnée, c’est elle qui détermine la recherche scientifique.  » (ST, p. 273) observe Jacques Ellul. Heidegger, autre penseur de la technique que n’appréciait guère Ellul, avait fait le même constat : « La technique (…) ne découle pas de la science, au contraire c’est la science qui ressortit à la technique et qui en est, en quelque sorte, le bras armé. » Avec cette évolution, science et technique semblent en réalité ne plus faire qu’un (le caractère prépondérant de la technique est important, mais nous verrons que c’est de l’ambivalence même de ce couplage dont l’IA tire sa substance, sa dynamique).

En tant que science, ou domaine de recherche, l’intelligence artificielle est prométhéenne, en tant que technique elle n’a pas ce sens prédéterminé. En effet, quel rapport peuvent bien avoir entre eux le GPS et ChatGPT, des techniques de détection de mélanomes et les systèmes d’armes létales autonomes [SALA], si ce n’est qu’ils utilisent l’IA ? Quel rapport, du coup, avec le mythe ?

La profusion des technologies de l’IA rend ce concept à première vue difficile à définir. L’IA étant généralement appréhendée, de manière graduelle, selon trois stades prédéfinis : IA faible, générale et forte. L’IA faible est celle que l’on connait, le terme induit une automatisation et une forme de complexité technologique (aide à la décision, neuro-science, systèmes de détection, modèles statistiques complexes, etc.) ; l’IA générale [IAG], une simulation de l’intelligence humaine (informatique émotionnelle, simulation cognitive, de la pensée, du langage, etc.) ; l’IA forte, située dans un futur hypothétique, et qui relève du mythe, correspondant à la création d’une véritable intelligence artificielle (intelligence égale ou supérieure à l’intelligence humaine, autonomie ; se confond avec l’IAG, mais introduction ici de la notion de conscience).

Cette typologie n’a bien sûr d’intérêt que dans la mesure où le milieu des ingénieurs et concepteurs en IA s’en fait écho, en termes de défis techniques, théoriques (les travaux sur les modèles de langage tournent tous par exemple autour de l’IAG). On pourrait opposer à ceci que le technicien, la technique, qui « détermine la recherche », qui n’est qu’un moyen (une puissance), jamais, dans les faits, ne s’assignent de buts si généraux : l’intelligence artificielle ne serait même, à y regarder de plus près, que la somme de ces différents chemins de traverse.

On voit bien là toute l’ambiguïté technicienne, dont l’IA fait son miel. Elle n’est, nous le verrons, que le produit d’une dénaturation, mal comprise, de la technique par le mythe (qu’il sera ainsi vain de vouloir isoler du mythe). Les technologies de l’IA ayant, à rebours de cet « idéal » technicien, leur propre structure ou logique, très particulière.

Nous pourrions déjà distinguer une première classe d’IA se couplant à d’autres systèmes techniques déjà complexes : utilisation dans la fabrication de programmes et d’outils informatiques, usage logistique (gestion de flux, de stock, dans l’industrie, les transports, etc.), automatisation de certaines tâches dans des environnements technologiques élaborés, IA participant elles-mêmes à la conception d’intelligences artificielles, etc.

Automatisation, souci d’efficacité, ingéniosité technologique, on peut se demander avec cet usage de l’IA, qui reste le plus invisible (et le moins controversé), ce qui le caractérise vraiment. Ici l’intelligence artificielle en tant que pure technique s’éloigne apparemment autant du mythe qu’il en révèle un aspect fondamental : l’autonomisation.

S’intégrant à des systèmes techniques déjà autonomes (logistique, environnements complexes) que l’homme ne peut que difficilement modifier, infléchir, dans un sens ou dans l’autre, cet usage de l’IA ne semble au fond que valider une tendance générale.

S’agissant de la création d’outils informatiques, et plus particulièrement avec la création d’IA par des IA, l’autonomisation met en perspective le geste « créatif » de l’informaticien lui-même : l’idée même d’informatique induit une forme d’autonomie (des programmes, des systèmes), mais l’informaticien, ici, laisse-t-il en quelque sorte les commandes à la machine ? Ou pousse-t-il tel système informatique à s’autonomiser encore davantage ? De même, dans le cas de la création d’IA par des IA, pousse-t-il cette technologie vers une forme d’autonomie, ou bien n’y a-t-il pas déjà une tendance « naturelle » de la technique informatique à s’autonomiser ? Il semble que ce soit ici un mélange des deux, plus exactement l’informaticien en IA comble ce que la technique lui destitue (à savoir : la technique, très vite, lui échappe), en investissant cette technologie d’une puissance virtuelle, à venir : un vocabulaire est d’ailleurs mobilisé, l’IA ainsi conçue est nommée « child » (le système Nasnet généré par AutoML de Google), et on l’imagine elle-même pouvoir inspirer en puissance d’autres modèles d’IA dans le futur (un appel est lancé afin que d’autres développeurs s’emparent de cette technologie, et la perfectionnent [9

La technologie de l’IA est donc ici une manière d’infléchir vers l’autonomisation une technique (l’informatique) dont le propre est déjà de s’autonomiser. Ce sera en outre l’investir d’un sens particulier, par une projection de l’homme sur l’objet technique.

La technique n’est plus appréhendée comme moyen de puissance, mais carrément comme puissance en tant que telle (comme pourrait l’être d’une certaine manière le feu ou l’électricité). La recherche en IA en fait systématise de manière ambiguë cette autonomisation, hisse au rang de sujet la technique. Elle augure aussi d’un constant rapport de pouvoir, de l’homme vers la technologie, et de la technologie vers l’homme (voir, sur ce problème, la notion d’« alignement des intelligences artificielles », j’y reviens à la fin de cet article).

Prises une à une, les technologies de l’IA n’apparaissent que comme destinées à un champ d’application précis, avec une raison interne, qui serait un certain degré d’efficacité, et en effet chacune, en tant que technique, se suffit à elle-même, ne s’embarrasse pas du mythe. Pour autant elles ne sont pas indépendantes les unes des autres, elles font « système ». Ce système, qu’on appellera par commodité celui de l’intelligence artificielle, les oriente dans un certain sens, dans les méthodes employées (le « deep learning », les « réseaux de neurones », tout un lexique en réalité), comme dans les buts visés (l’autonomisation, par exemple, évoquée plus haut).

De là naît cette confusion quand on parle d’intelligence artificielle : elle serait pour certains vierge, comme débarrassée du mythe, il n’y aurait que des techniques (avec cette idée, le plus souvent, de la neutralité de la technique, qui « ne dépend que de l’usage que l’on en fait »).

Mais pourquoi alors employer ce terme ? Et que signifierait, dans ce cas, la recherche en IA ?

Voyons ainsi quelle est cette recherche, et quelle est exactement l’origine de ce mythe.

Le concept d’intelligence artificielle est contemporain de l’invention de l’ordinateur. Il est frappant de voir à quel point, dès les années 1950 et l’élaboration de ce concept, avant qu’aucune technique ne vienne même encourager cette hypothèse, l’ambition était clairement démiurgique, prométhéenne  : la recherche restait dans le domaine théorique, et l’optimisme des pionniers, d’Alan Turing à Marvin Minsky, en passant par Allen Newell et Herbert Simon, faisait d’une IA aux capacités similaires ou supérieures à l’intelligence humaine quelque chose d’envisageable à l’horizon de moins d’une génération [10]. Encore aujourd’hui, dans l’hypothèse d’une recherche sur l’IA sans plus aucunes visées pratiques (applications), l’idée démiurgique paraitrait alors avec évidence.

Le projet métaphysique, prométhéen, le questionnement sur la conscience, l’accès à une forme de conscience de l’ordinateur, est ainsi à la base de la recherche en IA.

Le fameux test de Turing, dialectise ce problème de la conscience [11. Cette imitation [le « jeu de l’imitation » de Turing] de l’intelligence humaine induit une forme d’illusionnisme. Dans l’idée de Turing, l’apprentissage se fait essentiellement par imitation. Cet apprentissage mimétique, chez l’enfant, est lié à des affects, mais chez Turing, il semble un pur simulacre. Mais l’imitation n’est en fait qu’une équivalence mathématique, une traduction en un langage informatique. Si l’on considère que l’opération est d’abord une opération technique, le simulacre ne semble qu’un effet indirect de cette opération, qui aboutit néanmoins à une destruction du symbolique (ici le langage). Le simulacre n’est ici ni figuration, ni illusion, mais une manière finalement de crypter l’existant, via un calcul, c’est à dire littéralement de le vider de toute matière ou substance.

L’avènement de la cybernétique, à la même époque que l’élaboration de ce concept d’IA, popularise l’idée d’une science intégralement technicisée, n’ayant plus recours qu’à des techniques ou raisonnements techniques pour tout à la fois élaborer, mettre à l’épreuve, et valider ses théories. Dans cette lignée, la théorisation scientifique de l’intelligence artificielle – à savoir l’intelligence assimilable à un calcul ou programme informatique – ne semble d’emblée rien d’autre qu’un défi technique : l’aspect théorique cède le pas à l’aspect technique, puis pratique, lesquels gardent néanmoins toujours avec eux cette coloration scientifique, expérimentale.

Dans ce couplage science-technique, la science impulse néanmoins une dynamique, elle fait de l’intelligence artificielle un domaine de recherche, unifie ces différentes technologies de l’IA, les oriente (au delà de l’hybridation des procédés techniques, il s’agit de parvenir à une synthèse), de même qu’elle unifie les différents corpus scientifiques en lien avec ce domaine de recherche (orientés ainsi vers une acception technique, fonctionnaliste). Comme pour la cybernétique, la science agit par rétroaction de l’élément technique dans ce couplage.

Le mythe prométhéen est le produit de cette technoscience, de cette science accaparée par la technique – le feu dérobé par la technique. L’intelligence comme programme informatique. Technique et recherche n’établissent en fait aucune frontière, et c’est dans cette mesure que la technique est traversée par le mythe : elle a ce caractère double, évolutif.

L’intelligence artificielle en tant que technologie [12] étant, par ce caractère double, à la fois technique et technique en puissance.* * *

L’IA est une projection de l’homme sur l’objet technique (le mythe anthropomorphe), autant qu’une projection de la technique sur l’homme (le cerveau-machine comme postulat). Ces deux conceptions, inséparables bien qu’apparemment opposées, se répondent en miroir.

De l’objet théorique, métaphysique, à l’application technique, pratique, on a cela dit du mal à suivre le fil logique. Si l’intelligence artificielle et humaine fonctionnent théoriquement de manière semblable, on se demande dès lors ce qui pourrait faire de l’intelligence artificielle, pour l’homme, une technique. Quel usage pourrait-il en avoir ?

C’est la question que pose le penseur John Searle, qu’il ne faut pas prendre comme une question philosophique, mais comme une question pratique, de bon sens : « If we are to suppose that the brain is a digital computer, we are still faced with the question, ‘And who is the user ?‘ »

Concevoir l’intelligence comme une opération mathématique, comme quelque chose de chiffrable, manipulable (à travers un langage informatique), c’est inscrire notre relation avec l’outil dans ce processus de réification. Fabriquer des outils dont on aura usage n’est en effet pas la même chose que fabriquer des outils censés refléter notre intelligence. Le rapport à l’outil n’est plus du tout le même, et devient réflexif. L’homme s’observe, se projette, à travers ce prisme technique.

Toute la question de l’IA, de la recherche en IA, se résume en fait à ce refus initial de penser notre rapport à cette technique. Pur délire démiurgique, elle devient, idéalement, une technique sans usage, une vue de l’esprit. Ou bien, concrètement, dans les applications qui lui sont trouvées, finira par engager l’homme, par ce simple jeu de miroir, dans un processus réifiant. La grande question du remplacement, qui est une fausse question, découle directement de cette absence de perspective initiale quant à l’usage de la technologie de l’IA, appréhendée d’abord comme un objet métaphysique, comme technique en puissance, ou comme une pure puissance.

Structure vide, illusoire [qui fait illusion], appréhendée comme un simple calcul, il y a en fait identité entre le modèle (l’intelligence humaine) et sa traduction en langage informatique : passée dans le domaine technique, l’intelligence artificielle devient elle-même modèle, une fois tel ou tel processus formalisé. Elle est modélisée, autant qu’elle modélise.

Le principe de l’intelligence « augmentée », via l’intelligence artificielle, présupposera lui-même un réductionnisme de l’intelligence humaine, comme technique ou calcul.

La deuxième catégorie, que l’on pourrait établir, regroupe ainsi toutes ces technologies de l’IA qui tendent à modeler l’intelligence humaine. Elles constituent en un sens l’envers du mythe.

On peut en effet concevoir ces différentes technologies, les différents types d’IA, comme autant de modèles. « L’IA est ce qui n’a pas encore été fait » selon le chercheur Douglas Hofstadter. Technologie évolutive, l’IA est aussi une tendance, qui suit cette idée selon laquelle l’intelligence humaine serait transposable, c’est à dire falsifiable, en un langage informatique.

Aussi l’IA vise à une synthèse (IA générale ou IA forte) : il faut d’abord la voir comme quelque chose en cours, en évolution constante [Loi de Moore [13], voir ce qu’elle cherche à être, en puissance (dans l’élaboration de ce mythe), et ce qu’elle est réellement.

De manière empirique, la recherche en IA, dans cette idée de l’intelligence appréhendée comme technique, vise à morceler, puis recomposer entre elles, nos modes de pensée, nos facultés de percevoir, de raisonner, d’énoncer, de communiquer, de décider, etc., traduits en langage informatique en termes de tâches [tasks] [14]. Beaucoup d’applications, certes encore embryonnaires, peuvent être perçues comme découlant de cette idée, les différentes technologies de l’IA constituant comme autant de fils et ficelles de cette « science » marionnettiste.

Cette idée, fondatrice de l’IA, qui est celle aussi d’un remplacement de l’homme par la machine pour certaines tâches que l’ordinateur finirait par exécuter mieux ou plus efficacement, déconnecte d’une certaine façon absolument ces techniques de notre rapport avec ces techniques. Mais, bien qu’elles puissent se substituer à l’humain, c’est encore l’humain qui interagit avec elles, le renvoyant à une conception plus essentielle de l’homme comme machine : usage militaire (système d’armes létales autonome (SALA)), dans la police (prévention, contrôles d’identité automatisés, gestion des rassemblements, surveillance, etc.), mais aussi usage de l’IA dans la santé (diagnostic, la médecine comme « système expert »), usage possible dans le domaine politique (administration) et du droit (accélération et simplification des décisions de justice), de l’éducation (modèles, techniques de science cognitive), IA dans les secteurs du tertiaire, des services (assistance en ligne automatisée), du recrutement, agents conversationnels, etc.

Cette conception de l’intelligence comme accomplissement d’une suite de tâches, ou calculs, s’étend en réalité avec l’IA potentiellement à une infinité de techniques, le mythe s’immisçant, sans paraître établir de rapport direct avec celui-ci, dans un discours purement techniciste.

Ainsi, Kaplan et Haenlein définissent par exemple l’intelligence artificielle comme la « capacité d’un système à correctement interpréter des données externes, apprendre de ces données, et se servir de cet apprentissage pour accomplir certains objectifs et tâches spécifiques en s’adaptant de manière flexible. » [15] Voilà un discours apparemment tout à fait clair et technique sur l’IA comme système, avec cette idée par ailleurs d’apprentissage (le machine ou deep learning), d’adaptation et d’évolution autonome, qui caractériseraient bien une forme d’intelligence !

Cette définition minimale tente de réduire l’IA à un outil, destiné à une application donnée. Mais on ne comprendra évidemment rien à cette technologie si on ne tient pas compte par ailleurs de toutes les applications que l’IA génère, et du fait qu’on l’appréhende comme puissance en tant que telle. Ce ne sont plus alors des « objectifs et tâches spécifiques » mais au contraire un champ très vaste d’applications, en développement constant, obtenues par des procédés en tous points similaires (le « système » algorithmique de l’intelligence artificielle).

Dans cette définition, l’anthropomorphisation ou personnification de la technique n’a a priori, non plus, aucune part, elle interviendra en amont par un discours, une conceptualisation des outils techniques [16], par le développement de technologies anthropomorphes (à travers, par exemple, le maniement du langage), et plus généralement par l’orientation de la recherche en IA vers l’autonomisation. C’est ce dernier point sans doute le plus important, et il a un aspect trompeur de pure technicité. L’IA est, de façon générale, la projection en la technique d’une puissance. Elle est une croyance en l’omnipotence de la technique [17], matérialisée par cette quête paradoxale d’autonomisation, qui n’est rien d’autre ici finalement qu’une sacralisation de la technique.

L’IA procède d’une projection – d’une mise à l’épreuve -, d’un va-et-vient constant entre mythe et application technique. Discours « rationaliste » technicien et mythifiant sont en réalité indifféremment utilisés, se renforçant l’un l’autre, de façon dynamique, dans l’idée d’une technologie évolutive, toujours en tant que telle inachevée.

Les deux catégories d’IA, évoquées plus haut, ne sont pas étanches, et font elles-mêmes système. L’intelligence artificielle est plus généralement une manière d’ordonner le réel, selon une norme (assimilable techniquement par la machine) ou (re) programmation informatique. Elle fournit un modèle unifié, autonome, dont la particularité est de se diffuser ici, dans le domaine informatique, sans plus aucun frein : IA dans la finance (trading algorithmique, systèmes de prévision du marché, qui a leur tour conditionne le marché, l’économie), algorithmisation des médias (production et suggestion de contenus), traduction automatisée (selon l’idée d’une langue unique, réduite à un calcul), gestion de datas (extraction, exploitation), technologies du numérique (gestion personnalisée, modération, suggestion de contenus), etc.

Fortement caractérisé dans son principe originel (l’horizon démiurgique de la « recherche en IA »), l’intelligence artificielle tend ainsi dans la pratique à se diluer jusqu’à coïncider avec l’ensemble du système informatique en un cybernétisme généralisé. Modèle cybernétique de la société qui ne conserve du mythe qu’une image en miroir : celle sur laquelle l’homme vient buter, se fixer.

Ces technologies restent ainsi la plupart du temps invisibles, en toile de fond. Enjeu d’apparence strictement technique, s’inscrivant dans un environnement déjà fortement technicisé, elles participent, plus largement, de la virtualisation à l’œuvre dans nos sociétés où l’homme, les interactions sociales, tendent à ne plus être appréhendés également qu’en tant qu’enjeux techniques.

Le principe de l’IA n’est pas tant de remplacer l’homme par la machine, que de faire que l’homme se comporte, agisse comme une machine [le penseur Eric Sadin parle d’un « tournant injonctif de la technique »], que la société dans son ensemble se technicise, par un jeu subtil, tour à tour de normalisation et d’imitation.

L’IA induit de manière sous-jacente une représentation technique de notre société, où l’homme tend à s’inscrire comme quantité numérique (et où il n’a, à ce titre, plus aucune importance).

Efficacité et représentation sont ainsi intrinsèquement liés avec l’IA : l’algorithme – ou « agent intelligent » [agent-based model] dans le jargon anthropomorphe de la recherche en IA – opérant un constant réajustement, via le deep learning, des tâches qu’il est censé exécuter, mais également de la représentation de l’environnement [model-based agent] avec lequel il est en interaction. Le monde devient ainsi mesure, statistique en temps réel. Par l’accumulation de données, l’IA optimise dans une acception techniciste cette représentation (de systèmes ou phénomènes sociaux, comportementaux, etc.). L’apprentissage équivaut à « choisir la meilleure représentation » [18]: la plus grande efficacité aboutit à la meilleure représentation, et réciproquement (cette efficacité, trompeuse, n’étant finalement ici qu’un processus de normalisation).

Toute technique est un principe actif. En appréhendant l’environnement comme une statistique, il est aussi dans la nature de ce système ensuite, par l’opération technique qu’il fait, de mieux faire se conformer cette « représentation » à ce calcul. Il réajuste, imprime sur ce monde sa marque. Le système technique n’est pas celui de l’intelligence artificielle, mais celui plus global de l’intelligence artificielle dans un environnement social donné, qu’il tend insensiblement à modifier, techniciser.

Antoinette Rouvroy, qui voit dans cette organisation statistique de la société une forme de « gouvernementalité algorithmique », analyse bien le nouvel ordre auquel nous avons affaire : celui de la perpétuation d’un modèle social, du pouvoir technicien (le capital, dans ce monde numérique, est devenu accumulation de données [19]. Cette gestion par les algorithmes vise à une « neutralisation de l’incertitude » [20, des émergences, à une régulation de type cybernétique qui anticipe et bannit toute forme d’accident, par analyse granulaire des comportements et préemption. Il s’agit d’« adapter la normativité à la sauvagerie des faits », ces systèmes statistiques algorithmiques se nourrissant aussi constamment de l’erreur.

On est là dans une technologie du réflexe, du double : un dispositif en miroir [Agamben] [21]. Le temps lui-même devient celui de l’ordinateur, le futur immédiat, décontenancé, est comme doublé par les algorithmes. Avec le trading algorithmique, géré par l’intelligence artificielle, les algorithmes ne prédisent pas l’avenir mais le produisent ; le droit n’est potentiellement plus qu’une corrélation entre des faits, administration statistique [22]; tout comme la science médicale, etc.

Rouvroy note que ces algorithmes, par leur abstraction, demeurent insaisissables, car ne traitant plus d’individus mais directement de données (n’ayant ainsi plus rien à voir avec les systèmes statistiques traditionnels). L’autonomisation échappe à un moment aux gouvernants, au capitalisme technicien. Elle n’est plus qu’une expression de l’ordre, d’une organisation cybernétique de la société. Avec le deep learning, l’homme ne comprend plus du reste la plupart des opérations (la rationalité de la technique ne cesse-t-elle pas, à ce point précis  ?), l’opération technique aboutit à une reconfiguration de l’intelligence artificielle, inaccessible à l’homme.

Ce système de gouvernementalité algorithmique devient son propre référent. Mais si cet empirisme cybernétique prend en compte l’erreur et continuellement l’ajuste dans son système, le principe statistique du deep learning reste, à la fin, peu fiable (la limite du calcul appliqué au vivant). L’important, ce qui reste, n’est au fond que le modèle lui-même, miroir, spectre ou prisme technique : ce régime d’apparence, systématisé par la technique.

Plus elles s’invisibilisent, plus le mythe semble s’effacer, plus les techniques de l’IA sont efficaces (mais dans le sens de la normalisation d’un système : elle-même, à son tour, générant quantité d’aberrations). Ce que la technique réalise est une forme d’utopie cybernétique, non la figure de l’androïde, qui n’a ici qu’un rôle accessoire. Dans ce dispositif en miroir, l’IA ne semble renvoyer qu’après-coup une image de l’homme technicisé (ChatGPT n’a fait que révéler en ce sens une pensée déjà assistée technologiquement, et comme en partie robotisée, dans le monde du travail notamment – voir le problème du journalisme et du copier-coller, pour ne prendre qu’un seul exemple).

Mais le mythe toujours fait corps : à cette disparition apparente du mythe, là où l’IA est pourtant le plus répandue, à son invisibilisation dans le système informatique, répond une inflation de ce mythe dans l’imaginaire collectif. Un certain discours ambiant, imprégné des clichés de la S-F, ainsi que les avancées les plus spectaculaires dans le domaine de la recherche en IA, se chargent de leur côté de faire, dans l’imaginaire social, de l’intelligence artificielle un récit, un horizon.

C’est un conditionnement progressif de la société à l’usage des IA (marchés potentiels, extension du domaine de la gouvernementalité algorithmique, etc.).

L’inflation du mythe, dans un double mouvement, dissimule l’aliénation générale par la technique, l’IA tendant, de façon sous-jacente, à coïncider avec l’ensemble du système informatique (l’IA n’étant jamais qu’une personnification, ou conceptualisation algorithmique, de l’ordinateur – voir les travaux de Turing). Ce retournement est à l’opposé du rêve prométhéen de l’IA : l’omnipotence de l’intelligence artificielle ne réside finalement que dans son efficacité en tant que système, c’est à dire – très loin de la réalisation de la créature démiurgique, toute-puissante – comme dispositif assimilant l’être humain à une statistique, intégrée à ce système technique.* * *

Chaque technique de l’IA se présente comme une démythification, et contribue en réalité à la fabrication du mythe. Alors que l’IA semble se diviser en une infinité de techniques, la recherche, elle, opère cependant de manière synthétique (avec le mythe comme horizon). Ces synthèses successives [23] mettent en perspective l’idée prométhéenne, confuse car procédant par contexte, identification, de machine intelligente. Toujours elles produisent un trouble.

La dernière catégorie que l’on pourrait distinguer est celle aujourd’hui de cette synthèse, celle des modèles de langage, apparus récemment tel ChatGPT.

La fonction proprement technique des modèles de langage n’est pas très claire. Ils semblent d’abord des gadgets, ont d’abord été appréhendés comme tels. La spéculation autour de ces modèles est significative. Ils seraient destinés à une multitude d’applications pratiques, et donc à une multitude de techniques (pouvant servir, par exemple, dans les tâches de travail ou dans l’apprentissage). Ces modèles s’approchent du mythe (l’IAG) [24], et sont davantage que des techniques à proprement parler, des techniques en puissance (en roue libre, Yann Le Cun, le prix Turing inventeur du deep learning, voit en eux, comme application prochaine, de futurs assistants personnels, entrant ainsi bientôt pour chacun dans un usage courant [25].

L’IA n’est pas la réalisation d’un rêve prométhéen, et l’opération technique se fait toujours sur l’homme : l’efficacité de ces modèles de langage, qui passerait par la « réduction » d’un temps de travail assimilé à une tâche, induit par principe une confusion entre l’homme et son « simulacre », ainsi qu’une soumission de l’usager à un temps technicisé (le temps séquencé de l’opération technique à proprement parler, censé garantir un gain de productivité).

Pour terminer, on voit bien le problème que pose le mythe de l’intelligence artificielle, qui reste une vue de l’esprit : s’il devenait réel, celle-ci cesserait aussitôt d’être une technique. Une IA réellement autonome suppose par définition qu’elle ne soit plus réductible à une technique. Elle devient pur artifice – automate, dont on aurait en quelque sorte égaré le mode d’emploi. La technique est essentiellement une opération, c’est à dire un calcul, établi ici selon un certain nombre de paramètres algorithmiques, une fonction en vue d’obtenir un résultat. L’intelligence artificielle, par son processus d’autonomisation, joue ainsi – si on suit en théorie ce processus jusqu’au bout – avec l’idée que ce résultat puisse à un moment devenir douteux.

L’intelligence artificielle – qui fait corps avec le mythe – est une virtualisation de la technique. Elle est la technique à la limite, tire sa substance de cette limite. Si le mythe s’incarnait, il n’y aurait plus d’intelligence artificielle, plus de technique ou d’usage possibles.

Quel est alors le rôle du mythe de l’IA, de ce millénarisme technologique ? À quoi correspond finalement cette identification du mythe avec la technique ? L’IA va bien au delà de l’ancien mythe du progrès, du perfectionnement incessant des techniques, de la science. Ce fantasme, par la technique, d’une fin de la technique, révèle ici un nœud. Cette aporie de l’outil algorithmique, de la machine, qui s’émancipent de l’homme, et accèdent à la conscience, semble ne faire que masquer cette idée plus terre à terre, en miroir, de l’homme devenant lui-même technique.

En attendant le soulèvement des machines, l’intelligence artificielle n’est en somme qu’une opération en miroir sur l’homme (qui croit l’être sur la machine).

Cette idée du cerveau comme machine est bien après tout l’idée première, absurde, de l’intelligence artificielle. Pure vue de l’esprit, que semble constamment vouloir actualiser la technique, qui est l’horizon dystopique de cette technique. La technique ne fait que réaliser le postulat (le cerveau comme machine) à la base de la théorie (la création, avec l’ordinateur, d’une intelligence artificielle). Elle fait de cette hypothèse une règle.

Plus l’intelligence artificielle se perfectionne, plus l’homme ne fait en réalité que se conformer à cette idée première. La technique s’en tient de manière très pratique au substrat de la théorie, du mythe – elle réalise comment l’homme se conçoit.

ELLUL ET L’IA

Dès 1954, au moment même où s’élaborent les premières « machines pensantes », Ellul publie son livre fondateur, La Technique, ou l’enjeu du siècle. Sa thèse ne trouve alors aucun écho dans le contexte de guerre froide de l’époque, les idéologies capitaliste ou post-marxiste n’ayant selon lui plus aucune importance : la productivité, les gains de productivité (le profit), l’économie, sont déterminés par le développement de la technique [26], le système technicien qui se met en place (voir : Le Système Technicien, 1977).

Pour Ellul, la Technique, ou le phénomène technique [27], est devenu le facteur déterminant, celui qui – plus que tous les autres – modèle, structure toutes nos sociétés. Ellul fait remonter ce phénomène spontané d’autonomisation de la technique à la première moitié du 20^e siècle, dans le prolongement de la révolution industrielle et du « machinisme », puis en un « système technicien », aux années 1950, avec l’apparition des premiers ordinateurs [28]: ce qui paraît essentiel pour Ellul, la difficulté centrale pour comprendre notre société, c’est qu’aussi toutes les anciennes grilles de lecture (idéologique, politique, économique, etc.) s’en trouvent ainsi en quelque sorte dépassées, à présent se dérobent. [29]

La Technique s’institue aujourd’hui dans nos sociétés comme sa propre cause, forme son propre « milieu », où le moyen est devenu fin (il n’y a pas l’idée d’un progrès mais plutôt d’une complexification ou « autoaccroissement » : dans ce système qui s’auto-génère, tout se résout à la fin par la Technique – il est lui-même résolution de problèmes causés par la Technique). Elle a son autonomie propre, s’est autonomisée en un « système technicien », en une interdépendance entre différentes techniques, différents sous-systèmes. Vecteur de standardisation, « rationalisation » que sous-tend une croyance en la neutralité de la technique [30], ce système dévaste, aplanit tout, et est à présent universel. Aussi, la recherche de la seule efficacité, la prédominance de critères techniques, en tous points, à tous les niveaux et dans tous les domaines, invisibilise, dénature ou détruit peu à peu tout ce qui ne relève pas de la Technique.

Participant ainsi à un processus d’artificialisation générale, ce système technicien dans lequel nous vivons est devenu le régime de rationalité suprême, vers et par lequel tout se conforme, s’agrège, et qui pour l’être humain constitue l’expérience première [31], en même temps que la source de son aliénation.

Ellul décrit très précisément ce qu’est la Technique, mais ne nous dit pas ce qu’elle représente au fond, de quoi elle serait le signe. Nul anthropomorphisme ici, Ellul n’humanise pas la Technique, encore moins ne la divinise [32]. Elle a « l’aspect d’une étrange sécheresse » (ST, p. 237). Elle est comme une ironie. Elle est le désir de puissance de l’homme [33] mais le réduit à l’impuissance. Elle est ce par quoi il a voulu se rendre maître, mais la Technique, rendue autonome, est ce qui l’asservit.

La Technique est une abstraction qui nous gouverne. Alors que le champ du Politique, qui a perdu son autonomie, se rétrécit toujours davantage, soumis au règne de la Technique dans ce système technicien, l’État, en tant que structure elle-même technicienne, coordinatrice, ne cesse d’amplifier son domaine d’action en proportion, au service de cette technique. Mais l’Homme doit d’abord prendre conscience de ce phénomène. Car ce système technicien nous est en quelque sorte dissimulé, nous n’avons plus que « l’appréhension très vive et colorée d’un non-réel sans autre fonction que de nous cacher le mécanisme et nous satisfaire du « miracle-mirage ». »

Là où cette autonomisation du système technicien était subie et mal appréhendée, voire totalement niée, elle prend avec l’avènement et les progrès de l’IA un aspect anthropomorphique et semble comme voulue, désirée (dans le sens de la cybernétique). Le « fait » technicien se substitue au droit, l’IA et la « gouvernementalité algorithmique » à la décision humaine [34]. La prise de conscience de l’autonomie du système technicien était avec Ellul un préalable à toute action. Tandis que l’intelligence artificielle, avec son millénarisme, repousse, réduit cette réalité de l’indépendance du système technicien à un futur, un fantasme de science-fiction, sur lequel l’humain n’aurait par ailleurs, par cette dimension surnaturelle, plus aucune prise.

En d’autres termes, cet impensé du phénomène technique dans nos sociétés prend avec l’intelligence artificielle une tournure plus raffinée, elle semble une sophistication de ce refoulement, par le biais de la fiction, d’une construction imaginaire d’ordre mythique.

L’intelligence artificielle tend à coïncider avec ce système technicien unifié par les réseaux informatiques, lui-même déjà en rupture complète avec « l’ancien monde » : « La seule fonction de l’ensemble informatique est de permettre la jonction, souple, informelle, purement technique, immédiate et universelle entre les sous-systèmes techniques. C’est donc un nouvel ensemble de fonctions nouvelles, d’où l’homme est exclu, non par concurrence mais parce que personne jusqu’ici ne les a remplies. Bien entendu, cela ne veut pas dire que l’ordinateur échappe à l’homme, mais que se met en place un ensemble qui est strictement non humain. » (ST, p. 112)

L’IA est la substitution de cette « spontanéité nouvelle » [35]- dont on pourrait dire après Ellul que la caractéristique principale semble d’être ignorée par l’homme – par un horizon mythique.

Elle est, par la personnification de la Technique, un horizon doublement non humain : fétichiser, à présent, ce « nouvel ensemble » informatique, par l’illusion d’un accès à une forme d’intelligence, de conscience, c’est en effet lui accorder des « droits », une autonomie supplémentaire que l’ordinateur, encore, n’avait pas.

Ce qu’amène l’IA, dans ce système technicien que décrit Ellul, c’est en outre l’image de l’homme technicisé, c’est à dire, à travers la technique, son modèle, l’homme qui n’est plus que fonction, vecteur technique : une image qu’on pourrait qualifier de subliminale, de manipulatoire, si ce simulacre de l’IA n’était pas aussi un retournement, ironique, de la technique sur l’homme.

Dans ce système où la technique s’est autonomisée – jusqu’à substituer en un sens le monde informatisé au monde réel [36]- l’IA semble constituer pour l’homme à la fois son horizon le plus probable et le plus irréel : un horizon que l’on tend souvent à qualifier de dystopique (sans jamais pourtant considérer ce que ce terme ici réellement recouvre).

Ce phénomène dystopique semble lui-même une tendance de fond aujourd’hui dans nos sociétés, dont la mise en place progressive de l’IA ne serait qu’une des manifestations (voir sur ce chapitre de la dystopie la gestion biopolitique, sur fond de « sécurité sanitaire », de la « crise du Covid » [37]. Il procède, dans notre société technicienne, d’une mise en abyme ou recyclage des thématiques, clichés et mythes de la science-fiction (dont la dystopie est précisément l’un des genres fondateurs). Ce lieu commun d’une science-fiction devenue réalité (et non l’inverse) tend à occulter l’instrumentalisation dont ce genre est l’objet, en vue d’asseoir un modèle de société. Ce qui apparaît comme le fait le plus accompli (« prophétisé » par la S-F) n’est ainsi au fond le plus souvent que construction d’ordre mythique, idéologique (IA, dystopie, scénarios du pire post-apocalyptiques, modèles dickiens prédictifs, novlangue… tout est bon à recycler).

La posture est ici celle d’une société nourrie de l’imaginaire S-F, faussement consciente d’elle-même, de sa puissance technique, alors que la réalité derrière est précisément une destruction de l’imaginaire et une aliénation, finalement, par la technique [38.

L’IA, dans ce processus dystopique, semble cependant jouer un rôle bien particulier. L’idée d’une domination de la technique, ou de la machine, sur l’homme, est en partie assumée, ou du moins envisagée (ce qu’avance par exemple le dogme de la singularité – sans jamais de prise de conscience du système technicien !). Ainsi, le système technicien tend à se clôturer par cette sacralisation de la technique – ce que précisément semblait craindre Jacques Ellul. Le mythe divertissant de l’IA tendant à masquer cette auto-aliénation de l’homme (non finalement par la technique, mais par cette sacralisation).

Dans un monde où prédomine dans les rapports sociaux l’outil informatique, et une certaine anarchie des « réseaux », la dystopie fournit par ailleurs un certain nombre de règles, elle ne semble devenir plus qu’un élément de jeu (voir à ce sujet la série « Black Mirror »). Là est sans doute la différence fondamentale dans la manière aujourd’hui d’appréhender la dystopie, ce qui ne pouvait encore être le cas à l’époque d’Orwell ou d’Huxley, et même de Dick.* * *

« Designing and implementing new combinations of technologies, human skills, and capital assets to meet customers’ needs requires large-scale creativity and planning. It is a task that machines are not very good at. That makes being an entrepreneur or a business manager one of society’s most rewarding jobs in the age of Machine Learning. »,
Harvard Business Review [39]

L’horizon mythique est ici exactement le même que l’horizon dystopique, mais il en dissimule la logique, le mécanisme. Avant de voir comment procède ce jeu d’occultation, voyons d’abord, cependant, par quels moyens se propage le mythe : prouesse technologique (les synthèses successives de la recherche en IA) et profusion elle-même des technologies de l’IA, discours (technicien, ou d’ordre plus théorique – évidemment le Transhumanisme), couverture médiatique, nombreux débats, fictions (sans vouloir distinguer bonne et mauvaise science-fiction, il suffira ici de constater que l’IA, de plus en plus, y est servie à toutes les sauces), etc.

C’est également, bien sûr, une économie générale (avec l’idée d’un gain de productivité par un remplacement de l’homme par l’ordinateur) : les GAFAM, les « géants de la tech », l’industrie du numérique, profitent aujourd’hui massivement de l’avènement des IA génératives (une capitalisation boursière de plusieurs milliers de milliards ! [40], des sommes d’argent délirantes sont aujourd’hui investies dans l’IA. Tout à fait central, évidemment ici, est le pouvoir de cette industrie, leur immense force d’influence dans ce domaine, le discours technoscientifique qu’ils tiennent par rapport à ce mythe, qui correspond à la fabrication d’un récit, la manipulation en l’occurrence d’outils narratifs, de concepts issus de la science-fiction.

Il y a pourtant ici quelque chose, au delà de cette manipulation, qui relève plutôt d’un inconscient : le mythe parfaitement ambigu de l’IA semble révéler une aliénation à l’intérieur même du discours professé, ce n’est pas un discours à proprement parler politique (notons ici que les politiques semblent les premiers eux-mêmes à se défendre du mythe [41] mais technicien, qui ne se fixe que sur des moyens, et sur un pari à court terme (celui, si ce n’est du profit généré par l’intelligence artificielle, du développement futur, très aléatoire, des techniques).

Par parenthèse, il n’y a pas d’ailleurs nécessairement cynisme, dans ce discours, et la croyance en ce mythe n’est pas qu’une posture (les figures aujourd’hui les plus influentes de la « recherche » en IA, les prix Turing Bengio, Le Cun et Hinton, tous se posent sincèrement la question du mythe, de l’IA générale ou forte, et de la singularité – Hinton au point de finir par démissionner de Google).

Aussi, si d’un certain point de vue la question du mythe peut sembler abstraite et n’intéresser qu’une élite technicienne, elle travaille la société dans son ensemble, et agit comme un inconscient. Le terme même, parfaitement ambigu, de recherche en IA est à considérer du point de vue d’une quête (prométhéenne) et semble renvoyer à un inconscient collectif. La question de la dilution de la responsabilité, dans le système technicien, et de l’autonomie de la technique, y est à la fois centrale et occultée par la puissance du mythe.

À la fameuse conférence de Dartmouth de 1956, où fut conceptualisée l’IA, John McCarthy proposa le terme intelligence artificielle, afin notamment de se distinguer du terme cybernetics, trop selon lui connoté, par l’emprise qu’avait alors son père fondateur, le célèbre mathématicien Norbert Wiener, sur ce mouvement [42]. Le terme de cybernetics renvoie à l’idée d’une société comme machine, comme système cybernétique de communication.

Les deux hommes partagent la même croyance en l’avènement alors d’une machine intelligente : tandis que McCarthy travaille à cet avènement, Wiener, plus distant, exprime les craintes qu’une machine intelligente ne transforme notre monde en cauchemar de science-fiction, si on ne la contrôlait pas, se plaçant par ailleurs sur le terrain dystopique, avec sa société cybernétique.

Ces deux visions semblent se combiner d’une certaine façon entre elles, avec l’IA, en une tendance dystopique, c’est à dire l’utopie rêvée de Wiener.

Robot maléfique et horizon dystopique n’ont en réalité toujours fait qu’un, se répondant en miroir : reflets comme en creux, métaphoriques l’un de l’autre, où la machine remplace l’homme, et où l’homme se fait machine.

Aussi pouvons-nous parler, avec ces technologies de l’IA qui se mettent en place, seulement d’un horizon (ou tendance) dystopique et non d’une dystopie bien réelle ?

La dystopie est ici davantage un processus qu’une forme fixe. Elle est une forme de dystopie utilisant le récit de science-fiction, la fiction, comme outil de perfectionnement, de conformation, vers un idéal de société purement techniciste.

Le site Wikipédia rappelle que « dans une dystopie, l’évolution technologique n’est pas un facteur déterminant », et que les « postulats scientifiques surnaturels ou métaphysiques n’y ont tout simplement pas leur place » [43]: ils peuvent constituer un horizon, mais pas une condition.La dystopie s’attache à des problématiques sociales, politiques ou idéologiques, en les extrapolant jusqu’à décrire des sociétés cauchemardesques de type autoritaire ou totalitaire.

Pour autant l’idéologie dystopique peut se servir de techniques narratives (et même du mythe – ici l’intelligence artificielle), pour parvenir à l’établissement, la mise en forme d’un système dystopique (et ce même de manière assez inconsciente – je veux dire non formulée en ces termes).

La dystopie, plus profondément, ne serait pas qu’un genre (narratif), et donc pas nécessairement de la science-fiction. Elle est un système politique, social, de type utopique, qui aurait mal tourné.

On aurait tort, en outre, de penser – suivant un certain cliché véhiculé par la S-F – que le sentiment dystopique naîtrait avec l’IA du fait de n’avoir affaire, en lieu et place de l’homme, qu’à des machines ou interfaces robotisées (c’est en réalité déjà en partie le cas, sans qu’on ait à convoquer pour cela l’intelligence artificielle). Ce sentiment apparaît ici plutôt dans une société ayant fait sien ce principe de n’être plus régi que par des techniques (on sait, depuis La Boétie, que la servitude ne consiste, dans le corps social, qu’en un certain degré d’intégration, ou d’acceptation).

La modernité est parsemée de fables, en lien avec les avancées techniques, que l’homme, pour vendre ou tirer profit des machines, a façonnées. Des fables qu’on pourrait qualifier de positives. Fait sans précédent, avec l’IA nous avons affaire à la création d’un mythe, par ceux-là même en train d’élaborer cette technologie, où l’intelligence artificielle menacerait l’humanité d’« extinction ».

C’est aussi un retournement complet de ce la manière dont on nous présente en général les nouvelles technologies, qui dépendraient simplement au fond du bon usage que l’on en fait : bien qu’instillé de manière assez diffuse, avec la singularité technologique, mauvais rêve de la technique, nait ainsi une forme de fantasme de science-fiction cauchemardesque, de mythe perverti.

Que ce fantasme puisse être une crainte sincère (phobie), une posture intéressée ou même une attente réelle (mouvement Transhumaniste notamment), n’a au fond pas beaucoup d’importance. Ce fantasme repose, essentiellement, sur une sacralisation de le technique.

Sur l’effet des œuvres de science-fiction, présentant une invention technologique effrayante, sur les sociétés modernes, Ellul pointe ce problème : « La Technique n’étant pas celle qui nous a été montrée comme telle nous paraît parfaitement acceptable, rassurante : nous nous réfugions dans la société technique réelle pour échapper à la fiction que l’on nous a présentée comme étant la vraie technique. » (ST, p. 121) Le cas de l’intelligence artificielle, avec son horizon démiurgique, est certes plus ambigu, mais le constat reste le même : que certains puissent craindre la singularité, ou l’espérer, le présent de l’intelligence artificielle est quand même infiniment plus terre à terre.

L’utopie/dystopie techniciste, cybernétique, est elle bien en marche.

Le point essentiel est que ce fantasme de science-fiction cauchemardesque, ce simulacre de S-F, à la fois horizon perverti et écran de fumée, ressort de façon ambivalente de la technologie de l’IA en tant que telle. Tout discours paraît imprécis, si l’on ne voit pas que le mythe fait « système », si l’on ne mesure pas le rapport qu’il entretient avec une conception supposée plus « rationaliste », techniciste, de l’intelligence artificielle. La multiplicité des applications de l’IA, qui a pour origine l’ambiguïté de l’usage de cette technique, ne se comprend ainsi que dans la perspective du mythe.

L’intelligence artificielle tend à modeler en puissance la totalité de notre société (jusqu’à notre manière de pensée, notre langage). Décorrélé de ses applications techniques, pris dans son abstraction, le mythe, pourtant, reste aussi bien un objet de dérision, de curiosité. Il pénètre d’autant plus qu’il est, comme j’ai tenté de le montrer, ambivalent, et pas entièrement assumé en tant que tel, qu’il paraît inoffensif. Sacralisée à l’extrême opposé, l’IA opère aussi en tant que faux-semblant.

Comme le précise Jacques Ellul, le monde s’est « unifié » par la Technique : le système technicien, « institué » par l’ordinateur(28), a trouvé, de même, dans l’informatique comme une structure universelle. Le risque, pour Ellul, était dès lors pour ce système, à la fois globalisé et globalisant, de glisser vers l’Utopie technicienne, cybernétique.

« Il n’y a pas d’autre Utopie que technicienne (…). L’Utopie est dans la société technicienne l’horizon de la Technique. Rien de plus. » (ST, p.31) Ellul rappelle aussi que « dans le passé, tous les Utopistes, sans en excepter un, ont présenté la société exactement comme une Mégamachine : il s’agit toujours d’une exacte répétition d’une organisation idéale, d’une parfaite conjonction entre les parties du corps social, etc. » La société utopique « parfaite » tend à être technicisée dans le corps social même. Dans ce système social, né de l’Utopie, l’IA occupe un rôle central : elle technicise les rapports humains, elle tend à ne faire des hommes plus que des vecteurs techniques, leur montre et leur soumet cette image. Ce mythe qui tend à se retourner, contre l’homme, en utopie cybernétique, y adjoint cet élément sacré, irrationnel, hérité de la science-fiction. Ce n’est plus une utopie voulue, pensée, désirée en tant que telle, mais qui s’impose de manière d’autant plus naturelle qu’elle semble émaner de l’inconscient d’une société donnée, de cette « croyance absolue du monde moderne » en la technique. Ce n’est pas non plus un utopisme figé, mais toujours un horizon : très exactement cet horizon dystopique que nous promet le millénarisme de l’IA.

On pourrait parler de dystopie en puissance, mais c’est véritablement un horizon dystopique, qui n’est pas virtuel, et s’actualise en proportion du développement de ces technologies.* * *

La Chine incarne de même, pour l’Occident, cet horizon techno-dystopique. Elle apparaît, de manière en partie fabriquée, comme la réalisation de cette dystopie.
Le mythe n’y a ainsi pas la même fonction, ou influence, qu’en Occident. Une différence s’expliquant par la politique volontariste des autorités chinoises. Deux facteurs ont en effet déterminé là-bas le développement de l’IA : un « solutionnisme » technologique, mêlant transfert de technologies et innovations à tous crins plaquées sur quantité de problématiques que rencontre cette société, et défi technologique déterminé par la rivalité les opposant aux américains [44].

C’est ainsi en Chine, avec l’IA, une course à l’artifice. Le simulacre – comme image du progrès, du futur – y est ainsi prépondérant. Dans cette surenchère, la Chine tend ainsi à « précipiter » en quelque sorte le mythe, à réaliser l’intelligence artificielle (voir là-bas l’explosion des avatars/robots, intelligence artificielle devenue PDG, etc. [45], sans s’embarrasser du millénarisme, proprement occidental, dont on peut douter qu’il trouve écho dans la société chinoise – que ce soit l’avènement d’une IA consciente ou le mythe négatif de la singularité : l’IA tendrait à la rigueur à coïncider avec le régime de Xi Jinping, et non à le supplanter, il n’y a pas l’idée d’un renversement, d’une prise de pouvoir par la machine (l’idée prométhéenne ou démiurgique).

La science-fiction, dans l’établissement des technologies de l’intelligence artificielle, n’y a ainsi pas non plus ce rôle prépondérant qu’il a dans notre société (mais le dystopisme chinois est lui-même perçu, depuis l’Occident, comme de la S-F, et alimente à son tour le mythe de l’IA : cette sorte de spontanéité de l’artifice, en Chine, qui à distance fascine l’Occident).

Observons enfin une limite, à présent, dans l’appropriation par la Chine de ces technologies : les modèles de langage appréhendés comme purs outils de propagande. Les différentes censures numériques, locale ou vis à vis du réseau mondial, ne permettent pas d’alimenter suffisamment en données ces « agents » (sans compter les différentes langues parlées en Chine, qui posent eux aussi un problème pour entraîner ces modèles) [46]. L’IA comme dispositif, particulièrement l’IA générative, repose en effet sur un jeu de miroirs, et l’image doit rester plausible (ChatGPT produit des textes qui « font illusion »), mais un système de censure absolue semble ici un frein au développement de ces technologies : l’image en miroir serait par trop déformée.

Il est ainsi permis, paradoxalement, de voir, en l’Occident davantage qu’en la Chine (bien que celle-ci subisse aujourd’hui ces technologies dans ce qu’elles ont de pire : crédit social, surveillance globale), une plus grande disposition, ou réceptivité, au modèle dystopique global de l’intelligence artificielle. La Chine, en tant que dystopie techniciste, ne semblant pas faire totalement système (bien que principe fondamental de gouvernance, la technologie ne s’y substitue pas à l’État – le modèle chinois ne tend pas, via l’IA, à un cybernétisme : c’est encore l’État qui contrôle les algorithmes).

L’IA, toujours en puissance, serait ainsi dans notre société une préparation sans fin à la dystopie, à la « société technicienne » (régie par des principes techniques). Mais l’intelligence artificielle n’est aussi qu’un rêve d’automate.

« La Technique entre forcément dans un monde qui n’est pas inerte » observe Ellul. « Elle ne peut se développer que par rapport à lui. Aucune Technique ne peut se développer hors d’un certain contexte économique, politique, intellectuel, si autonome qu’elle soit. Et là où ces conditions ne sont pas réalisées, la Technique avorte. » (ST, p. 42) L’illusion avec l’IA consiste au fond à croire qu’elle se développe dans un milieu à son image, totalement artificiel, inorganique.

De même Ellul précise à plusieurs reprises, par rapport à l’hégémonie du système technicien, que « dire que la Technique est le facteur déterminant ne signifie pas qu’il soit le seul. » (ST, p.29) L’horizon dystopique distillé par le mythe de l’IA – par l’appropriation des thèmes de la S-F par la technoscience (le technicien désamorce toute charge subversive de la S-F en faisant du futur, de l’anticipation, une question à résoudre et non plus à poser) – ne fait que perpétuer le règne de la technique, de la gouvernementalité algorithmique, du pouvoir en place, et n’est rien de plus.

La question très simple à poser, au fond, serait : combien de temps encore va-t-on courir après cette dystopie ? Si l’on ne touche potentiellement jamais le fond avec l’IA, la panoplie d’éléments perturbateurs, qui viendront à un moment ou à un autre, sans même forcément y penser, gripper la machine, est elle aussi sans limites.

Dans ce tableau du rapport complexe entre IA et dystopie, il faudrait aussi voir en regard, dans une étude plus vaste, la question, importante, de l’art [47]. En tant que représentation humaine (les modèles de langage), l’IA est à la frontière de l’art et de la technique (l’automate). Mais elle est négation de l’art en ce sens qu’elle tend vers le simulacre pur, l’identité.

Dans sa relecture du mythe prométhéen – qui est d’une certaine façon l’art de la science-fiction, depuis Mary Shelley – on ajoutera que le chercheur en intelligence artificielle ne métaphorise pas mais réifie, réduit la métaphore à un défi technique, détruit tout symbolique.

« Tout se passe comme si le phénomène technicien possédait en lui une sorte de force de progression qui le fait s’orienter indépendamment de toute intervention extérieure, de toute décision humaine. Il obéit à un certain nombre d’automatismes. Mais nous disons bien : « Tout se passe comme si… », il n’est pas dans notre esprit de formuler la théorie d’une sorte de dynamisme, une mystique de la progression d’un être nouveau. […] » (ST, p. 240) Ainsi, renvoyer à l’inverse l’intelligence artificielle à sa métaphore – celle finalement du système technicien – c’est réduire à néant la fiction, ce millénarisme délétère, dont elle tire toute sa substance.

L’IA ne fait que traduire ce refus, de notre société, de penser le phénomène technique, l’autonomisation du système technicien, par cette projection mythique : sacralisation qui elle-même systématise l’aliénation de l’homme par la technique.

Mais sommes-nous si empêtrés dans le mythe qu’on ne puisse pas, en retour, subvertir ce récit ?

Ellul semble avoir décelé l’origine du problème central de l’autonomisation de la technique dans son essai Le Bluff Technologique (bien qu’il n’y fasse pas directement allusion, peut-être car il avait beaucoup été attaqué sur cette thèse de l’autonomie de la technique, dix ans plus tôt) : « C’est bien en effet la conviction fondamentale de tous que la technique peut accomplir tout notre désir de puissance, et qu’elle est, en elle-même, omnipotente », note-t-il, mais c’est aussi cette « croyance absolue du monde « moderne » qui implique le renoncement absolu de l’homme à la maîtriser : il lui délègue sa puissance ! » (p. 295) Ici se loge l’irrationalité du système technicien, mais aussi de l’intelligence artificielle, leur caractère fondamentalement illusoire. De l’idée de maîtrise (rationnelle) de la technique à l’idée de puissance par la technique, il y a là « une incroyable contradiction ».

{}Sur cette « mystérieuse » prééminence de la technique dans nos sociétés, on connaît la célèbre loi de Gabor : « Ce qui peut être fait techniquement le sera nécessairement » (1971) (qui fait écho à ce que disait déjà Ellul, dès les années 1950 : « Parce que tout ce qui est technique, sans distinction de bien et de mal, s’utilise forcément quand on l’a en main. Telle est la loi majeure de notre époque. » (La T., 1954)). Le rapport de l’homme à la technique déborde en réalité très largement le cadre du rationnel. La technique est devenue ainsi pour l’homme, grisé, l’objet d’une « transcendance noire » [Hottois], ce qui lui apparaît comme un « engendrement aveugle et muet du futur » [48].

C’est à partir du présupposé de la neutralité de la technique, affranchie en quelque sorte de toute espèce de questionnement moral, que s’enclenche le phénomène technicien : « la technique n’est rien en soi. Elle peut donc tout faire. Elle est vraiment autonome. » ((La T., 1954). La technique ayant – tout autant que son autonomie – sa raison ou logique propre. Elle est apparence de liberté, elle « peut tout faire », mais en se déchaînant nous enchaîne, ne s’avère être qu’une opération sur l’homme, une rationalisation systémique de son univers.

L’intelligence artificielle, et notamment le problème de l’alignement des intelligences artificielles, synthétisent cette ambivalence. La notion d’alignement est cette idée de contrôle de l’IA, de régulateur « éthique » (afin, au bout du compte, de rendre ces techniques viables, légales, de les « normaliser »). Elle résume bien cette contradiction, cette inadéquation absolue entre la croyance de l’homme en l’« omnipotence de la technique » et la prétention souveraine qu’il a à la maîtriser : vouloir construire des outils si puissants que l’on finit par ne plus comprendre leur fonctionnement, et d’un autre côté, ensuite, vouloir illusoirement canaliser cette toute-puissance. Rendre l’IA de plus en plus autonome, par toute une panoplie de trucages techniques, faire en sorte, en somme, qu’elle nous échappe, et dans le même temps la cribler de règles, de codes, l’accompagner d’un fatras de lois (qui ne seront au fond que le reflet de ce que l’homme en contrepartie s’impose, s’inflige).

Les différents moratoires sur l’IA du printemps dernier, les projets de loi, de l’UE notamment et du gouvernement américain, cette notion même d’alignement, ne visent qu’à intégrer l’intelligence artificielle, à en envisager concrètement les cas d’usages et pratiques.

Il n’y a pas du reste d’un côté l’« intelligence » artificielle, et de l’autre, l’intelligence humaine, mais avec l’IA, le projet, à travers l’outil informatique, d’une intelligence modelable, manipulable, c’est à dire l’idée d’une intelligence réduite à une quantité, à une norme. C’est de cela, sous couvert d’un questionnement « éthique », qu’il est débattu.

Visionnaire, Ellul anticipe l’emprise à venir des nouvelles technologies, notant que « l’univers chiffré de l’ordinateur devient progressivement l’univers tenu pour réalité dans lequel nous nous insérons. » (ST, p. 114) La société pixelisée a succédé à la société du spectacle [Debord], l’homme spectral à l’homme aliéné. Si ChatGPT a tant fait parler, ce n’est pas tant qu’il y ait un risque que l’intelligence artificielle remplace l’intelligence humaine, ou qu’elle constituerait pour nous une « atteinte narcissique » [49] (!), c’est que le sens même du langage, de ce qui nous constitue, y est réduit à néant, et c’est que nous faisons le constat que toute la production de ce monde numérisé, qui est devenu notre monde « réel », pourrait aussi bien n’être plus générée que par des ordinateurs.

C’est ainsi l’insinuation d’un remplacement qui est bien plus marquante ou significative ici qu’un remplacement en tant que tel par les machines, car cette petite musique chuchotée à nos oreilles depuis l’avènement de ChatGPT suppose, bien plus que cette disqualification éventuelle, une acceptation, une auto-persuasion de l’homme s’envisageant comme technique (l’IA ne fait initialement que suggérer ou « entériner » une équivalence entre l’homme et la technique, elle n’est, rappelons-le, qu’une inversion du sens du mythe).

Pour des raisons civilisationnelles, métaphysiques, l’IA pose davantage la question du choix, de la responsabilité de l’homme, que ce que laisse penser Jacques Ellul, vis à vis du phénomène technicien. L’IA est avant tout un dispositif en miroir, un prisme technique, statistique. Mais au sens le plus métaphysique, prométhéen, ce miroir semble pouvoir également amener à une réflexion de l’homme, à un possible questionnement sur son rapport à la technique. L’image renvoyée semble pouvoir ne venir qu’après-coup et n’être que la moins flatteuse pour l’homme, celle d’une réification par la technique. Ce millénarisme qui viendrait statuer de la place de l’IA, et de l’homme par rapport à cette technologie, est aussi, cependant, une illusion.

L’IA ne « réfléchit » pas vraiment, et elle n’est qu’une allégorie de notre système technicien, une image qui à la fin se dissipe. Une technique finissante, sans plus d’usage.

Si la responsabilité de chacun (notamment sur le plan politique, des marchés) se dilue chaque jour davantage dans le système technicien mondialisé, c’est toujours, face à cet état de fait de la technique, la notion de liberté qui est en jeu (cette notion, chez Ellul, est centrale : s’il démontre, de manière si implacable, tout à la fois l’hégémonie et l’impasse de ce système, c’est pour mieux paradoxalement revenir à cette liberté, qui fonde sa pensée [50].

Le débat sur le profit, l’utilité, d’une telle technologie est trompeur, il n’y a qu’un choix à faire en réalité avec l’intelligence artificielle qui est de sacraliser ou non la technique.

Ellul ne se posait ni en technophile, ni en technophobe, mais refusait au fond toute cette sacralisation de la technique. Il faut simplement voir ce que désacraliser veut dire.

[1] https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[2] Voir Vernon Vinge, Technological Singularity, 1993 :

https://mindstalk.net/vinge/vinge-sing.html

[3] Particulièrement aux États-Unis, où en amont de cette législation une coopération de l’État américain avec les entreprises est d’ores et déjà privilégiée :

{}https://www.youtube.com/watch?v=WgNBDjNY0sU&ab_channel=CNBCTelevision

[4] https://en.wikipedia.org/wiki/Statement_on_AI_risk_of_extinction

[5] Jacques Ellul, paru dans La revue Administrative (1965), repris dans Le Bluff Technologique (1988) : « Le développement de la technique n’est ni bon, ni mauvais, ni neutre, mais fait d’un mélange complexe d’éléments positifs et négatifs, « bons » et « mauvais » si on veut adopter un vocabulaire moral. » Ce qu’Ellul appelle l’ambivalence intrinsèque au progrès technique.

[6] Voir notamment son livre Les nouveaux possédés, Fayard, 1973 :

https://monoskop.org/images/f/f3/ELLUL_Jacques_-_1973_-_Les_nouveaux_poss%C3%A9d%C3%A9s.pdf

[7] Notre monde technique ne s’embarrasse guère aujourd’hui de théorie. Voir notamment la « fin de la théorie » [Chris Anderson, 2008], et ce passage de Jacques Ellul, sur le dépassement de la conception utilitariste dans notre système technicien : « La technique exige de l’homme un certain nombre de vertus (précision, exactitude, sérieux, réalisme, et par-dessus tout la vertu du travail !), une certaine attitude de vie (modestie, dévouement, coopération), elle permet des jugements de valeur très clairs (ce qui est sérieux et ce qui ne l’est pas, ce qui est efficace, ce qui est utile…). (…) Elle a (…) l’énorme supériorité sur les autres morales d’être véritablement vécue (…), cette morale s’impose donc comme allant de soi avant de se constituer en doctrine enfin claire, située bien au delà des utilitaristes simplistes du XIX^e siècle. » (Le Système Technicien, 1977, réédition du Cherche Midi (2012), p. 156) [J’utiliserai dorénavant l’abréviation ST pour la référence à ce livre

[8] Parmi de très nombreux exemples, voir cet article sidérant de Philosophie Magazine :

https://www.philomag.com/articles/quel-credit-donner-la-singularite-technologique

[9] Aatif Sulleyman, Google AI creates its own ‘child’ AI that’s more advanced than systems built by humans, The Independent, Décembre 2017 :

https://www.independent.co.uk/tech/google-child-ai-bot-nasnet-automl-machine-learning-artificial-intelligence-a8093201.html

[10] Frederik E. Allen, The Myth Of Artificial Intelligence, American Heritage, March 2001 :

https://www.americanheritage.com/myth-artificial-intelligence

[11] Dans trois pièces séparées, deux interlocuteurs, un ordinateur et un être humain, dialoguent avec un second être humain, lequel doit deviner où se trouve la machine ; si l’ordinateur passe ce test, on peut selon Turing dire que l’intelligence artificielle a atteint un stade significatif dans l’élaboration d’une « machine intelligente », posant la question d’une conscience. Cette indécidabilité apparaît pour Turing comme le seul critère pour déterminer si une machine pense [bien que cela reste indéterminable : le test plutôt suggère cette idée]. La « conscience » de l’IA ne reste pourtant jugée que sur sa capacité à faire illusion (le rapport à la vérité en tant que telle, et donc à la vérité de la conscience, d’une « conscience », semble ici de fait évacué).

https://www.turing.org.uk/scrapbook/test.html

[12] N’oublions pas que s’il a le sens aujourd’hui de complexité technique, ou de techniques informatiques, le terme « technologie » est une déformation : la technologie n’est qu’une science de la technique. Aussi, on pourra préférer le terme de technologie au terme de technoscience, popularisé par Hottois en 1977, le terme de technologie ayant à présent aussi ce double sens (ce retournement sémantique, qui en dit long, rendant par ailleurs mieux compte de la prééminence aujourd’hui de la technique sur la science).

[13] Loi empiriste, reprise comme un mantra par tous les informaticiens, vérifiée depuis sa création en 1965, selon laquelle la puissance de calcul des ordinateurs – à savoir le nombre de transistors sur les puces des microprocesseurs – double tous les deux ans.

[14] Proposition pour un projet de recherche d’été sur l’intelligence artificielle, en préambule de la conférence de Darthmouth (1956), considérée comme l’acte de « naissance de l’« intelligence artificielle » comme domaine de recherche indépendant : « L’étude se fondera sur la conjecture que chaque aspect de l’apprentissage ou toute autre caractéristique de l’intelligence peut en principe être décrit avec une précision telle qu’une machine peut être fabriquée pour le simuler. »

[15] Andreas Kaplan, Michael Haenlein, Siri, Siri, in my hand : Who’s the fairest in the land ? On the interpretations, illustrations, and implications of artificial intelligence’, Business Horizons, janvier 2019 : « A system’s ability to correctly interpret external data, to learn from such data, and to use those learnings to achieve specific goals and tasks through flexible adaptation. » Cette définition, la plus éloignée du mythe qu’on puisse trouver, elle-même renvoyant à la définition de l’intelligence par John McCarthy (l’inventeur du terme « intelligence artificielle ») : « Intelligence is the computational part of the ability to achieve goals in the world »

[16] Les transcriptions symboliques de ces outils de l’IA conduisent à une personnification ou anthropomorphisme : le modèle BDI [Beliefs-Desires-Intentions], les « réseaux de neurones artificiels », les systèmes de récompense [Cumulative Reward] dans le Machine Learning, le concept d’Intrinsic Motivation, le terme même d’apprentissage, etc.

[17] Dans un passage important sur les rapports entre puissance et technique, sur lequel je reviendrai plus bas, Jacques Ellul, dans son livre Le Bluff Technologique, cite Castoriadis à ce sujet : « L’illusion non consciente de l’omnipotence virtuelle de la technique, illusion qui a dominé les temps modernes, s’appuie sur une autre idée non discutée et dissimulée : l’idée de puissance » (Castoriadis, Développement et rationalité, 1977)

[18] Poole, Mackworth, Goebel, Computational Intelligence : a logical approach, Oxford University Press, 1998

[19] Antoinette Rouvroy : « L’objet principal de l’accumulation capitaliste des plateformes n’est plus tellement l’argent, la finance ou les banques, ce sont les données. » (Colloque « Intelligence Artificielle : fiction ou actions ? » : La gouvernementalité algorithmique, Variances, juillet 2018 : https://variances.eu/?p=3359)

[20] https://www.youtube.com/watch?v=bNN3PMkMSfY&ab_channel=%C3%89colenormalesup%C3%A9rieure-PSL

[21] Giorgio Agamben, Théorie des dispositifs, 2006 :
« J’appellerai dispositif tout ce qui a, d’une manière ou d’une autre, la capacité de capturer, d’orienter, de déterminer, d’intercepter, de modeler, de contrôler et d’assurer les gestes, les conduites, les opinions et les discours des êtres vivants. »https://www.cairn.info/revue-poesie-2006-1-page-25.htm

[22] Voir Bernard Stiegler, dans un échange avec Antoinette Rouvroy : « Le sujet big data en soi, pour moi, est le sujet fait et droit. C’est le fameux texte de Chris Anderson (2008), maintes fois commenté, qui dit que la théorie est finie, la méthode scientifique est obsolète. Qu’est-ce que cela signifie ? Cela signifie que la différence entre fait et droit est dépassée. (…) Chris Anderson pose qu’on n’a plus besoin de théories, c’est-à-dire de droit, de modèles : il suffit d’avoir des corrélations entre des faits. Pour lui, l’entendement, en fait, est devenu autosuffisant. On n’a pas besoin de raison, pas besoin de raisonner, ni de débattre » (Antoinette Rouvroy et Bernard Stiegler, Le régime de vérité numérique, avril 2015 : https://journals.openedition.org/socio/1251)

[23] Ces synthèses successives apparaissant également comme des évènements médiatiques. On pourra citer par exemple : le Perceptron (1957), Eliza (1966), l’ordinateur Deep Blue bat Gary Kasparov aux échecs (1997), Blue Brain (2005), Watson (IBM, 2011), Siri (Apple, 2011), Alexa (Amazon, 2014), AlphaGo bat le champion du jeu de Go Lee Seedol (2016), avènement de la technologie du Deepfake (2017), Dall-E (2021), ChatGPT (2022), etc.

[24] Voir ce rapport des concepteurs de GPT-4 « Sparks of Artificial General Intelligence : Early experiments with GPT-4 » : https://arxiv.org/abs/2303.12712

[25] Comment dépasser la guerre des intelligences ?, France Culure, 11 juillet 2023 :

https://www.radiofrance.fr/franceculture/podcasts/les-rencontres-de-petrarque/peut-on-depasser-la-guerre-des-intelligences-1975758

[26] « Il est vain de déblatérer contre le capitalisme : ce n’est pas lui qui crée ce monde, c’est la machine ». C’est un admirateur de Marx qui parle !

[27] Ellul écrit la Technique (avec majuscule) pour décrire spécifiquement ce phénomène technicien, afin de voir, dans son livre, comment très précisément il s’institue en système.

[28] « C’est l’ordinateur qui permet au système technicien de s’instituer définitivement en système  » (ST, p.108), il unifie, entre eux, coordonne, les grands ensembles techniques.

[29] La Technique, entendue par Ellul, est « la recherche du meilleur moyen, dans tous les domaines » , elle ne regroupe pas seulement ce qu’on entend spontanément par technique (technique informatique, industrielle, technique de production, machines, etc.), mais elle est plus largement la recherche « en toutes choses de la méthode la plus efficace » [La Technique, ou l’enjeu du siècle, p. 29], elle se fonde le plus souvent sur un calcul, et trouve sa légitimité par une science de la technique. L’informatisation, qui unifie le système technicien, serait le meilleur exemple de cette Technique comme facteur déterminant, mais une infinité de techniques gouverne la société, ayant toutes pour point commun une recherche exclusive d’efficacité, et une interconnexion finalement en tant qu’éléments d’un même système.

[30] Ellul démonte l’illusion rationaliste de la technique « ni bonne, ni mauvaise », moyen ne dépendant que des fins, y voyant « l’une des erreurs les plus graves et les plus décisives au sujet du progrès technique, et du phénomène technique lui-même »

[31] Cela se traduit par une dépendance absolue aux techniques (moyens) : « […] la privation des moyens nous apparaît comme l’impensable : c’est le sens et la valeur de notre vie qui se trouvent atteints ! » (ST, p.289)

[32] Il va de soi, de même, que l’autonomie du système technicien n’est pour Ellul pas assimilable à une quelconque forme de volonté, elle est fonctionelle, comparable à un train en marche qu’il serait difficile d’arrêter, d’orienter… Sur le report du sacré sur la Technique : « L’invasion technique désacralise le monde dans lequel l’homme est appelé à vivre. (…) Mais nous assistons à un étrange renversement : l’homme ne pouvant vivre sans sacré, il reporte son sens du sacré sur cela même qui a détruit tout ce qui en était l’objet : sur la technique. » Jacques Ellul, La Technique : L’Enjeu du siècle, 1954, pp. 130-132 [Economica (édit. 2008)

[33] « Il faut toujours rappeler que la Technique n’est jamais rien d’autre qu’un moyen de puissance. » (ST, p. 197)

[34] Antoinette Rouvroy et Bernard Stiegler, Le régime de vérité numérique, avril 2015 :
https://journals.openedition.org/socio/1251

[35] « Dans cette évolution décisive (de la technique vers sa constitution en système et vers la formation progressive du caractère d’autoaccroissement), l’homme n’intervient pas : il ne cherche pas à faire un système technicien, il ne tend pas à une autonomie de la technique. C’est ici que se constitue une sorte de spontanéité nouvelle : ici que l’on doit chercher le mouvement spécifique, indépendant, de la technique et non pas dans une « révolte des robots » ou une « autonomie créatrice de la machine » (ST, p. 234)

[36] « (…) Dès lors, nous sommes prêts à donner réalité à cet univers fabriqué par l’ordinateur, à la fois chiffré, synthétique, globalisant, indiscutable. Nous ne sommes plus capables de le relativiser : la vue qu’il nous donne du monde dans lequel nous sommes nous paraît plus vraie que la réalité même que nous vivons. Là au moins nous tenons quelque chose d’indiscutable et nous refusons d’en voir le caractère purement fictif et figuratif. (…) l’univers chiffré de l’ordinateur devient progressivement l’univers tenu pour réalité dans lequel nous nous insérons. » (ST, p. 114)

[37] Sur ce sujet, voir mon article pour lundimatin, L’invention d’un moment dystopique, de mars 2022 :

https://lundi.am/L-invention-d-un-moment-dystopique

[38] Cela est très visible, évidemment, dans les œuvres à présent très auto-référencées de science-fiction (films, séries), mais également dans les médias, journaux télévisés, presse écrite, où la prouesse technique est mise en avant et où le phénomène dystopique est lui-même un élément de spectacle. C’est un peu moins le cas dans le débat public (mais lorsqu’il s’agit de parler de S-F, en évoquant telle dérive technologique, tel risque de dystopie, le débat tend à ne tourner qu’autour de ce qu’elle avait finalement prévu). Plus rien, de cette science-fiction, ne semble ici subsister de sa capacité de gratter, subvertir, dynamiter le réel !

[39] Erik Brynjolfsson, Andrew McAfee, The Business of Artificial Intelligence, Harvard Business Review, juillet 2017 : https://hbr.org/2017/07/the-business-of-artificial-intelligence

[40] Delphine Tillaux, Pourquoi le phénomène est appelé à durer, Investir N°2595 consacré à l’IA, septembre 2023 :

« (…) Apple, Microsoft, Alphabet (maison mère de Google), Tesla, Amazon, Nvidia et Meta. Entre la fin décembre 2022 et la fin juillet, la capitalisation boursière du Nasdaq 100 a grossi de presque 6.000 milliards de dollars, dont plus de 80 % liés uniquement à ces sept titres. »

[41] Pour une intelligence artificielle maîtrisée, utile et démystifiée, rapport du Sénat, mars 2017 :

https://www.senat.fr/notice-rapport/2016/r16-464-1-notice.html

[42] Nils J. Nilsson, The Quest For Artificial Intelligence, 2010, p. 78 :

« McCarthy has given a couple of reasons for using the term “artificial intelligence.” The first was to distinguish the subject matter proposed for the Dartmouth workshop from that of a prior volume of solicited papers, titled Automata Studies, co-edited by McCarthy and Shannon, which (to McCarthy’s disappointment) largely concerned the esoteric and rather narrow mathematical subject called “automata theory.” The second, according to McCarthy, was “to escape association with ‘cybernetics.’ Its concentration on analog feedback seemed misguided, and I wished to avoid having either to accept Norbert Wiener as a guru or having to argue with him. »

[43] Dystopie, Wikipédia, 24 octobre 2023 : https://fr.wikipedia.org/wiki/Dystopie

[44] Aifang Ma, L’intelligence artificielle en Chine, un état des lieux, Science-po, HAL Open science, jullet 2019 :

« Lorsque la Chine se lance dans le développement de l’intelligence artificielle, elle le fait en se fixant deux objectifs. Tout d’abord, faire face à des défis intérieurs : l’accélération du processus d’urbanisation, la réduction de la pauvreté, la pluralité sociale, la pollution environnementale, la mise à niveau du modèle de croissance économique et le problème démographique font que le pays doit impérativement trouver une « solution élégante » lui permettant de relever plusieurs défis en même temps. D’autre part, la priorité stratégique accordée à l’intelligence artificielle est en quelque sorte une réponse forte à la concurrence américaine. »

https://sciencespo.hal.science/hal-02186714/document

[45] https://www.francetvinfo.fr/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html

[46] A Shenzhen, l’intelligence artificielle is watching you, Libération, 19 juin 2023 :

https://www.liberation.fr/international/asie-pacifique/a-shenzhen-lintelligence-artificielle-is-watching-you-20230619_ZQCKKXDDFNCXBM67RZLHBGMDNU/

[47] L’IA qui semble déposséder l’homme de son pouvoir de création ; la création, qui tend à ne plus passer que par un canal, ou filtre algorithmique (Spotify, Netflix, etc.), réduisant toutes aspérités ; l’artiste qui perd son autonomie propre et n’est plus que l’élément connecté d’un tout technologique : « Le calcul informatisé ne se limite pas à amplifier, encadrer et façonner la culture ; en agissant en deça de notre niveau de conscience ordinaire et quotidien, il devient réellement la culture. » (James Bridle, Un nouvel âge des ténèbres, éditions Allia, 2022, p.52)

[48] Hottois, Le Signe et la technique, 1984, p. 158

[49] Voir cet article non dénué d’ésotérisme :

« Cette angoisse du remplacement serait au fond une atteinte narcissique, une remise en cause de l’homme pour lui-même et de sa croyance en ce qu’il a de plus singulier. » (Libération, Lundi 19 juin 2023)

https://www.liberation.fr/idees-et-debats/apres-leco-anxiete-lia-anxiete-20230619_DDHVJRIQVJDFFF5AQJE5NKAPOU/

[50] Patrick Chastenet, À contre-courant entretiens, La Table ronde, 2014 :

« Rien de ce que j’ai fait, vécu, pensé ne se comprend si on ne le réfère pas à la liberté. »

• Cybernétique
• https://lundi.am/L-intelligence-artificielle-ou-la-fin-de-la-technique