2 MARS 2019 PAR GÉRALDINE DELACROIX

Pour l’économiste Shoshana Zuboff, dont le livre L’Âge du capitalisme de surveillance vient de paraître aux États-Unis, le danger que font courir les géants du Web est bien plus grand qu’on ne l’imagine généralement. En siphonnant les données personnelles pour modifier à leur insu les comportements de leurs utilisateurs, ils menacent la démocratie elle-même.

En s’appropriant nos données personnelles, les entrepreneurs du « capitalisme de surveillance » mettent en danger rien de moins que la démocratie, par la manipulation de notre libre arbitre. Telle est la thèse défendue par Shoshana Zuboff dans un volumineux ouvrage qui vient de paraître, L’Âge du capitalisme de surveillance (éditions Public Affairs, en anglais).

Le capitalisme est entré dans une nouvelle ère, explique l’autrice et, pour le comprendre et le combattre, il nous faudra chausser de nouvelles lunettes, car les anciennes n’opèrent plus devant un changement à la fois si radical et si rapide – une révolution survenue en moins de vingt ans. Une « nouvelle planète », une situation « sans précédent » dont on aurait tort de penser qu’il s’agit d’une simple continuation du passé.

Tout à la crainte du totalitarisme étatique, « nous n’avons pas vu venir les entreprises aux noms imaginatifs dirigées par de jeunes génies qui semblaient pouvoir fournir gratuitement exactement ce que nous voulions ». C’est l’une des principales nouveautés, et par là une source de cécité, de la situation actuelle : la surveillance, et le danger, sont passés entre les mains d’entreprises privées.

En introduction aux conférences qu’elle tient depuis la parution de son livre, Shoshana Zuboff demande aux personnes de l’assistance de résumer en un mot la raison de leur présence. Si, reconnaît-elle, son public forme un panel quelque peu biaisé, la cohorte de mots qu’elle recueille, chaque fois les mêmes, justifie sa démonstration.

Ce 13 février à New York, parmi les expressions choisies, on pouvait entendre : publicité, capitalisme global, panoptique, profilage, peur, humanité, résistance, exploitation, acheteurs, solution, révolution, déterminisme, souveraineté, manipulation, démocratie, dignité, autonomie. À Londres, rappelle-t-elle : « identité, liberté, pouvoir, loi ». Comme à Bruxelles ou Cambridge…

Shoshana Zuboff en conférence à New York, mercredi 13 février 2019.

Comment en est-on arrivé à ce stade de « l’obscurcissement du rêve numérique », trente ans seulement après la naissance d’Internet ? C’est que le capitalisme est sorti des usines et des bureaux pour inonder tous les espaces de la société. Les entrepreneurs de la surveillance nous sont tombés dessus juste « parce que nous vivons, pas pour notre travail », explique-t-elle ce jour-là à New York.

« Comment nous appellent-ils ?, questionne cette professeure d’économie à Harvard. Nous n’avons pas de nom, nous ne sommes pas des travailleurs. Le nom qu’ils nous ont donné est “utilisateur”. Et ça ne va pas. » Ce que ce mot « utilisateur » nous apprend, dit-elle, est que ce capitalisme n’est plus confiné à l’économie. Il va donc falloir pour le combattre trouver de nouveaux moyens d’action collective, comme les travailleurs ont trouvé face au capitalisme industriel leurs propres moyens de lutte. Comment « mettre hors la loi ce nouveau capitalisme voyou », qui prospère « sur nos sentiments » et dont « le but est de nous automatiser » ?

Au lieu de notre force de travail, chère au capitalisme industriel, le capitalisme de surveillance se nourrit de « chaque aspect de chaque expérience humaine » et nous conduit à signer le pacte faustien du XXI^e siècle : « Il est presque impossible » d’échapper au capitalisme de surveillance, « malgré le fait que ce que nous devons donner en retour va détruire la vie telle que nous l’avons connue. Considérons qu’Internet est devenu essentiel à la vie sociale, qu’il est maintenant saturé par le commerce, et que le commerce est soumis au capitalisme de surveillance ».

Que nos sentiments servent à générer du profit est inacceptable, mais aussi radicalement nouveau, explique l’autrice à ceux qui voudraient n’y voir qu’une continuité. Qu’il s’agisse d’orienter nos relations amicales ou amoureuses, notre vote ou le contenu de notre réfrigérateur, de notre garde-robe ou de notre bibliothèque, ce qui nous arrive est la « perte de la souveraineté sur notre propre vie ». Notre dépendance est au cœur du projet de surveillance commerciale, qui se définit en deux questions : Quel est le produit ? Quel est le client ?

Pour Shoshana Zuboff, malgré l’adage selon lequel « si c’est gratuit, vous êtes le produit », les internautes ne sont pas des produits, mais « les sources d’une valeur ajoutée cruciale au capitalisme de surveillance : les objets d’une opération d’extraction de matières premières technologiquement avancée et de plus en plus inéluctable », des producteurs – malgré eux – de données. Le produit, c’est « notre comportement futur », sous forme de clic, d’achat, en ligne ou hors ligne, comportement dont les clients sont les entreprises qui l’achètent et le vendent, l’échangent sur un nouveau marché.

Ce pacte avec le diable signé en utilisant Google et Facebook (entre autres…) nous engourdit le cerveau, nous fait créer des mécanismes de défense (« je n’ai rien à cacher »), génère un « cynisme résigné ». « En ce sens, le capitalisme de surveillance impose un choix fondamentalement illégitime que les individus du XXI^e siècle ne devraient pas avoir à faire », explique Shoshana Zuboff.

Nous voilà victimes d’une asymétrie inédite : « Le capitalisme de surveillance sait tout de nous, alors que ses opérations sont conçues pour que nous n’en sachions rien », il « annule les droits fondamentaux associés à l’autonomie individuelle », droits« essentiels à la possibilité même d’une société démocratique ».

Dans un mémo interne de 2016 révélé par Buzzfeed en mars 2018 : « Donc nous connectons plus de gens. Cela peut être mauvais s’ils le rendent mauvais. Cela peut coûter la vie de quelqu’un exposé au harcèlement. Quelqu’un mourra peut-être dans une attaque terroriste coordonnée avec nos outils. Et nous connectons toujours les gens. » © Document Buzzfeed

« Tout comme la civilisation industrielle s’est épanouie aux dépens de la nature et menace désormais de nous coûter la Terre, la civilisation de l’information dessinée par le capitalisme de surveillance et sa puissance instrumentale va prospérer au coût de la nature humaine et menacer de nous coûter notre humanité », met en garde l’économiste. Pour s’en protéger, il ne suffira pas de lutter contre les monopoles ni de défendre la confidentialité des données, même si c’est indispensable.

Shoshana Zuboff invite à ne pas confondre le capitalisme de surveillance avec les technologies qui n’en sont que l’instrument : le capitalisme de surveillance n’est pas une technologie, c’est une logique en action. D’ailleurs, rappelle-t-elle, les cookies ont été inventés en 1994 par Netscape, sans être exploités par le capitalisme de surveillance qui ne s’en est saisi que des années plus tard. Par exemple, se demande-t-elle, quel besoin a Google de conserver éternellement l’historique de nos recherches ? Ça peut servir, a répondu en substance Eric Schmidt, directeur général de Google, en 2009.

Il n’y a pas de fatalité technologique, estime au contraire l’autrice. Les technologies ne sont pas des fins en soi mais des moyens au service de l’économie : « S’il est possible d’imaginer quelque chose comme l’Internet des objets sans le capitalisme de surveillance, il n’est pas possible d’imaginer le capitalisme de surveillance sans l’Internet des objets. » Et de citer Max Weber : « Le fait que ce qu’on appelle le progrès technologique des temps modernes soit à ce point orienté économiquement vers le profit est l’un des points fondamentaux de l’histoire de la technologie. » Les vieilles lunettes peuvent encore servir parfois. 

Notre personnalité : c’est ce dont le capitalisme de surveillance va nous déposséder, mettant fin à une époque qui pourtant le nourrit, celle de l’individualisation, celle des droits humains individuels grâce auxquels chacun peut espérer devenir le créateur de sa propre vie, sans suivre les chemins tout tracés d’une appartenance de classe, de genre, de lieu, regrette Zuboff. Malgré son potentiel libérateur, l’époque se révèle difficile à vivre. L’individualisation est mise en échec par les inégalités auxquelles chacun des 99 %se heurte. Nous payons pour notre propre domination. 

« Au tournant du [XXI^e] siècle, alors que les mécanismes fondamentaux du capitalisme de surveillance commençaient juste à prendre forme, la maximalisation de la valeur pour les actionnaires fut largement acceptée comme la fonction objective de l’entreprise », détruisant les emplois au passage. Et après dix ans de succès de l’industrie du numérique et le développement de l’Internet, les pays occidentaux sont entrés dans les années 2010 avec un niveau d’inégalités record, des émeutes à Londres, des Indignés en Espagne et Occupy aux États-Unis…

Ce décor posé, Shoshana Zuboff montre avec une précision redoutable les mécanismes économiques sur lesquels se fonde l’immense accumulation de richesses du capitalisme de surveillance, qui ne se satisfait pas de nous prendre nos pensées, et dont Google est décrit comme l’inventeur et chef de file, et Facebook le rejeton surdoué.  

Au commencement était donc Google, qui est au capitalisme de surveillance, nous dit Shoshana Zuboff, ce que Ford et General Motors ont été au capitalisme industriel. Comme ses prédécesseurs, il faut scruter Google pas seulement en tant que compagnie mais comme point de départ d’une nouvelle forme de capitalisme. Si ses inventions dans le domaine de la publicité, comme les enchères et la publicité ciblée, ont été sur-étudiées, elles sont en revanche sous-théorisées, regrette Zuboff, car « l’invention par Google de la publicité ciblée a pavé le chemin des succès financiers […] mais aussi de la découverte et de l’élaboration du capitalisme de surveillance ».

En 1999, 7 millions de recherches étaient effectuées chaque jour avec Google. Il n’y avait pas de revenus à en tirer, pas moyen de faire payer les « utilisateurs », et seulement sept personnes au service publicité, « dont la plupart partageaient l’antipathie générale des fondateurs pour la publicité ». Ces derniers, Sergey Brin et Lawrence Page, pouvaient alors écrire : « Nous nous attendons à ce que les moteurs de recherche financés par la publicité soient fondamentalement biaisés en faveur des annonceurs et éloignés des besoins des consommateurs. Comme il est très difficile, même pour les experts, d’évaluer les moteurs de recherche, leur biais est particulièrement insidieux. […] [Il est donc]crucial d’avoir un moteur de recherche performant et transparent. »

Quand arriva l’éclatement de la bulle internet en 2000.

C’est à la fin de cette année que, sous la pression de ses investisseurs, Google change de stratégie. Grâce aux données de recherche et de navigation qu’il détient, Google ne dirigera plus la publicité sur les mots-clés recherchés, mais la rendra visible aux personnes jugées pertinentes. C’est un changement de paradigme essentiel : les données ne servent plus seulement à améliorer le produit, c’est-à-dire l’efficacité du moteur de recherche, à proposer de meilleures réponses.

Elles servent à autre chose : à donner aux annonceurs le public qu’ils recherchent et, partant, à gagner de l’argent. Les données personnelles, ce que l’on cherche, où, quand et comment, deviennent ce que Shoshana Zuboff appelle le « surplus comportemental », que l’on pourrait traduire par la valeur ajoutée comportementale, qui va mener tout droit au modèle économique de Facebook – trait d’union entre les deux, Sheryl Sandberg, qui passera du premier au second en 2008 –, et avec elle la recette des revenus publicitaires. 

En 2002, le New York Times se demande encore en 2002 si Google peut inventer un modèle économique aussi performant que l’est son moteur de recherche. En 2003, la méthode de collecte des données est développée dans un brevet intitulé « Génération d’informations d’utilisateur pour une utilisation dans la publicité ciblée » (« Generating user information for use in targeted advertising »). Un tournant à 180 degrés qui fait passer Google du service à l’usager à sa surveillance.

Le fait qu’aujourd’hui on ne s’étonne plus de la publicité ciblée vers la bonne personne, au bon moment, au bon endroit montre, selon Shoshana Zuboff, l’ampleur du chemin parcouru. La publicité, qui avait toujours été un jeu de devinettes, adopte des méthodes précises.

La réification puis la marchandisation de nos comportements entraînent chez Google et Facebook une boulimie d’achats de toutes les entreprises qui peuvent fournir de la donnée, et il y en a de plus en plus au fur et à mesure que nos vies se numérisent. Google achète YouTube en 2006 pour 1,65 milliard de dollars (on peut consulter sur Wikipédia la liste des rachats effectués par Google et Facebook). C’est comme cela qu’il faut comprendre le développement du système Android par Google : la possibilité de répliquer sur les téléphones mobiles la domination obtenue dans la recherche, pour en faire le moyen de savoir tout ce qui se passe dans un téléphone et littéralement kidnapper les comportements quotidiens.  

En décembre 2012, Instagram lance une nouvelle fonctionnalité : les messages privés. © Reuters.

« Le monde en ligne n’est pas vraiment régi par des lois terrestres. C’est le plus grand espace non gouverné au monde », se félicitent en 2004 Eric Schmidt et Jared Cohen (Google), dès la première page de leur livre The New Digital Age: Transformation Nations, Businesses, and Our Lives. Le hold-up sur les données personnelles a déjà eu lieu, sans qu’aucune autorisation n’ait jamais été demandée.

Shoshana Zuboff attribue une lourde part de responsabilité à l’article 230 de la loi de 2006 qui régule les télécommunications aux États-Unis, loi qui, comme la LCEN en France, protège les hébergeurs de la responsabilités des contenus qui y sont publiés. Car pour entretenir le flux de données produites par les utilisateurs, les plateformes ont un besoin vital de l’expression des internautes, de l’usage même des plateformes. Pas seulement pour maximiser le temps passé à regarder des publicités, mais bien pour recueillir les données des participants aux discussions, les likes et toutes sortes d’actions.

Elle n’oublie pas de rappeler qu’après les attentats du 11 septembre 2001, la politique sécuritaire et le Patriot Act poursuivent le même objectif que les entreprises de l’Internet de collecte d’informations en ligne. « Si les organisations terroristes veulent planifier et exécuter des attentats contre les États-Unis, leurs membres doivent effectuer des transactions et laisser des traces dans cet espace d’information », suppose ainsi le général Poindexter en 2002. Il poursuit : « Nous devons être capables d’extraire ce signal du bruit. » La numérisation de toutes nos actions est devenue une « architecture de l’extraction » de données. Et la collaboration des entreprises de la high-tech avec les gouvernements, fragilisée en 2013 par les révélations d’Edward Snowden, a repris de plus belle.

Il s’est quand même trouvé quelques cailloux sur la route du capitalisme de surveillance, et Shoshana Zuboff décortique avec méthode le « cycle de la dépossession » qui gouverne l’action de ces entreprises : l’incursion (prendre sans demander), l’habituation (on ne peut pas faire autrement), l’adaptation (faire amende honorable et promettre de faire mieux – on reconnaît là la phase dans laquelle se trouve actuellement Facebook), et enfin la redirection, partir sur une autre voie pour prendre de vitesse les volontés de régulation. Par exemple, dans le cas de Facebook, en inventant la fusion de toutes ses messageries (Instagram, WhatsApp et Messenger).

Si les cartes créent l’empire, comme le rappelle Shoshana Zuboff en citant l’historien de la cartographie John B. Harley, alors Google Maps sera indispensable à Google.

Le récit de la construction de cet objet depuis ses débuts, de la contestation locale suscitée ici ou là par les célèbres petites voitures de Google Street View qui photographient chaque rue, jusqu’au jeu Pokemon Go est, comme tous les chapitres décrivant cette forme d’emprise économique, passionnant. Avec Street View, Google s’approprie la totalité de l’espace public, sans rien demander. Le cas de Pokemon Go, où l’on croit chasser des Pokemon dans son quartier alors que l’on est en réalité poussé vers une destination précise, est édifiant. Le problème, souligne Zuboff, est que le joueur ne sait pas que telle ou telle enseigne a payé pour que le jeu dirige ses pas vers sa boutique, ce qui est une différence majeure avec la publicité traditionnelle, visible, perceptible – et parfois réglementée.

Pire encore, le jeu transpose le système du « paiement au clic », déjà devenu traditionnel dans la publicité en ligne, au monde physique. Le véritable client de Niantic (éditeur du jeu et filiale de Google) est encore une fois l’annonceur, et non pas le joueur. Annonceur qui ne paiera qu’à l’arrivée du joueur dans la zone visée : c’est le « pay per visit ». L’action de l’utilisateur déclenche le revenu : le « jeu » fera donc tout pour pousser le joueur là où son passage produira un paiement.

Dans le même ordre d’idées, on ne s’étonnera pas en apprenant que l’aspirateur-robot Roomba peut faire le plan du domicile où il est utilisé et le céder à Google Maps, qui trouve là un moyen de cartographier jusqu’à l’espace privé, devenu un nouveau terrain de conquête. Certes, on peut refuser les conditions d’utilisation de l’aspirateur et bloquer ce transfert de données. Sauf qu’alors, il faudra se passer de diverses possibilités comme la mise en marche à distance via une appli installée sur le téléphone.

C’est, d’un point de vue du consommateur, une distorsion majeure dans les contrats qui le lient usuellement au fabricant : la dégradation du produit acheté, qui ne fonctionne à 100 % que sous conditions. Zuboff cite aussi le cas d’un lit connecté, qui enregistre le temps de sommeil, les ronflements et bien d’autres événements, mais ne les restitue à son propriétaire que si celui a accepté les CGU. Des conditions d’utilisation dont l’acceptation sert d’autres intérêts que ceux de celui qui les signe.

Le jeu Pokemon Go demande à l’utilisateur s’il peut compter ses pas. © Pokemon Go

Comment s’en sortir alors que pour Hal Varian, économiste en chef chez Google et pilier de la maison, « le monitoring en continu va devenir la norme » ?

En 2012, Facebook publie une étude dans la prestigieuse revue scientifique Nature, étude intitulée Une expérience de 61 millions de personnes sur l’influence sociale et la mobilisation politique. L’entreprise y explique comment, lors de la campagne des élections de mi-mandat 2010 aux États-Unis, elle a testé différents messages adressés à certains utilisateurs, leur donnant des informations sur les bureaux de vote, ou sur leurs amis ayant indiqué qu’ils avaient déjà voté. Résultat, elle a pu observer des modifications dans la participation au vote en fonction des messages reçus ou pas. Devant ce résultat, les chercheurs se félicitent : « Cela a des implications sur notre compréhension du rôle des réseaux sociaux dans la société. »

Mais que vaut, scientifiquement parlant, une expérience menée à l’insu des participants ?

C’est pourtant la norme sur Internet : « C’est comme cela tout le temps. Des expériences sont menées sur chaque utilisateur à un moment ou à un autre de son séjour sur le site. Qu’il s’agisse de voir des publicités de tailles différentes, des messages marketing différents, des boutons d’appel à l’action différents, de voir leurs flux générés par des algorithmes de classement différents, etc. L’objectif fondamental de la plupart des personnes chez Facebook qui travaillent sur les données est d’influencer et de modifier l’humeur et le comportement des gens. Ils le font tout le temps pour vous faire aimer davantage les histoires, pour cliquer sur plus d’annonces, pour passer plus de temps sur le site. C’est comme ça qu’un site web fonctionne, tout le monde le fait et tout le monde sait que tout le monde le fait », explique par exemple Andrew Ledvina, ancien de chez Facebook.

Pokemon Go veut accéder à la géolocalisation même quand le joueur ne joue pas. © Pokemon Go.

Une deuxième étude, « Experimental evidence of massive-scale emotional contagion through social networks » (ou « La preuve expérimentale d’une contagion émotionnelle à grande échelle par le biais des réseaux sociaux »), est entamée en 2012 et publiée en juin 2014. Pour les chercheurs, son résultat est sans ambiguïté : « Des états émotionnels peuvent être transmis à d’autres par contagion émotionnelle, et entraîner les gens à ressentir les mêmes émotions sans en être conscients. » Une nouvelle fois, les conditions de l’expérience sont contestées, et le rédacteur en chef de la revue Pnas s’interroge : « Avons-nous signé pour que Facebook procède à ces expériences et sommes-nous autorisés à les quitter ? »

À la différence du capitalisme d’autrefois, le capitalisme de surveillance, qui a « fait des moyens de modification des comportements un moteur de croissance », et sa structure financière fondée sur les rendements pour l’actionnaire, se fiche des consommateurs comme des travailleurs. Il prospère dans une « indifférence radicale » au sort des populations comme des individus, qui explique la (non) politique de modération mise en œuvre sur Facebook ou le fonctionnement des algorithmes de YouTube. « Tous les efforts en matière de modération de contenus doivent être compris comme des mesures défensives plutôt que comme des actes de responsabilité », explique Shoshana Zuboff.  

Pas toujours éloignée d’une forme de catastrophisme, Zuboff redoute… une « septième extinction », celle des sentiments, de la conscience, du libre arbitre, « celle de ce qu’il y a de plus précieux dans la nature humaine ».

Faudrait-il pour autant que chacun redevienne propriétaire de ses données ? Shoshana Zuboff écarte cette solution : « Quel est l’intérêt de posséder des données qui ne devraient pas exister en premier lieu ? Tout ce que cela fait, c’est d’institutionnaliser et de légitimer davantage la saisie des données. C’est comme si l’on négociait le nombre d’heures par jour qu’un enfant de sept ans devrait être autorisé à travailler, plutôt que de contester la légitimité fondamentale du travail des enfants. »