« Ancien ingénieur de Google, Tristan Harris dénonce les pratiques de son ancien employeur et des grands groupes de la Silicon Valley. Il exhorte les chefs d’États et citoyens à exercer un contre-pouvoir contre leur influence nocive. »

Ainsi commence l’article (payant) du Figaro du 31 mai 2018. Tristan Harris n’est pas vraiment un révolutionnaire, mais il connaît le fonctionnement du Moloch Google et après avoir servi les grandes entreprises, il s’adresse aux gens. Et les prévient du changement de comportement induit par la puissance des réseaux sociaux.

« Ces entreprises sont devenues les acteurs les plus puissants au monde, plus que les États. Nous sommes 2 milliards à être sur Facebook, soit davantage de fidèles qu’en compte le christianisme. 1,5 milliard sur YouTube chaque mois, soit plus de fidèles qu’en compte l’Islam. Et à partir du moment où nous éteignons l’alarme de nos smartphones – que nous consultons en moyenne 150 fois par jour – nos pensées vont être perturbées par des pensées que nous n’avons pas choisies, mais que les entreprises technologiques nous soumettent. En ouvrant Instagram, on observe que ses amis se sont amusés sans vous. Cette idée ne vous serait jamais venue sans qu’un acteur des technologies ne l’ait faite advenir. »

Selon lui, consulter son mobile en permanence en étant branché du matin au soir sur un des principaux réseaux sociaux n’est pas anodin : il y a altération de la réalité et altération de la pensée du récepteur. Il y a forcément manipulation et composition d’un comportement mondial, d’une pensée mondiale, une mondialisation de l’individu qui opère de manière sournoise.

« Les réseaux sociaux finissent par construire une réalité sociale alternative. Cela pose des problèmes de santé publique, notamment chez les plus jeunes qui sont sans cesse soumis à des images de leurs amis montrés sous leur meilleur jour et ont une vision déformée de la normalité. Cela pose aussi des problèmes de polarisation : les réseaux sociaux ont tendance à mettre en avant les comportements extrêmes, ce qui pose un troisième problème, cette fois-ci démocratique, car cela influence l’opinion. La question relève enfin de l’antitrust : ces entreprises ont un pouvoir inégalable avec toutes les données qu’elles manipulent chaque jour. »

Ce pouvoir n’est pas clairement défini : les GAFA complotent-elles contre l’individu ou contre l’État ? Quel est leur objectif et surtout, ont-elles un objectif, à part celui d’engranger le plus possible de clients, de données personnelles et en conséquence, de publicités ? C’est justement la question que pose Le Figaro : « Les concepteurs de ces technologies sont-ils conscients d’exercer un tel pouvoir ? »

« Non ! Il y a beaucoup de personnes qui ont une conscience dans la Silicon Valley et s’inquiètent des conséquences de leur travail. Mais si on y réfléchit bien, quand on a entre 20 et 30 ans, qu’on est un jeune ingénieur qui n’a jamais rien fait d’autre que coder et qu’on débarque chez Google, on pense avant tout à toutes les choses incroyables que l’on peut réaliser avec son travail. Pas aux instabilités géopolitiques que ces outils peuvent permettre de créer. Les employés de ces grandes entreprises ne réalisent pas leur pouvoir. »

Les employés de Facebook sont-ils responsables ? Quand on voit Mark Zuckerberg faire la tournée des grandes organisations européennes et jouer au pénitent qui s’excuse encore plus que Guiiaume Pépy (SNCF), on se demande s’il ne se fout pas de notre gueule.

« Ils ne disent pas à leurs ingénieurs de concevoir des outils de manipulation des esprits mais des outils pour “augmenter l’engagement sur de la publicité ciblée”, car aucun ne voudrait travailler pour eux sinon. Pour reprendre l’écrivain Upton Sinclair, vous ne pouvez pas demander à des gens de se poser des questions quand leur salaire dépend du fait de ne pas se les poser. Et les employés de Facebook sont payés très cher pour ne pas se poser de questions. »

Pour Tristan Harris, même ceux qui se croient intelligents ou non influençables sont l’objet de ces publicités ciblées qui détectent nos pensées les plus profondes, grâce à toutes les traces que nous laissons sur les autoroutes de l’information ou les chemins pseudo privés des réseaux sociaux.

« Les gens n’ont pas conscience de l’ampleur de ce que l’on peut déjà faire avec de la publicité ciblée. Il est facile de se dire que nous sommes informés ou éduqués, et que cela ne nous arrive pas à nous, plus malins que les autres. Je veux éveiller les consciences là-dessus : absolument tout le monde, sans exception, est influencé par des ressorts qu’il ne voit pas. Exactement comme dans les tours de magie.
[...]
Il y a beaucoup de “dark patterns” (des design douteux) dans les technologies, c’est-à-dire des ficelles invisibles qui nous agitent comme des marionnettes. »

Avant le débat sur les dérives de Facebook et des GAFA, une phrase de Tristan Harris qui résume tout :

« Facebook est comme un prêtre qui écouterait les confessions de 2 milliards d’individus, sauf que la plupart n’ont pas conscience d’être à confesse. »