Nicola, jeune Berlinois originaire d’Amérique du Sud et modérateur pour un sous-traitant du réseau social, a été confronté chaque jour à la pornographie, la haine et la violence, mais aussi à des choix cornéliens.

Si les Philippines sont la plaque tournante asiatique de la modération de contenus, Berlin est celle de l’Europe, notamment via Arvato, filiale du groupe Bertelsmann (géant des médias, société mère de RTL group). Spécialisé dans la gestion de relation client, la logistique et le marketing, ce prestataire de service, qui d’après son site web, emploie près de 70 000 personnes dans le monde, a notamment pour clients français EDF ou Orange.

Bien que beaucoup moins déplorables que celles de leurs homologues philippins (voire notre premier épisode), les conditions de travail des modérateurs d’Arvato ne sont pas pour autant exemptes d’opacité, d’un manque de considération et d’un culte certain du secret. C’est ce que nous confie un ancien employé de l’entreprise berlinoise qui a accepté de témoigner sous couvert d’anonymat.

« Easy work, easy money »

Originaire d’Amérique du Sud, Nicola, tout juste la trentaine, vit à Berlin depuis une dizaine d’années, où il a surtout bossé dans le service et la restauration. C’est par le biais d’un ami qu’il entend parler du job de « cleaner » pour lequel maîtriser l’allemand n’est pas requis. Une promesse de « easy work, easy money » qui a tôt fait de le séduire. Il entre chez Arvato en 2016 et y restera pas loin de deux ans. À l’époque, l’entreprise compte entre 150 et 200 employés, contre près de 1 000 aujourd’hui. Et les recrutements se poursuivent.

L’entretien d’embauche laisse un peu Nicola sur sa faim : « Est-ce qu’il aime les réseaux sociaux ? » « Oui ? », Parfait, cela suffira. De son futur employeur, il ne sait rien, pas même le nom. Au terme de son entretien, il devine pourtant « qu’il s’agit d’une grosse plateforme », à ce moment-là, il pense « à Instagram ou Facebook ».

C’est seulement lorsque débute son training que son pressentiment se confirme : c’est bel et bien pour Facebook qu’il travaillera. Pendant un mois, il se familiarise avec le job via l’apprentissage des directives du réseau social en matière de modération, beaucoup d’exercices et quelques photos tests.

« Le paquet était vraiment mis sur les instructions : ce qui est “ok”, ce qui doit être supprimé. Je ne pourrais pas l’affirmer avec certitude, mais ça semblait assez nouveau à l’époque… Je pense que ça faisait alors à peine six mois que Facebook avait transmis ses directives à Arvato. »

Clause de confidentialité

Sur son contrat, Nicola est embauché en qualité de « Kundenberater », conseiller clientèle. Aucune mention de « content moderator » ou de quelque intitulé s’en rapprochant. Il doit signer une clause de confidentialité, lui interdisant de parler de son travail à sa famille ou à ses amis proches, au risque de s’exposer à des poursuites judiciaires. Autrement dit, ce qui se passe entre les murs d’Arvato reste chez Arvato…

Pour 1 300 euros par mois, Nicola supprime des contenus signalés sur le réseau social, classés selon quatre grandes familles : publication (post), images ou photographies, vidéos et partages (shares). Le quota à atteindre est de « 100 tickets » la journée, un ticket correspondant à l’un de ces éléments. Un objectif plutôt simple à atteindre pour Nicola qui prend entre 20 secondes et deux minutes pour analyser un ticket. Aucun quota ni bonus ne sont prévus, il s’agit seulement d’être productif et précis.

En matière de volume à traiter, la première catégorie est celle du « hate speech » (discours de haine), vient ensuite la « graphic violence » (violence explicite) et la « sexual sollicitation » (photos de parties génitales, racolage, contenus pornographiques). La pédopornographie forme une catégorie à part.

Pornographie, haine et violence

Le contenu des vidéos change au gré des actualités : la guerre en Syrie offre son lot de vidéos et d’images violentes, le référendum sur l’indépendance de la Catalogne ses discours de haine. Les attaques terroristes et la propagande de l’État islamique génèrent également beaucoup de contenus. « J’ai vu beaucoup de vidéos de décapitations » confie Nicola, même si ce n’est pas ce qui le touchait le plus : « Malheureusement, j’en ai déjà trop vu dans mon pays d’origine ». Le plus éprouvant pour lui, c’était la pédopornographie.

La catégorie qui lui demande le plus de fil à retordre, ce sont les vidéos :

« En règle générale, elles sont plus dures à traiter, car plus violentes, et s’avèrent aussi plus dures à classifier : parfois, dans les premières minutes du film, quelqu’un est juste en train de réparer son vélo et il faut attendre les dernières secondes pour l’entendre crier “Fuck Americans” ou un truc du genre et il faut alors que je supprime ».

Pour Nicola, la gestion des vidéos souffre d’un manque certain de professionnalisme : « Sans parler d’amateurisme, on avait parfois l’impression de devoir prendre une décision à l’instant T, sans être préparé à tous les cas de figures pouvant se présenter ». Il se souvient particulièrement de la diffusion live d’un assassinat :

« Un homme tue un homme plus âgé dans la rue. C’était inédit. Il fallait réagir. Bien entendu, ça allait être supprimé. Mais dans ces moments-là, ça devient viral, c’est facile à repérer, mais il faut faire vite. Il a fallu qu’on mobilise une petite équipe spéciale de 6 ou 7 personnes sur cette vidéo ».

Moins dramatique, cette image montrant une femme torse-nue : « Les tétons étaient visibles, donc d’abord ça a été interdit, puis finalement ça a été autorisé et ça a abouti à une nouvelle directive sur la nudité ». Un système action-réaction qui, sans être la norme, reste très fréquent :

« C’est la même chose avec les discours de haine, à un moment c’est du "free speech" (liberté d’expression), à un autre ça ne l’est pas. C’est souvent "borderline" et la "border" ( frontière) elle est très fine. Parfois même, ça passe inaperçu, c’est le cas avec les insultes dans des argots locaux ou très régionalisés que le modérateur ne connaît pas. »

Lire l’article entier sur slate.fr