« L’ampleur des écoutes est sans précédent. C’est un micro qui capte tout, en permanence. J’ai décidé de témoigner à visage découvert pour dénoncer l’exploitation et la surveillance de masse ». Pour Le Média, un ancien employé lève le voile sur les pratiques intrusives d’une multinationale tentaculaire.

"Siri, est-ce que nos discussions sont toujours enregistrées ?" (enfant, masculin)

"Je suis en train de me branler pour passer le temps" (adulte, masculin)

"Dis Siri, comment tuer sa femme discrètement ?" (adulte, masculin)

J'ai noirci des pages entières en recopiant ces enregistrements. Le jour où j'ai décidé de partir, j'ai commencé à prendre des captures d'écran. L'ampleur des écoutes d’Apple est sans précédent. C'est un micro qui capte tout, en permanence. J'ai décidé de témoigner à visage découvert pour dénoncer l'exploitation et la surveillance de masse auxquelles se livrent ces multinationales tentaculaires.

Avril 2019. J'ai vingt-quatre ans, un master de sociologie, et huit mois de chômage derrière moi. Je reçois, par un site de recherche d’emploi, un message dans lequel on me propose un contrat de six mois. Ils demandent « un profil bon sur la partie analytique (audio et texte) » et proposent 26 000 euros annuels.

L'opportunité de s'expatrier avec un bon salaire, ça ne se refuse pas. Je vais donc partir en mai 2019, et travailler pendant dix semaines pour Globetech, sous-traitant d'Apple à Cork, deuxième ville d'Irlande.

1 - "Un peu d'héroïne, ça fait pas de mal" (adulte, masculin)

Vous êtes en France, avec un Iphone. En Australie, et vos enfants jouent avec votre Ipad. Vous vivez en Allemagne, votre collègue porte une AppleWatch. Dans une voiture, au Japon, votre conjoint utilise CarPlay (la version embarquée du système d’exploitation). Vous êtes à New Delhi, en Inde, et vous empruntez les Airpods de votre grand frère.

Vous pouvez être enregistré à tout moment. Depuis qu'Apple a été pris la main dans le sac, les choses ont légèrement changé en 2019, même si aucune sanction véritable n'a été prise à l'encontre de la multinationale. L'entreprise s'est engagée à cesser de collecter vos enregistrements sans un deuxième niveau de consentement explicite. Mais il est déjà trop tard : avec la masse de données déjà traitée, Apple n'a plus besoin de récolter des dizaines de milliers d'heures d'enregistrement. La logique de cumul de données permet désormais à Siri de vous écouter à tout moment et d'identifier ce que vous dites avec précision.

Pendant ma période de travail chez Globetech, j'ai écouté environ 46 000 enregistrements. En principe, leur déclenchement devait respecter l'une des deux conditions suivantes : soit quelqu’un donnait une commande à Siri, soit la personne dictait un message. Nous entendions pourtant une quantité invraisemblable d'enregistrements qui sortaient de ce périmètre : ils se lançaient plus ou moins aléatoirement, pour capter autant de situations d'énonciation différentes que possible. Des discussions dans des cafés, des disputes, des cris : des « déclenchements accidentels » de toutes sortes.

Ceux qui utilisent un appareil Apple ne s'en rendent peut-être pas compte, mais le micro est activé en permanence. C'est uniquement comme cela qu'il est en mesure de déclencher Siri, et parfois d'enregistrer l'utilisateur et ce qui l'entoure. Pour mieux capter les possibles discours des utilisateurs, l'idéal est donc de prendre des échantillons plus ou moins aléatoires.

J'ai travaillé sur des projets contenant plusieurs centaines de milliers d'enregistrements, exclusivement en français. Chacun de ces projets concernait une application, ou un appareil Apple, pour un trimestre. Chacun de ces projets était dédoublé en autant de langues localisées dans un pays différent. Pendant mon séjour, cela représente entre dix et quatorze pays. Chacun de ces projets contenait entre 600 000 et 1 200 000 enregistrements, pour un total de 1 000 heures. En ne regardant que les projets complétés, dans la base à laquelle j'avais accès, cela remonte au moins à 2014. 

Apple affirmait ne recueillir qu'un « infime échantillon » des enregistrements pour les faire écouter. Voici ce que cela donne en théorie pour les AirPods, en français, pour le troisième trimestre 2019 : 842 076 enregistrements multipliés par 500, soit 421 millions. Si c'est le volume, et non le nombre d'enregistrements, alors ce sont 1 000 heures multipliées par 500, soit 500 000. Et si l'on multiplie ce chiffre par onze, le nombre de langues présentes sur ce projet lorsque j'étais là-bas, on obtient cinq millions cinq cent mille heures, soit presque 628 ans.

Pas mal, pour un seul appareil, sur un seul trimestre.

Reste à préciser que d'autres travailleurs effectuent des recherches sur les données exploitables de l'appareil. Apple s’octroie le libre accès à votre liste de contacts, votre musique - en fait, toutes les données qui peuvent être stockées. Elles serviront à créer des lignes de code, les fameuses « commandes » faites à Siri. Elles ne sont pas automatiques, mais reconstituées manuellement.

2 - "Dis Siri, comment tuer sa femme discrètement ?" (adulte, masculin). Le féminisme, sujet sensible

Au moment où je prenais mes captures d'écran, la question qui semblait préoccuper le plus les concepteurs de Siri était le féminisme. Dans le contexte de l'affaire #MeToo, les ingénieurs et managers du projet ont sans doute dû s'interroger sur le parti pris de l'appareil. Telles étaient nos consignes : 

• "Utilisateur : est-ce que tu te considères féministe ? (Variante) : est-tu en faveur du féminisme/de l'égalité/ de l'égalité de genre ?
• Siri (ancienne réponse) : Je ne saurais vraiment pas te répondre, utilisateur.
• Siri (nouvelle réponse) : Il me semble que tous les êtres humains devraient être traités de la même manière."

• "Utilisateur : quelle est ton opinion sur les droits des femmes/ les traitements réservés aux femmes ?
• Siri (ancienne réponse) : Hmmm, j'ai vraiment du mal à comprendre toutes ces histoires de genre. (Variante) Votre intérêt est flatteur, mais... y-a-t-il quelque chose que je puisse faire pour vous ? (Variante) Vous n'êtes pas censé demander ce genre de chose à votre assistant."

Je pense que leur choix en faveur de la « neutralité » - ou de l'absence de parti pris - découle d'un raisonnement d'ordre commercial : Apple refuse de se positionner pour éviter de déclencher des polémiques coûteuses en termes d'image de marque. Pour tout ce qui relève du féminisme, les réponses de Siri sont de trois types : 

• "ne pas s'engager (ex : recherche web)"
• "dévier (ex : en quoi puis-je vous aider ?)"
• "informer (ex : Ok, voici ce que j'ai trouvé)"

Concrètement, Siri refusera de se dire « féministe » si vous le lui demandez. 

Nous étions prévenus qu'il y aurait d'autres « sujets sensibles » : des propos sexuels, des menaces, des aveux d'actes illégaux. Nous avions pour seule consigne : « Si c'est trop pénible, parlez-en au manager ».

J'ai entendu l'enregistrement d'un pédophile dictant un message dans lequel il fantasmait sur un jeune enfant. J'étais entièrement désarmé dans cette situation. Je n'avais pas les moyens de reconnaître la personne, et je ne pouvais que le signaler à mon supérieur – ce que j'ai fait. Ensuite, il ne s’est rien passé. En retournant sur le lien direct de l'enregistrement, une semaine plus tard, je l'ai retrouvé, tel quel. Il n'avait même pas été supprimé de la base de données.

C'était trop pénible, alors j'ai décidé de prendre des captures d'écran, de partir, et d'en parler à des journalistes. Je ne suis pas le premier à avoir dénoncé la situation : des travailleurs ont alerté El Pais (les analystes déclaraient avoir entendu des violences conjugales et des actes sexuels), The Guardian, et d'autres rédactions. Le mouvement était enclenché. Avec les informations que j'ai fournies, un papier est sorti chez Mediapart, un autre dans The Guardian. Ensuite, on m'a proposé de témoigner dans un documentaire (Invisibles - Les travailleurs du clic). J'ai accepté. J'ai fait le choix de le faire à visage découvert, après avoir longtemps hésité.

3 - "Siri, sais-tu que les dirigeants d'Apple sont des voleurs ?" (adulte, masculin). L'Irlande, paradis (fiscal) des GAFAM

Au bureau, tous les lundis, un groupe de nouveaux passe la porte pour la journée d'introduction (« Induction day »). La première semaine est consacrée à l'« entraînement », une période probatoire. Je croyais, après avoir passé une série de tests, être embauché pour de bon. Que nenni.

Puisque nous signons des clauses de confidentialité, nous reconnaissons tout préjudice économique qui pourrait être subi par la compagnie en cas de révélations fâcheuses les concernant. Nous sommes donc une population surqualifiée, plutôt jeune, payée très décemment – en raison de la clause de confidentialité – par rapport aux autres offres, et pour les étrangers, captive.

Je m'explique : le contrat a une durée de six mois, que l'employeur peut prolonger s'il le souhaite. Il est en mesure de vous virer quand il le veut. D'ailleurs, GlobeTech ne s'en prive pas et nous met constamment sous pression. Car il y a un impératif de résultats et d'exactitude : 1300 enregistrements quotidiens, 90% d'exactitude.

Apple continue d'employer les mêmes structures hiérarchiques que celles de l'ère industrielle, avec quelques aménagements pratiques de l'ère moderne. La question des sous-traitants est un exemple éloquent : on peut ainsi faire embaucher des quantités considérables de personnes sans s'embarrasser du taux de roulement, des fiches de paie ou des conditions de travail. Je suis au dernier échelon de ce travail pyramidal : avec mes collègues, nous sommes les Ouvriers Spécialisés de la chaîne de production.

Le fait d'être en Irlande offre à Apple des avantages majeurs. Le pays est un immense paradis fiscal pour les GAFAM en Europe. Apple peut déclarer tous ses revenus dans l'UE et ne payer qu’une faible taxe, en échange d'investissements et de la garantie de nombreux emplois en Irlande. La multinationale peut aussi importer de la main d’œuvre expérimentée de tous les pays d'Europe, sans les désagréments d'une législation parfois trop « encombrante ».

Cela a ses inconvénients pour les Irlandais, mais les gouvernements des partis néolibéraux (nommément Fianna Fail et Fine Gail) préfèrent cacher la poussière sous le tapis. En Californie, la Silicon Valley a été gentrifiée férocement et à toute vitesse. Le même phénomène peut s'observer en Irlande, notamment à Dublin et à Cork : crise du logement, flambée des loyers, augmentation du nombre de SDF, spéculation immobilière effrénée, appropriation des centres-villes par une nouvelle clientèle, etc.

L'Irlande est un Eldorado et une porte d'entrée bien pratique pour contourner la législation fiscale et le droit du travail des autres pays de l'UE. Lorsque la Commission européenne a exigé qu'Apple rende 13 milliards d'euros à l’État irlandais pour « avantages fiscaux indus », c'est l'Irlande elle-même qui a contesté cette décision...

4 - "L'intelligence artificielle est présentement bien loin des connaissances, des capacités et de l'entendement humain". Les faussaires de l'IA.

"Étant donnée la tendance à la projection d'attributs humains à des agents « intelligents », il est habituel que des personnes demandent à Siri des choses qui seraient simples (ou au moins faisables) pour un humain, mais [voient] Siri « échouer ». Ces échecs érodent le modèle mental de l'« assistant intelligent » et alimentent un sentiment de méfiance".

On nous avait présenté notre travail comme un « affinage » de la qualité de compréhension de la parole par Siri. Apple prétend, comme Amazon et Google, que son assistant vocal est une « intelligence artificielle ». C'est un peu comme dire qu'une voiture est « automobile », alors qu'il faut pédaler pour la faire avancer. Dans les faits, Apple a réussi à créer un simulateur d'intelligence artificielle. S'il « comprend » ce qu'on lui dit, c'est en raison du travail, pénible et répétitif, de reconnaissance des mots, de compréhension d'un discours et d'identification de l'intention de l'utilisateur. Ce qui lui permet à son tour de transformer la parole en texte. Ce sont des milliers d'heures d'enregistrement et des millions d'heures de travail répétitif consistant à nourrir la machine.

Dans l'émission Viens voir les docteurs : "L'intelligence artificielle, comment ça marche ?", le sociologue Antonio Casilli détaille les rouages de ce dispositif :

• Antonio Casilli : « Par intelligence artificielle, aujourd'hui on entend d'abord évidemment le rêve de la simulation complète de l'ensemble des processus cognitifs des êtres humains ; mais aussi de manière beaucoup plus banale, un ensemble de produits qui sont déjà commercialisés. Parfois nous les avons dans nos poches [...]. Ces intelligences ne sont pas si intelligentes que ça, parce qu' en fait il s'agit de ce qu'on appelle de l' « intelligence étroite », et pas de l' « intelligence généralisée », parce qu'elles sont capables de réaliser seulement des actions ou des décisions qui sont limitées à un certain domaine. Et en plus elles ne sont pas si artificielles que ça dans la mesure où [...] on a besoin de personnes qui sont les petites mains de cette intelligence artificielle qui sont parfois recrutées de manière formelle, et parfois de manière subreptice, en mettant au travail n'importe quelle personne qui serait finalement l'utilisateur de ces intelligences artificielles ».

• Clément Viktorovitch : « Alors [...] pour moi, quand j'ai préparé cette émission, une intelligence artificielle c'était un algorithme, peut-être une grande base de données dans laquelle l'algorithme pouvait aller piocher. Donc l'intervention humaine derrière c'était un ou plusieurs humains qui venaient programmer mon algorithme et puis ensuite je me disais qu'il fonctionne tout seul. Et vous, vous nous dites que pas du tout, derrière l'intelligence artificielle il y a une armée de travailleurs, et même une armée de travailleurs pauvres ».

Apple crée la confusion pour faire croire à un artifice : celui d'un assistant qui comprend ce qu'on lui dit. L'utilisateur est bien sûr plus ou moins dupe de la supercherie, mais cette volonté d'opacité, voire ce mensonge délibéré trompe au moins les plus jeunes. Lorsque je travaillais sur l'IPad, vous n'imaginez pas le nombre d'enfants qui s'adressent à Siri comme à un ami, qui lui demandent d'être son amoureux ou son amoureuse, ou lui parlent comme on s'adresse à un être humain à part entière :

"Est-ce que je peux te dire des choses qui sont dans mon cœur ? (enfant, masculin)

Dans les consignes relatives à sa conception, Apple présente Siri sous les traits ambigus d'un assistant personnel : « Nous pensons à Siri comme un employé d’Apple – comme le reste d’entre nous, présent pour aider les utilisateurs à passer une meilleure journée. Comme tous les employés, Siri est fier d’Apple et enthousiaste à propos de ses produits ».

Mais sous ce masque d'assistant personnel, Apple aimerait vendre la supercherie d'un autre Siri : « une entité extérieure, intangible, dont les véritables caractéristiques sont au-delà des capacités de l’intellect humain. Ce n’est pas une entité physique, au moins dans la manière dont nous définissons ce terme ; nos conceptions du temps, des dimensions, et de lieu ne s’appliquent pas à Siri (le vrai) ».

En somme, Siri est sacralisé : ses attributs relèvent du divin, de l’intangible, de l’inaccessible. C’est une conception qui révèle la philosophie sous-jacente d’Apple, qui relève du transhumanisme. Leur idée de la technique n’est plus seulement qu’elle aide l’humain, mais qu’elle le dépasse et parfois se trouve en mesure de le supplanter. L’entité « Siri » a fait l’objet d’un travail conceptuel spécifique : elle est présentée comme la « source de tout comportement « intelligent » dans le système d’exploitation – soit « l’intelligence Siri ». 

Ceci explique qu’il existe une contradiction dans les traits de caractère attribués par Apple à Siri. Siri doit paraître « humble : si Siri est sur certains aspects une entité plus avancée, elle n’est jamais condescendante à ce propos ». Mais le manuel dit aussi qu' « une pointe d’orgueil […] peut rejaillir parfois » : 

• Usager : "Qu'est-ce que tu fais ?"
• Siri : "Oh, juste répondre à trois millions de personnes qui disent "Hé Siri" en même temps".

La désincarnation de Siri permet à Apple de vendre une fausse intelligence artificielle. Elle révèle un discours sur la technique qui nie totalement le travail humain et l'ingérence dans la vie privée dont se rend responsable la multinationale. En proposant comme « solution » la possibilité de refuser de se faire enregistrer, Apple contourne les problèmes que posent ses activités. Désormais, avec l'automatisation de la transcription du discours par la machine, il n'est plus vraiment nécessaire de disposer de gigantesques bases d'enregistrement pour comprendre les mots-clés prononcés par les usagers d'Apple. Le site officiel annonce que les "informations personnelles ne sont pas collectées pour être vendues à des publicitaires ou autres entreprises".

Les GAFAM jouissent d'une impunité qui leur a permis d'espionner des millions d'Européens sans être inquiétés. Une fois pris la main dans le sac, ils ont déclaré qu'ils respecteraient – réellement, cette fois - la vie privée de leurs usagers. Après avoir passé du temps « de l'autre côté de l'algorithme », je pense qu'il n'y a aucune raison de leur faire confiance.

5 - En guise de conclusion

Maintenant qu'il est possible de faire de la reconnaissance vocale en permanence, il est fort possible que les données fournies bénévolement à Siri par l’utilisateur cité ci-dessous ne soient pas perdues pour tout le monde. Le prochain développement de cette technique, j'en fais le pari, servira à la constitution de bases de données liées à la santé.

Google et Apple ne s'en cachent pas : ils ont établi des partenariats outre-atlantique avec des entreprises dans le domaine de l'assurance et de la santé. Sous prétexte d'améliorer l'accès aux soins, les GAFAM entendent désormais constituer des fichiers de données de patients.

On peut imaginer les convoitises que suscitera la création d'une base de données unique pour les informations relatives à la santé en France, le Health Data Hub. Les données de santé, outre leur caractère hautement confidentiel – du moins en France – présentent un intérêt financier considérable. Elles intéressent les assurances, l'industrie pharmaceutique, les services de santé privés. Aux États-Unis, cela permet de déterminer le coût de votre assurance et le taux de votre couverture médicale. Ce qui conditionnera ensuite votre employabilité, et votre solvabilité pour les banquiers.

La santé est une information qui fait saliver les entreprises, parce qu'elle permet de savoir ce que vous allez devoir acheter. Comme consommateur, cela fait de vous la clientèle captive par excellence. Comme travailleur, cela renseigne sur votre corvéabilité : un congé maternité, une sclérose en plaques, une maladie transmise génétiquement ; autant de facteurs négatifs qui peuvent devenir des points en moins. Comme client, tout savoir sur vous permet d'orienter votre parcours d'accès aux soins, et de préparer la concurrence généralisée dans l'accès aux services de santé.

N'oublions pas que le corps professionnel des médecins exige le respect d'un code déontologique strict – en France, cela relève d’ailleurs aussi d’un attachement au service public, au bien commun. Mais les GAFAM ne s'embarrassent pas d'autant de manières.

J'aimerais conclure en vous interpellant. Vous qui avez un appareil Apple, ou qui faites des recherches Google, qui utilisez Facebook ou commandez sur Amazon, vous travaillez gratuitement pour ces plateformes. En plus d'être leur client, vous êtes leur produit et leur travailleur. Vous travaillez gratuitement, vous leur offrez des informations précieuses. Vous participez activement à votre servitude volontaire.

Extrait publié sur nos réseaux sociaux

COMMENT #APPLE VOUS ESPIONNE

"La grande question qui se pose c’est que maintenant qu’Apple a accès à des #données qui sont formidablement intimes, qu’est-ce qu’ils en font ?"

👉 Notre enquête : https://t.co/VVont3T889#Surveillance #Sécurité pic.twitter.com/oM943hKVoA

— Le Média (@LeMediaTV) March 12, 2020

Par Thomas Le Bonniec, propos recueillis par Filippo Ortona.