Quand Facebook sous-traite le contrôle du contenu au Maroc

0
307
Facebook

/Dans un document rédigé par un salarié de Facebook, dans une note sur les limites du recours à l’intelligence artificielle pour la modération en langue arabe, on apprend que les principaux modérateurs arabophones se trouvent à… Casablanca

Il y a quelques semaines Frances Haugen, une ingénieure de 37 ans qui a travaillé durant deux ans comme spécialiste des algorithmes au sein d’une division dédiée à « l’intégrité civique » de Facebook, où elle était chargée d’observer les phénomènes de désinformation liés aux élections, a révélé un énorme scandale. En démissionnant de son poste elle a remporté des dizaines de milliers de documents compromettants sur «l’obsession» de profit de l’entreprise américaine. Ces documents dissimulés par Facebook et publiés au cours du mois de septembre par le Wall Street Journal, décrivent une entreprise cynique et amorale, totalement consciente de son impact négatif sur la société, qui décide en toutes circonstances de faire primer ses profits sur la démocratie et la santé mentale de ses utilisateurs. Facebook est ainsi accusé d’avoir consciemment désactivé des filtres contre les fake news après l’élection présidentielle américaine de 2020. Facebook a aussi été utilisé par des internautes dans la préparation de l’attaque du Capitole en janvier 2021. Wall Street Journal révèle également l’existence d’un traitement de faveur accordé à des millions de personnalités publiques (politiciens, célébrités, sportifs, etc.) avec des règles de modération plus souples que pour le reste des utilisateurs, créant ainsi un système de collèges au sein du même réseau.

Comme un malheur n’arrive jamais seul, Facebook a également subi la panne la plus importante de son histoire lorsque l’ensemble des services de son écosystème sont restés inaccessibles plus de six heures le 4 octobre dernier. Cet incident a rappelé notre vulnérabilité à tous face à cette position quasi monopolistique acquise par l’empire de Marc Zuckerberg. Aujourd’hui, de nombreux spécialistes se posent beaucoup de questions sur la fiabilité d’un tel conglomérat qui peut mettre en péril la sécurité de nombreux pays, et qui peut être utilisé dans la cybercriminalité, voir dans les guerres de 4e génération.

Dialectes dites-vous ?

Maintenant que les langues se délient, on commence à apprendre des vertes et des pas mûres  sur cette vulnérabilité en matière de modération  des contenus subversifs surtout… arabophones et l’inertie de Facebook à y mettre fin. L’arabe est devenu aujourd’hui la troisième langue utilisée sur le réseau social, faisant des pays arabophones d’Afrique du Nord et du Moyen-Orient un marché majeur pour Facebook, avec 220 millions d’utilisateurs actifs. «Mettre davantage de ressources pour améliorer les systèmes [de modération] en langue arabe est de la plus haute importance», peut-on lire dans un document rédigé, fin 2020, par un salarié, dans une note sur les limites du recours à l’intelligence artificielle pour la modération. On apprend dans ce document que Facebook n’a pas les capacités de d’examiner tous les commentaires en langue arabe par des modérateurs compétents qui peuvent comprendre les nuances culturelles de chaque pays arabe en plus des différents  dialectes utilisés, souvent divergents même dans le même pays. On y append aussi sur le même document, cité dans le journal Le Monde daté du 26 octobre, que les modérateurs arabophones, sont  principalement situés à Casablanca (Maroc) et à Essen (Allemagne), et c’est eux qui modèrent des contenus rédigés dans un dialecte qu’ils ne maîtrisent pas forcément.

Un choix arbitraire

En plus du fait que ces modérateurs actionnent des contenus écrits par des dialectes qu’ils ne maitrisent pas, ils ont la latitude de censurer ou de diriger des attaques vers n’importe quelle cible. «Et cette carence touche toute la chaîne, des simples modérateurs à ceux chargés de superviser la modération», continue le rapport. Facebook a essayé d’automatiser la modération qui doit être enrichie au fur et à mesure, mais du fait de l’absence de compétences humaines capables de maitriser les dialectes arabes, cette opération patine.  Ce choix arbitraire de ne pas loger tous les pays à la même enseigne pose aujourd’hui un problème sérieux quand à la capacité de Facebook de mettre fin aux fake news dirigées vers certains pays dont l’Algérie. Aujourd’hui, on ne peut pas sous-traiter la modération d’un contenu dirigé vers l’Algérie à partir du Maroc en sachant toutes les bisbilles qui caractérisent les relations entre les deux plus grands pays du Maghreb. Cette anomalie explique la présence, sur la toile, d’informations déroutantes sur la situation politique dans notre pays et des illogismes qui lient par exemple le Polisario au terrorisme islamiste.  Si des pays, pour une raison ou une autre, ont fait le choix de bloquer ce réseau social, ce n’est pas le cas de l’Algérie, et à juste titre d’ailleurs, mais qui n’a mené aucune action envers Facebook pour au moins protester contre la masse de fake news, qui envahissent la toile et dont le contenu subversif représente une vraie menace pour la sécurité de notre pays. Le moteur de recherche Microsoft-explorer n’est pas en reste, puisque la plateforme qui gère le contenu dirigé vers les pays d’Afrique du Nord se trouve aussi à Casablanca et se fait un plaisir d’ignorer le plus grand pays du Maghreb. Alors que cette entreprise fait aussi du business en Algérie et possède des intérêts non négligeables pour ne pas  prendre en considération l’importance d’un contenu algérien «sérieux» et impartial. Là aussi, une action de notre pays est souhaitée et ce ne sont pas les leviers de pression qui manquent.

N. A.

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici