Un quotidien allemand a révélé, début décembre, des documents liés à la politique de modération de Facebook. L’entreprise est sur la défensive.
Le 16 décembre, le journal allemand Süddeutsche Zeitung publie des documents éclairants concernant les techniques de modération de Facebook. L’entreprise américaine, chez qui la culture du secret est reine, entretient un flou sur ses techniques de modération, souvent remises en cause en raison de leur classification jugée arbitraire et parfois incohérente des « discours haineux ». En septembre, le réseau social avait censuré la célèbre photo de Nick Ut – récompensée par le prix Pulitzer, elle représentait une fillette nue et brûlée – qui deviendra le symbole de la violence de la guerre du Vietnam. Une censure qui avait provoqué une vive polémique et obligé Facebook à revenir sur sa décision. En 2015, c’est une photo de la toile L’Origine du monde de Gustave Courbet, représentant un sexe féminin, qui avait été supprimée. L’internaute à l’origine de la publication, furieux de cette réaction, avait porté plainte, dénonçant une « censure aveugle » et reprochant à Facebook de ne pas différencier une image pornographique d’une œuvre d’art. Une critique toujours d’actualité.
Le géant américain reste, en effet, extrêmement vague sur sa politique de modération. Dans le « Community Guidelines », la charte des bonnes pratiques de l’entreprise accessible au public, il est écrit que les « discours haineux » seront sanctionnés. La définition que donne Facebook d’un discours haineux est très tranchée, presque mathématique : « catégorie protégée + attaque = discours haineux ». En clair, une publication qui contiendrait une attaque visant une « catégorie protégée » serait passible de sanctions sur le réseau social. Reste à savoir ce qu’inclut cette appellation « catégorie protégée ». Dans la charte, on apprend que ces catégories concernent l’orientation sexuelle, les origines ethniques, le sexe, le genre, la religion, la nationalité, le handicap ou encore la maladie.
Une équipe de 600 personnes à Berlin
On en apprend plus dans les documents publiés par la Süddeutsche Zeitung. Ainsi, les catégories ayant droit à une certaine protection s’étendraient en fonction de l’âge, de l’emploi, du statut social, de l’apparence et de l’appartenance politique. D’après ces documents, Facebook préciserait la manière de mieux cibler les attaques contre ces catégories à grand renfort de formules mathématiques. Des formules qui ressembleraient à « PC (pour catégorie protégée) + PC = PC », ou encore « PC + NPC = NPC », indique Le Monde.fr. Comprendre : une publication associant deux catégories protégées forme une catégorie protégée. Par exemple, un internaute publiant « les hommes catholiques sont idiots » pourrait être sanctionné. En effet, les « hommes catholiques » regroupent les catégories « sexe » et « religion ». Par contre, les adolescents catholiques ne font pas partie des catégories protégées. Il est donc possible d’écrire que « les adolescents catholiques sont idiots », et ce, sans subir de sanctions. Le Monde.fr explique qu’il est facile de passer à travers les mailles du filet de la modération sur Facebook. L’article met en avant le cas des migrants qui appartiennent à une « catégorie quasi protégée ». Une classification qui permettrait la publication de messages haineux sous certaines formes : « Il est par exemple acceptable, selon ces règles, d’écrire que les migrants sont sales, mais pas que ce sont des saletés. » Des formules manquant de souplesse, et peut-être non adaptées à des cas qui nécessitent bien souvent une certaine réflexion ou, du moins, un certain discernement.
Le quotidien allemand révèle également de plus amples informations sur les secrètes équipes chargées de la modération au sein de Facebook. D’elles, on ne connaît ni le nombre, ni les qualifications, ni le mode de recrutement. D’après les informations de la Süddeutsche Zeitung, l’équipe serait constituée de six cents personnes à Berlin. Certains membres de l’équipe se plaindraient du fait que « les règles sur ce qui devrait être supprimé ou non ne sont pas claires ». Contacté par Le Point.fr, Facebook n’a pas souhaité confirmer la véracité de ces documents. Quant aux questions concernant les équipes de modération basées en France, le géant américain répond qu’il ne souhaite pas communiquer de chiffres, mais il évoque « des équipes réparties dans plusieurs centres autour du globe afin d’assurer une gestion des contenus permanente ». Sur le traitement des signalements, il est précisé que « dès le premier signalement, le contenu est consulté et analysé par une équipe dédiée mobilisée 24 heures sur 24, 7 jours sur 7 ». Une langue de bois à peine déguisée qui entretient le brouillard entourant la politique interne de l’entreprise américaine.
De quelle liberté parle t-on ici ? C’est du contrôle mental à l’état pur. Les régimes totalitaires en avaient rêvé, Facebook l’a fait !