Facebook, Google et co

Les pla­te­formes contre la démocratie

Les grandes pla­te­formes numé­riques ont acquis une place pré­pon­dé­rante dans la dif­fu­sion et la pro­duc­tion de l’information. Elles posent de nom­breuses ques­tions pour notre cri­tique. Ces pla­te­formes sont-elles des médias à part entière ? Com­ment inter­viennent-elles dans le débat public ? Ont-elles une ligne édi­to­riale, voire poli­tique ? Pour amor­cer une réflexion cri­tique sur le rôle des grandes pla­te­formes dans le sys­tème média­tique, nous nous sommes entre­te­nus avec Arthur Mes­saud et Benoît Pié­dal­lu de la Qua­dra­ture du Net, asso­cia­tion de défense et de pro­mo­tion des droits et liber­té sur Internet.

Acri­med : On a beau­coup par­lé de la sus­pen­sion des comptes Twit­ter et Face­book de Trump suite à l’attaque du Capi­tole par ses par­ti­sans en jan­vier. Pour les com­men­ta­teurs, cela pose la ques­tion du pou­voir de cen­sure des grandes pla­te­formes. Que vous ins­pirent ces débats ?

Qua­dra­ture du Net : La cen­sure du compte de Trump est un cas très par­ti­cu­lier. Elle a le mérite de rap­pe­ler qu’il ne faut pas attendre des grandes pla­te­formes qu’elles soient les garantes de la liber­té d’expression ou de la démo­cra­tie. Face­book ou Twit­ter sont certes deve­nus des lieux de débat, y com­pris poli­tiques, mais ce sont avant tout des entre­prises pri­vées. Leur modèle éco­no­mique, leur orga­ni­sa­tion est entiè­re­ment orien­tée vers le gain finan­cier et les reve­nus publi­ci­taires – qui repré­sentent jusqu’à 95% du chiffre d’affaires dans le cas de Face­book. Il s’agit donc, pour elles, d’organiser la visi­bi­li­té des publi­ca­tions de sorte à inci­ter les uti­li­sa­teurs à res­ter ou à reve­nir. Ce qui est tota­le­ment incom­pa­tible avec ce que pour­rait être un outil de débat d’intérêt public. Ces pla­te­formes sont des espaces pri­vés, elles ne répondent à per­sonne ou presque et sup­priment régu­liè­re­ment des comptes, notam­ment de mili­tants politiques.

La cen­sure du compte Twit­ter de Trump est cepen­dant un sujet tout à fait secon­daire en matière de liber­tés sur inter­net, en com­pa­rai­son à d’autres sujets comme le règle­ment « anti-ter­ro­riste », en cours d’adoption dans l’Union euro­péenne. Les médias sont tel­le­ment fri­leux de se frot­ter à des sujets un tout petit peu com­pli­qués… Ils pré­fèrent se jeter à corps per­du dans des débats faciles – et sou­vent inin­té­res­sants – comme c’est le cas pour la sus­pen­sion du compte de Trump. Mais lorsqu’il s’agit des liber­tés des citoyens, avec des vrais textes qui ont des consé­quences pour toutes et tous, c’est la démis­sion totale. On a été par­mi les rares à par­ler du texte règle­ment « anti-ter­ro­riste » qui pose de graves pro­blèmes pour les liber­tés, pen­dant que les com­men­ta­teurs étaient occu­pés à dis­ser­ter sur Trump. Que son compte soit cen­su­ré par Twit­ter ou Face­book n’a, au fond, pas grande impor­tance. Il n’y a pas de liber­té d’expression à sau­ver sur Twit­ter et Face­book. Ces pla­te­formes sont faites pour orga­ni­ser l’expression à des fins com­mer­ciales. Ce qui ne veut pas dire qu’il n’y a pas d’enjeux à leur faire rendre des comptes.

Il est vrai qu’on a très peu enten­du par­ler de ce règle­ment anti-ter­ro­riste. Pour­riez-vous nous en dire deux mots ?

En deux mots, il s’agit de don­ner à toutes les polices euro­péennes le pou­voir, sans l’intervention d’un juge, de deman­der à n’importe quel héber­geur de reti­rer en une heure un conte­nu, du moment qu’elle le consi­dère comme rele­ver du ter­ro­risme. Ça veut dire que si la police hon­groise contacte un média fran­çais et exige de reti­rer un conte­nu de son forum, celui-ci doit s’exécuter en une heure sous peine de sanc­tions éco­no­miques ou même de sanc­tions pénales. Je parle de la police hon­groise, mais c’est aus­si valable a for­tio­ri pour la police fran­çaise. Ces dis­po­si­tions sont simi­laires à celles de la loi Avia qui avait été cen­su­rées en 2020 par le Conseil consti­tu­tion­nel, heu­reu­se­ment, mais qui reviennent au niveau euro­péen. C’est vrai­ment la loi de cen­sure la pire qu’on ait vu depuis dix ans… mais là encore, per­sonne n’en parle, les grands médias s’en contrefichent.

En termes de cen­sure en ligne, de mise en visi­bi­li­té ou d’invisibilisation de conte­nus et pro­pos, les pla­te­formes semblent jouer un rôle de plus en plus impor­tant. Com­ment jus­ti­fient-elles ce rôle d’organisation du débat, et peut-on dire qu’elles suivent une forme de « ligne éditoriale » ?

Il faut bien voir que les grandes pla­te­formes reven­diquent de faire de la cen­sure et d’avoir une ligne édi­to­riale. Ce n’est pas quelque chose de caché. Par exemple, la Com­mis­sion euro­péenne a signé de nom­breux accords et d’engagements de lutte contre le ter­ro­risme avec Face­book, Google, Twit­ter ou Micro­soft qui se montrent extrê­me­ment pro-actifs et volon­taires. Au point que ce sont eux qui vont sus­ci­ter des ini­tia­tives pour déployer des dis­po­si­tifs de cen­sure « inno­vants ». Ces tech­no­lo­gies pour­ront par la suite être impo­sées et géné­ra­li­sées par la loi, ce qui per­met­tra aux grandes pla­te­formes de vendre leurs outils. En matière de lutte contre cer­tains types de conte­nus de haine, c’est la même chose, ils sont très pro-actifs.

Ce n’est pas la dépu­tée Avia qui a sou­hai­té impo­ser aux pla­te­formes de faire un tra­vail de cen­sure, c’est l’inverse : c’est Face­book qui est venu aux poli­tiques en leur disant : « regar­dez ce qu’on fait, nous, il faut géné­ra­li­ser ces pra­tiques ». Et cela repré­sente une oppor­tu­ni­té pour les pla­te­formes de vendre leurs outils de cen­sure en ligne. Lorsque le patron de Face­book, Mark Zucker­berg, a été audi­tion­né au Par­le­ment euro­péen, il disait : « nous avons des res­pon­sa­bi­li­tés édi­to­riales ». Il le reven­dique, ce n’est pas un aveu. Ce ne sont ni des pos­tiers, ni un réseau de télé­com­mu­ni­ca­tions, ce sont des médias qui veulent jouer un rôle poli­tique ; et pour avoir un pou­voir poli­tique, il faut assu­mer les res­pon­sa­bi­li­tés qui vont avec.

Com­ment fonc­tionnent ces outils « inno­vants » de cen­sure en ligne ?

Face­book tout par­ti­cu­liè­re­ment met en avant des outils d’intelligence arti­fi­cielle cen­sés détec­ter auto­ma­ti­que­ment les conte­nus pro­blé­ma­tiques qui contre­viennent à la « charte » de la pla­te­forme, les conte­nus ter­ro­ristes par exemple. Avec un dis­cours selon lequel l’intelligence arti­fi­cielle va tout régler en enle­vant « l’humain » de la boucle. En réa­li­té, on sait que ça ne marche pas, ou du moins qu’il est néces­saire d’avoir des per­sonnes en chair et en os qui tra­vaillent der­rière : pour rem­plir les bases de don­nées, aider à l’apprentissage, cor­ri­ger les erreurs 1. Des métiers très dif­fi­ciles par ailleurs… Quoiqu’il en soit, on est loin aujourd’hui d’avoir des outils qui fonc­tionnent de manière auto­nome. Et au-delà de cela, il y a de nom­breuses ques­tions qui se posent sur la manière dont fonc­tionnent les algo­rithmes de modé­ra­tion, et sur leur inca­pa­ci­té par exemple à sai­sir ce qui relève de l’humour, ou du débat poli­tique. Le risque étant de jus­ti­fier la cen­sure : « c’est la machine qui a pris la décision ».

Outre cette dimen­sion auto­ma­ti­sée, les méca­nismes de modé­ra­tion recourent éga­le­ment à la dénon­cia­tion des conte­nus par les uti­li­sa­teurs. Au bout d’un cer­tain nombre de signa­le­ments, il y a un évé­ne­ment qui est déclen­ché au sein de la pla­te­forme : soit la sup­pres­sion auto­ma­tique du compte et on voit ce qui se passe, si la per­sonne se plaint ou pas ; soit un ou une employée qui va regar­der si oui ou non le signa­le­ment est jus­ti­fié. Un des pro­blèmes étant celui des recours : il est très dif­fi­cile d’avoir une réponse des pla­te­formes une fois la déci­sion prise – si ce n’est un mes­sage auto­ma­tique et géné­rique. On l’a dit, il y a l’exemple de nom­breux mili­tants, notam­ment de mili­tantes LGBT, dont le compte a été sus­pen­du sur Twit­ter pour des pro­pos poli­tiques ou le recours à des termes jugés insul­tants 2. Il y a éga­le­ment l’exemple du média « Rap­port de forces », très pré­sent sur Face­book, qui a vu les men­tions et les liens vers ses pages cen­su­rés. Ils ont eu énor­mé­ment de dif­fi­cul­té à obte­nir une réponse de Face­book, ils ont dû prendre un avo­cat et mena­cer la pla­te­forme de pour­suite pour pou­voir récu­pé­rer l’usage de leur page et la pos­si­bi­li­té de republier.

Il faut bien com­prendre que ce sont ces méca­nismes de modé­ra­tion qui sont pro­mus à tra­vers la loi Avia ou le règle­ment « anti-ter­ro­riste ». Les outils à base d’intelligence arti­fi­cielle sont mis en avant par les gou­ver­ne­ments en disant : « ils sont capables de faire ça, on peut deman­der la sup­pres­sion auto­ma­ti­sée des conte­nus en une heure ». Outre la ques­tion des erre­ments d’une telle modé­ra­tion, cela pose un autre pro­blème : il n’y a que les grandes pla­te­formes qui seront capables de tenir de telles contraintes. Ce qui pose un coût à l’entrée très impor­tant pour les nou­velles pla­te­formes sociales, qui seront contraintes d’acheter un ser­vice à Face­book par exemple à défaut de pou­voir se confor­mer à la loi.

La fron­tière n’est-elle pas par­fois ténue entre ce tra­vail de modé­ra­tion et une forme de cen­sure politique ?

Il y a une modé­ra­tion qui est néces­saire, et mise en oeuvre à juste titre. Mais il y a aus­si une modé­ra­tion qui s’apparente à une cen­sure poli­tique. Pen­dant la crise des gilets jaunes, il y a eu des cen­taines de comptes et de pages qui ont été fer­més. Et on peut redou­ter que Face­book ait un peu tiré sur la corde, sur ses condi­tions géné­rales d’utilisation (CGU), pour bien être vu du gou­ver­ne­ment. Et ça, quand on est atta­qué de toute part en matière de pro­tec­tion des don­nées, c’est assez malin. Du côté des gou­ver­ne­ments, quand on voit le règle­ment « anti-ter­ro­riste », on voit bien qu’il y a une ten­ta­tion d’instrumentaliser la modé­ra­tion à des fins de cen­sure poli­tique. On a déjà vu de telles mesures être mises en œuvre contre des mili­tants d’extrême-gauche dont les com­por­te­ments ont été qua­li­fiés par la police comme rele­vant du ter­ro­risme pour béné­fi­cier de pou­voirs de cen­sure excep­tion­nels. Donc ça a déjà été fait, et s’ils veulent étendre pos­si­bi­li­tés, c’est pour lut­ter contre Daesh certes, mais aus­si contre l’extrême-gauche. His­to­ri­que­ment, les lois de cen­sure ou lois scé­lé­rates ont été mises en œuvre pour répri­mer les mou­ve­ments anarchistes.

Les pla­te­formes et les gou­ver­ne­ments sont-ils main dans la main en matière de cen­sure en ligne ?

Il y a vrai­ment une rup­ture en 2015, les atten­tats en France ont été un déclen­cheur. Avant cette date, dans les rap­ports de trans­pa­rence de Face­book, la France était le pays qui fai­sait le plus de demandes de retraits de conte­nu de la part de la police, bien devant l’Inde, par exemple. Après 2015, c’est deve­nu presque zéro, il n’y avait pra­ti­que­ment plus de signa­le­ments faits par la police, parce que Face­book a pris en interne toutes les demandes : la pla­te­forme fai­sait elle-même le tra­vail de détec­tion des conte­nus ter­ro­ristes. Ce qui révèle bien l’évolution.

Il faut voir que, entre les pla­te­formes et le gou­ver­ne­ment, tout le monde a à y gagner dans ce jeu-là : d’un côté les pla­te­formes gagnent en légi­ti­mi­té, ce qui est bon pour les affaires… et leur per­met éga­le­ment de conti­nuer à enfreindre la loi en matière de pro­tec­tion des don­nées per­son­nelles et de publi­ci­té sans être jamais inquié­tées, parce qu’elles font le sale bou­lot de la cen­sure du Web pour le compte de l’État. Aujourd’hui, s’il n’y a pas quo­ti­dien­ne­ment des scan­dales, des affaires d’harcèlement qui conduisent au sui­cide, c’est aus­si parce que Face­book et Google font le tra­vail que ne fait pas la jus­tice parce qu’elle n’est pas du tout équi­pée. Et ça les gou­ver­ne­ments en ont par­fai­te­ment conscience. Lae­ti­tia Avia l’a dit, elle consi­dère Face­book comme un exemple de ce qu’il fau­drait faire en termes de modé­ra­tion. Le gou­ver­ne­ment est très recon­nais­sant vis-à-vis des grandes pla­te­formes. En échange, il n’est pas du tout regar­dant en matière de pro­tec­tion des don­nées per­son­nelles, et c’est notam­ment pour ça que le Règle­ment géné­ral sur la pro­tec­tion des don­nées (RGPD) n’a jamais été réel­le­ment appli­qué à ces entre­prises depuis deux ans. Entre elles et les gou­ver­ne­ments, tout le monde est gagnant. Et tant que ces gigan­tesques pla­te­formes exis­te­ront ce sys­tème per­du­re­ra parce que leur fonc­tion­ne­ment même pose pro­blème en soi, et parce que la jus­tice n’aura jamais les moyens de faire le tra­vail de modé­ra­tion que font Face­book et Google.

Pour reve­nir à la « ligne édi­to­riale » des pla­te­formes évo­quée pré­cé­dem­ment, en quoi celle-ci peut-elle être syno­nyme de ligne poli­tique ? En d’autres termes, les pla­te­formes sont-elles par­ti­sanes, peuvent-elles favo­ri­ser telle ou telle ligne poli­tique, voire per­son­na­li­té politique ?

Google et Face­book sont des publi­ci­taires, leur métier consiste à mettre en avant des mes­sages. S’ils sentent que leurs par­te­naires ont le vent dans le dos, qu’ils sont puis­sants, et qu’ils leur demandent de faire ceci ou cela, ils le feront volon­tiers, et de manière pro-active. Dans le cas des États-Unis, s’ils sentent que ce sera Biden qui va gagner les élec­tions, ils sui­vront le vent et s’en pren­dront à Trump. Mais lorsque Trump était au pou­voir, ils se sont bien gar­dés de le faire. Ils sont là pour faire des affaires, pas pour être un ser­vice public, pour rendre ser­vice à l’humanité. La seule cause, c’est celle du plus offrant. Demain, vous arri­vez avec des mal­lettes de billets pour pro­mou­voir vos avions, vos 4x4 ultra­pol­luants, ils met­tront votre publi­ci­té en pre­mier – quitte à ce que cela contri­bue à détruire la planète.

Com­ment faire pour rompre avec le sys­tème de ces grandes pla­te­formes ? Faut-il les démanteler ?

Pour nous, ces pla­te­formes ne devraient pas exis­ter. Nous ne défen­dons pas for­cé­ment l’idée d’un déman­tè­le­ment de type anti­mo­no­po­lis­tique ; par contre il est clair que si on appli­quait vrai­ment les mesures de pro­tec­tion des don­nées per­son­nelles, elles ne seraient plus en mesure d’être ren­tables, de fonc­tion­ner. Aujourd’hui, elles font des béné­fices uni­que­ment parce qu’elles enfreignent la loi. Une appli­ca­tion réelle du RGPD aurait donc poten­tiel­le­ment pour consé­quence un déman­tè­le­ment de fait.

Au-delà de la ques­tion de la pro­tec­tion des don­nées, nous consi­dé­rons qu’il faut limi­ter le pou­voir et le carac­tère cen­tral de ces pla­te­formes. Il devrait y avoir une limite de taille à par­tir de laquelle on consi­dère qu’une pla­te­forme est géante et on lui impose une obli­ga­tion d’interopérabilité. C’est-à-dire, obli­ger ces pla­te­formes à ouvrir leur réseau aux autres pla­te­formes, de sorte qu’il soit pos­sible de par­tir de ces réseaux tout en conser­vant la pos­si­bi­li­té d’interagir avec les uti­li­sa­teurs de la pla­te­forme : envoyer un mes­sage, suivre un fil, etc. C’est typi­que­ment le fonc­tion­ne­ment du mail : on peut avoir des logi­ciels ou ser­veurs de mail dif­fé­rents, mais ils sont tous capables de fonc­tion­ner en inter­opé­ra­bi­li­té. Idem pour le Web : il existe un nombre très dif­fé­rent de navi­ga­teurs et de ser­veurs qui per­mettent d’afficher des pages Web. Cette obli­ga­tion d’interopérabilité pour­rait s’appliquer aux mes­sa­ge­ries ins­tan­ta­nées comme What­sapp, Tele­gram, Signal ou encore Mes­sen­ger : il suf­fi­rait d’un logi­ciel de mes­sa­ge­rie pour échan­ger avec les uti­li­sa­teurs de toutes ces applications.

Là encore, l’obligation d’interopérabilité pour­rait conduire à un déman­tè­le­ment de fait des grandes pla­te­formes. Ou du moins, une réduc­tion de leur taille, en favo­ri­sant le déve­lop­pe­ment d’une myriade de nou­veaux outils de réseaux sociaux, vers les­quels les gens iraient plus faci­le­ment. Ce prin­cipe d’interopérabilité pro­gresse dans les esprits. Cela fait deux ans que le patron de Twit­ter évoque l’idée d’un pro­to­cole dont Twit­ter serait un client – deve­nant ain­si une pla­te­forme par­mi d’autres au sein d’un plus grand réseau. Une manière, peut-être, d’anticiper les évo­lu­tions régle­men­taires dans un contexte où le prin­cipe d’interopérabilité est de plus en plus dis­cu­té dans dif­fé­rentes instances.

Au-delà des ini­tia­tives régle­men­taires ou des anti­ci­pa­tions des indus­triels, des alter­na­tives ont déjà été mises en place par des béné­voles et mili­tants. Ces outils de réseaux sociaux inter­opé­rables consti­tuent le Fedi­verse, l’univers de toutes les pla­te­formes fédé­rées et inter­con­nec­tées par le pro­to­cole de com­mu­ni­ca­tion ouvert Acti­vi­ty­Pub, publié par l’organisme de nor­ma­li­sa­tion du Web (W3C). Nous y contri­buons à tra­vers notre propre ins­tance du réseau social Mas­to­don. Tout ceci montre bien qu’il ne s’agit pas d’utopie, mais d’alternatives néces­saires face à la main­mise des grandes plateformes.

  1. Voir à ce sujet l’interview d’une tra­vailleuse qui a oeu­vré pour l’amélioration de l’algorithme d’intelligence arti­fi­cielle de l’assistant vocal de Micro­soft, Cortana. 
  2. Un article de Media­part relayait à cet égard les inquié­tudes des acti­vistes LGBT fran­çais à pro­pos de sup­pres­sions de comptes et de mes­sages sur Twit­ter et Facebook.