Pourquoi la censure et le filtrage ne marchent pas ? L’exemple des réseaux liés aux troubles de l’alimentation

Filtrer le web pour y éliminer ce qui nous dérange semble a beaucoup une solution simple, magique et logique. Qu’importe si cela ne fait que déplacer le problème ! Car bien souvent, en réaction, les contenus filtrés évoluent, se renouvellent, se déplacent sans réellement disparaître : sur de nouvelles plateformes, dans d’autres espaces, sur d’autres outils qui les rendent toujours plus diffciles à repérer (protection par mots de passes, langage cryptés...). On ferme Mega Upload et 100 000 refleurissent.

En s’intéressant aux blogs et forums qui évoquent les troubles de l’alimentation, pourchassés sous prétexte qu’ils en font la promotion, les sociologues Antonio Casilli, Fred Pailler et Paola Tubaro nous proposent de porter un autre regard sur le filtrage et la censure. Ils montrent d’abord que celle-ci n’a pas grand effet sur l'existence même des contenus. En étudiant la composition de ces sites, ils montrent comment leur structuration leur permet de continuer d’exister et de se renouveler. Pire, cette censure (potentielle comme véritable) affecte la forme du réseau, destructure les blogs pivots permettant de faire circuler l’information et favorise le développement de l’entre-soi. Le filtrage et la censure ont donc l’effet contraire à celui désiré : ils favorisent les échanges entre ceux qui souffrent de troubles de l’alimentation, ce qui peut-être plutôt positif, tout en les coupant de sources informationnelles extérieures et donc différentes. Au final, ce sont les professionnels de la santé eux-mêmes, ceux qui font de l’information et de la prévention auprès de ces publics, qui ont plus de difficulté à les toucher, à leur faire entendre d’autres messages que ceux qu’ils échangent entre eux. Une belle démonstration qui illustre combien, sur le net, la censure et le filtrage ne sont jamais la solution. - Hubert Guillaud

Pour information lees données, collectées dans le cadre du projet Anamia, seront présentées au public lors du symposium Comprendre le phénomène pro-ana : corps, réseaux, alimentation, vendredi 14 décembre 2012, Petit Auditorium de la BnF (Bibliothèque nationale de France, site F. Mitterrand – Hall Est, quai François Mauriac, 75013 Paris). Formulaire d’inscription en ligne.

Le phénomène pro-ana : panique morale et effets paradoxaux de la censure

Par Antonio A. Casilli, Fred Pailler et Paola Tubaro.

Le 23 février 2012, Tumblr (le deuxième service de micro-blogging le plus populaire après Twitter, et classé dans le top 40 mondial des sites web) annonçait sa décision d'effacer sur sa plate-forme l'ensemble des contenus liés à l'auto-mutilation, aux tendances suicidaires, et, les plus en vue, ceux liés à la thinspiration. Cette dernière consiste en l'échange ritualisé d'images et de citations qui sont censées, pour ceux qui les consultent, « inspirer la minceur » [thin = mince, en anglais]. Elle est devenue une pratique caractéristique des groupes partageant en ligne des ressources relatives aux Troubles des comportements alimentaires (TCA). Dans le jargon du web, les blogs et les communautés de personnes atteintes de troubles de ce type et qui affichent une posture pro-active et critique vis-à-vis de l'institution médicale, sont désignés de façon péjorative comme pro-ana (anorexie mentale) et pro-mia (boulimie mentale).

Les créateurs de contenus ana-mia en ligne sont le plus souvent des adolescentes et des jeunes femmes souffrant de problèmes d'alimentation. Mais on rencontre aussi des sympathisants (parfois appelés wannarexics en anglais, raccourci de wannabe + anorexic, c'est-à-dire « ceux qui désirent devenir anorexiques », ou alors « régimeuses » en français). Selon les récits construits par les médias, les internautes pro-ana et pro-mia prétendent que leur expérience du quotidien est celle de malades héroïques, et vont parfois jusqu'à décrire leurs habitudes alimentaires comme un « choix » de vie plutôt qu'une maladie. Ces dix dernières années, des chercheurs en sciences sociales ont étudié et décortiqué cette posture : bien que ces sites web offrent parfois des conseils pour s'affamer ou se faire vomir, ou des photos de célébrités retouchées et amincies, ils sont aussi vécus par leurs membres comme des véhicules d'entraide et d'autonomisation, mis au point pour et par des personnes vivant avec des troubles alimentaires. Certains de ces sites offrent une assistance en ligne significative pour d'autres personnes atteintes par les mêmes désordres et servent même d'intermédiaires dans l'accompagnement vers le traitement et le rétablissement.

Certains commentateurs ont salué l'initiative de Tumblr comme étant un filtrage tout à fait justifié de contenus préjudiciables, bien que cette décision soit sans doute d'abord motivée par le besoin d'éviter d'en porter la responsabilité légale et qu'elle puisse, par la suite, mener à la mise à l'écart d'une population déjà stigmatisée. Toutefois, chassés de Tumblr, les bloggeurs ana-mia se sont aussitôt regroupés ailleurs, soulevant de nouvelles controverses. Six semaines plus tard, une utilisatrice d'un autre site populaire de partage de photos, Pinterest, rapporte son choc à la vue de telles images :

« La thinspiration sur Pinterest englobe autant des photos stéréotypées de femmes séduisantes que des citations à propos du plaisir de faire de l'exercice, et combine parfois les deux. J'ai trouvé une citation qui dit : « Rien n'a autant de saveur que de se sentir maigre ». Une autre, avec une image de femme mince pratiquement nue dit « ce que vous mangez en privé, vous le portez en public ». Et puis j'ai fini par voir une image avec une autre femme à peine vêtue disant « ça t'as pris 4 semaines pour remarquer que ton corps changeait, ça a pris 8 semaines à tes amis, et 12 au reste du monde. N'abandonne pas. ». Il est impossible de se connecter à Pinterest sans assister à ce type de spectacle de thinspiration. Non seulement ces femmes postent de la thinspiration pour s'humilier en exprimant et affichant leur sentiment que leur propre corps n'est pas à la hauteur, mais, sur Pinterest, il s'avère que ces images sont « ré-épinglées » [transférées et réaffichées] pour la totalité de leurs abonnés afin qu'ils sachent eux aussi que leurs corps ne sont pas à la hauteur. »

Ces événements témoignent de la mise en place d'une dynamique assez classique des réseaux socio-informatiques: lorsque l'on exerce une pression répressive sur un type d'images ou de commentaires controversés publiés en ligne, ceux-ci se déplacent et réapparaissent plus loin sur d'autres services. C'est un effet du filtrage des contenus sur Internet, que l'on connaît sous plusieurs noms : « effet Streisand », « effet de tube de dentifrice » ou « effet d'éviction » (crowding-out effect).

Les conséquences paradoxales de l'interdiction

Notre étude ANAMIA, financée par l'Agence nationale pour la recherche, porte sur la manière dont les services en ligne liés aux troubles des comportements alimentaires sont utilisés sur les web francophone et anglophone. Notre équipe réunit des sociologues, des psycho-sociologues, des philosophes, des informaticiens. L'un des enjeux auxquels nous avons dû faire face est lié à l'histoire particulièrement mouvementée des sites couramment désignés comme « pro-ana ». Bien qu'ils existent depuis le début des années 2000 [1], leur présence est caractérisée par des renouvellements rapides et des migrations visant à éviter la censure ou l'interdiction. Ces termes décrivent ici, au sens large, toutes formes de restrictions sur les contenus, qu'elles soient imposées par les autorités légales ou bien par les plate-formes web elles-mêmes. L'ironie veut que ces dynamiques de chasse et de fuite aient, au final, multiplié le nombre de ces sites web. En effet leurs auteurs et administrateurs, ne voulant pas perdre des mois de dur labeur sous prétexte d'un changement soudain des règles de publication auxquelles ils doivent se soumettre, sentent souvent l'urgence de dupliquer ces contenus afin de les sauvegarder.

Durant les dix dernières années, les régulateurs et les fournisseurs de services ont exercé une forte pression sur les communautés pro-ana, avec des pics se situant à différents moments selon les pays. Les premiers à avoir banni ces pages web furent AOL et Yahoo, durant la période 2001-2004 [2], alors que le mouvement était encore essentiellement circonscrit au monde anglophone. Comment peut-on, après cela, quantifier les évolutions exactes de la mouvance ana-mia en ligne ? En l'absence d'études nationales fiables sur les usages de ces sites, des analyses webométriques exploratoires nous offrent une image de la croissance des recherches faites sur le sujet auprès de certains moteurs de recherche en ligne. La fig. 1 représente l'évolution mondiale de l'indice de volume de recherche pour les requêtes ana-mia les plus courantes durant la période 2005-2009, c'est-à-dire juste après la première vague de censure. Des pics d'intérêt du grand public pour l'actualité du pro-ana sont très visibles.

Figure 1 - Evolution de l'indice de volume de recherche pour les requêtes concernant ana-mia (2005-2009). Source: Google Trends.

Ces graphiques doivent être considérés avec précaution, du fait qu'ils témoignent uniquement de l'activité sur les moteurs de recherche et ne révèlent aucunement le véritable nombre de blogs et de sites web parlant de troubles de l'alimentation (pour ne pas évoquer en plus les groupes et les comptes Facebook et Twitter, largement inexploités par les outils généralistes de recherche sur le web). Cependant, ils suffisent à expliquer un élément important du phénomène ana-mia : la première vague de censure de 2001-2004 n'a pas réussi à tarir l'intérêt pour le phénomène. En fait, elle semble avoir engagé non seulement une migration des contenus ana-mia vers d'autres services, mais aussi une diffusion vers différents pays. Si, à l'orée des années 2000, les sites pro-ana étaient essentiellement connus aux USA, au milieu de la décennie, ils s'étaient implantés à différents endroits du globe. La fig. 2 montre les recherches effectuée sur le moteur de Google pour des contenus ana-mia en France et au Royaume-Uni durant la seconde moitié des années 2000. Par ailleurs, ces deux pays sont parmi ceux qui, depuis, ont tenté d'instaurer des législations entravant la production des contenus faisant l'apologie en ligne des troubles alimentaires (respectivement en 2007 et 2008). Les hébergeurs ont été de plus en plus frileux à l'idée de fournir un espace, les plate-formes de blogs ont parfois fermé des pages individuelles, Facebook a déconnecté des groupes et Google a ostensiblement limité les résultats pour les requêtes concernant le pro-ana.

Figure 2 – Indice de volume de recherche pour les requêtes « pro-ana » (2004-2010). Source: Google Trends.

La structure des réseaux ana-mia en ligne

Ceci n'indique pas pour autant que les blogs, forums, et groupes ana-mia ont disparu. Quelle est la taille de la sphère ana-mia sur le web aujourd'hui, et comment a-t-elle réussi à survivre jusqu'ici en dépit des entraves qui lui sont véritablement opposées ou perçues comme telles ? Pour répondre à ce genre de questions, nous nous sommes lancés dans la production d'un corpus de sites ana-mia entre 2010 et 2012, utilisant NaviCrawler (un outil de collecte de données en ligne) et Gephi (un logiciel spécialisé dans les analyses exploratoires et la visualisation de données). Bien que ces instruments ne puissent pas fournir une représentation exhaustive du phénomène étudié, ils rendent tout de même perceptibles des caractéristiques importantes de ce « web invisible », et accompagnent nos efforts pour le documenter d'une manière mieux informée et plus équilibrée. La fig. 3 fournit un instantané de la portion française du web ana-mia à deux moments distincts dans le temps, mars 2010 et mars 2012. Dans ce graphe, les nœuds représentent des pages web (les sites, forums et blogs référencés comme ana-mia) et les traits représentent les liens hypertextuels entre ces sites web. La structure des liens entre les sites offre une image globale des schémas de communication pour cette portion du web, et indiquent la manière dont il est possible d'y naviguer. Cela donne du coup une idée du chemin qu'un internaute (ou bien un modérateur ou un censeur) peut suivre pour découvrir de plus en plus de contenus ana-mia en surfant à partir de l'un des sites web connectés à l'ensemble de la carte.

Figure 3 – Cartographie du réseau des sites web français ana-mia (2010-2012). La taille des nœuds représente le nombre de liens hypertextuels, en trois catégories (petit, moyen, grand). La couleur représente la capacité des nœuds à jouer un rôle d'intermédiaire (rouge : faible, violet : moyenne, bleu : grande).

Le réseau est composé de pôles conséquents, que l'on peut voir en haut et en bas des deux graphes. C'est une caractéristique courante des grands réseaux sociaux, surtout ceux du web : globalement, ils ont l'air d'être tissés de façon clairsemée. Ces réseaux ont une faible densité, celle-ci équivalant au nombre de liens observés par rapport au nombre de liens potentiels. Toutefois, de plus près, ils sont constitués de sous-groupes au tissu beaucoup plus serré, avec une densité élevée à l'intérieur du groupe, avec peu de liens d'un sous-groupe à l'autre.

Ici, les ensembles observés correspondent à des plate-formes de blogs populaires. Dans chacun d'eux, les plus petits blogs s'assemblent en grappes autour de quelques hubs, des sites web individuels représentés par des nœuds de plus grande taille sur les graphes et dont la particularité réside dans le fait qu'ils listent et dirigent vers les plus petits blogs. Ceux-ci sont principalement des sites « répertoires ». Au travers de leur grand nombre de liens, ils recueillent, systématisent et rediffusent les ressources informationnelles. De tels répertoires sont plus souvent présents dans la composante du haut des graphes pour chaque année.

Une caractéristique très intéressante se trouve être celle de la taille du réseau : elle n'a pas diminué en dépit de toutes les pressions pour bannir ou entraver les sites ana-mia, durant les deux années de notre observation. Le nombre de nœuds (sites web référencés) était de 559 en 2010 et de 593 en 2012. Alors que ces illustrations constituent des approximations et que, comme mentionné plus haut, elles n'ont aucune prétention à la précision ou l'exhaustivité, elles fournissent néanmoins des preuves que l'utilisation du même outil d'exploration à deux dates différentes donne à peu près le même résultat global, ce qui est une indication claire de la stabilité du système étudié : le réseau est constant d'une année à l'autre.

Un « noyau » dense protégé par une « périphérie » de blogs

Pourtant, cette capacité de résilience est inégalement distribuée au sein du réseau : tous les blogs n'arrivent pas à exister de manière prolongée. Certains disparaissent, d'autres survivent d'une année à l'autre. En y regardant de plus près, les données révèlent un taux de renouvellement d'environ 50 %, avec seulement 296 blogs survivant de 2010 à 2012. En fait, la communauté reste vivante mais son endurance est due à un « noyau » de blogs relativement persistants. La « périphérie », quant à elle, est composée des blogs plus éphémères.

Figure 4 – Carte de la composante du haut du graphe (2012). Les nœuds blancs représentent les sites web du « noyau » (ayant survécu depuis 2010), les nœuds bleus représentent les sites web périphériques (les nouveaux arrivés). La taille des nœuds est proportionnelle au nombre de leurs liens hypertextuels.

Comment ce noyau de blogs a-t-il réussi à survivre malgré toutes les menaces ? Notons que les blogs composant le noyau ne déguisent pas leurs contenus : ils utilisent des intitulés ayant explicitement trait aux troubles des conduites alimentaires, des expressions propres à la communauté ana-mia ou bien le terme même « anorexie ». Ce qui mène à penser que les stratégies pour échapper aux restrictions sur les contenus ne consistent pas à simplement éviter d'employer certains mots-clés proscrits par les plate-formes. Leur survie dépend de la structure même du réseau, où la fonction de la périphérie est de protéger le noyau.

Nous avons alors regardé comment les nœuds dans ces réseaux sont inter-connectés au sein d'un voisinage. Les nœuds du noyaux le sont plus que les autres, surtout dans la composante du haut du graphe, qui est la plus dense ainsi que la plus résistante, avec le plus grand nombre de blogs survivants. De ce fait, la capacité de survie de ce noyau semble être due à l'ancrage d'important blogs individuels (hubs) dans des petits groupes locaux de plus en plus denses. Ces agglomérats deviennent à peu près impénétrables, et donc plus difficiles à localiser pour des acteurs externes. En d'autres termes, la fonction des blogs périphériques est de constituer de petites couches de protection, en forme d'un enchevêtrement de liens locaux, pour protéger les nœuds du noyau.

Parallèlement, on note entre 2010 et 2012 une tendance à la baisse du nombre de liens servant de pont [bridging] entre la composante du haut et celle du bas. Plus le nombre de ces liens est faible, plus grande est la probabilité que le réseau se scinde en deux morceaux complètement distincts. Pour ce faire, il suffirait simplement de rompre ces quelques liens faisant office de pont, ou bien de fermer les sites web (également peu nombreux) qui assurent cette interconnexion des deux composants.

D'autres aspects de la structure de ce réseau renforcent notre sentiment qu'au fil du temps, il a perdu sa capacité à canaliser les communications entre ses différentes parties. Certains nœuds sont pour ainsi dire poussés sur les bords, se trouvant alors moins bien connectés au centre du réseau, et du coup plus difficiles à atteindre. On s'en rend compte en observant une hausse du nombre maximum de liens hypertextes sur lesquels les utilisateurs doivent cliquer pour atteindre l'un des sites web du réseau depuis n'importe quel autre site web: les liens directs se perdent, seuls des liens indirects subsistent.

On note aussi une capacité diminuée des nœuds à agir comme intermédiaires entre d'autres nœuds, c'est-à-dire à connecter des sites web qui autrement seraient disjoints. Autant en 2010 qu'en 2012, ce sont surtout les nœuds du noyau qui servent d'intermédiaires, pas la périphérie; mais ils ne parviennent pas à assurer une plus grande connectivité du réseau dans son ensemble au fil du temps. Cette dernière diminue pendant que certains groupes locaux de sites web (situés dans le noyau) renforcent leurs liens internes.

Pour plus de détails sur les métriques de réseaux utilisées voir : http://www.anamia.fr/en/survival-and-turnover-in-ana-mia-online-networks-an-in-vivo-study-of-the-effects-of-moral-panic-surrounding-eating-disorder-websites/

L’interdiction : une mauvaise politique de santé publique

Ces résultats dévoilent une autre forme, plus subtile, des effets de la panique morale entourant les contenus ana-mia. Plus haut, nous avons mentionné des cas dans lesquels les restrictions imposées par un service en ligne ou un pays poussent les contenus à abandonner ce service ou ce pays et à se relocaliser dans un autre. Ici, nous voyons que même s'il n'y a pas de censure explicite, mais seulement la menace de celle-ci, cela exerce une force suffisante sur le réseau pour le « presser » en son milieu. La conséquence en est que les blogs se trouvent expulsés aux marges (hautes et basses) du graphe. Les composantes se renforcent et continuent à abriter leurs membres les plus densément connectés. Une censure « potentielle » se trouve être tout aussi efficace qu'une censure véritable dans sa capacité à modifier la forme du réseau – mais elle ne le fait pas d'une manière favorable à promouvoir la santé.

En faisant converger les blogs vers l'une des plus grosses composantes, la pression extérieure prône la formation de cliques ana-mia densément tissées, et quasiment impénétrables. Cela empêche la création de ponts [bridging], de véhicules faisant circuler l'information et, au contraire, favorise la cohésion [bonding], ainsi que la redondance des informations. Les internautes ayant une anorexie ou boulimie vont échanger des messages, des liens et des images entre eux, en excluant les sources informationnelles extérieures.

À cause de cette répression, vraie ou fantasmée, les professionnels de santé opérant dans le cadre d’une campagne d'information et de prévention sur les risques de l'amaigrissement extrême auront à déployer aujourd'hui de plus grands efforts pour atteindre les bloggeurs ana-mia qu'il y a deux ans. Si en 2010 une campagne d'information et de santé publique aurait eu à viser les sites web du noyau du graphe en espérant qu'ils relaient son message vers les bords, en 2012, ces sites sont plus difficiles à identifier et à joindre. La seule option consiste à couper au travers des agglomérats les plus denses et d'espérer que les messages de santé atteindront l'un des influenceurs les plus centraux.

Cette dernière situation offre sans aucun doute une voie plus exigeante en terme d'actions. Les internautes ana-mia sont constamment en train de mettre en place de nouvelles stratégies pour échapper à la visibilité générale. Les sites web utilisent un langage crypté, des protections par mots de passe, et des logiciels spéciaux pour contourner l'indexation automatique par les moteurs de recherche. Et bien entendu, la structure du réseau avec ses noyaux protégés par une périphérie de sites « jetables » vient nourrir cette dynamique. Pour ces sites web, une interdiction est un risque avec lequel ils doivent constamment composer : ils l'affrontent en jouant de manière minutieuse sur les paramètres de leur visibilité.

Nous pouvons conclure que tout ce que peut faire la suppression de contenus ana-mia c'est de relocaliser les forums et les blogs, les déplaçant vers d'autres plate-formes ou d'autres pays, remodelant leur réseau social en agglomérats individuellement plus denses et toujours plus déconnectés les uns des autres. Ceux qui souffrent véritablement de ces conséquences sont les professionnels de santé et les décideurs publics, les familles et les associations fournissant de l'information et du soutien aux personnes atteintes de troubles alimentaires. Ils savent combien il est difficile d'atteindre les communautés ana-mia sur le web, et ils savent que ce sera de plus en plus difficile si ces communautés deviennent plus méfiantes, recluses et repliées sur elles-mêmes.

Antonio A. Casilli, Fred Pailler, Paola Tubaro

Les auteurs voudraient remercier les membres de l'équipe de recherche ANAMIA : Claude Fischler, Christy Shields, Débora de Carvalho Pereira, Sandrine Bubendorff (Centre Edgar Morin, EHESS, Paris); Lise Mounier, Sylvan Lemaire, Manuel Boutet, Pedro Araya (Centre Maurice Halbwachs, CNRS, Paris); Estelle Masson, Christèle Fraïssé (Centre de Recherches en Psychologie, Cognition et Communication, Université de Bretagne Occidentale, Brest); Pierre-Antoine Chardel, Patrick Maigron, Claire Strugala (Groupe de recherche Éthique, Technologies, Organisation, Société, Institut Mines-Télécom, Evry); Juliette Rouchier (Groupement de Recherche en Économie Quantitative d’Aix-Marseille, Université Aix-Marseille 2, Marseille). Ce projet de recherche est financé par l'Agence Nationale pour la Recherche (ANR) sous la codification : ANR-09-ALIA-001.

Les auteurs :

• Antonio A. Casilli (blog, @bodyspacesoc) est maître de conférences en Digital Humanities à Télécom ParisTech et chercheur au Centre Edgar Morin (EHESS). Il est l’auteur de Les liaisons numériques. Vers une nouvelle sociabilité ? (Ed. du Seuil, 2010).
• Fred Pailler (@sociographie) est ingénieur d’études au Centre Edgar Morin (EHESS) et doctorant à l’Université de Nantes. Il travaille sur l’intimité sur le Web et anime le blog Sociographie.
• Paola Tubaro (blog, @ptubaro) est maître de conférences en sociologie économique à l’Université de Greenwich, Londres. Elle est spécialisée en analyse des réseaux sociaux et chercheuse à l’initiative européenne Data without Boundaries.

Le 14 décembre 2012, l’équipe du projet ANR Anamia organise un symposium de recherche sur le "phénomène pro-ana" à la BNF, Paris. Programme. Inscriptions.

____
Notes
1. v. notre revue de littérature Antonio A Casilli, Paola Tubaro and Pedro Araya. (2012) “Ten Years of Ana: Lessons from a transdisciplinary body of literature on online pro-eating disorder websites”. Social Science Information. 51 (1): 120-139. http://hal.archives-ouvertes.fr/hal-00682318.
2. Catherine Holahan. (2001) “Yahoo Removes Pro-Eating-Disorder Internet Sites”. Boston Globe - Boston, Mass, Aug 4: A.2. http://edresources.pbworks.com/w/page/9788206/Pro-%20Articles#Yahooremovesproedsites8/4/01.