DEV Community

Cover image for « Toxic Data » : la menace de l'intermédiation algorithmique
Bastien Calou
Bastien Calou

Posted on

« Toxic Data » : la menace de l'intermédiation algorithmique

Je sors de la lecture de Toxic Data, ouvrage passionant de David Chavalarias, chercheur au CNRS, sur le rôle toxique que joue une grande partie des réseaux sociaux sur nos sociétés.

Il met en mots simples un sentiment de malaise que nous sommes, j'en suis sûr, un grand nombre à partager. Pour ma part, ce sentiment est un moteur depuis quelques années pour adopter une attitude de grande méfiance à l'égard des réseaux en question, et en particulier à l'égard de ceux dont les contenus présentés sont régis par un algorithme opaque cherchant à maximiser les interactions sur la plateforme (c'est à dire beaucoup d'entre-eux).

J'ai le sentiment que ma participation active aux réseaux dans le passé (toujours existante, mais moindre), ainsi que celle d'une grande partie de la société, ont sérieusement altéré la relation que j'entretiens avec mon entourage, notamment dans la façon dont les débats ont tendance à être, sans exception, hautement inflammables.

Mais David Chavalarias le dit mieux que moi :

À l'ère numérique, les sujets de discussion sont susceptibles de se polariser autour de points de vue toxiques à l'échelle d'une société entière. Pouvons-nous au moins espérer que la cohésion sociale, même affaiblie, ne sera pas rompue, et que deux camps qui s'opposent sur un thème trouveront toujours un terrain d'entente sur un autre ? [...] Que deux voisins en désaccord sur la vaccination continueront à échanger sur des questions politiques, que deux amis en désaccord sur des questions politiques continueront à discuter sur les questions environnementales ?
Nous avons l'habitude de vivre à l'intersection de plusieurs cercles relationnels qui reflètent la diversité de nos centres d'intérêt et de nos rôles sociaux. [...] Nous nous appuyons activement sur le contexte pour filtrer l'information à laquelle nous accordons de l'importance et pour choisir quel type d'information échanger. Nous n'abordons pas partout, ni n'importe comment, des thèmes tels que l'alimentation, l'éducation, le sport, la contraception ou l'immigration. [...] Bref, nous sommes capables d'orienter notre attention et d'adapter notre comportement en fonction du contexte social.
[...] Les algorithmes ne font pas la distinction entre vos différents cercles relationnels et traitent indifférement vos sujets de préoccupation. [...] Facebook peut très bien vous bombarder de messages que l'une de vos connaissances a appréciés alors même que vous n'abordez jamais ce type de sujets avec elle. Ce bombardement intempestif vous amènera peut-être à adopter un point de vue auquel vous ne vous seriez pas exposé naturellement ou, au contraire, à rompre un lien social par overdose de contenus dissonants, alors que vous auriez très bien pu continuer à sympathiser sur d'autres sujets avec cette personne.
[Il en résulte que] la structure de vos cercles sociaux est brouillée. [...] Vous êtes privé(e) des filtres contextuels que vous appliquiez dans vos interactions quotidiennes.

Les effets vont bien au-delà de l'impact sur l'individu lui-même :

Plus un réseau social se densifie avec l'ajout de liens, plus le nombre moyen d'intermédiaires entre deux personnes se réduit. Or les contenus négatifs ont tendance à se propager, de proche en proche, plus facilement que d'autres types de contenus. Dès lors qu'un certain seuil de densification est atteint, ces contenus négatifs sont donc les premiers à pouvoir toucher une très large fraction du réseau, même s'ils sont produits par un très petit nombre de personnes.
Dernier effet potentiel à signaler : comme les mécanismes d'influence sociale ne respectent plus les frontières de vos cercles relationnels sur les réseaux sociaux numériques, les valeurs, les croyances et les comportements risque de s'y aligner en passant d'un cercle relationnel à l'autre. Ce phénomène favoriserait ainsi une polarisation globale de la société, sur plusieurs dimensions à la fois (par exemple, aux États-Unis, en général, les antivax sont aussi climatosceptiques et républicains). Bien que cet effet n'ait pas encore été documenté, il pourrait expliquer la polarisation importante de nos sociétés actuelles et la formation concomitante de plusieurs lignes de fracture.

Et l'auteur de lister toutes les applications qui structurent nos vies aujourd'hui, qu'elles soient professionnelles, relationnelles (jusqu'aux relations les plus intimes), relatives aux voyages, à la consommation d'images et de vidéos... C'est ce que l'auteur appelle l'intermédiation algorithmique.

La liste est longue, et un seul ouvrage ne suffirait pas à examiner l'ensemble des configurations sociales au sein desquelles le numérique s'est immiscé, les choix algorithmiques qui ont été faits et leurs conséquences sociales. Il y a néamoins un point commun à toutes ces plateformes : elles se mettent en tête de gérer une partie de nos relations à autrui.
[...] En se posant en intermédiaires dans le flux des échanges sociaux et en modelant la perception que nous avons de notre monde social, les réseaux sociaux numériques se sont arrogé le pouvoir de modeler à leur avantage les piliers de la cohésion sociale.

David Chavalarias, Toxic Data

Top comments (0)