Contrairement à la croyance populaire, les algorithmes ne sont pas nécessairement responsables de la polarisation et des discours de haine en ligne.

Une nouvelle étude indique que les problèmes profonds proviennent de la structure fondamentale des plateformes de médias sociaux, plutôt que du code qui les alimente.

La conclusion est que des réformes significatives exigeraient des changements à la racine, et non seulement des ajustements cosmétiques.

Des chercheurs de l'université Cornell ont mené une étude récente suggérant que la réalité persistante des discours de haine, de la polarisation sociale et de la propagation d'informations biaisées ou fausses n'est pas un sous-produit des algorithmes complexes, mais un résultat direct de l'architecture de base de ces plateformes.

En utilisant une simulation sociale innovante, ils ont modélisé un simple réseau social et ont démontré comment des problèmes bien connus émergent spontanément, même sans algorithmes de recommandation sophistiqués.

En d'autres termes, les discours conflictuels et la désinformation semblent surgir naturellement, peu importe qui opère la plateforme ou comment elle fonctionne.

L'étude a identifié trois échecs principaux dans un environnement virtuel où des agents basés sur des modèles de langage large interagissaient.

Premièrement, des chambres d'écho : les utilisateurs virtuels avaient tendance à se regrouper en groupes idéologiques homogènes — conservateurs avec conservateurs, libéraux avec libéraux, racistes avec racistes — reflétant le comportement humain.

Deuxièmement, une concentration extrême d'influence est apparue, avec un petit nombre d'utilisateurs capturant la plupart de l'attention et façonnant les discussions, similaire à un modèle du type « winner-takes-all ».

Enfin, des voix extrêmes et polarisantes ont gagné une résonance amplifiée, déformant le discours général.

Ces conclusions s'alignent avec des données récentes montrant une polarisation croissante sur des plateformes telles que X (anciennement Twitter) et Facebook, comme l'ont rapporté des instituts de recherche aux États-Unis et en Europe.

Des études dans l'Union européenne ont également documenté la diffusion accrue de contenu extrémiste et les effets de chambre d'écho, indiquant que le problème n'est pas lié à une culture ou une plateforme unique.

L'aspect le plus préoccupant de la recherche est l'échec de la plupart des interventions externes testées pour améliorer les conditions.

Six mesures délibérément extrêmes ont été évaluées pour évaluer leur impact sur le discours de la plateforme.

Une approche — supprimer les algorithmes et afficher les publications dans l'ordre chronologique — a réduit les déséquilibres d'attention mais a simultanément renforcé le lien entre l'extrémisme politique et l'influence, faisant ressortir le contenu extrême même dans un cadre neutre.

Une autre méthode testée a impliqué de réduire la visibilité des voix dominantes.

Cela a conduit à de légers progrès mais n'a pas affecté la polarisation ou les chambres d'écho.

Notamment, cacher des indicateurs tels que les likes ou le nombre de followers n'a eu presque aucun effet sur les bots, qui continuaient à former des connexions avec des homologues partageant les mêmes idées.

Bien que la recherche se soit concentrée sur des réseaux sociaux opérant dans des contextes occidentaux, les résultats ont été comparés aux conditions en Chine.

Des plateformes telles que Weibo, l'équivalent chinois de X, opèrent sous une stricte surveillance gouvernementale, qui s'étend non seulement à la modération de contenu mais aussi à l'architecture même des plateformes.

Cette surveillance favorise un discours plus « harmonieux » en censurant et en restreignant intentionnellement les voix marginales et extrêmes, réduisant la polarisation tout en limitant la liberté d'expression — une dynamique moins applicable aux sociétés démocratiques.

L'étude renforce les appels des régulateurs et des experts du monde entier pour des solutions qui s'attaquent aux problèmes structurels fondamentaux des réseaux sociaux plutôt qu'à leurs symptômes, reflétant une reconnaissance croissante que des changements à petite échelle ne suffiront probablement pas à résoudre les défis auxquels ces plateformes sont confrontées.