Chaque fois que l’algorithme des réseaux sociaux détecte un certain type d’intérêt pour un sujet, il l’amplifie. Les recommandations qu’il fait à ses utilisateurs ne sont pas neutres, ils cherchent à maintenir leur attention à tout prix et il est programmé pour transmettre du contenu qui émeut les émotions, telle est sa stratégie pour qu’il ne soit pas possible de se déconnecter de la plateforme.
Dans cet effort de maintien de l’attention, les contenus recommandés peuvent aller d’un intérêt superficiel à l’exposition de vidéos montrant des émotions plus extrêmes.
Cette programmation signifie que si quelqu’un consomme du contenu angoissant, l’algorithme proposera un contenu de plus en plus angoissant, ce qui pourrait avoir un impact psychologique inimaginable sur les personnes présentant un certain degré de vulnérabilité.
Dans le cas de profils d’adolescents, il a été démontré que l’algorithme peut être capable de leur montrer du contenu sur l’automutilation, le suicide ou la violence physique, après un peu plus d’une demi-heure d’exposition à des sujets connexes.
Comme les contenus chargés émotionnellement de violence, de sexualisation ou de polarisation génèrent davantage d’interactions, l’algorithme les priorise et les rend viraux afin de maximiser le temps de rétention, peu importe à quel point le message recommandé peut être dérangeant.
La conception du réseau est faite pour provoquer une dépendance et la grande majorité des jeunes ou des enfants ne disposent pas des alertes nécessaires pour contrecarrer cet effet de manipulation. Même les adultes n’ont pas un cerveau entraîné pour filtrer efficacement cette forte dose d’émotion.
Comme l’algorithme récompense les contenus ayant une plus grande capacité à devenir viral, toute recherche innocente sur un sujet léger peut rapidement se transformer en messages extrémistes ou explicites sans autres filtres.
L’humour devient une porte d’entrée pour des suggestions de plus en plus délirantes ou inquiétantes, réduisant tout type de défense cérébrale contre les connotations idéologiques extrémistes.
Tout cela se produit au milieu d’un exercice d’individualisation radical, qui peut amener les contenus suggérés du réflexif à la tristesse, à la solitude, à la faible estime de soi et se connecter à des messages à fort impact négatif.
Ce qui n’est pas normal est normalisé, le consommateur du réseau se retrouve enfermé dans un petit cercle thématique qui l’amène à radicaliser ses positions d’une manière qui ne correspond pas à la formation normale d’une opinion saine et consciencieusement construite. Les réseaux sont programmés pour la haine même si vous pensez vous amuser.
