Du camping à la pizza au fromage, ‘Algosbeek’ s’empare des réseaux sociaux

Les Américains utilisent de plus en plus des codes connus sous le nom de “algospeak” pour échapper à la détection par la technologie de modification de contenu, en particulier lorsqu’ils publient sur des sujets controversés ou susceptibles d’enfreindre les règles de la plate-forme.


jeSi vous voyez des gens parler de “camping” sur les réseaux sociaux, il y a de fortes chances qu’ils ne parlent pas de la façon de planter une tente ou des parcs nationaux à visiter. Le terme est récemment devenu “algospeak” pour quelque chose de complètement différent : discuter des questions liées à l’avortement à la suite de l’annulation par la Cour suprême de l’affaire Roe v. Wade.

De plus en plus, les utilisateurs de médias sociaux utilisent des mots de passe, des emojis et des fautes de frappe intentionnelles – le soi-disant “algospeak” – pour éviter la détection en modifiant les applications avec l’intelligence artificielle lorsqu’elles publient des messages sensibles ou potentiellement contraires à leurs règles. Siobhan Hanna, qui supervise les solutions de données d’IA pour Telus International, une entreprise canadienne qui a fourni des services de modération de contenu humain et d’IA à presque toutes les grandes plateformes de médias sociaux, y compris TikTok, a déclaré que le mot “camping” n’est qu’une expression adaptée par cette méthode. “On craignait que les algorithmes ne détectent des indices” pour l’avortement, a déclaré Hanna.

Plus de la moitié des Américains disent avoir vu une légère augmentation de l’algospeak à mesure que se déroulent des événements politiques, culturels ou mondiaux polarisants, selon de nouvelles données de Telus International issues d’une enquête menée auprès de 1 000 personnes aux États-Unis le mois dernier. Sur les réseaux sociaux et les jeux, près d’un tiers des Américains déclarent avoir “utilisé des émoticônes ou des expressions alternatives pour contourner des termes tabous”, tels que ceux qui impliquent la race, le sexe ou l’automutilation, selon les données. Hanna a expliqué qu’Algospeak, qui est généralement utilisé pour éviter les règles du discours de haine, telles que le harcèlement ou l’intimidation, était suivi de près par les politiques relatives à la violence et à l’exploitation.

Nous avons parcouru un long chemin depuis le “pr0n” et l’émoji de l’aubergine. Les entreprises technologiques, ainsi que les sous-traitants externes qui les aident avec les politiques de contenu, sont confrontés à des défis en constante évolution en raison de ces solutions en constante évolution. Bien que l’apprentissage automatique puisse être capable de détecter des violations pures et simples, telles que le discours de haine, l’IA est souvent incapable de faire la distinction entre les lignes lorsqu’il s’agit de phrases ou d’euphémismes qui, dans un contexte, semblent innocents mais qui ont une signification plus profonde.


Près d’un tiers des Américains sur les réseaux sociaux disent avoir “utilisé des emojis ou des phrases alternatives pour contourner les termes interdits”.


Par exemple, le terme “pizza au fromage” a été largement utilisé par les comptes proposant des images explicites d’enfants partageant. Malgré une tendance virale connexe où de nombreuses personnes chantent leur penchant pour le maïs sur TikTok, les emojis de maïs ont été fréquemment utilisés pour discuter ou essayer d’orienter les gens vers le porno. passé Petites et moyennes entreprises Des rapports ont révélé le double sens de phrases banales, telles que “toucher le plafond”, qui sont utilisées pour persuader les jeunes filles de flasher à leurs partisans et de montrer leur corps.

“L’un des domaines qui nous tient tous à cœur est l’exploitation des enfants et l’exploitation humaine”, a déclaré Hanna. Petites et moyennes entreprises. C’est “l’une des régions les plus dynamiques du Gosbeek”.

Mais Hanna a déclaré qu’il n’appartenait pas à Telus International de supprimer ou de rétrograder certains termes en langage algo. Ce sont les plateformes qui “fixent les lignes directrices et décident où il pourrait y avoir un problème”, a-t-elle déclaré.

“Nous ne prenons généralement pas de décisions drastiques sur le contenu”, a-t-elle déclaré. Petites et moyennes entreprises. “Ils sont vraiment motivés par nos clients qui possèdent ces plateformes. Nous agissons vraiment en leur nom.”

Par exemple, Telus International ne fait pas pression sur les moments politiques ou sociaux à enjeux élevés, a déclaré Hanna, citant le “camping” comme exemple. Cependant, la société a refusé de révéler si certains des termes d’algospeak étaient bloqués par des clients.

Les signes des « camps » sont apparus dans les 24 heures suivant la décision de la Cour suprême et ont augmenté au cours des deux semaines suivantes, selon Hanna. Elle a expliqué que le “camping” en tant que phénomène d’Algosbeek s’est estompé “parce qu’il est devenu si omniprésent qu’il n’était plus vraiment un mot de code”. C’est ainsi que fonctionne généralement l’algospeak : “Tu vas monter, tu vas attirer beaucoup d’attention, tu vas commencer à entrer dans une sorte de mèmes, et [it] Il va en quelque sorte mourir.

Hanna a déclaré que de nouvelles formes d’algospeak sont également apparues sur les réseaux sociaux à propos de la guerre Ukraine-Russie, avec des affiches utilisant le terme “non-vivant”, par exemple – plutôt que de mentionner “tué” et “soldats” dans la même phrase – pour éviter détection de l’intelligence artificielle. Elle a ajouté que sur les plates-formes de jeu, l’algospeak est souvent inclus dans les noms d’utilisateur ou les “tags de jeu” en tant que déclarations politiques. Un exemple : les références numériques au « 6/4 », l’anniversaire du massacre de la place Tiananmen en 1989 à Pékin. “La communication sur cet événement historique est contrôlée en Chine”, a déclaré Hanna, alors même si cela peut sembler “un peu ambigu, dans ces communautés hautement interconnectées, cela peut en fait être une déclaration politique brûlante que vous devriez faire dans le nom d’utilisateur”.

Telus International s’attend également à voir une augmentation des discussions en ligne en algospeak sur les élections de mi-mandat.


« Un domaine qui nous tient tous à cœur est l’exploitation des enfants et l’exploitation des êtres humains. [It’s] L’une des régions les plus dynamiques du Gosbeek.

Siobhan Hanna, Telus International

D’autres moyens d’éviter d’être supervisé par l’IA incluent les fautes d’orthographe des mots ou le remplacement des lettres par des symboles et des chiffres, tels que “$” pour “S” et le chiffre zéro pour la lettre “O”. De nombreuses personnes qui parlent de sexe sur TikTok, par exemple, l’appellent plutôt “seggs” ou “seggsual”.

Hanna a déclaré que les emoji algospeak sont “très couramment utilisés pour représenter quelque chose qui n’a pas été conçu à l’origine comme tel”. Cela peut arriver dans certaines situations, même si ce n’est pas toujours dangereux. Par exemple, l’emoji du homard se développe au Royaume-Uni en réponse métaphorique à la mort de la reine Elizabeth. Mais dans d’autres cas, c’est plus nocif : dans certains contextes, les emojis ninja ont été remplacés par des termes désobligeants et des discours de haine à l’encontre de la communauté noire, selon Hanna.

Il existe de nombreuses lois régissant les médias sociaux, et la modification du contenu est l’une des questions de politique technologique les plus controversées au sein du conseil d’administration du gouvernement. Des lois telles que la loi sur la responsabilité algorithmique ont été bloquées en raison de différends partisans. Ce projet de loi vise à garantir que l’intelligence artificielle (comme la modération de contenu) puisse être gérée de manière éthique et transparente. Les sociétés de médias sociaux et les sociétés de modération en dehors de celles-ci ont tout fait, malgré l’absence de réglementation. Les experts ont exprimé leur inquiétude quant à la responsabilité de ces entreprises. appelé à scruterces relations.

Telus International fournit une modération de contenu assistée par l’homme et de l’intelligence artificielle, et plus de la moitié des répondants au sondage ont confirmé qu’il était “très important” d’avoir des humains dans le mélange.

Un participant a écrit : “L’intelligence artificielle peut ne pas capter les choses que les humains peuvent.”

Un autre : “Les gens sont bons pour éviter les filtres.”

Forbes : Plus

Forbes : En savoir plusVoici 25 des meilleurs sites de retraite en 2022Forbes : PlusQuelle est la richesse du roi Charles III ? Découvrez l’incroyable richesse du nouveau monarqueForbes : PlusIl n’y a pas que l’inflation. La grippe aviaire fait grimper les prix de Thanksgiving en Turquie

Leave a Reply

Your email address will not be published.