La plate-forme de jeu communautaire Roblox, qui compte un large public de jeunes enfants, a apparemment du mal à contenir les incidents de récréation de tir de masse survenant sur sa plate-forme.
Tel que rapporté par The Verge, des reconstitutions de la fusillade de masse de Christchurch en Nouvelle-Zélande ont été repérées à plusieurs reprises par le chercheur de l’Anti-Defamation League Daniel Kelley. Kelley, qui a récemment tweeté à propos des incidents, a déclaré qu’il avait pu trouver deux reconstitutions distinctes de la tragédie dans le cadre d’une « recherche rapide par mot-clé de 10 minutes ».
Depuis janvier 2020, Kelley aurait trouvé trois cas distincts où des expériences Roblox ont été créées illustrant la fusillade de Christchurch. « Je voudrais une fois rechercher » Christchurch « sur Roblox », a tweeté Kelley après avoir trouvé une expérience récente, « et ne pas trouver une nouvelle reconstitution du tir à la mosquée de 2019 sur une plate-forme de jeu destinée aux très jeunes enfants. » il a fini. Deux des expériences trouvées par Kelley auraient été visitées plus de deux cents fois chacune sur la plate-forme.
Je jure devant Dieu, j’aimerais une fois rechercher « Christchurch » sur Roblox et ne pas trouver une nouvelle reconstitution du tournage de la mosquée de Christchurch 2019 sur une plate-forme de jeu destinée aux très jeunes enfants. https://t.co/SovJq00knY pic.twitter.com/0BvRtGYZHE
– Daniel Kelley (@danieljkelley) 13 août 2021
S’adressant à The Verge, Roblox a déclaré qu’il surveille de manière proactive la plate-forme pour le contenu terroriste et en particulier qu’il « surveille de manière agressive » les recréations de fusillades de masse. Malgré cela, la société a également noté que les références à la fusillade de Christchurch, en particulier, sont difficiles à filtrer à l’aide de références textuelles automatiques, car elles bloqueraient probablement également les références légitimes et justes à la ville du même nom. Roblox dit que sa « détection proactive » inclut un examen humain, mais cela n’a apparemment pas empêché un certain nombre d’expériences qui enfreignent les règles de la communauté de la plate-forme de passer à travers.
Roblox a confirmé avoir depuis supprimé les expériences susmentionnées de sa plate-forme. Un représentant de l’entreprise a déclaré: « Nous avons rapidement supprimé cette expérience de Roblox après avoir été portée à notre attention et suspendu l’utilisateur responsable d’avoir enfreint nos règles communautaires. » La déclaration a poursuivi en réitérant que Roblox ne tolère pas « le racisme, les discours discriminatoires ou le contenu lié à des événements tragiques ».
Plus tôt cette année, Roblox est devenu public via une cotation directe qui a suffisamment impressionné les investisseurs pour lui valoir une évaluation de 45 milliards de dollars au premier jour. La valorisation de l’entreprise la place devant de nombreuses autres sociétés leaders du secteur. Alors que le contenu décrivant des fusillades de masse et d’autres idéaux liés au terrorisme pourrait potentiellement nuire à l’évaluation de l’entreprise de Roblox, Kelley a déclaré que le véritable préjudice constaté dans ces expériences provient des idéologies qu’elles normalisent.
« Chaque jeu sur Roblox est potentiellement une plate-forme sociale en soi, et peut potentiellement donner refuge aux joueurs de tous âges qui flirtent avec ou s’engagent pleinement avec des idéologies haineuses en ligne », a déclaré Kelley à The Verge. « Tout espace qui permet la vénération des idéologies haineuses […] contribue à la normalisation de ces idéologies et à leur diffusion.
Alors que la société continue de surveiller sa plate-forme pour le contenu qui enfreint ses règles de la communauté, Roblox a également été récemment au centre d’un procès de 200 millions de dollars qui la voit à la réception d’une affirmation selon laquelle la plate-forme a autorisé l’utilisation de chansons sans licence par son utilisateurs. Le PDG de la National Music Publishers’ Association, David Israelite, a annoncé le procès contre Roblox en juin.
