Zach Matheson, 28 ans, s'inquiète parfois de l'hostilité sur le réseau social de réalité virtuelle Meta, Horizon Worlds. Lorsque son fils de 7 ans, Mason, explorait l'application, il a rencontré des utilisateurs, généralement d'autres enfants, qui criaient des grossièretés ou des insultes racistes.
Il est devenu tellement en colère contre son fils qu'il a suivi chacun de ses mouvements en réalité virtuelle via un téléviseur connecté au casque Quest. Lorsque Matheson pense que la pièce n'est pas sûre, il ordonne à Mason de partir. Il visite régulièrement les forums Internet, conseillant aux autres parents de faire de même.
"Beaucoup de parents ne le comprennent pas du tout, alors ils laissent généralement leurs enfants jouer là-bas", a-t-il déclaré. Il a dit: "Si vos enfants ont un Oculus, essayez de les espionner et de regarder à qui ils parlent."
Pendant des années, Meta a soutenu que la meilleure façon de protéger les personnes en réalité virtuelle est de leur donner la possibilité de se protéger en donnant aux utilisateurs les outils nécessaires pour contrôler leur propre environnement, comme la possibilité de bloquer ou de repousser les autres utilisateurs. C'est une position nettement moins agressive et coûteuse que celle qu'elle a adoptée sur les réseaux sociaux Facebook et Instagram, soutenue par des systèmes automatisés et assistés par l'homme pour éradiquer les discours de haine, les contenus violents et les messages d'erreur qui enfreignent les règles.
Nick Clegg, président des communications mondiales de Meta, compare la stratégie métaverse de l'entreprise à la possession d'un bar. Si les clients rencontrent un «langage désagréablement offensant», ils partent simplement sans s'attendre à ce que les propriétaires du bar donnent suite à la conversation.
Mais les experts préviennent que de telles tactiques de modération pourraient être dangereuses pour les enfants qui affluent vers Horizon, qui, selon les utilisateurs, est en proie au sectarisme, au harcèlement et à la pornographie. Alors que Meta interdit officiellement aux enfants de moins de 18 ans d'utiliser son application phare de réalité virtuelle, les chercheurs et les utilisateurs rapportent que les enfants et les adolescents utilisent le programme en masse en gérant des comptes appartenant à des adultes ou en déclarant leur âge de manière erronée.
Dans certains cas, les utilisateurs adolescents ont été incapables de gérer les situations dangereuses qu'ils ont trouvées dans le métaverse, selon les chercheurs. D'autres ont signalé que de jeunes utilisateurs harcelaient d'autres personnes de manière inappropriée sans la supervision d'un adulte. Pendant ce temps, de nouvelles recherches montrent que les victimes de harcèlement et d'intimidation en réalité virtuelle subissent souvent des effets psychologiques similaires aux attaques réelles.
Jessie Fox, professeure adjointe à l'Ohio State University qui étudie la réalité virtuelle, dit que les enfants "ne savent même pas qu'il n'y a pas de monstre sous le lit". « Comment savent-ils que l'avatar est manipulé par un monstre ? »
Malgré les risques, Meta continue de commercialiser le Metaverse auprès d'un public toujours plus jeune, suscitant la colère des militants et des régulateurs de la protection de l'enfance. Après que Meta ait révélé son intention d'ouvrir Horizon Worlds aux jeunes utilisateurs âgés de 13 à 17 ans, certains législateurs ont appelé l'entreprise à abandonner le plan.
"Compte tenu de l'incapacité de votre entreprise à protéger les enfants et les adolescents, et des preuves de plus en plus nombreuses que les jeunes utilisateurs de Metaverse sont à risque, nous vous exhortons à arrêter ce programme immédiatement." – Le sénateur Richard Blumenthal (D-CT) Edward J. Markey (D-Massachusetts)) a écrit la semaine dernière dans une lettre au PDG de Meta, Mark Zuckerberg.
La porte-parole de Meta, Kate McLaughlin, a déclaré dans un communiqué que jusqu'à ce que la société rende Horizon World "accessible aux adolescents, nous fournirons des protections et des outils supplémentaires pour les aider à vivre des expériences adaptées à leur âge".
"Nous encourageons les parents et les tuteurs à utiliser nos contrôles parentaux, y compris le contrôle d'accès aux applications, pour assurer leur sécurité", a-t-elle ajouté.
Une nouvelle étude du Center Against Digital Hate, un groupe de défense des entreprises technologiques, illustre certains des scénarios dangereux auxquels sont confrontés les utilisateurs qui ressemblent à des enfants dans le métaverse. L'étude a enregistré une série de conversations offensantes, biaisées et explicites dans des clubs de comédie virtuels, des fêtes et des tribunaux fictifs devant des utilisateurs apparemment jeunes.
« Le Metaverse est pour les jeunes. Les enfants trouveront inévitablement leur propre chemin », a déclaré Imran Ahmed, directeur exécutif du Center for Combating Digital Hate. "Lorsque vous vous occupez d'enfants et essayez de commercialiser leur attention, vous avez la responsabilité de rassurer leurs parents sur le fait que votre plateforme est sûre."
La controverse surgit alors que The Meta cherche à changer la façon dont les gens interagissent en se déplaçant dans un royaume virtuel immersif connu sous le nom de Metaverse. Les dirigeants de Meta voient un avenir où les gens travaillent, jouent et font leurs achats ensemble dans un monde numérique qui ressemble et se sent comme le monde réel, mais fonctionne sur des appareils de réalité virtuelle et augmentée.
Selon les règles Meta, la pornographie, la publicité illégale sur les drogues et la violence extrême sont interdites. Les utilisateurs peuvent signaler des incidents problématiques à des experts en sécurité, bloquer des utilisateurs, confondre des utilisateurs qu'ils ne reconnaissent pas ou se retirer des réseaux sociaux.
Ces outils n'ont pas empêché la propagation de contenus illégaux dans tout le métaverse, souvent devant des utilisateurs qui semblent être des enfants.
Des chercheurs du Center to Combat Digital Hate ont été inclus dans la liste des « 100 meilleurs » d'Horizon Worlds sur la base des commentaires des utilisateurs. Ils ont documenté les interactions dont ils ont été témoins, classés comme contenu pour adultes ou inclus des interactions entre apparemment des mineurs et des adultes.
Deux chercheurs ont déterminé qu'un utilisateur était mineur s'ils pensaient que la personne parlait comme un enfant ou si l'utilisateur indiquait explicitement son âge.
Ils ont découvert que les utilisateurs se livraient à des jeux de sexe en groupe en posant des questions telles que "Quelle catégorie de porno avez-vous?" Au club de comédie Soapstone, un utilisateur de la foule a vivement réagi à la demande de "se taire": "Je n'ai que 12 ans, calmez-vous."
Au total, le groupe a documenté 19 incidents dans lesquels des mineurs semblaient être influencés par des commentaires biaisés, du harcèlement ou du contenu pornographique. Sur 100 entrées Horizon Worlds, 66 contenaient des utilisateurs de moins de 18 ans.
On ne sait pas combien d'utilisateurs ont contourné les restrictions d'âge de Meta, ou comment la popularité du contenu explicite dans Horizon Worlds se compare à d'autres programmes VR.
"Le défi consiste à amener les enfants dans quelque chose qu'ils ne veulent pas nécessairement vivre", a déclaré Jeff Haynes, rédacteur en chef des jeux vidéo et des sites Web chez Common Sense, un groupe de défense qui évalue le contenu de divertissement pour les enfants.
Haley Kremer, 15 ans, a déclaré qu'elle avait contacté Horizon pour se connecter, en particulier avec des mentors seniors qui l'ont aidée à surmonter les défis de la vie. Elle a dit que c'était formidable de rencontrer plus de gens qui se soucient d'elle.
Mais toutes ses interactions avec les adultes sur l'application n'ont pas été aussi positives. Il y a quelques mois, un utilisateur avec un avatar masculin aux cheveux gris l'a approchée dans l'un des principaux centres du monde, Horizon, et a dit qu'elle était belle. Quand elle lui dit de rester loin d'elle, il la suit jusqu'à ce qu'elle l'arrête, une tactique qu'elle a apprise d'un mentor.
De nouvelles recherches sur la réalité virtuelle montrent que l'expérience viscérale d'être dans la réalité virtuelle rend la poursuite agressive dans l'espace similaire à l'agression dans le monde réel. Les utilisateurs rapportent souvent que leurs corps virtuels semblent être des extensions de leurs corps réels, un phénomène connu dans la recherche universitaire sous le nom d'incarnation.
"Quand quelqu'un dit qu'il a été traqué, attaqué ou battu dans la réalité virtuelle, c'est parce que tous ses systèmes biologiques réagissent de la même manière qu'ils le feraient s'ils étaient physiquement attaqués", a déclaré Brittan Heller, chercheur principal à The Atlantic for Democracy. et la technologie. . Conseil.
Les critiques disent que l'approche de barman de Meta confie une grande partie de la responsabilité aux utilisateurs occasionnels pour gérer ces espaces virtuels immersifs - une responsabilité plus difficile à remplir pour les jeunes utilisateurs. Ils affirment qu'Horizon World a été développé par un géant de la technologie qui a la mauvaise réputation de réprimer la propagation de discours dangereux sur ses plateformes de médias sociaux.
« Meta ne gère pas de bar. Aucun bar n'a jamais été la cause d'un génocide », a déclaré Ahmed. "Aucun bar n'a jamais été un vivier pour les prédateurs les plus dangereux du pays. Facebook est tout, tout comme le Metaverse.
Heure de publication : 10 mars 2023