Le troisième rapport de transparence Xbox présente l’évolution de notre approche en matière de création d’expériences de jeu plus sûres

Notre plateforme et la communauté des joueurs et des joueuses ne cessent d’évoluer. Alors que l’industrie du jeu continue de se développer, les systèmes de sécurité nécessitent encore plus de précision, de rapidité et d’agilité pour protéger les joueuses et les joueurs d’une toxicité potentielle. Aujourd’hui, nous publions notre troisième Rapport de transparence Xbox (en anglais), qui fournit des données et des informations sur le travail que nous effectuons pour créer un environnement plus sûr et plus inclusif afin que nos joueurs et joueuses puissent profiter d’expériences de jeu uniques.

Chez Xbox, nous continuons à adapter nos technologies et nos approches pour suivre l’évolution du secteur, ce qui inclut la recherche et l’utilisation de l’intelligence artificielle (IA). L’IA joue un rôle de plus en plus important dans la modération des contenus dans le monde entier. Notre équipe innove activement dans l’utilisation responsable de l’IA afin d’offrir aux joueurs et aux joueuses des expériences plus sûres qui peuvent être utilisées dans l’ensemble de l’industrie du jeu. Nos efforts visent à combiner l’importance de la surveillance manuelle avec les capacités évolutives de l’IA pour construire sur les fondations de notre travail pour rendre le jeu vidéo plus sûr.

Actuellement, nous utilisons une série de modèles d’IA existants pour détecter les contenus toxiques, notamment Community Sift (en anglais), une plateforme de modération de contenu assistée par l’IA et guidée par les connaissances humaines, qui classe et filtre des milliards d’interactions humaines par an et qui alimente un grand nombre de nos systèmes de sécurité sur Xbox ; et Turing Bletchley v3 (en anglais), le modèle multilingue qui analyse les images générées par les utilisatrices et les utilisateurs pour s’assurer que seul le contenu approprié est affiché. Nous développons activement des moyens d’améliorer encore nos systèmes grâce à l’IA et au Community Sift afin de mieux comprendre le contexte des interactions, de renforcer les capacités de nos modérateurs humains et de réduire l’exposition à des contenus sensibles.

Nombre de nos systèmes sont conçus pour aider les joueuses et les joueurs à se sentir en sécurité, intégrés et respectés. Notre technologie et notre approche proactives nous permettent de bloquer le contenu partagé sur notre plateforme avant qu’il n’atteigne les joueurs et les joueuses, tandis que les mesures proactives d’application de la loi réduisent le contenu ou le comportement indésirable sur la plateforme. Comme l’indique le rapport, 87 % (17 millions) du nombre total d’infractions détéctées au cours de la période analysée l’ont été grâce aux efforts de modération proactifs de Xbox.

Voici quelques-unes des principales conclusions du rapport :

• De nouvelles perspectives sur les volumes de contenus bloqués – Prévenir la toxicité avant qu’elle n’atteigne nos joueuses et nos joueurs est un élément crucial de nos efforts de modération proactifs visant à offrir une expérience accueillante et inclusive pour toutes et tous. Notre équipe associe une IA responsable à une supervision humaine pour examiner et empêcher les contenus nuisibles d’être publiés sur notre plateforme. Pour mieux mesurer notre succès, nous incluons désormais un nouvel ensemble de données couvrant notre travail dans cet espace, appelé “Toxicity Prevented” (Toxicité évitée). Au cours de la dernière période, plus de 4,7 M de contenus ont été bloqués avant d’atteindre les joueuses et les joueurs, dont une augmentation de 135k (+39 % par rapport à la dernière période) dans l’imagerie grâce à des investissements dans l’utilisation du nouveau modèle de fondation Turing Bletchley v3 (en anglais).
• Accent mis sur la lutte contre le harcèlement – Nous nous engageons à créer un environnement sûr et inclusif pour tous les joueurs et les joueuses. Nous nous efforçons activement d’identifier et de traiter tout comportement abusif, y compris les discours haineux, les brimades et le harcèlement. Dans cette optique, nous avons apporté des améliorations à nos processus internes afin d’accroître nos efforts de contrôles proactifs au cours de la période écoulée, en effectuant 84k contrôles proactifs en matière de harcèlement et d’intimidation (+95 % par rapport à la période précédente). Nous avons également lancé notre nouvelle fonction de « voice reporting » (signalement vocal) (article en anglais) pour enregistrer et signaler les cas de harcèlement vocal dans le jeu. Notre équipe de sécurité continue de prendre des mesures proactives pour s’assurer que tous les joueuses et les joueurs sont conscients que les comportements abusifs, quels qu’ils soient, sont inacceptables sur notre plateforme, et que nous les prenons au sérieux.
• Comprendre le comportement des joueuses et des joueurs après l’application d’une sanction – Nous avons analysé le comportement des joueuses et des joueurs après avoir reçu une sanction. Les 1ers résultats indiquent que la majorité des joueurs et des joueuses n’enfreignent pas les normes de la communauté après avoir reçu une sanction et s’engagent de manière positive avec la communauté. Pour mieux aider les joueuses et les joueurs à comprendre ce qui est ou n’est pas un comportement acceptable, nous avons récemment lancé notre « système de mesures répressives » , qui est conçu pour aider les joueuses et les joueurs à mieux comprendre la sévérité des sanctions, l’effet cumulatif de celles-ci et l’impact total sur leur dossier.

En dehors du “Transparency Report” et dans le monde entier, notre équipe continue de travailler en étroite collaboration pour stimuler l’innovation en matière de sécurité dans l’ensemble du secteur du jeu vidéo :

• Minecraft et GamerSafer s’associent pour promouvoir des serveurs qui s’engagent en faveur de la sécurité. Le développeur de Minecraft, Mojang Studios, s’est associé à GamerSafer (en anglais), ainsi qu’à des membres de la communauté Minecraft, pour établir la liste officielle des serveurs Minecraft (en anglais), afin que les joueurs et les joueuses puissent facilement trouver des serveurs tiers qui s’engagent à respecter des pratiques sûres et sécurisées. Mojang Studios et GamerSafer collaborent régulièrement pour mettre à jour les politiques et les normes de sécurité requises pour que les serveurs soient répertoriés sur le site. Les serveurs présentés sont conformes aux Conditions d’utilisation de Minecraft et répondent à certaines exigences, notamment l’objectif du serveur, le public visé et les pratiques fondamentales de gestion de la communauté qui définissent le ton, les valeurs et les principes de chaque serveur. En outre, les serveurs peuvent obtenir différents badges pour montrer leur engagement à l’égard des meilleures pratiques en matière de sûreté et de sécurité. Les gestionnaires de communautés de serveurs peuvent s’inscrire pour que leur serveur soit répertorié, et les joueuses et les joueurs peuvent signaler des problèmes ou contacter directement un serveur pour lui poser des questions. Le site permet non seulement aux gestionnaires de communautés de serveurs de concevoir des jeux et des expériences amusants en gardant la sécurité à l’esprit, mais il offre également aux joueurs, aux joueuses et aux parents une ressource facile pour trouver et explorer des expériences positives sur les serveurs.
• Japon et à Singapour. Ces ressources locales permettent aux parents et aux soignants de mieux comprendre la sécurité en ligne dans les jeux et de gérer l’expérience de leurs enfants sur Xbox. Les kits d’outils couvrent les risques de sécurité courants, des conseils spécifiques pour les enfants de tous âges, et les fonctionnalités disponibles sur Xbox pour aider à rendre l’expérience de la joueuse et du joueur plus sûre pour tous les membres de la famille. Parmi les versions précédentes, citons le Xbox Gaming Safety Toolkit pour l’Australie et la Nouvelle-Zélande.

Ensemble, nous continuons à construire une communauté où chacun peut s’amuser, sans crainte et dans les limites qu’il s’est fixées. Cela signifie que nous mettons en place davantage d’outils et de systèmes pour permettre aux joueurs et aux joueuses d’interagir de manière respectueuse les uns avec les autres. Parmi les mesures de sécurité récemment introduites, citons notre fonction “Voice Reporting” (signalement vocal) (article en anglais), qui permet aux joueuses et aux joueurs d’enregistrer et de signaler toute activité vocale inappropriée dans n’importe quel jeu multijoueur avec chat vocal en jeu, ainsi que notre « système de mesures répressives » qui fournit aux joueurs et aux joueuses davantage d’informations sur l’impact de leur comportement au sein de notre écosystème.

Chaque personne a un rôle à jouer dans la création d’un environnement positif et accueillant pour toutes tous, et nous nous réjouissons de continuer à accompagner tout le monde sur cette voie qui est la nôtre en matière de sécurité.

Quelques ressources supplémentaires :   

• Faites part de vos retours via le programme Xbox Insiders ou sur notre page d’Assistance Xbox
• Lisez les Normes de la communauté pour Xbox
• Découvrez l’application Xbox Family Settings[JD3]  (vidéo en anglais) et téléchargez-la
• Tenez-vous au courant de la Vie privée et sécurité en ligne
• Rester informé sur Comment signaler un joueur et Comment soumettre un examen de cas
• Éducation à Minecraft
• Privacy Prodigy (en anglais)
• CyberSafe : Home Sweet Hmm (en anglais)

Besoin d’aide ? Demandez à être appelé, discutez en ligne, etc.