Chatroulette revient par la modération de contenue d'IA
Chatroulette est devenu célèbre au début des années 2010 pour permettre aux gens de parler avec d'autres personnes au hasard. Cependant, le site est également devenu tristement célèbre en raison de la facilité avec laquelle les gens pouvaient rencontrer de la nudité et d'autres contenus «R-rated». Tel que rapporté par Wired, Chatroulette vise maintenant à faire un retour avec une meilleure modération de contenu aidée par l'IA.
Modération de contenu basée sur l'IA
À mesure que les algorithmes d'intelligence artificielle et de vision par ordinateur sont devenus plus sophistiqués et fiables, leurs applications pour détecter les contenus répréhensibles se sont améliorés. C'est une aubaine pour toute entreprise qui permet aux utilisateurs de télécharger ou de créer du contenu. Des entreprises comme Youtube, Facebook et Twitter utilisent des algorithmes de filtrage de contenu alimentés par l'IA pour traiter les contenus répréhensibles. Chatroulette en particulier était autrefois en proie à la nudité et à d'autres actes obscènes qui chassaient de nombreux utilisateurs. La pandémie a suscité un regain d'intérêt pour Chatroulette, qui, grâce aux progrès de la reconnaissance d'images par l’IA, peut surveiller plus efficacement le contenu diffusé par les utilisateurs.
En 2019, le fondateur de Chatroulette, Andrey Ternovskiy, a incorporé la société en Suisse, dans le but de collaborer avec des managers professionnels et des spécialistes de l'IA. L'expert en apprentissage automatique Andrew Done a été embauché par Ternovskiy pour superviser le développement de la technologie d'intelligence artificielle pour le nouveau Chatroulette. Done est devenu PDG plus tôt cette année, ajoutant plus de chercheurs et de gestionnaires de produits à l'équipe.
Sous la nouvelle direction, Chatroulette a profité de l'augmentation du trafic pour mener des recherches sur les utilisateurs et tester diverses méthodes de modération de contenu. L'équipe de Chatroulette a conçu deux nouveaux canaux de chat. Un canal de chat s'appelle Random Chat, qui est conçu pour exclure le contenu répréhensible, tandis que l'autre canal s'appelle Unmoderated. Cette séparation est faite afin d'attirer les utilisateurs intéressés à se connecter avec d'autres personnes sans avoir à se soucier du contenu répréhensible. La chaîne non filtrée sera finalement supprimée mi-2021.
Partenariat avec la société d'IA Hive
Chatroulette s'est associé à la société d'intelligence artificielle Hive pour développer des IA détectant la nudité. Hive est également responsable de la modération du contenu Reddit, leur donnant une expérience de la gestion de contenu sur un réseau social majeur. Selon Done, le système de surveillance de l'IA de Hive est si précis que l'inclusion de modérateurs humains dégrade en fait la précision de la modération dans son ensemble. Hive forme des modèles d'IA sur des données annotées par une main-d'œuvre de plus de 2 millions de travailleurs distribués. La main-d'œuvre distribuée recherche des contenus répréhensibles comme la nudité et la présence d'armes à feu, annotant les images à utiliser dans la formation de l'IA Hive. Alors que Chatroulette a essayé d'utiliser le système Cloud Vision AI de Google et Amazon Rekognition pour aider à la modération du contenu, il a finalement constaté que l'IA de Hive était la plus précise et la plus fiable pour ses besoins.
L'IA de Hive a traité plus de 600 millions d'images vidéo de Chatroulette. Toute connexion entre deux utilisateurs entraîne la création de trois cadres. Une trame est créée pour les deux utilisateurs au début de la connexion et une trame est générée pour l'utilisateur qui met fin à la connexion. Le contenu qui enfreint les conditions peut être identifié en une seule seconde. Un message d'alerte est envoyé à un modérateur humain qui peut soit bannir, soit avertir l'utilisateur.
Au début de l'année, Chatroulette comptait environ 4 millions de visiteurs uniques par mois, soit le plus grand nombre de visiteurs que l'entreprise ait eu depuis début 2016. Les efforts pour lutter contre les contenus obscènes semblent avoir porté leurs fruits, car les femmes représentent désormais approximativement 34 % des visiteurs. Tous les utilisateurs, contre seulement 11 % des utilisateurs en 2018.
Alors que les entreprises de médias sociaux vont et viennent, Chatroulette semble avoir de nouveau pris de l'importance. Cependant, Ternovskiy reconnaît que la société a également d'autres problèmes à résoudre au-delà de la simple modération du contenu. Selon Ternovskiy, près de 90 % des visiteurs pour la première fois ne reviennent jamais, car ils trouvent leurs interactions médiocres.
"Le défi est vraiment de construire quelque chose de digne qui inciterait les gens à l'utiliser régulièrement plutôt que d'être une chose ponctuelle", a expliqué Ternovskiy via Wired.
