Protéger du risque en ligne avec la modération de contenu | France
Protéger du risque en ligne avec la modération de contenu

Avec plus de 1,3 milliard de personnes qui utilisent régulièrement YouTube, sans compter les autres plates-formes de partages de vidéos, ce sont des milliards d’heures de contenu qui sont régulièrement consommées en ligne. Google a déclaré que plus de 5 milliards de vidéos sont visionnées sur YouTube chaque jour et que ce sont 300 heures supplémentaires de vidéos qui sont mises en ligne chaque minute. Mais qu’en est-il des risques liés aux contenus offensants ?

Le risque des contenus offensants en ligne

La plupart des géants en ligne comme Facebook, Google, Twitter ou Snap sont basés en Californie. Cela leur donne, en général, une culture américaine axée sur la liberté d’expression. Cependant, les internautes utilisent activement des plates-formes mais ces derniers veulent être protégés de certains contenus : discours haineux, violence, harcèlement, spam ou fraude.

Des entreprises comme Google ou Facebook ont accepté la prise en charge de la protection de leurs utilisateurs du contenu que la plupart des gens trouveraient offensant. Cependant, il existe de nombreuses approches différentes qui peuvent être adoptées :

1.Vérifier tout contenu avant qu’il soit publié en ligne

2. Permettre aux utilisateurs de signaler ce qu’ils jugent offensant

3. Utiliser la technologie pour détecter automatiquement le risque d’infraction

4. Hiérarchiser les contrôles en fonction du risque pour l’image de la marque et pour la satisfaction des utilisateurs

La première option peut s’appliquer dans un environnement comme la boutique Google Play. Google n’autorisera pas la publication d’une application sur sa plate-forme Android à moins qu’il ne l’ait validée conforme à ses standards.

De toute évidence, cela peut ne pas fonctionner pour une plate-forme comme YouTube. Avec plus de 300 heures de contenu téléchargées chaque minute, vous auriez besoin d’une équipe d’au moins 54 000 personnes pour regarder des vidéos chaque minute de chaque jour.

L’option 2 a déjà été utilisée dans le passé, mais elle montre rapidement ses limites parce que le volume de matériel potentiellement offensant en ligne signifie que la plupart des utilisateurs commenceront à voir régulièrement ce qu’ils estiment devoir signaler. Une fois que cela se produit, l’expérience de l’utilisateur décline brusquement et les annonceurs commencent à se plaindre de voir leurs publicités placées à côté de vidéos extrêmement offensantes.

Une méthode efficace de modération de contenu

La meilleure solution actuellement applicable est un mélange des options 2, 3 et 4. Donnez aux utilisateurs la possibilité de signaler tout ce qu’ils trouvent blessant, mais aussi de déployer l’intelligence artificielle pour que chaque élément de contenu soit analysé au fur et à mesure qu’il est téléchargé. La plupart des vidéos offensantes peuvent être capturées et envoyées pour examen avant même qu’elles ne soient disponibles sur le site.

C’est là que notre équipe intervient. Le contenu signalé comme suspect par le système d’IA ou par un utilisateur entre dans un processus de modération de contenu où notre équipe utilisera des règles spécifiques convenues pour l’examiner. Parfois, il peut avoir été notifié par erreur, mais il y a généralement une bonne raison pour laquelle il a été marqué pour des contrôles supplémentaires. Notre équipe peut ensuite décider en dernier ressort s’il doit être publié ou non.

La publication de contenu offensant ne l’est pas seulement pour les utilisateurs d’un service comme YouTube, elle peut aussi nuire gravement à la réputation de l’entreprise qui héberge le contenu, et si son modèle d’affaires est axé sur le placement automatique de publicités autour du contenu, cela peut rapidement amener les annonceurs à affecter leur budget à d’autres réseaux.

Teleperformance offre des solutions de médias sociaux qui incluent la modération de contenu pour aider votre entreprise à préserver son identité de marque et promouvoir une communauté en ligne forte et saine. Contactez-nous dès aujourd’hui pour en savoir plus sur la façon dont nous pouvons vous aider !


Que pensez-vous de cette publication?
Laissez-nous un commentaire.

avatar

*