Google lance son nouvel outil contre les commentaires « toxiques »

Google et Jigsaw -autre filliale d’Alphabet- ont lancé aujourd’hui une nouvelle technologie pour aider à identifier les commentaires abusifs sur les sites Web. L’outil, basé sur l’intelligence artificielle, s’adressera aux médias et aux diffuseurs de contenus qui souhaitent maintenir un certain respect dans les discussions.
Dénommé « Perspective », cette solution passera en revue les commentaires et les comparera avec ceux identifiés comme « toxiques » sur une base de données. Ce classement se fera d’ailleurs par rapport aux signalements des utilisateurs ou de leurs comportements face à certains commentaires -par exemple de ne plus intervenir.
Annoncée en septembre 2016, la fonction a été testée sur le New York Times et Wikipédia. Google aurait traité près de 17 millions de commentaires publiés sur le journal américain et plus de 100 000 extraits de conversation sur le site. Grâce à ce travail, il est désormais en mesure de classer les commentaires en fonction de leur degré de toxicité, sur une échelle allant de 1 à 100.  « Les sites d’informations veulent encourager […] la discussion autour de leur contenu, mais trier des millions de commentaires pour isoler les abus prend énormément d’argent, de travail et de temps. Par conséquent, de nombreux sites ont définitivement fermé les commentaires, » Jared Cohen, CEO de Jigsaw, avant de rajouter. « Mais ils nous disent qu’ils préféreraient une autre solution. Nous pensons que la technologie peut aider. »
CJ Adams, chef de produit Jigsaw, a déclaré que cette technologie était prête à être déployée sur toutes les plates-formes, notamment Facebook et Twitter. Il a également précisé qu’il s’agissait d’une technique perfectible, qui allait devoir s’adapter aux utilisateurs, quels qu’ils soient.
Rappelons que la violence et le harcèlement en ligne sont devenus des enjeux d’envergure pour les médias, les réseaux sociaux ou les sites. Selon le Center for Innovative Public Health Research, 72% des internautes américains déclarent avoir repéré au moins une fois dans leur vie la présence de commentaires violents en ligne, 47% déclarent en avoir fait les frais.