«Livraison shit beuh Paris» : quand les modérateurs et l’algorithme de Telegram ne détectent pas un groupe illégal

Promis, juré, les modérateurs de Telegram ne connaissaient pas le mot «shit». C’est du moins ce qu’a assuré le fondateur du service de messagerie, Pavel Dourov, selon des déclarations datant de décembre et consultées ce samedi 18 janvier par l’AFP.

Au milieu de nombreuses activités criminelles que l’application Telegram est accusée d’avoir facilitées, par négligence ou par laxisme, les magistrats instructeurs parisiens ont interrogé en décembre dernier le milliardaire russe de 40 ans à propos d’un groupe public appelé «Livraison shit beuh Paris» qui n’avait pas été repéré par les modérateurs de l’application.

Dourov a été mis en examen fin août pour une longue liste de chefs d’accusation, parmi lesquels «complicité d’administration d’une plateforme en ligne pour permettre une transaction illicite en bande organisée» ou encore «importation d’un moyen de cryptologie n’assurant pas exclusivement des fonctions d’authentification ou de contrôle d’intégrité sans déclaration préalable».

Mais Dourov s’est défendu de toute négligence de ses équipes, au sein desquelles tous seraient «respectueux de la loi». Raison pour laquelle le mot «shit» leur est inconnu. Et l’algorithme ? Il n’est tout simplement «pas assez entraîné», a-t-il tranché.

Pignon sur rue

Pourtant, le groupe avait pignon sur rue sur la plateforme. Comme le racontent les magistrats instructeurs, il a été simplement découvert par les enquêteurs en faisant «une recherche avec usage des mots-clés liés à la vente de produits stupéfiants». «Comment un site avec un nom aussi explicite et des photos aussi explicites a pu diffuser sur Telegram ?», ont ainsi demandé les juges.

Réponse de Pavel Dourov : «Même si nos équipes essaient de modérer ce type de recherches [sur la drogue, ndlr] depuis plusieurs années, ces recherches se concentrent essentiellement sur des marchés et dans des langues où Telegram est le plus populaire. La France ne faisait pas partie de cette liste. Dès que nous en avons eu connaissance, nous nous sommes beaucoup améliorés».

Pas de connaissance sur la drogue

«Il y avait des modérateurs pour la France, donc c’est leur travail de connaître les mots utiles et d’adapter l’intelligence artificielle ?», ont enchaîné les juges. Mais pas de quoi décontenancer Pavel Dourov, qui a répliqué : «Les modérateurs que nous avions embauchés étaient comme moi, des personnes respectueuses de la loi et qui n’avaient pas de connaissance sur le milieu de la drogue.»

«Toute personne qui parle français connaît le mot shit, même s’il ne consomme pas de cannabis», ont alors répondu les juges. Selon Pavel Dourov, «cela s’explique certainement parce que les modérateurs se sont intéressés à d’autres infractions et qu’ils n’avaient pas la mesure de ce problème. Vous avez tout à fait raison de dire que les algorithmes de Telegram utilisant l’IA ont été développés pour que ce type de contenu puisse être identifié […]».

«Telegram n’avait pas suffisamment de données pour pouvoir enseigner à l’algorithme ce type de contenu, en particulier en Français», assure Dourov. Depuis, il le promet, «nous avons fait davantage de progrès».

Libération