En 2026, la nature des méfaits en ligne a subi une nouvelle mutation. Bien que la désinformation politique reste une menace majeure pour les communautés dans le monde entier, une menace plus immédiate et prédatrice contribue à la "dégradation plus large de la confiance dans les systèmes numériques": les arnaques en ligne.
Il y a quelques jours, pendant que notre équipe évaluait les réponses de Suwali aux utilisateurs finaux, un chercheur de Meedan a souligné que certains des premiers cas d'utilisation du machine learning des années 1990 étaient axés sur la détection de spams. Ces premiers classificateurs s'appuyaient sur des marqueurs évidents et statiques comme des phrases du type "VIAGRA GRATUIT", l'utilisation excessive de majuscules ou des points d'exclamation en surnombre. Les escrocs à l'ère de l'IA générative créent des arnaques personnalisées et raffinées qui sont plus difficiles à détecter. Trente ans après le début de la lutte contre le spam, le courrier indésirable cru des années 1990 semble presque pittoresque.
Selon des données de l'Alliance mondiale anti-arnaque (GASA), les pertes mondiales dues à la fraude ont atteint un chiffre stupéfiant de 442 milliards de dollars par an, avec la fraude améliorée par IA désormais 4,5 fois plus rentable que les méthodes traditionnelles. Ces opérations frauduleuses fonctionnent comme une taxe fortement régressive, dépouillant de manière disproportionnée les actifs des communautés à faibles ressources et numériquement vulnérables. Elles alimentent également une dégradation plus large de la confiance dans les systèmes numériques. Alors que les banques centrales et les agences d'application de la loi mondiales ont du mal à suivre le rythme, les organisations traditionnelles de vérification des faits évoluent rapidement en opérations anti-arnaque défensives.
Si l'IA a facilité la production d'arnaques, elle peut aussi faciliter la protection. Suite au succès du pilote de Suwali, nous sommes ravis de mettre en avant le bot Scamguard de The Quint : un chatbot spécialisé qui utilise de manière responsable l'IA générative pour combattre la fraude financière et numérique.
Une réponse motivée par la mission contre les arnaques numériques
The Quint s'est associée à Meedan pour transformer les guides de littératie numérique statiques et explicatifs en un bouclier dynamique et en temps réel. Leur initiative Scamguard utilise l'infrastructure de chatbot de Suwali, transformant leur bibliothèque d'archives de recherche sur la fraude en un assistant WhatsApp fluide et multilingue qui répond aux questions sur les arnaques potentielles avant que le mal ne soit causé.
Scamguard émerge du même esprit de collaboration qui a guidé nos premiers utilisateurs de Suwali dans le journalisme et les droits de la santé : Alors que les contenus nuisibles et la désinformation prolifèrent, les réponses dont les gens ont besoin sont souvent enfouies derrière des filtres algorithmiques ou profondément à l'intérieur de longs guides PDF. De plus, beaucoup de gens passent plus de temps à interagir avec des chatbots qu'à visiter le site d'une organisation de confiance.
"Le contenu des actualités a fait la transition des sites web sur les ordinateurs de bureau vers les plateformes de médias sociaux et les applications d'actualités. Et maintenant, il migre vers les services de messagerie comme WhatsApp et Telegram... Nous avons compris que le public ne veut pas seulement s'engager avec le contenu, mais veut également interagir avec le contenu," dit Abhilash Mallick, rédacteur de l'équipe de vérification des faits chez The Quint. Le chatbot WhatsApp de The Quint s'adapte à ce changement comportemental majeur car Suwali prend en charge l'interaction directe à double sens, permettant aux utilisateurs d'interroger des messages spécifiques qu'ils ont reçus ou de demander plus d'informations sur les nouvelles tactiques d'arnaque. Ce modèle de communication directe ne se contente pas de donner des réponses ; il aide l'équipe de The Quint à comprendre les tactiques évolutives des escrocs et à informer les initiatives de sécurité communautaire plus larges.
Élargir la protection avec le langage naturel
L'un des principaux défis de la prévention de la fraude est le volume d'arnaques uniques et localisées. Le bot de The Quint est conçu pour gérer les demandes avec nuance et rapidité : Avant de lancer le bot, The Quint a développé plus de 40 ressources structurées en anglais et en hindi qui expliquent l'anatomie des arnaques distinctes se propageant en ligne, ainsi que comment se protéger.
Scamguard répond à une question sur les dernières arnaques en ligne en Inde (conversation WhatsApp anonymisée)
Basée sur ces ressources, Scamguard incite les utilisateurs à passer de la réaction passive à la vérification active. Le chatbot fonctionne à deux niveaux : il sert d'outil éducatif avant l'exposition et offre un soutien personnalisé multilingue aux victimes potentielles de fraude alors qu'elles sont ciblées, tout en suggérant des solutions utiles, telles que contacter les lignes d'assistance publique et les mécanismes de signalement.
Scamguard explique comment fonctionnent les arnaques à l'investissement (conversation WhatsApp anonymisée)
Et parce que les escrocs se fient à des modèles psychologiques et techniques universels, l'architecture est intrinsèquement évolutive. En d'autres termes, l'équipe de The Quint n'a pas besoin de publier un article unique pour chaque nouvelle variation ou localisation d'une arnaque existante.
Pour illustrer, l'exemple ci-dessous montre une interaction entre un utilisateur et le bot Scamguard dans laquelle l'utilisateur a demandé à Scamguard au sujet d'un message qu'il avait récemment reçu. Bien qu'il n'ait jamais vu ce message exact auparavant, Suwali a signalé des indices linguistiques structuraux pour émettre un avertissement défensif "Attention", neutralisant efficacement les modèles de fraudes plutôt que juste des schémas individuels. Un point à clarifier ici est que le bot n'a pas halluciné, n'est pas retombé sur un raisonnement général et n'a pas utilisé un modèle linguistique étendu pour formuler une réponse ; sa réponse est fondée uniquement sur les sources de The Quint qui détaillent, entre autres, l'anatomie d'une arnaque.
Scamguard signale un message suspect reçu par un utilisateur (conversation WhatsApp anonymisée)
Construire un avenir plus sûr ensemble
Chez Meedan, nous croyons que les meilleures ressources sont construites avec les partenaires et leurs communautés. Nous percevons Scamguard comme un bouclier collaboratif, basé sur les propres ressources de The Quint et conçu pour évoluer parallèlement aux communautés qu'il protège. Et alors que nous développons ce projet, nous restons engagés à soutenir les organisations qui fournissent des informations essentielles à leurs communautés.
Pour voir Scamguard en action, dire bonjour au bot sur WhatsApp en cliquant sur le lien : +91 88268 11818. Les organisations intéressées par l'ajout de Suwali à leur trousse à outils de sécurité numérique communautaire peuvent nous envoyer un message.
