En 2026, la naturaleza del daño en línea ha sufrido una nueva mutación. Mientras que la desinformación política sigue siendo una amenaza importante para las comunidades en todo el mundo, una amenaza más inmediata y depredadora contribuye a la "erosión más amplia de la confianza en los sistemas digitales": Las estafas en línea.
Hace unos días, mientras nuestro equipo evaluaba las respuestas de Suwali a los usuarios finales, un investigador de Meedan destacó que algunos de los primeros casos de uso de aprendizaje automático de la década de 1990 se centraron en detectar correos electrónicos de spam. Estos primeros clasificadores se basaban en marcadores obvios y estáticos como frases como “VIAGRA GRATIS”, el uso excesivo de letras mayúsculas o signos de exclamación. Los estafadores en la era de la IA generativa están creando estafas personalizadas y pulidas que son más difíciles de detectar. Treinta años en la lucha contra el spam, el correo basura crudo de la década de 1990 parece casi pintoresco.
Según datos de la Global Anti-Scam Alliance (GASA), las pérdidas globales por fraude han alcanzado la asombrosa cifra de 442 mil millones de dólares anuales, siendo el fraude potenciado por IA ahora 4.5 veces más rentable que los métodos tradicionales. Estas operaciones fraudulentas funcionan como un impuesto altamente regresivo, despojando desproporcionadamente de activos a las comunidades con menos recursos y digitalmente vulnerables. También alimentan una erosión más amplia de la confianza en los sistemas digitales. Mientras que los bancos centrales y las agencias de aplicación de la ley globales luchan por mantenerse al día, las organizaciones tradicionales de verificación de hechos están evolucionando rápidamente en operaciones defensivas contra estafas.
Si la IA ha facilitado la producción de estafas, también puede facilitar el acceso a la protección. Tras el exitoso piloto de Suwali, estamos encantados de destacar el bot Scamguard de The Quint: un chatbot especializado que usa IA generativa de manera responsable para combatir el fraude financiero y digital.
Una Respuesta Impulsada por una Misión a las Estafas Digitales
The Quint se asoció con Meedan para transformar guías estáticas de alfabetización digital y explicaciones en un escudo dinámico y en tiempo real. Su iniciativa Scamguard aprovecha la infraestructura de chatbots de Suwali, convirtiendo su biblioteca archivada de investigación sobre fraudes en un asistente de WhatsApp fluido, multilingüe, que responde a consultas sobre posibles estafas antes de que se cause daño.
Scamguard emerge del mismo espíritu colaborativo que guió a nuestros primeros adoptantes de Suwali en periodismo y derechos de salud: a medida que el contenido dañino y la desinformación proliferan, las respuestas que la gente necesita a menudo están sepultadas detrás de filtros algorítmicos o profundamente dentro de largas guías en PDF. Además, muchas personas pasan más tiempo interactuando con chatbots que visitando el sitio web de una organización de confianza.
"El contenido de noticias ha pasado de los sitios web en su escritorio a las plataformas de redes sociales y a las aplicaciones de noticias. Y ahora se está moviendo a servicios de mensajería como WhatsApp y Telegram... Hemos entendido que el público no solo quiere interactuar con el contenido, sino que también quiere involucrarse con él," dice Abhilash Mallick, el editor del equipo de verificación de hechos en The Quint. El chatbot de WhatsApp de The Quint se adapta a este cambio de comportamiento generalizado porque Suwali admite una interacción directa bidireccional, lo que permite a los usuarios consultar mensajes específicos que han recibido o solicitar más información sobre nuevas tácticas de estafa. Este modelo de comunicación directa hace más que solo brindar respuestas; ayuda al equipo de The Quint a entender la evolución de las tácticas de los estafadores e informar iniciativas más amplias de seguridad comunitaria.
Escalando la Protección con Lenguaje Natural
Uno de los principales desafíos en la prevención del fraude es el volumen de estafas únicas y localizadas. El bot de The Quint está diseñado para manejar consultas con matices y rapidez: Antes de lanzar el bot, The Quint desarrolló más de 40 recursos estructurados en inglés e hindi que explican la anatomía de estafas distintas que se propagan en línea, así como formas de protegerse de ellas.
Scamguard responde a una pregunta sobre las últimas estafas en línea en India (conversación de WhatsApp anonimizada)
Basado en estos recursos, Scamguard cambia el comportamiento del usuario de una reacción pasiva a una verificación activa. El chatbot opera a dos niveles: sirve como herramienta educativa pre-exposición y brinda soporte personalizado multilingüe a víctimas potenciales de fraude mientras son atacadas, sugiriendo remedios útiles, como contactar con líneas de ayuda públicas y mecanismos de reporte.
Scamguard explica cómo operan las estafas de inversión (conversación de WhatsApp anonimizada)
Y debido a que los estafadores dependen de patrones universales psicológicos y técnicos, la arquitectura es inherentemente escalable. En otras palabras, el equipo de The Quint no necesita publicar un artículo único para cada nueva variación o localización de una estafa existente.
Para ilustrar, el ejemplo a continuación muestra una interacción entre un usuario y el bot Scamguard en la que el usuario le preguntó a Scamguard sobre un mensaje que habían recibido recientemente. Aunque nunca había visto este mensaje exacto antes, Suwali detectó pistas lingüísticas estructurales para emitir una advertencia defensiva de "Precaución", neutralizando eficazmente los patrones de fraude en lugar de solo esquemas individuales. Una cosa que aclarar aquí es que el bot no imaginó, recurrió a razonamiento general o utilizó un modelo de lenguaje grande para elaborar una respuesta; su respuesta se fundamenta únicamente en las fuentes de The Quint que detallan, entre otras cosas, la anatomía de una estafa.
Scamguard marca un mensaje sospechoso que recibió un usuario (conversación de WhatsApp anonimizada)
Construyendo un Futuro Más Seguro Juntos
En Meedan, creemos que los mejores recursos se construyen con socios y sus comunidades. Vemos a Scamguard como un escudo colaborativo, fundamentado en los recursos propios de The Quint y diseñado para evolucionar junto a las comunidades que protege. Y a medida que ampliamos este proyecto, seguimos comprometidos a apoyar a las organizaciones que brindan información crítica a sus comunidades.
Para ver a Scamguard en acción, saluda al bot en WhatsApp haciendo clic en el enlace: +91 88268 11818. Las organizaciones interesadas en añadir Suwali a la caja de herramientas de seguridad digital de su comunidad pueden enviarnos un mensaje.
