WhatsApp explica cómo lucha contra el spam y las cuentas falsas con aprendizaje automático

Si eres uno de los más de 1.500 millones de personas que usan cada mes WhatsApp, seguro que has recibido en algún momento algún mensaje en cadena de alguno de tus contactos. Desde el que te desea buenos días hasta el que te alerta de la falsa alarma de la policía, los mensajes y memes son casi parte de la esencia de la app. Pero más allá de estos, hay personas y bots que se dedican a saturar la app con mensajes masivos automatizados.

Recientemente, la app decidió limitar el reenvío de mensajes a solo cinco personas para tratar de acabar con las noticias falsas entre los usuarios. Pero además de trabajar contra el spam generado por el usuario común, lo hace a mayor escala con un sistema de aprendizaje automatizado, para acabar también con los usuarios que entran en la aplicación con solo ese fin.

Tres puntos de control

WhatsApp llegó a desbancar a Facebook como la app más popular del mundo el pasado mes de septiembre. Pero entre sus millones de usuarios, hay quien la usa con intenciones maliciosas. De hecho, según ha explicado la compañía en un documento, cada mes elimina dos millones de cuentas creadas para generar spam.

Teniendo en cuenta que el cifrado de extremo a extremo es una de las bases de la app, ¿cómo es capaz de detectar que un mensaje es realmente spam? Sencillo, gracias a un algoritmo de aprendizaje automático que es capaz de eliminar el 75 por ciento de las dos millones de cuentas que se eliminan cada mes.

Para hacerlo, la compañía establece tres puntos de control: en el registro, en el envío de mensajes y gracias a los comentarios negativos de los informes, siendo el primero un momento crucial a la hora de eliminar nuevas cuentas.

1. Registro en WhatsApp

Para registrarte en WhatsApp, debes verificar la cuenta con un código enviado por SMS o a través de una llamada de teléfono. Al hacerlo, el algoritmo verifica información básica como el código del país y la red local, además de detalles del dispositivo o la dirección IP. Aquí es cuanto se produce la primera gran criba.

¿Por qué? Sencillo, para enviar este tipo de mensajes, se suelen usar múltiples tarjetas SIM y simuladores que se hacen pasar por usuarios con la intención de ejecutar diferentes cuentas en WhatsApp. Si el sistema detecta un número de teléfono (o similar al número en sí) que ha sido calificado como spam en otros sitios o si la red de computadoras intenta registrar varias cuentas de forma masiva, el sistema las elimina incluso antes de que puedan enviar un mensaje.

En esta primera criba, se elimina un 20 por ciento de los dos millones de cuentas que se suprimen cada mes.

2.Envío de mensajes masivos

Según la compañía, el objetivo es detectar el spam justo en ese momento para que no consigan mandar ni un solo mensaje, pero no siempre se consigue, tal y como demuestran los datos. Es entonces cuando entra en juego la segunda fase de la detección de spam, como el envío de mensajes masivos a gran velocidad poco después del registro.

Así, si el sistema detecta que se envía el mismo mensaje por ejemplo 100 veces en solo diez segundos y solo cinco minutos después de haber dado de alta la cuenta, esta es bloqueada de inmediato.

3.Opiniones y comentarios de los usuarios

El último filtro se produce gracias a los propios usuarios de la aplicación, que a través de sus opiniones y comentarios, ayudan a detectar estas cuentas. Así, en el momento que son denunciadas, WhatsApp las elimina después de comprobar que no ha habido ninguna interacción con él.

De esta forma, se asegura de eliminar solo cuentas que ofrecen spam, y no aquellas que son señaladas, por cualquier motivo, por un usuario.

Mensajería privada, sí. Plataforma de transmisión, no

Según la compañía, WhatsApp se creó para la mensajería privada y no como una plataforma de transmisión. Por ello, según explicó el ingeniero de software de WhatsApp, Matt Jones “aunque algunos quieran distribuir enlaces de click-bait o promover una idea, los mensajes automatizados y masivos violan nuestros términos de servicio y una de nuestras prioridades es prevenir y detener este tipo de abuso”.

La compañía presentó su sistema de aprendizaje para detectar el spam en la India, donde el pasado año la aplicación fue usada para enviar mensajes falsos de forma masiva que llegaron a causar disturbios e incluso varias muertes en el país.

Vía | The Next Web