A mediados del pasado mes de marzo conocíamos la orden de bloqueo de Telegram en España, una medida cautelar que surgía como respuesta a una denuncia por violación de copyright interpuesta por Mediaset España, EGEDA, A3 Media y Movistar. Todos los expertos coincidían en que se trataba de una medida desproporcionada y la Audiencia Nacional acabó paralizando el bloqueo de la aplicación.
La polémica volvió a golpear a Telegram apenas unos meses después a consecuencia de la detención del CEO de la compañía en Francia, una medida vinculada a una investigación policial en curso. Si algo queda claro es que no está siendo un buen año para Telegram y parte del motivo lo encontramos en el uso que un porcentaje de usuarios hacen de la plataforma.
Los bots de desnudos campan a sus anchas en Telegram
Telegram se enfrenta ahora a una nueva polémica relacionada con la proliferación de herramientas de IA generativa capaces de generar imágenes de desnudos no consentidos a partir de una foto. Según un artículo publicado originalmente por Wired, la plataforma está llenándose de bots que prometen eliminar la ropa de cualquier imagen que queramos.
Según afirman en el artículo, han identificado más de 50 bots de este tipo en la popular plataforma de mensajería. Y lo peor de todo es el interés generado por estas herramientas: acumulan un total de más de cuatro millones de usuarios mensuales.
Eso sí, no todos los bots son igual de populares. La fuente menciona que dos de los bots identificados cuentan con más de 400.000 millones de usuarios mensuales, mientras que otros 14 acumulan más de 100.000 usuarios al mes. En cualquier caso, las cifras ponen de manifiesto lo extendidas que parecen estar este tipo de herramientas.
Las capacidades de cada bot pueden variar: algunos prometen eliminar la ropa de cualquier imagen, mientras que otros van mucho más allá y son capaces de generar contenido explícito. No es posible saber cuántas imágenes de este estilo se han generado usando estos bots, pero lo que está claro es que su uso ha aumentado drásticamente a lo largo de los últimos años.
Wired destaca que los primeros bots de este estilo se detectaron hace varios años, pero los resultados que podían conseguir en su momento eran mucho más rudimentarios. Los avances en IA generativa han dado lugar a herramientas mucho más realistas, lo que ha contribuido a su proliferación.
El artículo explica que los bots identificados cuentan con canales de Telegram asociados que acumulan más de tres millones de miembros. A través de estos canales se comunica la llegada de nuevas funciones y se envían ofertas para comprar tokens con los que generar imágenes de desnudos. Además, los usuarios acostumbran a compartir nuevas alternativas a medida que Telegram elimina este tipo de bots.
El interés generado por este tipo de herramientas es tal que ya hay cibercriminales aprovechando la oportunidad para distribuir malware. Según un artículo publicado por 404 Media al que enlazan desde Wired, cada vez hay más sitios web haciéndose pasar por herramientas para generar deepfakes de desnudos para infectar con malware los dispositivos de los usuarios.
Todo parece indicar que Telegram está borrando activamente este tipo de bots de su plataforma. De hecho, el artículo de Wired especifica que Telegram ha borrado los 75 bots y canales identificados durante su investigación. A pesar de ello, el problema parece no tener fin: a medida que borran los bots de desnudos surgen nuevas alternativas que se distribuyen rápidamente a través de los canales mencionados. De hecho, basta con hacer una rápida búsqueda para encontrar varios bots de este estilo.
Hemos contactado personalmente con Telegram para conocer qué medidas están tomando contra la proliferación de este tipo de herramientas y la compañía se ha mostrado tajante: “publicar pornografía no consensuada infringe los términos de servicio de Telegram”. A continuación dejamos las declaraciones de la compañía:
Publicar pornografía no consensuada infringe los términos de servicio de Telegram. Un equipo de cientos de moderadores profesionales combate activamente el uso indebido de Telegram todos los días mediante una combinación de monitoreo proactivo de partes públicas de la plataforma, IA, herramientas de aprendizaje automático y reportes de usuarios. Todo el contenido multimedia subido se verifica con una base de datos de hash de contenido eliminado por moderadores durante la última década para garantizar que no se pueda volver a publicar y para tomar medidas contra las cuentas que intentan infringir nuestros términos.
Si bien los moderadores ya eliminan millones de piezas de contenido dañino cada día, fortalecer aún más la moderación de Telegram es la principal prioridad de 2024. Telegram lanzó recientemente el bot @searchReport que permite a los usuarios reportar términos de búsqueda que pueden ubicar contenido dañino en Telegram y perfeccionó sus herramientas de reportes de usuarios para identificar específicamente más tipos de contenido, para mejorar aún más la capacidad de los moderadores para procesar reportes y la moderación basada en IA.
Además, Telegram cumple con las regulaciones de la DSA en la UE y proporciona canales obligatorios para que las autoridades de la UE emitan solicitudes de eliminación: https://telegram.org/tos/eu-dsa. Telegram garantiza que todos los reportes enviados correctamente serán procesados. El contenido correctamente reportado normalmente se elimina en una hora.
Vía | Wired
Imagen de portada | Rubaitul Azad (Unsplash)
En Xataka Móvil | Bots de Telegram: cómo encontrarlos y 26 mejores bots de 2024
Ver 0 comentarios