Conoce cómo funciona esta red, con páginas administradas desde 40 países, según una investigación encabezada por ChequeaBolivia y de la que participó el diario Correo del Sur.
ALERTA. Estafadores están operando a través de Telegram y otras plataformas. Imagen referencial creada con inteligencia artificial.Fuente: Chequea Bolivia/ Correo del Sur /El Deber
Unos 76 contenidos de desinformación creados con inteligencia artificial (IA), en los que se suplanta la identidad de figuras públicas, circularon en Facebook con el objetivo de captar víctimas y redirigirlas a Telegram, donde operan estafadores aprovechando sus características de privacidad y anonimato.
Los contenidos, en su mayoría videos, fueron identificados en el monitoreo diario que realiza el equipo de verificadores de ChequeaBolivia, entre mayo y junio de este año. Se realizó el seguimiento a cada caso y se detectó una red de estafa que opera desde Telegram, un espacio con políticas de moderación de contenido menos estrictas y mínimos controles para la detección y eliminación de contenido fraudulento.
La mayoría de los videos eran distribuidos por Facebook a través de publicidad pagada, llegando a miles de usuarios. En una revisión que se realizó de las páginas que distribuían el contenido, se detectó que en su mayoría tienen una sola imagen de perfil, realizan muy poca interacción o a veces ninguna, no cuentan con ningún tipo de información adicional y el único mecanismo de contacto es a través de enlaces que direccionan a Telegram.
=> Recibir por Whatsapp las noticias destacadas
Estas páginas son administradas desde 40 países distribuidos en todo el mundo, pero principalmente de Ucrania, India y Estados Unidos. La cantidad de administradores de las páginas falsas varía de una a 24 personas, lo que da una idea de la magnitud de esta red en el espacio digital.
FIGURAS PÚBLICAS
Los estafadores utilizaban videos cortos creados con IA para suplantar la identidad de al menos 16 figuras públicas e instituciones del país y de otras seis del exterior. Entre los afectados se encuentran periodistas, presentadores, futbolistas, influencers, exreinas de belleza, expresidentes y autoridades actuales.
En los videos estos personajes presuntamente comparten supuestos testimonios de éxito tras haber realizado “inversiones” con “expertos” en “hacer crecer los ahorros”. Se trata de contenidos manipulados con IA.
Descubrir que su imagen había sido utilizada y su voz alterada para pedir dinero a cambio de curas milagrosas o de supuestos proyectos de inversión, desilusionó, preocupó, chocó e incluso provocó miedo –por el daño que podía hacer a sus seguidores– a personalidades bolivianas como la ministra de Salud, María Renée Castro; las periodistas Cecilia Bellido y Gabriela Oviedo, y la modelo y ex Miss Bolivia Universo Estefany Rivero, a quienes se contactó para esta investigación, aunque no fueron las únicas personalidades afectadas.
Si bien ninguna sufrió mella en su credibilidad, manifestaron, por separado, su inquietud por el daño que puede causar un video y un audio alterados, sobre todo en adultos mayores o en personas que atraviesan situaciones críticas propias o de familiares, que las llevan a buscar “milagros”.
Por ello, a través de sus redes sociales hicieron conocer a sus seguidores que esos videos eran falsos, que habían sido alterados. En algunos casos, como en el de la ministra Castro, los videos fueron sellados con el rótulo de falso.
Oviedo y el canal en el que trabaja publicaron videos en los que aclaraban que los contenidos difundidos no correspondían a la realidad. La misma acción realizó Rivero.
Bellido además remarca que todo lo que ella puede sugerir se publica en sus propias redes sociales y no en las de terceros.
¿QUIÉN ALERTA?
Las cuatro mujeres coincidieron en que se precisan más contenidos que alerten a la sociedad acerca del mal uso que se está dando a las tecnologías, cuando se crean deepfakes, y las consecuencias que pueden tener para quienes creen que son reales.
“Debería haber mecanismos que permitan a los usuarios denunciar de manera rápida cualquier intento de manipulación y detectar las publicaciones engañosas”, señaló Castro. Oviedo tiene una opinión similar: indica que todo contenido creado con IA debe ser “automáticamente expuesto por las plataformas sociales como tal”.
Finalmente, Bellido instó a quienes gozan de visibilidad, tanto en medios de comunicación tradicionales como en redes sociales, a ayudar, con información, para evitar que más personas caigan en este tipo de fraudes.
INTELIGENCIA ARTIFICIAL
La amplia disponibilidad en la nube, de herramientas de inteligencia artificial generativa, permite desde emular voces, a partir de archivos de voz, o generar videos con registros audiovisuales pasados o fotos. El uso libre de muchas de estas herramientas o un pago mínimo a cambio, facilitan armar un “cuento del tío”, remarca el experto Álvaro Guzmán.
El coordinador de Seguridad Digital de la Fundación Internet Bolivia, Guillermo Movia, apunta que posiblemente el material audiovisual fraudulento se esté elaborando en el mismo Telegram, en canales o grupos. Apunta que las herramientas de la IA están disponibles hace un par de años, pero el acceso es cada vez más fácil, por lo que hay un auge en su uso.
La coordinadora de proyecto de la misma fundación, Cielo Saravia, coincide en destacar la facilidad extrema para generar videos, lo que sumado a los bots, posibilita cometer fraudes de manera automatizada, rápida y con mayor alcance.
EN LOS CANALES Y CHATBOTS
A partir de los 76 contenidos que circularon en Facebook, se accedió a ocho canales y ocho chatbots de Telegram donde ingresaban las personas para “invertir” a través de enlaces publicados con los videos falsos.
Una vez envías la solicitud para unirte al canal, la aceptación no demora más de cinco minutos. Cuando se ingresa a un canal, lo primero que se encuentran son mensajes de texto junto a imágenes y algunos videos, que incentivan a los nuevos miembros a invertir.
La mayoría de los supuestos expertos se presentan como analistas deportivos con licencias. Después de la primera interacción, los mensajes comienzan a fluir y son estos mismos «expertos» quienes envían preguntas al final de cada mensaje: «¿Estás interesado?», «¿Estás listo para hacer tu primera inversión?», “¿Quieres recibir mi ayuda?”.
El patrón común es que aseguran al nuevo miembro que ganará dinero y duplicará su inversión inicial.
A continuación, los nombres que utilizaban los usuarios que se hacían pasar por supuestos expertos en inversiones en estos espacios.
Características de la plataforma
¿Qué permite? Telegram se ha destacado como una plataforma de mensajería versátil y poderosa, permitiendo no solo el envío de mensajes, fotos, videos y archivos de hasta 1,5 GB, sino también la creación de grandes comunidades. A diferencia de otras aplicaciones, permite formar grupos con hasta 200.000 personas, además de ofrecer canales públicos, privados o temáticos, sin límite de miembros. Estas características le han permitido un acelerado crecimiento.
Además, los usuarios pueden crear grupos o comunidades de manera anónima, restringiendo la visibilidad de sus propios datos como de los miembros de los grupos o canales, ya sean públicos o privados. Por eso es posible crear perfiles falsos, operar en grupos o canales públicos o privados y desaparecer sin dejar rastro.
Con la popularidad de criptomonedas y mercados digitales, los estafadores han encontrado en Telegram un canal ideal.
Voces expertas. El coordinador de Seguridad Digital de la Fundación Internet Bolivia, Guillermo Movia, remarca que Telegram no atiende requerimientos judiciales, lo que llevó, por ejemplo, al arresto de su CEO y fundador Pavel Durov en Francia, en agosto. Así y mientras no lleguen los cambios anunciados por esta plataforma, se torna cuesta arriba dar de baja a canales manejados por estafadores; incluso, si el usuario quiere denunciar internamente, no tiene rutas claras.
El experto Álvaro Guzmán recuerda que Telegram nació con el noble propósito de precautelar los datos de quienes se unieran, pero esa característica fue aprovechada por personas malintencionadas, que también se sirven de su particularidad de ser un “canal de difusión con menos censura”, apunta.
Coincide en que sus políticas “hacen que sea una mejor red para este tipo de estafas”.
La primera recomendación ante las estafas digitales no está, precisamente, vinculada a la tecnología, o al menos no para el experto Álvaro Guzmán. “La primera recomendación que voy a hacerles es que no hay dinero fácil, absolutamente nadie en la tierra, ni siquiera los mejores bancos, les puede asegurar el rendimiento de su dinero; no van a ganar dinero en Internet”, alerta.
Los estafadores de Telegram es una investigación desarrollada por ChequeaBolivia en alianza con Correo del Sur y El Deber. Periodistas: Enid López, Yirleyn Gabriel, Pablo Arancibia, Raykha Flores y Tanya Imaña.