Sin embargo, el contenido sintético es solo una parte del problema. La irrupción de la IA también implica nuevas oportunidades para la distribución automatizada mediante comportamientos coordinados no auténticos, haciendo que el engaño a escala industrial mediante redes de bots sea accesible para un conjunto más amplio de actores y permitiendo que quienes ya operaban en este ámbito aprovechen al máximo sus considerables capacidades de manipulación masiva.
Además, a la vez que la IA reducía las barreras de entrada, las empresas responsables de las redes sociales más populares también han facilitado que las amenazas contra la integridad de la información prosperen en sus plataformas. Es un sistema en el que la visibilidad del contenido generado por los usuarios está determinada por algoritmos orientados al engagement, en el que las grandes tecnológicas recompensan constantemente el tipo de contenido con mayor probabilidad de ser falso, y lo hacen de diferentes maneras.
Este artículo ofrece una visión de las amenazas que la IA plantea para la integridad de la información, como los deepfakes en TikTok o las estafas dirigidas a consumidores en Meta, y concluye con una evaluación de cuál puede ser el verdadero impacto de las organizaciones de la sociedad civil (OSC) que intentan combatirlas.
IA y monetización: cómo TikTok financia los ataques contra la integridad de la información
No todas, pero sí muchas de las personas que dedican su vida a producir y difundir falsedades en internet lo hacen por dinero. Esos «creadores» ocupan uno de los vértices de la economía de la atención: producen contenido tan llamativo, tan escandaloso y tan increíble que, con frecuencia, es completamente inventado. Pero resulta atractivo y genera interacción, por lo que recibe la recompensa de los otros dos vértices del triángulo: los usuarios y las plataformas.
Desde el punto de vista del consumo por parte de los usuarios, la desinformación es como cualquier otra ficción capaz de captar la atención: sorprende, emociona e indigna. Lo que la hace peligrosa es el engaño intencionado, ya que seduce fácilmente al público. La IA es la herramienta perfecta en manos de quienes difunden de forma sistemática historias falsas y sensacionalistas, porque ya saben qué funciona para captar atención en internet; la IA simplemente les proporciona la capacidad de crear sus mensajes y distribuirlos de forma más rápida y eficiente, con un nivel de calidad técnica que hace que el material resulte indistinguible del contenido auténtico.
Las plataformas, por su parte, recompensan cualquier contenido que genere interacción y proceden a darle aún más visibilidad. Es lo que se conoce como «amplificación algorítmica»: cuanto más interactúan los usuarios con un contenido, más probable es que el algoritmo se lo muestre a todavía más personas. ¿Por qué? Porque el interés comercial de la plataforma consiste en que los usuarios pasen más tiempo utilizando su servicio. Por esa misma razón, las plataformas recompensan a los usuarios que producen precisamente ese tipo de contenido.
Hace unos meses, en la Fundación Maldita.es empezamos a detectar algo extraño: vídeos hiperrealistas generados con IA sobre protestas políticas aparecían en feeds de TikTok de todo el mundo. Aquello despertó nuestra curiosidad y acabamos elaborando una lista de 550 cuentas que habían publicado más de 5.800 vídeos relacionados con 18 países diferentes. Los vídeos habían acumulado más de 89 millones de visualizaciones, pero la parte más interesante llegó cuando hablamos directamente con algunas de las personas que estaban detrás.
Desde luego, no parecían sentirse mal por engañar a la gente, pero fueron muy claros sobre algo aún más importante: no tenían ninguna agenda política. Su único objetivo era que sus cuentas, a menudo varias al mismo tiempo, alcanzaran la cifra mágica de 10.000 seguidores. ¿Por qué? Porque era el requisito necesario para acceder al programa «Creator Rewards» de TikTok, mediante el cual la plataforma remunera a los creadores. En este caso, la desinformación política no era más que una herramienta. Habían descubierto, mediante prueba y error, que no había nada que el algoritmo de TikTok amplificara más. Las personas con las que hablamos habían probado otros contenidos: mascotas, bebés, cualquier cosa que se te ocurra. Sin embargo, en su carrera por alcanzar los 10.000 seguidores, el contenido político falso y emocional era el que mejor funcionaba.
En esencia, los intereses económicos de TikTok y los de estos usuarios están alineados. El contenido altamente emocional o sorprendente atrae la atención, y la atención se traduce en dinero: para los creadores, a través del propio programa de monetización de TikTok; y para TikTok, mediante contenidos que consiguen que los usuarios permanezcan más tiempo en la plataforma y, por tanto, tengan más probabilidades, por ejemplo, de hacer clic en los anuncios. La IA simplemente facilita todo el proceso. Las políticas de TikTok prohíben el contenido generado con IA que sea «engañoso sobre asuntos de importancia pública», pero esas políticas, sencillamente, no se aplican.
IA e integridad de la información: sistemas poco fiables
Los incentivos económicos proporcionados por las mayores plataformas digitales no se limitan a los programas de recompensas para creadores. La IA también ha potenciado enormemente una industria de la estafa que ya prosperaba en la mayoría de estos espacios digitales: las falsificaciones de productos son más realistas y fáciles de crear que nunca, y la suplantación creíble de marcas y comercios está a solo un clic de distancia. Las plataformas en las que se producen estas estafas no están preparadas para afrontar este desafío.
En la Fundación Maldita.es detectamos de forma habitual redes masivas dedicadas al fraude contra consumidores en las principales plataformas. Recientemente documentamos cómo, en un periodo de tres meses, 170 cuentas supuestamente «verificadas» de Meta publicaron más de 67.000 estafas diferentes solo en Europa. Las cuentas que anunciaban esos fraudes habían sido robadas a sus propietarios legítimos mediante ataques informáticos o, peor aún, habían sido verificadas como si fueran los perfiles auténticos de distintas figuras públicas que no tenían ninguna relación con ellas.
Una vez más, Meta disponía de políticas que deberían haber impedido que esto ocurriera pero, al igual que sucede con TikTok, no se aplicaban. Pero no se trata de un problema exclusivo de estas dos plataformas: también hemos documentado cómo YouTube financia desinformación sobre el clima incumpliendo sus propias políticas o cómo una campaña masiva de fraude en X alcanzó 76 millones de impresiones. Ninguno de estos esquemas de manipulación habría sido posible sin el uso de la IA.
IA y el verdadero impacto
De igual manera que la adopción generalizada de la IA plantea enormes desafíos para la integridad de la información, las herramientas de IA también deben utilizarse para afrontar esos desafíos y documentar los daños. Las organizaciones y las personas que quieren una mayor rendición de cuentas deben cambiar de mentalidad y evolucionar desde la simple «detección» de abusos facilitados por la IA hacia la búsqueda de formas de corregirlos realmente.
En un momento en que las grandes empresas tecnológicas reducen sus compromisos en materia de responsabilidad social, quienes investigan los daños que se producen en internet y defienden su mitigación deben reflexionar cuidadosamente sobre qué estrategias tienen más posibilidades de mejorar realmente la situación de los usuarios: la supervisión regulatoria, los litigios estratégicos, las campañas de presión pública o el desarrollo de herramientas y espacios digitales alternativos.
Ese es el proceso por el que ha pasado la Fundación Maldita.es. En todas las investigaciones mencionadas en este artículo documentamos de manera exhaustiva todas las pruebas disponibles, no solo para ofrecer ejemplos de malas prácticas a quienes leen nuestros análisis, sino también para construir conjuntos de evidencias sólidos que puedan cumplir los estándares probatorios exigidos por los tribunales o servir de base firme para actuaciones regulatorias.
Hemos aprendido que, en la era de la IA, el «impacto» de nuestras investigaciones ya no puede medirse simplemente por el número de usuarios que interactúan con ellas, las referencias a nuestros hallazgos o los periodistas que se ponen en contacto con nosotros para darles continuidad. Nuestro impacto (y el de cualquier persona interesada en un entorno informativo más seguro) debe valorarse en función de su contribución a cambiar las actitudes, las normas y las actuaciones del reducido grupo de grandes empresas tecnológicas que dominan las herramientas de IA.
Algunas organizaciones colaborarán con las autoridades democráticas o con reguladores independientes; otras utilizarán las pruebas obtenidas durante sus investigaciones para sensibilizar a la opinión pública e impulsar la organización comunitaria que ejerza presión sobre estas empresas. Hay algo que está claro: en esta nueva era, el verdadero impacto no surge únicamente de la crítica, sino también de la construcción de una estrategia de cambio.
Gracias a sus plataformas y a su experiencia, las organizaciones de la sociedad civil pueden luchar por ese cambio y presionar a plataformas como TikTok y Meta para que modifiquen sus estrategias en relación con los deepfakes creados con IA, así como sus políticas de compensación y de publicidad engañosa.
¡Tu opinión importa!
¿Qué piensas de este texto? Tómate 30 segundos para compartir tus comentarios y ayudarnos a crear contenido significativo para la sociedad civil.
¿Quieres saber más sobre estos informes? Échales un vistazo:
Carlos Hernández-Echevarría Subdirector y Coordinador de Políticas Públicas
Periodista con 15 años de experiencia en televisión como reportero, corresponsal y responsable de programas. Es miembro del grupo de trabajo permanente del Código de Buenas Prácticas en materia de Desinformación y del grupo de trabajo sobre desinformación de EDMO. Es licenciado en Periodismo por la Universidad San Pablo CEU y tiene un Máster en Elecciones y Gestión de Campañas como becario Fulbright en la Universidad Fordham.
Este recurso se ha creado como parte del proyecto IA para el Cambio Social, dentro del Programa de Activismo Digital de TechSoup, con el apoyo de Google.org.
El contenido fue creado, revisado y editado por Carlos Hernández-Echevarría, con asistencia de IA.
Las herramientas de IA evolucionan rápidamente. Aunque hacemos lo posible por mantener la validez del contenido, algunos elementos pueden quedar desactualizados. Si notas información obsoleta, contáctanos en content@techsoup.org.