En internet hay un montón de desinformación corriente y, para colmo, estamos más expuestos a ella que nunca debido a la aceleración de los contenidos generados por IA en línea. Existen evidencias sólidas de que el contenido generado por IA se propaga hoy más rápido, a aproximadamente un 70 % más de velocidad que el contenido veraz en redes sociales.

Sin embargo, no existe una forma única ni consistente de denunciar la desinformación. Cada país tiene leyes e interpretaciones distintas sobre qué es desinformación y, en general, solo una pequeña parte de ella se considera contenido ilegal. En la misma línea, las políticas sobre desinformación de cada plataforma (es decir, sus Términos y Condiciones, Normas de la Comunidad, etc.) son muy diferentes entre sí, y la aplicación que las plataformas hacen de ellas puede ser —y a menudo lo es— bastante incoherente.

Los contenidos generados por IA y los deepfakes en particular son, sin embargo, un asunto distinto, ya que con frecuencia se solapan con tipos de contenido ilegal: pornografía no consentida, vulneraciones de protección de datos, estafas financieras, suplantación de identidad, material de explotación sexual infantil, entre otros. Por ese motivo, aunque las leyes sobre IA y deepfakes están todavía en sus primeras fases, los países se han mostrado más decididos a regular este tipo de contenidos.

En este contexto, cabe preguntarse qué hacer cuando encontramos algo en internet que no es cierto.

Por ejemplo, a veces puede que quieras responder a una publicación explicándole al autor en qué se ha equivocado con los datos, o proponer una Nota de la Comunidad (en X) con la información que crees necesaria para aportar contexto completo. Otras veces, puede que quieras denunciar un contenido concreto a la plataforma que lo aloja porque es ilegal en tu país o porque va contra las propias normas de la plataforma sobre desinformación. Incluso puede que quieras avisar a las autoridades de una pieza de desinformación que sea ilegal, como delitos de odio o estafas.

Hagamos un repaso rápido de las opciones de denuncia tanto para la desinformación corriente como para la generada por IA, que las organizaciones de la sociedad civil (OSC) pueden utilizar. Estas dependerán de la plataforma que estés usando y del país en el que la utilices.

Denunciar desinformación en la Unión Europea y el Reino Unido

En la UE, todos los servicios de alojamiento —incluida cualquier gran plataforma como X, YouTube, TikTok, Facebook e Instagram— tienen la obligación legal de disponer de mecanismos que permitan a sus usuarios señalar que han visto algo que consideran ilegal. Según el país, hay distintos tipos de desinformación: en Francia, por ejemplo, la trivialización o negación de los crímenes contra la humanidad pueden ser ilegalesl; en Polonia lo es la promoción del totalitarismo; y en España, anunciar un producto suplantando una marca.

La mayor parte del contenido generado por IA, incluidos los deepfakes, solo es ilegal cuando se utiliza para cometer delitos concretos como fraude, acoso, difamación o manipulación electoral. No obstante, algunos países han introducido legislación específica sobre contenidos generados por IA. Italia, por ejemplo, creó un nuevo delito (art. 612-quater del Código Penal) que cubre la difusión de imágenes, vídeos o audios generados o alterados con IA cuando dicho material cause un perjuicio injusto. Francia es otro ejemplo de país que ha tipificado un delito relativo a los deepfakes sexuales (Ley n.º 2024-449 de 21 de mayo de 2024). Los deepfakes sexuales también están cubiertos por la legislación irlandesa (Harassment, Harmful Communications Act 2020), que tipifica como delito compartir imágenes íntimas no consentidas, incluidos los deepfakes.

Cualquier ciudadano europeo de un Estado miembro de la UE puede denunciar un contenido que considere ilegal en su país, con independencia del lugar desde el que se haya publicado. El mecanismo de denuncia debe ofrecerse de forma gratuita, y la plataforma debe notificar al autor del contenido la denuncia recibida junto con las posibilidades de recurso. En general, si la plataforma coincide en que el contenido es ilegal, lo retirará o restringirá en el país correspondiente. Eso se debe también a que la plataforma puede ser posteriormente considerada legalmente responsable si un juez determina finalmente que la plataforma debería haberse percatado inmediatamente de la ilegalidad del contenido.

La denuncia de contenido ilegal también es posible a través de canales nacionales específicos en varios Estados miembros de la UE. En Francia, el Ministerio del Interior gestiona PHAROS, un portal en línea que permite denunciar determinados tipos de desinformación ilegal (como difamación, estafa o incitación al odio). Los casos pueden remitirse después a la autoridad nacional francesa correspondiente para que decida si la denuncia puede dar lugar a actuaciones judiciales.

En Polonia, el portal Dyżurnet.pl, dentro del Instituto Nacional de Investigación (NASK), recoge denuncias de contenido ilegal en línea, una categoría que incluye los insultos a alguien por su pertenencia nacional, étnica, racial o religiosa. En Italia, la Autorità per le Garanzie nelle Comunicazioni (AGCOM) cuenta con una herramienta a través de la cual es posible denunciar cualquier infracción legal en plataformas digitales y un formulario específico para denunciar vídeos en línea que contengan, por ejemplo, desinformación que incite ilegalmente al odio racial, sexual, religioso o étnico. En España también se puede denunciar desinformación de carácter sexual o violento, incluido el contenido generado por IA, a través del canal prioritario para la retirada de contenidos sexuales o violentos, gestionado por la Agencia Española de Protección de Datos.

En toda Europa y en muchas otras jurisdicciones, los usuarios pueden recurrir a las líneas directas de INHOPE para denunciar material de abuso sexual infantil generado por IA, y Stop NCII ofrece un mecanismo específico para denunciar deepfakes sexuales.

Además, la legislación de la Unión Europea también obliga a las plataformas más grandes a permitir que los usuarios presenten reclamaciones basadas en sus Términos y Condiciones, y a revertir cualquier acción que no se ajuste a ellos. Esto resulta útil porque ciertos tipos de desinformación están cubiertos por esas normas. TikTok, por ejemplo, no permite contenido generado por IA "que induzca a error sobre un asunto de importancia pública"; Google prohíbe los anuncios que utilizan medios manipulados "para engañar, defraudar o desinformar"; y LinkedIn se compromete a retirar "afirmaciones que sean demostrablemente falsas o sustancialmente engañosas y que probablemente causen daño". YouTube va un paso más allá al ofrecer a creadores y, ahora también a periodistas, cargos públicos y candidatos políticos, una herramienta de detección de semejanza que les ayuda a detectar deepfakes de su rostro en la plataforma y solicitar su retirada.

Varios watchdogs y organizaciones de medios han publicado investigaciones que han llevado a estas empresas a aplicar sus propias normas a determinadas cuentas: TikTok prohibió 20 cuentas después de que la BBC denunciara el uso de influencers negras generadas por IA para dirigir a los usuarios a sitios que promocionaban contenido sexualmente explícito, y los informes de Indicator Media llevaron a Meta a retirar 200 anuncios de servicios de generación de imágenes sexualizadas no consentidas.

Esas políticas suelen tener alcance global, por lo que puedes informar a la plataforma de que no se están cumpliendo desde cualquier país. Sin embargo, en la UE, los servicios más grandes tienen la obligación legal de mantener una versión actualizada y públicamente accesible de sus Términos y Condiciones, así como llevar un registro de sus cambios en un repositorio de acceso público. Adicionalmente, y esto es clave, como ya se ha mencionado, están obligados a revertir cualquier decisión que sea incompatible con esos términos y condiciones.

En el Reino Unido, la ley también deja claro que las plataformas más populares (aquellas utilizadas por al menos el 10 % de la población europea durante un mínimo de 6 meses) deben respetar sus Términos del Servicio, especialmente si estos prohíben un determinado tipo de contenido regulado generado por los usuarios. Sin embargo, aunque el regulador independiente Ofcom es el responsable de hacer cumplir esas obligaciones, no investiga reclamaciones individuales y deriva a los usuarios a contactar directamente con las plataformas. Otro ejemplo es la Internet Watch Foundation, que gestiona reportharmfulcontent.com, donde se asesora a los usuarios sobre cómo denunciar ciertos tipos de contenido nocivo, incluidos algunos tipos de desinformación, como la suplantación de identidad.

En cuanto a la desinformación ilegal, existen otros recursos. El Consejo Nacional de Jefes de Policía del Reino Unido (National Police Chiefs' Council) gestiona TRUE VISION, una herramienta específica para denunciar delitos de odio en línea. Adicionalmente, el derecho penal cubre tipos específicos de contenido nocivo en línea relacionados con la difusión de desinformación con la intención de "causar un daño psicológico o físico no trivial a un público probable". La Online Safety Act tipifica como delito compartir, o amenazar con compartir, imágenes íntimas de adultos, incluidas imágenes deepfake, sin consentimiento. Cualquiera de estos delitos puede denunciarse en persona a la policía o por internet y de forma anónima a través de la organización benéfica independiente Crimestoppers, que puede luego trasladarlo a las fuerzas del orden. Los usuarios menores de edad que deseen retirar imágenes o vídeos sexualizados de sí mismos en internet también pueden recurrir a Report Remove, un mecanismo específico para ese fin.

También conviene señalar que los deepfakes a menudo plantean cuestiones de protección de datos, ya que utilizar la imagen, la voz o el nombre de alguien puede considerarse tratamiento de datos personales. Si te encuentras en la UE, puedes presentar una reclamación ante tu autoridad nacional de protección de datos. En Francia, por ejemplo, es la CNIL (Commission nationale de l'informatique et des libertés, en español Comisión Nacional de Informática y Libertades). En el Reino Unido, el organismo equivalente es la ICO, que sostiene una posición similar respecto a los deepfakes y la protección de datos.

Denunciar desinformación en Nigeria, Ghana, Kenia y Sudáfrica

En Nigeria existe un Code Of Practice For Interactive Computer Service Platforms/Internet Intermediaries de carácter obligatorio que establece que las grandes plataformas deben indicar a sus usuarios en sus Términos y Condiciones que no creen ni compartan información "falsa o engañosa". La National Information Technology Development Agency (NITDA) es la responsable de supervisar su aplicación. No proporciona una vía específica para que los usuarios presenten denuncias sobre desinformación, pero sí dispone de un formulario general de reclamaciones en línea. El mismo código obliga a las plataformas a retirar cualquier contenido ilícito "tan pronto como sea razonablemente posible" tras recibir una denuncia.

El contenido ilícito en línea se rige en su mayor parte por la Cybercrimes (Prohibition, Prevention, etc) Act 2015. Esta ley establece un marco aplicable a los usos maliciosos de la tecnología y tipifica delitos como el acceso ilícito, el robo de identidad, el ciberacoso, los mensajes ofensivos o la publicación de contenido obsceno, todos ellos delitos que pueden cometerse utilizando tecnologías de IA. Por ejemplo, el Advertising Regulatory Council of Nigeria (ARCON) emitió una advertencia ante el aumento de anuncios generados por IA que utilizan falsificaciones de figuras públicas para promocionar bienes y servicios fraudulentos. Estos delitos y otros contenidos ilegales pueden denunciarse a la Nigeria Police Force o al National Cybercrime Center a través de WhatsApp o llamando a su línea de ayuda.

La ley en Ghana tipifica como delito la "publicación de noticias falsas con intención de causar miedo y alarma", así como cualquier persona que utilice internet para "enviar a sabiendas una comunicación que sea falsa o engañosa y susceptible de poner en peligro la seguridad de cualquier persona". La Cybersecurity Act se basa en esto y, de forma más amplia, prohíbe el ciberengaño, la desinformación, el robo de identidad y la manipulación ilícita de datos, incluyendo la producción y distribución de contenido digital falso o engañoso, como los deepfakes. La Cyber Security Authority del país opera un formulario en línea de denuncia de incidentes a través del cual se puede reportar ciberacoso, fraude, desinformación, chantaje en línea, abuso infantil en línea, suplantación de identidad en línea y publicación de imágenes íntimas no consentidas (NCII).

En Kenia, la desinformación que constituya discurso de odio puede denunciarse mediante un formulario en línea ante la National Cohesion and Integration Commission (NCIC), que puede a su vez derivar los casos a las fuerzas del orden. La desinformación en general se regula a través de la Computer Misuse and Cybercrimes Act 2018, que persigue las "publicaciones falsas" prohibiendo la creación y distribución de contenido destinado a "alarmar, angustiar o causar miedo", e incluye otra disposición contra la manipulación no autorizada de datos. Según expertos en seguridad, los ciudadanos kenianos se enfrentan a altas tasas de estafas habilitadas por deepfakes centradas en esquemas fraudulentos de inversión. Estos incidentes cibernéticos y muchos otros (contenido abusivo, violencia infantil/sexual/de género, acoso) pueden denunciarse a través de la página web del Computer Incident Report Team.

En Sudáfrica, la Comisión Electoral y la ONG Moxii Africa crearon el sitio web Real411.org, donde es posible presentar denuncias por daños digitales, incluida la mis o desinformación. Las denuncias son revisadas por personas expertas en lo digital, que adoptan una decisión razonada sobre cuál sería la actuación apropiada. El sitio funciona sobre la base de un Código de Conducta voluntario al que las grandes plataformas digitales aún no se han adherido, por lo que los efectos concretos de las denuncias no están claros.

Los tipos de contenido ilegal en línea se denuncian como cualquier otro delito, acudiendo a una comisaría. También se puede dar aviso de contenido sospechoso en línea a través de la línea anónima de la policía Crime Stop (Tip-off Line) o presentando una consulta ante el Cybersecurity Hub nacional. Las personas también pueden utilizar el formulario de denuncia ofrecido por Cybercrime.org.za, una organización comprometida con la lucha contra la explotación delictiva de las tecnologías. Adicionalmente, ciertas formas de desinformación ilegal en línea, como la calumnia y la difamación, pueden denunciarse en línea ante el Film and Publication Board.

Las organizaciones de fact-checking en África también desempeñan un papel importante en la lucha contra la desinformación. Puedes enviar una pieza para su verificación a través de Africa Check, una organización de verificación de alcance panafricano. Para Ghana y Nigeria en particular, también se puede registrar información sospechosa a través de Dubawa.

¡Tu opinión importa!

¿Qué piensas de este texto? Tómate 30 segundos para compartir tus comentarios y ayudarnos a crear contenido significativo para la sociedad civil.

Carlos Hernández-Echevarría Subdirector y Coordinador de Políticas Públicas

Periodista con 15 años de experiencia en televisión como reportero, corresponsal y responsable de programas. Es miembro del grupo de trabajo permanente del Código de Buenas Prácticas en materia de Desinformación y del grupo de trabajo sobre desinformación de EDMO. Es licenciado en Periodismo por la Universidad San Pablo CEU y tiene un Máster en Elecciones y Gestión de Campañas como becario Fulbright en la Universidad Fordham.

Este recurso se ha creado como parte del proyecto IA para el Cambio Social, dentro del Programa de Activismo Digital de TechSoup, con el apoyo de Google.org.

Este contenido se creó con asistencia de IA y ha sido revisado y editado por Antonio García del Real.

Las herramientas de IA evolucionan rápidamente. Aunque hacemos lo posible por mantener la validez del contenido, algunos elementos pueden quedar desactualizados. Si notas información obsoleta, contáctanos en content@techsoup.org.