Este artículo no trata sobre alucinaciones. Se trata de un error más sutil: el texto puede parecer perfectamente correcto, pero el tratamiento de los datos que hay detrás puede entrañar riesgos. Para las organizaciones de la sociedad civil (OSC), eso es muy importante. Trabajamos con información que tiene consecuencias reales: beneficiarios, protección, finanzas, donantes, cuestiones relacionadas con el personal, conflictos internos y medidas de seguridad. En otras palabras: precisamente el tipo de material que no debería convertirse sin más en «contexto de conversación» en una herramienta sobre la que no tienes control total.

El objetivo no es que la IA te dé miedo. El objetivo es que su uso resulte predecible, de manera que tu organización pueda disfrutar de las ventajas de la rapidez, la claridad y unos borradores de mayor calidad, sin que la «eficiencia» se convierta en un incidente de datos con una gramática impecable.

Empieza por un hábito aburrido que evite enfrentarse a problemas interesantes

Cuando alguien pregunte: «¿Podemos usar la IA para esto?», empieza por tres preguntas nada glamurosas:

1. 1. Si esto se filtra, ¿a quién le va a afectar?
   Piensa en los beneficiarios, el personal, los socios, los donantes y la credibilidad de tu organización.

1. 2. Si la respuesta es incorrecta, ¿quién sale perjudicado?
   Un pie de foto poco convincente en las redes sociales resulta molesto. Una decisión errónea sobre los servicios, los requisitos de acceso, la protección o el dinero constituye un problema de gobernanza.

1. 3. ¿Podemos verificarlo sin que nos cueste mucho?
   Si la verificación de la exactitud requiere el tiempo de un experto, documentos originales o una revisión jurídica, la tarea entraña un riesgo mayor de lo que parece a primera vista.

Estas preguntas funcionan porque te obligan a dejar de pensar solo en la tarea y a empezar a pensar en las consecuencias. Solo ese cambio previene una cantidad sorprendente de errores que se podrían haber evitado.

A veces, la supervisión más segura es «no hacerlo»

La IA es excelente para redactar, reescribir, simplificar el lenguaje y generar opciones. No se le da muy bien asumir responsabilidades. Esa parte sigue siendo tuya.

Muchas organizaciones intentan resolver esto con una sola frase: «Es necesaria una revisión manual». Es sensato, sí. Pero no es suficiente. Si los datos introducidos contienen información personal sensible, o si el resultado puede influir en decisiones que afecten a personas, una simple revisión no siempre es suficiente. A veces, la medida más segura es no introducir los datos en la herramienta en absoluto. O bien rediseñar el flujo de trabajo, de modo que la IA solo vea material depurado y de bajo riesgo.

Las «tareas seguras» a menudo no lo son en la vida real de las ONG

Algunas tareas parecen inofensivas: resumir, traducir, reescribir correos electrónicos, poner en orden notas. En la práctica, estas son precisamente las tareas en las que suelen colarse los datos confidenciales.

El resumen de una reunión puede incluir nombres, conflictos, salarios, información sanitaria o cuestiones relacionadas con la protección. Un correo electrónico traducido puede incluir localizaciones, identificadores o detalles contextuales que sigan permitiendo identificar a una persona. Una nota de un donante que se haya reescrito puede revelar más información sobre un beneficiario de la que tú pretendías.

Así pues, la verdadera pregunta no es: «¿Esta tarea es adecuada para la IA?» La verdadera pregunta es: ¿Qué datos se introducen y qué ocurre con ellos una vez que salen de tus sistemas?

El riesgo relacionado con los datos en la IA se divide en tres niveles

Cuando las organizaciones debaten sobre los riesgos de la IA, a menudo se quedan atascadas en una pregunta: «¿Utiliza el proveedor nuestros datos para el entrenamiento?» Eso es importante, pero solo es una de las tres capas.

Nivel 1: Uso en entrenamiento. ¿Se utilizarán vuestras entradas y resultados para mejorar el modelo? Las ofertas para empresas y organizaciones de los principales proveedores suelen indicar que, por defecto, el contenido de los clientes no se utiliza con fines de entrenamiento, a menos que el cliente dé su consentimiento. OpenAI lo especifica así para ChatGPT Business, Enterprise, Edu, Healthcare, Teachers y la API. Anthropic afirma lo mismo en el caso de productos comerciales como Claude for Work y la API. Google afirma que el contenido de Workspace con Gemini no se utiliza para entrenar modelos fuera de tu dominio sin tu permiso. Microsoft afirma que las indicaciones, las respuestas y los datos de Microsoft Graph de Microsoft 365 Copilot no se utilizan para entrenar los modelos de lenguaje a gran escala (LLM) de base.

Nivel 2: Conservación de datos y registros. Aunque el entrenamiento esté excluido, es posible que el contenido se conserve durante un tiempo por motivos de prevención de abusos, asistencia, seguridad o motivos legales. «No usado para entrenamiento» no significa «no estar almacenado en ningún sitio». OpenAI, por ejemplo, distingue entre el uso con fines de entrenamiento y los controles de conservación y administración en sus documentos sobre privacidad empresarial.

Nivel 3: Rutas de acceso. ¿Quién puede ver los datos en función de las características y la configuración? Compartir enlaces, herramientas de administración, registros de auditoría, aplicaciones conectadas, complementos y agentes supone crear vías adicionales de vulnerabilidad. Microsoft advierte expresamente que Copilot solo muestra contenido al que los usuarios ya tienen permiso para acceder, lo cual suena tranquilizador hasta que uno se da cuenta de lo complicados que suelen ser los permisos en las organizaciones reales.

Versión gratuita, versión de pago para particulares y versión para empresas: ¿qué cambia realmente?

Esta distinción debe figurar en toda política seria sobre IA, ya que la gente suele dar por sentado que «pago por ello» significa que «es seguro para el trabajo». No es así.

Los planes gratuitos o para particulares suelen ser adecuados únicamente para trabajos de bajo riesgo, no confidenciales y con información anonimizada. Pueden ofrecer controles administrativos menos estrictos, límites de intercambio más laxos y una menor supervisión por parte de la organización. Algunos productos para particulares también permiten el entrenamiento con contenido del usuario, a menos que este se oponga. Anthropic, por ejemplo, separa el tratamiento de datos de particulares y el de datos comerciales. OpenAI también distingue entre los planes para particulares y las ofertas para empresas.

Los planes personales de pago se pueden considerar más bien como «particular plus». Es posible que obtengas más funciones, modelos más rápidos o menos restricciones. No se obtienen automáticamente la privacidad empresarial, las garantías contractuales, los controles administrativos ni la aplicación de políticas. Esa es una diferencia importante.

Los planes para empresas, equipos u organizaciones son los que marcan el inicio de un uso profesional organizativo. Estos productos suelen ofrecer por defecto políticas de no entrenamiento, controles administrativos más estrictos, una mejor gestión de los accesos y un respaldo contractual más claro para las tareas de cumplimiento normativo. Pero incluso en este caso, el servicio no te garantiza el cumplimiento por arte de magia. Aun así, se necesita una buena gestión, una minimización y unas normas internas sensatas.

Por ejemplo, incluso en un entorno de trabajo empresarial, un empleado puede pegar notas confidenciales sobre un caso en un chat privado y, meses después, ese contenido puede seguir existiendo en el historial de la cuenta, reutilizarse en un contexto inadecuado o copiarse en un documento que se difunda mucho más ampliamente de lo que deberían haberse difundido las notas originales.

El flujo de «¿Puedo pegar esto en IA?», en lenguaje sencillo

Este es el flujo de decisión útil más breve.

Si la información introducida no contiene datos personales, hazte una pregunta más: ¿sigue siendo confidencial? Esto incluye cuestiones de estrategia, finanzas, medidas de seguridad o conversaciones delicadas con socios. Si es así, utiliza una herramienta organizacional aprobada y limita al mínimo la información que introduces. Si no es así, por lo general te encuentras en una zona de menor riesgo: la IA puede ser de ayuda y tu tarea principal es revisar el resultado.

Si los datos introducidos contienen datos personales solo se debe considerar el uso de la IA si tu organización cuenta con una herramienta y una configuración aprobadas para el tratamiento de datos personales: por lo general, un servicio empresarial que cuente con los contratos, controles y normas internas adecuados. Si no se cumple este requisito, los datos personales no deben introducirse en las herramientas de IA.

Si los datos incluyen datos de categorías especiales, menores, protección, salud o casos sociales, los requisitos son aún más estrictos: utiliza la IA únicamente en un entorno seguro y expresamente autorizado y solo cuando exista una razón clara para hacerlo. Según el RGPD, el cumplimiento normativo depende de la base jurídica, el contrato, la configuración y la finalidad del tratamiento y no del eslogan de un proveedor ni del hecho de que alguien pague una suscripción.

Aunque se trate de datos personales «ordinarios», eso no significa que estén «protegidos por defecto». Utiliza únicamente herramientas aprobadas, mantén el contenido al mínimo, anonimiza la información cuando sea posible y asegúrate de que la organización comprenda los aspectos contractuales y técnicos.

¿Qué herramientas de modelos de lenguaje a gran escala (LLM) pueden utilizarse de conformidad con el RGPD?

El cumplimiento del RGPD no es una insignia que se compre con una suscripción. Depende del nivel de la herramienta, del contrato, de la configuración, del flujo de trabajo y de la política de gobernanza de tu organización.

No obstante, hay algunas herramientas que pueden garantizar un cumplimiento del RGPD de forma más fiable que los chatbots destinados a los particulares:

• OpenAI – ChatGPT Business / Enterprise / Edu / API
  Entrenamiento: no por defecto para los productos empresariales
  Uso conforme con el RGPD: sí, si se utiliza en los niveles empresariales con los controles administrativos, de conservación y contractuales adecuados

• Microsoft 365 Copilot
  Entrenamiento: no para indicaciones, respuestas y datos de Microsoft Graph
  Uso conforme con el RGPD: sí, dentro de un inquilino (tenant) de Microsoft 365 gestionado adecuadamente con permisos y controles de cumplimiento establecidos

• Google Workspace con Gemini
  Entrenamiento: no fuera de su dominio sin permiso; se aplican las protecciones de Workspace
  Uso conforme con el RGPD: sí, en un entorno de Workspace gestionado adecuadamente con controles de administración y gobernanza interna

• Anthropic – Claude for Work / API
  Entrenamiento: no por defecto para productos comerciales
  Uso conforme con el RGPD: sí, en los planes comerciales con normas organizativas claras en materia de conservación, acceso e intercambio de comentarios

La trampilla: conectores, complementos y agentes

En el momento en que una herramienta de IA pueda acceder a tu Drive, correo electrónico, Teams, SharePoint o sistemas de proyectos, el perfil de riesgo cambia. Ya no te limitas a gestionar lo que alguien ha pegado en una instrucción. Tú controlas a qué puede acceder la herramienta, qué puede recuperar, mostrar y, potencialmente, revelar.

Es aquí donde los errores en los permisos pueden salir muy caros. Tanto Microsoft como Google insisten en que la seguridad de las empresas depende de que los permisos existentes y los controles de administración estén correctamente configurados. Si tus archivos están desordenados, la IA no los arreglará por arte de magia.

También existe la inyección de instrucciones: las instrucciones ocultas dentro de un documento o una página web pueden influir en el comportamiento de la IA. En pocas palabras, la herramienta puede verse afectada por el material que está leyendo.

Tu organización necesita un código sobre IA

Si quieres que el uso seguro de la IA se extienda más allá de un puñado de personas prudentes, necesitas un código (procedimiento) interno sobre el uso de la IA. No un tocho de cincuenta páginas dedicado a la burocracia. Un documento práctico que la gente realmente utilizará.

Éste documento debe definir qué herramientas están aprobadas y cuáles no, qué tipos de datos pueden o no utilizarse con la IA, cómo funciona la anonimización de datos, qué revisión humana se requiere, cómo se gestionan los conectores y los agentes, qué medidas deben adoptarse tras un incidente y cuándo se revisan las normas.

Esto es una gobernanza aburrida. Bien. Una gobernanza aburrida es lo que hace que el mismo error evitable se repita doce veces de doce maneras ligeramente diferentes.

Una IA segura se basa principalmente en hábitos predecibles

La IA puede ser de gran ayuda para las ONG, pero no asume las consecuencias de un uso indebido. Tu organización sí.

Por eso, el uso seguro de la IA rara vez tiene que ver con indicaciones ingeniosas o ajustes mágicos. Se trata, sobre todo, de hábitos: minimiza lo que compartes, elige las herramientas adecuadas en función del riesgo, controla el acceso, comprueba que la IA que utilizas cumple con el RGPD, verifica lo que es importante y deja las normas por escrito para que perduren a pesar de la rotación de personal.

Y, en caso de duda, ten siempre presente un principio: haz que los datos de entrada sean menos sensibles, no que la herramienta sea más mágica.

Tu opinión nos importa

¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!

Exención de responsabilidad

Este recurso se ha elaborado como parte de la IA para el cambio social, dentro de Digital Activism Program, con el apoyo de Google.org.

El autor ha utilizado la IA para crear este contenido. No obstante, todo el artículo ha sido redactado, revisado y corregido por el autor y el equipo de TechSoup.

Las herramientas de IA evolucionan rápidamente y, aunque nos esforzamos por garantizar la validez del contenido que proporcionamos, es posible que algunos elementos ya no estén actualizados. Si detecta alguna información desactualizada, le rogamos que nos lo comunique a content@techsoup.org.

«Antes de pegar: Guía práctica sobre la seguridad de los datos al utilizar la IA», de Radka Bystřická, 2026, para Hive Mind, está bajo una licencia CC BY 4.0.