Antes de adentrarte en esta parte, asegúrate de haber leído el artículo sobre Cómo las OSC pueden liderar una IA responsable, la Introducción a esta guía práctica, Parte 1: MIRAR: Preparar el terreno, Parte 2: CREAR: Identificar y definir tus principios, Parte 3: Ponerlo en práctica y Parte 4: CREAR: Definir la propiedad de la gobernanza de la IA para las OSC
En algunas organizaciones, la política de IA comienza con una comprobación tipo «semáforo» que cualquier miembro del equipo puede realizar en menos de 60 segundos. Por otra parte, la política incluye un principio denominado «No dejarse llevar por la máquina», una frase que surgió directamente de un miembro del equipo durante un taller. La gente lo menciona constantemente, no porque se lo hayan dicho, sino porque se reconocen en él.
Compárese esto con lo que suele ocurrir: se le pide a alguien que «redacte la política» y tres meses después hay un documento de veinte páginas en una unidad compartida que nadie abre.
¿Cuál es la diferencia? Las dos primeras políticas se redactaron pensando en las personas. La tercera se escribió sobre ellas.
Este artículo, el tercero de la serie La hoja de ruta de la IA responsable para las OSC, analiza cómo las organizaciones de la sociedad civil (OSC) pueden elaborar políticas sobre IA que los equipos realmente utilicen. No se trata de documentos de cumplimiento que acaban acumulando polvo, sino de registros vivos de acuerdos compartidos.
Qué es realmente una política de IA (y qué no es)
Una política de IA no es un documento jurídico impuesto desde arriba. Se trata de la versión escrita de los acuerdos de colaboración que la organización ha ido elaborando a lo largo de las primeras fases de esta hoja de ruta.
La progresión es natural: En el artículo 1, las tensiones se convirtieron en principios, los valores que sustentan cada decisión de la IA. En el artículo 2, esos principios encontraron su lugar en el órgano de gobierno —el Árbol—, las personas que moderan el diálogo continuo. Ahora, la primera tarea importante del Árbol es documentar los acuerdos que rigen el uso diario de la IA. La política consiste simplemente en plasmar esos acuerdos por escrito en un lenguaje que todo el equipo pueda poner en práctica.
¿Y si una organización aún no ha pasado por esas primeras etapas? Empezar con un diálogo sobre la política sigue siendo una buena idea. En la práctica, esto pone de manifiesto de forma natural los principios y las cuestiones de gobernanza que hay que abordar, aunque sea en un orden diferente.
En la metodología «MIRAR → CREAR → CONSTRUIR» del artículo 1, la elaboración de políticas es la última etapa de la fase CREAR: consiste en plasmar por escrito los acuerdos antes de pasar a la fase «CONSTRUIR», donde la evaluación de riesgos los vuelve operativos.
Una distinción útil:
Los principios reflejan lo que creemos.
La gobernanza determina quién lleva la voz cantante.
La política recoge lo que hemos acordado hacer.
Este enfoque es importante porque cambia el peso emocional que tiene «redactar una política». No se trata de inventar reglas. Se trata de dejar constancia de las decisiones que el equipo ya ha tomado de forma conjunta.
Una observación importante sobre el alcance: La mayoría de las organizaciones comienzan a elaborar su política de IA centrándose en el uso de la IA generativa y en directrices prácticas para herramientas como ChatGPT, los servicios de traducción o los generadores de imágenes. Es un punto de partida válido y sensato. A medida que una organización madura y comienza a realizar evaluaciones de riesgos (tal y como se describe en el artículo 4), los resultados de dichas evaluaciones se incorporan de forma natural a la política, ampliándola hasta convertirla en un documento de gobernanza más amplio. Empezar por utilizar la IA generativa no es «hacerlo mal», sino hacerlo en el orden correcto.
¿Por qué es importante ahora?
Hay dos factores que hacen que esta tarea sea urgente para las organizaciones de la sociedad civil.
El problema de la IA en la sombra. Sin acuerdos claros y accesibles, las personas toman decisiones de forma aislada, exactamente igual que en el escenario con el que se iniciaba el artículo 2 de esta serie. En las organizaciones que han pasado por un proceso de diagnóstico, uno de los hallazgos más habituales es que el equipo utiliza herramientas de IA que nunca se habían debatido formalmente. No se trata de un fracaso de las personas, sino de una falta de claridad. Las políticas hacen visible lo invisible, no para castigar, sino para crear un terreno común.
Los riesgos son muy reales: un voluntario introduce los datos de los beneficiarios en una herramienta gratuita de IA sin darse cuenta de que esos datos pueden utilizarse para el entrenamiento del sistema; se envía un informe de subvención con estadísticas generadas por la IA que nadie ha verificado; un documento jurídico traducido por IA contiene un error en un detalle fundamental. No se trata de hipótesis, sino de situaciones a las que las OSC ya se están enfrentando.
El problema de la confianza. Las OSC disponen de información de carácter especialmente sensible: historiales de las personas beneficiarias, detalles de los casos, relaciones con los donantes y la confianza de la comunidad forjada a lo largo de los años. Una política que todo el equipo comprenda y haga suya es lo que protege esa confianza. No es un documento estático archivado, sino una referencia viva a la que la gente recurre cuando se encuentra ante una situación ambigua.
¿Quién la crea (y cómo)?
El órgano de gobernanza (el Árbol) dirige el proceso, pero la política debe llevar la huella de las personas que la vivirán en el día a día. En un equipo pequeño, es posible que toda la organización esté presente en la sala durante la reunión sobre la política y eso es, de hecho, una ventaja. Un menor número de niveles se traduce en una alineación más rápida y un mayor sentido de la responsabilidad.
En la práctica, hay dos enfoques que suelen dar buenos resultados.
El enfoque de «del manifiesto a la política» funciona cuando una organización ya ha plasmado sus principios en un documento dirigido al público. El órgano de gobernanza traduce esos principios en directrices prácticas para el día a día, un sistema de semáforos, normas de circulación y canales para la notificación de incidentes, y todo el equipo revisa y perfecciona el borrador. La política de IA consciente de ChangemakerXchange es un claro ejemplo publicado de este enfoque
El enfoque de cocreación facilitada resulta eficaz cuando es necesario elaborar la política partiendo de cero. El proceso suele incluir una sesión de diagnóstico para analizar el uso actual de la IA y el marco normativo, un taller sobre principios en el que un pequeño grupo que representa diferentes funciones pone de manifiesto sus expectativas, sus temores y los aspectos innegociables, y un taller de cocreación para confirmar el borrador de forma conjunta.
Ambos enfoques comparten una decisión de diseño fundamental: utilizar el propio lenguaje de los participantes en el documento final. Cuando una frase concreta de alguien se convierte en el nombre de un principio o una norma, la política deja de ser un «documento de la dirección» y pasa a ser algo que el equipo hace suyo. La gente cumple los acuerdos en cuya elaboración ha participado.
Unas pocas voces comprometidas pueden dar forma a una primera versión sólida, pero no hay que quedarse ahí. Difundir ampliamente el borrador para recabar opiniones y aprovechar las sesiones de formación como una oportunidad más para sacar a la luz dudas y lagunas permite ampliar deliberadamente el círculo de participantes antes de que la política se apruebe definitivamente. Cuanto más variadas sean las aportaciones, menos puntos ciegos habrá en el documento final.
El patrón se mantiene independientemente del tamaño: Haced aflorar lo que importa. Acordad las cosas juntos. Escribidlas en un lenguaje que todo el equipo reconozca. El órgano de gobernanza (el Árbol) dirige este proceso, pero la opinión de todo el equipo debe quedar reflejada en el documento.
¿Qué lleva? Los componentes esenciales
En lugar de enumerar una docena de apartados, la forma más útil de plantearse el contenido de la política es a través de las tres preguntas que se hará cada miembro del equipo.
«¿Puedo usar esto?» — El marco del semáforo
Las organizaciones que han elaborado políticas eficaces en materia de IA suelen optar por algún tipo de sistema de semáforo. Funciona porque sustituye la parálisis que provoca la incertidumbre por una comprobación sencilla y práctica:
🔴 Luz roja (Stop): Límites innegociables que se derivan directamente de los principios.
Por ejemplo: Los datos confidenciales nunca se introducen en modelos públicos de IA. La IA nunca toma decisiones importantes sobre las personas sin que un humano las revise. Los testimonios personales delicados (como los de solicitantes de asilo, supervivientes o personas en situación de vulnerabilidad) nunca se gestionan a través de herramientas públicas. Estas son las líneas rojas de la organización que nunca se pueden traspasar.
🟡 Luz amarilla (Detente y pregunta): Es aquí donde realmente se ejerce la gobernanza.
Por ejemplo: Reservado para decisiones de alto riesgo, herramientas nuevas que aún no han sido evaluadas y datos confidenciales en cualquier contexto de IA. Esto da lugar a una consulta con el órgano de gobernanza antes de continuar. El amarillo no significa «no», sino «vamos a comprobarlo juntos».
🟢 Luz verde (Adelante): Usos autorizados dentro de las directrices establecidas, lo que da a las personas la confianza necesaria para actuar sin tener que pedir permiso para las tareas rutinarias. Por ejemplo: utilizar una herramienta de IA aprobada para redactar un primer borrador de un boletín informativo público, o generar una lista de preguntas para el debate en un taller comunitario utilizando únicamente información pública y no confidencial. Por supuesto, esto dependerá de los acuerdos que se alcancen a nivel interno.
Un matiz fundamental: El semáforo se aplica a la combinación de herramienta + caso de uso + sensibilidad de los datos, no solo a la herramienta. La misma herramienta puede ser de color verde para redactar una entrada de blog pública y de color rojo para resumir notas confidenciales sobre un caso. ¡Todos estos detalles dependen de cada organización!
«¿Cuáles son las normas de circulación?» — Pautas de uso diario
Más allá del semáforo, cada política puede incluir acuerdos básicos que se apliquen a todos los usos de la IA, incluso a los flujos de trabajo con luz verde. Estos son puntos de partida. Cada organización elaborará normas que reflejen sus propios principios y formas de trabajar.
Verifica todos los datos. El contenido generado por IA puede ser erróneo o totalmente inventado. Considera cada resultado como un primer borrador, no como el resultado definitivo.
Protege los datos. Trata la información introducida en herramientas de IA externas como si fuera a publicarse. Oculta los datos sensibles.
Mantén la autenticidad. Para garantizar que los contenidos generados con ayuda de la IA reflejen la voz de la organización. CXC denomina a esta medida prevención de la «basura de la IA».
Sé transparente. Se debe revelar el uso de la IA cuando esta haya influido de manera significativa en el contenido, especialmente en las comunicaciones externas o en las evaluaciones.
Sé razonable. No todos los correos electrónicos necesitan un borrador generado por IA. Piensa si la tarea justifica el uso de esa herramienta.
«¿Y si algo sale mal?» — El proceso de aprendizaje
Una política no está completa sin un procedimiento claro para cuando las cosas salen mal, que se resume en «señálalo, no lo ocultes». Una persona o un canal específico al que dirigirse para informar, claridad sobre qué tipo de información resulta útil y un compromiso con el aprendizaje en lugar del castigo. Lo que mejor se adapte a la cultura de la empresa, ya sea un hilo de chat, un alias de correo electrónico o un responsable designado. Lo importante es que exista y que todo el mundo lo conozca.
Los elementos estructurales
En torno a estas tres cuestiones fundamentales, hay una serie de elementos estructurales que dan coherencia a la política: un ámbito de aplicación claro (a quién se aplica la política), la conexión con la gobernanza (quién es el responsable de la política), el inventario de IA (la lista de herramientas en constante actualización del artículo 1) y un compromiso de revisión (cuándo y cómo se realizan las actualizaciones).
Además, hay un último aspecto que es fácil pasar por alto: la formación. Una política para la que nadie ha recibido instrucciones sobre cómo aplicar es una política que no se va a cumplir. Para ello no hacen falta programas complejos: basta con una sesión en equipo de 30 minutos en la que se explique el sistema del semáforo, se analicen situaciones reales y se respondan preguntas. Por ejemplo, puede tratarse de un miembro del equipo de primera línea elegido para impartir formación a sus compañeros, alguien que conozca bien la realidad cotidiana del trabajo. El formato debe adaptarse a la cultura: una reunión de equipo, un vídeo breve, una ficha de referencia rápida de una página o tutoriales basados en situaciones prácticas. El objetivo es que todo el mundo conozca los límites, entienda el sistema de semáforos y sepa a quién acudir en caso de dudas.
Una política que crece: De la primera versión a un sistema vivo
Lo más importante de la primera versión es que existe.
Las organizaciones que consideran sus políticas de IA como documentos vivos se aseguran de incorporar mecanismos específicos de actualización: revisiones programadas cada seis meses, medidas de activación cuando se adopta una nueva herramienta o se produce un incidente significativo y ciclos de retroalimentación en los que las consultas de luz amarilla y las sesiones de formación ponen de manifiesto continuamente los aspectos que deben aclararse.
El proceso de crecimiento es natural. La versión uno se centra en el uso de la IA generativa. A medida que la organización comienza a realizar evaluaciones de riesgos (artículo 4), los resultados se tienen en cuenta, se analizan los escenarios de riesgo moderado mediante evaluaciones de impacto, se definen estrategias de mitigación y se incorporan nuevas medidas de protección. El documento crece porque el equipo ha profundizado en el tema, no porque alguien haya decidido alargarlo.
Una invitación para empezar
Los principios están definidos. El Árbol ya tiene nombre. La política no es más que poner por escrito lo que ya se ha acordado y ofrecer a todo el equipo la claridad necesaria para actuar con confianza.
Empieza por las líneas rojas. Construye el semáforo a su alrededor. La versión uno no tiene por qué ser exhaustiva, sino que debe ser sincera, colaborativa y útil. El resto crecerá.
El recurso complementario: «Una guía práctica para crear tu política de IA», ofrece la plantilla completa: preguntas orientativas para cada sección, texto de ejemplo para adaptar y un proceso para trabajar en equipo.
Próximamente en esta serie: Los escenarios de luz amarilla de la política constituyen precisamente el punto de partida para la evaluación de riesgos. En el próximo artículo se analizará cómo examinar esos casos con mayor profundidad, evaluar los posibles perjuicios y establecer las medidas de protección que se incorporarán a futuras versiones de las políticas.
Este artículo es parte de «La hoja de ruta de la IA responsable para las OSC», elaborada como parte del proyecto IA para el cambio social dentro de Digital Activism Program de TechSoup, con el apoyo de Google.org. Todos los recursos se publican bajo la licencia Creative Commons Attribution 4.0 International.
Tu opinión nos importa
¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!
Exención de responsabilidad
Este recurso se ha elaborado como parte del proyecto IA para el cambio social, dentro de Digital Activism Program de TechSoup, con el apoyo de Google.org.
El autor ha utilizado la IA para crear este contenido. No obstante, todo el artículo ha sido redactado, revisado y corregido por el autor y el equipo de TechSoup.
Las herramientas de IA están evolucionando rápidamente y, aunque hacemos todo lo posible por garantizar la validez del contenido que ofrecemos, es posible que, en ocasiones, algunos elementos ya no estén actualizados. Si detectas que algún dato está desactualizado, por favor, avísanos en contact@hive-mind.community
Sobre la autora
Ayşegül Güzel es una arquitecta responsable de la gobernanza de la IA que ayuda a las organizaciones guiadas por su misión a convertir la ansiedad por la IA en sistemas fiables. Su carrera combina el liderazgo social ejecutivo, incluida la fundación de Zumbara, la mayor red de bancos de tiempo del mundo, con la práctica técnica de la IA como auditora certificada de IA y antigua científica de datos. Guía a las organizaciones a través de transformaciones completas de la gobernanza de la IA y realiza auditorías técnicas de IA. Imparte clases en ELISAVA y es ponente internacional sobre enfoques tecnológicos centrados en el ser humano. Más información en https://aysegulguzel.info o suscríbete a su boletín La IA de tu elección en https://aysegulguzel.substack.com.