Esta es la primera parte de «La hoja de ruta de la IA responsable para las OSC». Para ver la introducción, haz clic aquí.

Lo que produce MIRAR:

  • Tensiones afloradas (mediante entrevistas o reflexión)

  • Un inventario inicial de la IA (qué herramientas se utilizan, qué datos tocan, qué preocupaciones existen)

  • Una recopilación de los conocimientos existentes (normativa aplicable, valores existentes en tu organización, puntos de referencia sobre el terreno)

Todo ello se convierte en materia prima para la fase CREAR.

1.1 Empieza por las tensiones

El punto de partida más poderoso es reconocer la complejidad que ya siente tu equipo. La IA existe en un espacio de tensión creativa: eficiencia frente a autenticidad, innovación frente a seguridad, acceso frente a privacidad. Estas tensiones no son problemas que haya que resolver; son puertas a tus valores.

Dos enfoques:

  • Opción A: Entrevistas previas

  • Una persona realiza breves entrevistas a los miembros del equipo antes de la sesión de grupo. Formula las 5 preguntas individualmente, presta atención a las pautas y presenta las ideas sintetizadas al grupo durante la sesión CREAR. Se trata de escuchar en profundidad antes de crear en colaboración. Este enfoque funciona bien cuando:

  • Quieres sacar a la luz preocupaciones sinceras que la gente podría no compartir en un grupo

  • Tienes diversas partes interesadas con diferentes perspectivas

  • Deseas que la sesión CREAR se centre en la síntesis más que en el descubrimiento inicial

  • Opción B: En directo durante la sesión

  • Reúne al equipo y trabajad juntos las 5 preguntas durante la sesión CREAR. Deja tiempo para la reflexión individual antes de la discusión en grupo. Esto funciona bien para equipos más pequeños o cuando crear un entendimiento compartido es tan importante como el propio contenido.

  • Este enfoque funciona bien cuando:

  • Tu equipo es pequeño y psicológicamente seguro

  • El descubrimiento compartido forma parte del objetivo

  • El tiempo para el trabajo previo es limitado

Las 5 preguntas:

Tanto si se recogen de antemano como si se exploran en directo, estas preguntas sacan a la superficie la materia prima de tus principios:

1. Nuestra relación con la IA
Como equipo, ¿qué emociones surgen cuando pensamos en la IA?

No te saltes esto. ¿La gente está entusiasmada? ¿Ansiosa? ¿Curiosa? ¿Abrumada? ¿Escéptica? Nombra los sentimientos. Escríbelos. Que sean complejos y contradictorios. Esto no es terapia, es contexto. No se puede tener un debate significativo sobre principios si no se entiende el paisaje emocional en el que se está operando.

2. Nuestras esperanzas
¿Cuál es el resultado más positivo que esperamos conseguir con la IA?

¿Qué se vuelve posible que antes no lo era? ¿Qué problemas podríamos resolver? ¿Qué podríamos hacer mejor, más rápido o con mayor alcance? Que la gente sueñe aquí. Esta es la energía de la «estrella polar», la atracción hacia lo que quieres construir.

3. Nuestros temores
¿Cuál es el daño que estamos más decididos a evitar?

Si todo saliera mal, ¿cómo sería? ¿Cuál es el resultado que te haría decir: «Nunca deberíamos haberlo hecho»? ¿Cuál es tu línea roja, el límite que no cruzarás en absoluto? ¿Puedes describir un uso específico de la IA que te parecería fundamentalmente erróneo para una organización como la nuestra, aunque fuera técnicamente eficaz? ¿Qué cruzaría una línea ética?

Es el enfoque de «barrera de seguridad», el reconocimiento de aquello contra lo que hay que protegerse.

4. Nuestros valores no negociables
Si analizamos nuestros valores organizativos actuales, ¿cuál es el más importante que debemos mantener al adoptar la IA?

La mayoría de las organizaciones ya tienen valores declarados. ¿Cuál de ellos se siente más amenazado en un contexto de IA? ¿Cuál debe guiar todo lo demás?

¿Qué parte de tu trabajo debe seguir siendo siempre totalmente humana, en la que la ayuda de la IA disminuiría en lugar de mejorar lo que haces? ¿Qué deberíamos «aislar» de la automatización?

Esto conecta tus principios de IA con tu identidad organizativa.

5. Nuestra estrella polar
Si pudiéramos elegir solo 3-5 principios para guiar nuestro trabajo en IA, ¿cuáles serían y por qué?

Planta esta semilla pronto. Volverás a ella con más información en la fase CREAR.

Qué capturar:

Documéntalo todo: las tensiones específicas que la gente nombra, los miedos, las esperanzas, los patrones. Cuando ciertas frases o palabras se repiten, como «autenticidad» o «confianza de la comunidad», es una señal que apunta hacia tus principios.

1.2 Comienza tu inventario de IA

Cuándo hacerlo: Antes de la sesión de grupo, si es posible. Una persona o un pequeño grupo pueden redactar el inventario inicial y, a continuación, validarlo y ampliarlo con todo el equipo durante la sesión CREAR.

→ Utiliza la hoja de Inventario de IA en la hoja de trabajo Identificar | Definir los principios de la IA para capturar las herramientas y preocupaciones sobre la IA de tu organización.

Por qué es importante:

  • Concreta la conversación (no principios abstractos, sino «estamos utilizando estas herramientas»)

  • Revela las tensiones de forma orgánica (el inventario aflora allí donde la organización se siente insegura)

  • Proporciona materia prima para la identificación de principios (las herramientas y sus riesgos informan sobre qué principios son más importantes)

  • Descubre la «IA en la sombra», es decir, las herramientas que los miembros del equipo utilizan de manera informal sin la aprobación de la organización

Estructura del inventario:


Figura 1: El contenido de esta tabla es un ejemplo, puedes encontrarlo junto con la tabla editable aquí

Importante: Una herramienta de IA no tiene un estatus permanente. El estatus es el resultado de la Herramienta + Caso de uso + Sensibilidad de los datos. Evalúa siempre la tarea específica antes de empezar.

Categorías de estatus:

  • 🟢 Verde: Permitido

  • 🟡 Amarillo: Utilización con precaución, permitida PERO solo si se siguen las barreras de seguridad específicas.

  • 🔴 Rojo: Prohibido. No utilizar.

  • ⚪ Gris: Lista de deseos / Fase exploratoria.

Niveles de sensibilidad de los datos:

  • Público: No hay preocupación por la exposición

  • Interno: Solo para uso en la organización

  • Confidencial: Acceso limitado, contiene información confidencial de la organización

  • Muy sensible: Contiene datos personales, información sobre beneficiarios o contenidos protegidos legalmente

Consejo de facilitación: A la hora de recopilar información sobre el inventario, crea un entorno seguro para la revelación honesta. La gente suele utilizar herramientas de IA que no han mencionado porque no están seguros de si está «permitido». Los mecanismos de entrada anónima pueden ayudar a sacar a la luz el uso de la IA en la sombra.

Mantén este inventario como un documento vivo. Se irá detallando a medida que desarrolles estructuras y políticas de gobernanza en la fase CREAR.

→ La hoja de Inventario de IA en la hoja de trabajo está diseñada para actualizarse con el tiempo. Empieza por lo sencillo y ve añadiendo detalles a medida que profundices en tus conocimientos.

1.3 Recopila los conocimientos existentes

Cuándo hacerlo: Antes de la sesión de grupo. Una persona puede recopilar esta información y presentarla durante la reunión CREAR, garantizando así que el equipo tenga una base común sobre la que trabajar.

Qué reunir:

  • Los valores y principios de tu organización

  • Declaración de objetivos, plan estratégico, código ético

  • Cualquier tecnología o política de datos existente

  • Declaraciones de valores de tus documentos fundacionales

  • Compromisos adquiridos con financiadores, socios o comunidades

  • Pregunta: ¿Cómo podrían aplicarse estos valores existentes a la IA?

  • Tu panorama normativo

  • ¿Qué normativa se aplica a tu contexto? (Ley de IA de la UE, RGPD, requisitos específicos del sector)

  • ¿Qué esperan los financiadores sobre el uso de la IA o la protección de datos?

  • ¿Qué espera tu comunidad?

  • ¿Existen normas profesionales en tu sector?

  • Para las OSC europeas, los principios clave de la Ley de IA de la UE incluyen la supervisión humana, la transparencia, la calidad de los datos y la no discriminación. Incluso fuera de la UE, estos marcos ofrecen puntos de referencia útiles.

→ Ver la Ley de IA de la UE y el Alineamiento de los principios (hoja Principios de IA responsable más comunes ) en la hoja de trabajo descargable (hoja de trabajo Identificar | Definir los principios de la IA) para comprender qué principios cuentan con respaldo normativo.

  • Puntos de referencia sobre el terreno

  • Una comunidad mundial ha estado desarrollando principios de IA responsable desde 2019. No hace falta que investigues todo esto por tu cuenta. Hemos recopilado para ti los marcos y ejemplos más relevantes.

→ Ver el Recurso de puntos de referencia de los principios de la IA responsable para tener ejemplos de organizaciones orientadas a la misión, como Khan Academy, ChangemakerXchange y Common Sense Media, entre otras.

→ Consulta la hoja Principios más comunes de la IA responsable en la hoja de trabajo descargable (hoja de trabajo Identificar | Definir los principios de la IA) para consultar las definiciones de los principios más citados en los marcos de la UE, la OCDE, la UNESCO y el NIST.

Resultado:

  • Un documento compilado o una breve presentación que aporte estos conocimientos a la sesión CREAR:

  • Resumen de la normativa pertinente en tu contexto

  • Los valores existentes en tu organización (con notas sobre la relevancia de la IA)

  • La hoja de referencia de los principios comunes (disponible)

  • 1-2 ejemplos de organizaciones similares que coincidan con tu misión

El objetivo no es convertirse en un experto o experta en cada marco. Se trata de tener suficiente contexto para que tu equipo pueda tomar decisiones informadas sobre qué principios son más importantes para tu organización. Los recursos que proporcionamos hacen el trabajo duro. Tu trabajo consiste en aportar la perspectiva única de tu organización.

Continúa la guía con la Parte 2: CREAR: Identificar y definir tus principios para aprender a identificar los principios de la IA más importantes para tu OSC y la Parte 3: Ponerlo en práctica para aprender a identificar los principios de la IA más importantes para tu OSC.

Tu opinión es importante

¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!

¡Formulario de comentarios próximamente!

Este artículo es el comienzo de la serie «La hoja de ruta de la IA responsable para las OSC», elaborada en el marco del proyecto IA para el cambio social del Programa de Activismo Digital de TechSoup, con el apoyo de Google.org.