Antes de adentrarte en esta parte, asegúrate de haber leído el artículo sobre Cómo las OSC pueden liderar una IA responsable, la Introducción a esta guía práctica, Parte 1: MIRAR: Preparar el terreno, Parte 2: CREAR: Identificar y definir tus principios y Parte 3: Ponerlo en práctica
Una responsable de programas de una organización medioambiental sin ánimo de lucro de tamaño medio le preguntó a su compañero: «¿Te parece bien que utilice ChatGPT para redactar los mensajes que enviamos a nuestros beneficiarios?»
El compañero se encogió de hombros. «Creo que sí, ¿no? ¿Por qué no le preguntas al departamento de Tecnologías de la Información (TI)?»
El departamento TI dijo: «En realidad, eso no nos corresponde a nosotros. ¿Y si pruebas con la dirección?»
La dirección dijo: «Probablemente deberíamos tener una política al respecto. ¿Podrías echarle un vistazo?»
La responsable del programa volvió a su escritorio. Tenía trabajo que hacer. Aun así, utilizó ChatGPT.
Aquí es donde fracasa la gobernanza de la IA, no por unos principios erróneos, sino por una falta de claridad en cuanto a la responsabilidad.
Si has seguido el primer artículo de esta serie, has hecho un trabajo muy útil. Ya has reunido a tu equipo, has sacado a la luz las tensiones y has identificado los principios que guiarán el proceso de implantación de la IA en tu organización. Quizás incluso se documenten, se compartan y se celebren.
¿Y ahora qué? Ya has completado la fase MIRAR y ahora entras en CREAR, el espacio colaborativo donde los principios cobran forma.
Por qué es importante la propiedad y por qué ahora
La adopción de la IA en la sociedad civil se está acelerando a un ritmo superior al que pueden seguir las estructuras de gobernanza. Los miembros de tu equipo ya están utilizando herramientas de IA: algunas las conoces, pero muchas otras no. Cada día en el que no hay una responsabilidad clara es un día de decisiones incoherentes, de riesgos crecientes y de principios que quedan desprotegidos.
Esta es la cruda realidad: «Todos son responsables» significa que nadie es responsable.
Tu gobernanza ya está en peligro si:
Tu documento de principios no incluye ningún administrador designado
Los equipos suelen decir: «Supongo que alguien lo habrá aprobado»
Nadie sabe a quién acudir cuando se encuentra ante una situación ambigua
Hay programas que toman decisiones contradictorias en materia de IA
Para las OSC con recursos limitados, esta ambigüedad resulta especialmente costosa. No puedes permitirte el lujo de duplicar esfuerzos, enviar mensajes contradictorios a las comunidades ni el daño a tu reputación que podría suponer un error relacionado con la IA. La claridad no es burocracia, es supervivencia.
Gobernanza y principios: Una conversación paralela
Esto es algo que he aprendido al acompañar a las organizaciones en este proceso: no esperes a que tus principios estén «terminados» para decidir quién se encargará de velar por su cumplimiento.
El debate sobre la gobernanza debe tener lugar al mismo tiempo que la definición de tus principios, no después. ¿Por qué? Porque las personas que asumirán la responsabilidad de la gobernanza de la IA deberían participar en la elaboración de los propios principios. Deben comprender las tensiones, las concesiones y los motivos que hay detrás de cada compromiso.
Las organizaciones pueden pasar meses elaborando principios muy bien redactados, pero luego tienen dificultades a la hora de redactar una política. Sin administradores designados, no hay nadie que impulse el proceso.
Nombrar al órgano de gobernanza con antelación, aunque sea de forma provisional, permite empezar a asumir responsabilidades de inmediato: facilitar el debate sobre los principios, recabar opiniones y desarrollar la capacidad de tomar decisiones de forma colaborativa. Para cuando se pueda redactar la política, el equipo ya habrá desarrollado la confianza y los ritmos de trabajo necesarios para aplicarla.
Cómo se ve la responsabilidad: El árbol que mantiene la conversación
Imagina un árbol en la plaza de un pueblo. La gente se reúne a sus pies. A su sombra se entablan conversaciones. No habla, pero es el lugar donde se tratan los asuntos importantes.
Este es el modelo de responsabilidad en la gobernanza de la IA: El Árbol: ese pequeño grupo de personas que crea un espacio para el diálogo continuo sobre la IA dentro de una organización. No se dedican a todo lo relacionado con la IA. No toman todas las decisiones por su cuenta. Son el espacio de acogida, el punto de encuentro, la presencia firme que garantiza que la conversación siga adelante. La función del Árbol es la gestión, no el control.
En la práctica, «El Árbol»:
Es el primer lugar al que acude la gente cuando tiene preguntas o dudas sobre la IA, una «puerta de entrada» clara que antes no existía
Recopila opiniones de toda la organización sobre lo que funciona, lo que resulta confuso y lo que entraña riesgos
Garantiza que los acuerdos establecidos en tus principios se cumplan realmente, no solo en el momento del lanzamiento, sino de forma continua
Crea un espacio para el diálogo continuo, de modo que la IA no se convierta en un tema que la gente evite o afronte en solitario
Establece conexiones entre el uso de la IA por parte de los distintos equipos y detecta patrones que ningún equipo por sí solo podría detectar
Conserva la memoria institucional sobre las decisiones tomadas en el pasado y los motivos que las sustentaron, para no tener que empezar desde cero cada vez
¿Cómo se traduce esto en las distintas organizaciones? Quienes logran una buena gestión de la IA no inventan procesos ajenos, sino que integran la responsabilidad en su forma habitual de trabajar.
Khan Academy muestra cómo la gobernanza se integra en los ritmos existentes. Un grupo directivo sobre IA responsable, integrado por líderes de los departamentos de Producto, Datos e Investigación de Usuarios, facilita la coordinación estratégica. Un grupo de trabajo ampliado sobre IA responsable evalúa las capacidades futuras y supervisa las funciones ya implementadas. Incorporan la evaluación en el diseño del producto, analizando las funcionalidades mediante demostraciones y ciclos de retroalimentación, y mantienen una comunicación constante con las partes interesadas. La gobernanza de la IA parece ser su forma de trabajar, simplemente trasladada a un nuevo ámbito.
ChangemakerXchange (CXC), una red mundial de emprendedores sociales, ofrece un modelo adaptado a las organizaciones más pequeñas. Su Círculo de Gestión de la IA, un pequeño equipo especializado, actúa como guardián de su Manifiesto y Política de IA Consciente. En el día a día, los miembros del Círculo son el primer punto de contacto cuando alguien del equipo tiene alguna duda o inquietud relacionada con la IA. Ahí es donde se recopilan los datos: qué funciona, qué resulta confuso y en qué aspectos la gente tiene dudas. Se aseguran de que el equipo se mantenga fiel a sus principios, no solo en teoría, sino también en la práctica diaria.
En términos más formales, el Círculo se encarga de actualizar los documentos dos veces al año, supervisa las evaluaciones de impacto de las nuevas herramientas y flujos de trabajo, y remite las decisiones importantes o controvertidas a todo el equipo. Cabe destacar que su Círculo puede incluir a un miembro de la comunidad o a un experto externo en IA, lo que aporta una perspectiva externa a la gobernanza.
Ambos ejemplos apuntan a una idea fundamental: la gobernanza debe ser un injerto, no un trasplante. Vuestros procesos de toma de decisiones, estilos de comunicación y estructuras de equipo actuales constituyen la base. Antes de diseñar nada nuevo, pregúntate: ¿Cómo tomamos ya decisiones importantes aquí?
Un error fatal es imponer una estructura de gobierno ajena a tu cultura. Será rechazada como si fuera un órgano extraño. En su lugar, busca dónde encaja de forma natural la IA dentro de lo que ya funciona.
Diferentes modelos de propiedad
No existe una única estructura «correcta». El modelo más adecuado depende del tamaño de tu organización, su complejidad, su grado de madurez en materia de IA y, sobre todo, de tu cultura.
El dúo: Una asociación formada por al menos dos personas. Lo ideal es que una tenga conocimientos técnicos y la otra esté comprometida con vuestra misión y valores. Juntos, se plantean tanto «¿Podemos hacerlo?» como «¿Deberíamos hacerlo?». El dúo se asegura de que nadie tenga que pasar por esto solo. Ideal para pequeñas empresas y para quienes se inician en la IA.
El círculo: Un grupo multidisciplinar de entre 3 y 7 personas que representan a los departamentos de programas, operaciones, comunicación y dirección. Al igual que el Círculo de Gestión de CXC, se reúnen periódicamente y cuando hay que tomar decisiones importantes. Considera la posibilidad de incluir a representantes de la comunidad. Ideal para organizaciones de tamaño medio con múltiples programas que utilizan IA.
Modelo radial: Un punto de coordinación central ofrece orientación y establece las normas, mientras que la responsabilidad de la implementación recae en cada equipo. El centro capacita a los equipos para que tomen buenas decisiones por sí mismos. Ideal para organizaciones de mayor tamaño con estructuras federadas.
Empieza por el modelo más sencillo que se adapte a tu forma real de trabajar. Siempre puedes añadir complejidad más adelante.
La colaboración y las condiciones que requiere
Si hay una idea que ha quedado clara a partir de las prácticas responsables en materia de IA, es esta: la colaboración es el modelo operativo esencial para una innovación responsable.
La IA está presente en todo: datos, programas, comunicaciones y relaciones con las comunidades. Nadie por sí solo cuenta con todos los conocimientos necesarios para manejarla adecuadamente. Si una persona se encarga por sí sola de la gobernanza de la IA, acabará agotándose, se convertirá en un cuello de botella o tomará decisiones sin contar con las aportaciones diversas que exige una IA responsable.
Una herramienta sencilla facilita la colaboración en tareas que realmente requieren múltiples puntos de vista, como la aprobación de una nueva herramienta o la elaboración de una política. Aclara quién es el responsable (el que realiza el trabajo), quién rinde cuentas (el que toma la decisión final), a quién se consulta (el que aporta información esencial) y a quién se informa (el que se mantiene al corriente).
La colaboración implica que varias personas son responsables (realizan el trabajo) y se les consulta (aportan información esencial). Pero quien rinde cuentas, es decir, la persona que toma la decisión final, debe ser una sola persona. Cuando la responsabilidad es compartida, desaparece. Nadie quiere ser quien tome la decisión, así que nadie lo hace. Que haya una sola persona que rinda cuentas no tiene que ver con la jerarquía, sino con garantizar que las decisiones se tomen de verdad.
Por ejemplo, al aprobar una nueva herramienta de IA para la divulgación comunitaria, las funciones dentro del equipo se distribuirían de la siguiente manera:
Rendición de cuentas: El responsable de tu Círculo de Gestión
Responsable: El equipo del programa que solicita la herramienta, un miembro del equipo técnico
Consultado: Representantes de la comunidad; departamento jurídico y de cumplimiento normativo, si procede
Informado: Dirección, resto del personal
Fíjate en cómo se integra la consulta a la comunidad, no como algo secundario, sino como una aportación fundamental.
Sin embargo, la colaboración solo funciona si existe la cultura adecuada. Siguiendo con la metáfora, tu Árbol necesita el suelo adecuado para crecer:
Espacios seguros y seguridad psicológica. Las personas de todos los niveles deben sentirse realmente seguras a la hora de expresar su opinión sobre los riesgos de la IA, los posibles sesgos o las cuestiones éticas, sin temor a represalias. Las preocupaciones que no se expresan son, a menudo, las que más importan.
Escucha profunda y diálogo inclusivo. Los órganos de gobernanza no pueden funcionar de forma aislada. Deben buscar activamente y valorar las perspectivas diversas, tanto técnicas como no técnicas, internas y externas. Esto incluye a las comunidades a las que se presta servicio, cuya experiencia vital constituye una perspectiva insustituible.
Resolución constructiva de conflictos. Los debates sobre la ética de la IA implican, por naturaleza, puntos de vista divergentes y verdaderas concesiones. Es fundamental saber gestionar los desacuerdos de forma constructiva, buscando puntos en común o tomando decisiones basadas en principios y transparentes.
Impulso del cambio a todos los niveles. Una gobernanza eficaz de la IA no es solo una política impuesta desde arriba; es un catalizador de la evolución cultural, que fomenta el pensamiento crítico sobre la tecnología y una mejor colaboración entre equipos.
Haciéndolo realidad: El estatuto
Un estatuto no es un trámite burocrático. Es el único documento que da raíces a tu Árbol: en él se definen su finalidad, sus competencias y sus procedimientos.
Tu estatuto debe responder a cinco preguntas:
¿Por qué existimos? (Tu mandato)
¿Qué vamos a hacer? (Responsabilidades principales y tareas que no tendrás que realizar)
¿Quiénes somos? (Pertenencia, selección, plazos)
¿Cómo lo decidimos? (Proceso de toma de decisiones y escalamiento)
¿Cómo se colabora con nosotros? (El «punto de contacto» para cualquier consulta)
La plantilla adjunta ofrece un marco de estatuto listo para adaptarse. Pero recuerda: la plantilla es una fuente de inspiración, no una regla fija. El verdadero objetivo es responder a estas preguntas de una manera que se adapte a la cultura particular de la OSC.
Una invitación a afianzar tus principios
Los principios de la organización en materia de IA son fruto de un trabajo real: conversaciones sinceras, tensiones puestas de manifiesto y compromisos compartidos. Se merecen algo más que un documento. Se merecen un hogar.
Identifica el Árbol. Quizá sea un dúo dispuesto a mantener esta conversación juntos. Podría tratarse de un pequeño grupo de compañeros de confianza. Nómbralos ahora, incluso antes de que tus principios te parezcan «concluidos». Dejemos que se vayan familiarizando con el cargo ejerciendo la gobernanza a través del proceso de elaboración de políticas que tenemos por delante.
Los principios están a la espera de ponerse en práctica. Dales un Árbol bajo el que crecer y gente con la que cuidarlo juntos.
Recurso complementario: Haciéndolo realidad: Una plantilla de estatuto para orientar tu reflexión
Asegúrate de continuar con la guía en la Parte 5: Cómo pueden las OSC elaborar políticas de IA que realmente se apliquen para leer sobre el proceso de creación de normas de IA y la Parte 6: Cómo pueden las OSC evaluar los riesgos de la IA antes de que se produzcan daños, para saber cómo abordar los riesgos que conlleva la IA.
Tu opinión nos importa
¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!
Exención de responsabilidad
Este recurso se ha elaborado como parte del proyecto IA para el cambio social, dentro de Digital Activism Program de TechSoup, con el apoyo de Google.org.
El autor ha utilizado la IA para crear este contenido. No obstante, todo el artículo ha sido redactado, revisado y corregido por el autor y el equipo de TechSoup.
Las herramientas de IA están evolucionando rápidamente y, aunque hacemos todo lo posible por garantizar la validez del contenido que ofrecemos, es posible que, en ocasiones, algunos elementos ya no estén actualizados. Si detectas que algún dato está desactualizado, por favor, avísanos en contact@hive-mind.community
Sobre la autora
Ayşegül Güzel es una arquitecta responsable de la gobernanza de la IA que ayuda a las organizaciones guiadas por su misión a convertir la ansiedad por la IA en sistemas fiables. Su carrera combina el liderazgo social ejecutivo, incluida la fundación de Zumbara, la mayor red de bancos de tiempo del mundo, con la práctica técnica de la IA como auditora certificada de IA y antigua científica de datos. Guía a las organizaciones a través de transformaciones completas de la gobernanza de la IA y realiza auditorías técnicas de IA. Imparte clases en ELISAVA y es ponente internacional sobre enfoques tecnológicos centrados en el ser humano. Más información en https://aysegulguzel.info o suscríbete a su boletín La IA de tu elección en https://aysegulguzel.substack.com.