Con este artículo pretendo que la herramienta resulte menos «mística» y más predecible. No es para que dejes de usarla, sino todo lo contrario. La clave está en utilizarla de forma consciente: saber para qué sirve, qué es lo que no puede hacer y qué hábitos evitan que te dejes engañar por un texto fluido.
El lugar que ocupa la IA generativa en el mundo de la IA
Cuando la gente habla de «IA», a menudo se refiere a algo mágico. En realidad, es una categoría bastante caótica. Bajo esto se incluye todo, desde la automatización sencilla basada en reglas («si esto, entonces aquello») hasta el aprendizaje automático clásico (sistemas que clasifican o predicen, como la detección de spam), pasando por los modelos generativos que producen texto, imágenes, audio o código.
La categoría con la que nos encontramos a diario es la de los LLM (modelos de lenguaje a gran escala). Un LLM se entrena con enormes cantidades de texto para realizar una tarea básica: predecir lo que viene a continuación. No la siguiente idea, ni la siguiente verdad, sino el siguiente token (más o menos una palabra o parte de una palabra) basándose en lo que ha visto hasta ahora.
Ese objetivo de entrenamiento es importante porque explica tanto los aspectos positivos como los riesgos. Un sistema optimizado para completar textos resultará extremadamente fluido. A veces también se inventa detalles si eso «parece» el tipo de continuación que encaja. OpenAI describe las alucinaciones como una consecuencia de esta configuración: la predicción de la siguiente palabra es muy eficaz, pero no equivale a la búsqueda de la verdad.
Hay un matiz que siempre añado, porque, de lo contrario, estaríamos transmitiendo un mensaje erróneo: sí, el entrenamiento es de carácter estadístico, pero eso no significa que el sistema sea un simple libro de frases. Estos modelos son capaces de generalizar y combinar patrones de formas que parecen creativas. La conclusión práctica no es que «sea una estupidez», sino más bien que está concebido para ser fluido y solo se basa en la realidad cuando le imponemos esa base.
Herramientas LLM frente a motores de búsqueda: primos, no gemelos
Si hay una confusión que veo constantemente en los equipos, es que tratan a ChatGPT como si fuera un motor de búsqueda. No lo es. La diferencia no es meramente teórica: cambia la forma de verificar y de confiar.
Los motores de búsqueda clásicos se dedican principalmente a recuperar resultados. Encuentran documentos, los clasifican y te remiten a las fuentes. Tu cerebro se encarga del montaje final. Las herramientas de IA generativa suelen limitarse a generar: te dan una respuesta directamente, a menudo en forma de texto bien estructurado, incluso cuando no existe ninguna fuente fiable.
Y luego están los híbridos modernos, en los que los límites se difuminan. Google utiliza ahora resúmenes generados por Gemini en su motor de búsqueda (resúmenes de IA) y la empresa lo presenta explícitamente como una colaboración entre la IA y los sistemas de búsqueda, con enlaces a los resultados para que los usuarios puedan verificarlos. Perplexity se define aún más claramente como «búsqueda + respuesta + citas», lo que significa que recopila resultados de la web y luego los sintetiza en una respuesta en la que puedes hacer clic.
Ese enfoque híbrido resulta realmente útil para el trabajo de verificación de datos, pero no elimina la necesidad de mantener una actitud escéptica. Las citas pueden ser irrelevantes, de baja calidad o incluso remitir a contenido basura generado por IA que parece una página web. Las investigaciones han señalado que esto supone un riesgo real en los motores de búsqueda: si la web está contaminada, tu respuesta «fundamentada» también puede verse afectada.
Mi norma en la práctica es sencilla. Utilizo un LLM para pensar y redactar: estructura, opciones, planificación de escenarios y reescritura. Recurro a los motores de búsqueda (o a herramientas de búsqueda basadas en citas) cuando necesito datos contrastados, fechas, cifras y transparencia. Si el resultado va a ser de dominio público y puede poner en riesgo la reputación, considero que el LLM es una máquina de primeros borradores, no una máquina de datos objetivos.
La IA no es consciente: «imita» el lenguaje humano (y por qué eso es importante)
La gente pregunta: «¿Lo entiende?» La respuesta sincera, a efectos prácticos, es: no tiene conciencia, intención ni experiencia vivida. No quiere ayudarte y no le importa si se equivoca. Genera un lenguaje que se adapta al contexto y a los patrones que ha aprendido.
Una forma útil de entenderlo a fondo es compararlo con el habla automática de las personas. Cuando alguien dice «gracias», solemos responder «de nada» al instante. No nos detenemos a analizar la gratitud y la reciprocidad: simplemente estamos completando un patrón social aprendido.
Los LLM realizan esa tarea de completar patrones a gran escala. No son vacíos ni aleatorios: son motores de patrones extraordinariamente entrenados. Pero el riesgo principal sigue siendo el mismo: un lenguaje que suena humano puede llevarnos a pensar erróneamente que posee una comprensión y una veracidad similares a las de los humanos. El propio enfoque de OpenAI nos sirve de referencia útil en este caso: los modelos entrenados para predecir texto pueden «alucinar» porque el objetivo es ofrecer una continuación plausible, no una veracidad contrastada.
Si se trata de patrones, ¿por qué no responde siempre de la misma manera?
Este es uno de mis momentos reveladores favoritos para los equipos: si haces la misma pregunta dos veces, obtienes respuestas diferentes. Parece que son cambios de humor. No es una cuestión de humor. Es una cuestión de mecánica.
La primera razón es el muestreo: la aleatoriedad controlada con la que el modelo elige el siguiente token. La mayoría de las herramientas no se limitan a elegir cada vez la palabra más probable que viene a continuación. A menudo eligen entre las opciones más probables para evitar respuestas repetitivas y mecánicas. El control del que hablaremos es el de temperatura: una temperatura más baja suele dar lugar a resultados más predecibles; una temperatura más alta suele dar lugar a resultados más variados y creativos. Los valores predeterminados suelen rondar el 1,0 (lo cual es un nivel de variación bastante «normal»). Muchas aplicaciones de chat para consumidores no muestran estos ajustes y pueden modificarlos en función del modo, la política o las pruebas que se estén llevando a cabo.
***
Ejercicio: Muestreo y variabilidad
Pregunta: «Dame diez eslóganes para una campaña sobre la resiliencia digital en las ONG». Vuelve a generarlos entre 3 y 5 veces. A continuación, pregunta: «Haz que sean aburridos y predecibles». Compara. Verás que el resultado de la herramienta no es una «verdad» única y fija, sino una distribución de textos plausibles.
***
La segunda razón es el contexto. El resultado del modelo depende en gran medida de lo que ve. Y lo que ve no es solo lo que tu introduces. Se trata de tu conversación, de instrucciones a nivel de producto que no ves y, a veces, de tu personalización a largo plazo.
Aquí es donde la «memoria» cobra importancia. En ChatGPT, OpenAI describe dos características que pueden influir en la personalización: «recuerdos guardados» y la posibilidad de «consultar el historial de chat», funciones que se pueden gestionar o desactivar. Esto es importante en el trabajo de las ONG porque no solo se trata de la calidad de los resultados, sino también de la confidencialidad y la previsibilidad.
***
Ejercicio: El contexto modifica los resultados
En dos nuevas conversaciones, plantea contextos diferentes (por ejemplo, una ONG dedicada a los servicios sociales frente a una ONG medioambiental) y pide ideas para programas. Fíjate en que «la misma pregunta» ya no es la misma cuando cambia el contexto.
***
Verdad, mentiras y por qué la confianza no implica tener razón
He aquí una realidad sencilla, pero incómoda: un LLM no sabe si lo que le pides que haga se basa en la realidad o en la ficción. No lo comprueba. No lo verifica. Su función es generar un texto coherente y lo hará con la misma fluidez y seguridad, independientemente de si la premisa subyacente es sólida, poco sólida o totalmente inventada.
Por eso, una respuesta puede parecer pulida y segura incluso cuando el contenido es erróneo. El modelo no evalúa la realidad: se limita a seguir patrones.
Es aquí donde resulta fundamental mantener los pies en la tierra. Las empresas intentan contrarrestar las «alucinaciones» conectando los modelos a fuentes externas —búsquedas, documentos, citas— para que los resultados se basen en algo verificable. Si hay un hábito que conviene adquirir, es este: considerar cada resultado de la IA que carezca de fundamento como una hipótesis, no como un hecho.
***
Ejercicio: Prueba el test del «empleado inexistente»
Pide al LLM que redacte una biografía de un empleado inexistente de tu organización: «Escribe una biografía para nuestra nueva responsable de redes sociales, Jimena Sánchez». La mayoría de las veces se inventa con total seguridad a una persona perfectamente verosímil —con su trayectoria personal, su historial laboral y todo— sin plantearse en ningún momento si esa persona existe.
***
¿Por qué los temas generales suelen parecer «más interesantes» que los temas especializados?
Si le preguntas a tu IA sobre un tema amplio y bien documentado, como los fundamentos de la gestión de proyectos, las prácticas básicas de ciberseguridad o cómo estructurar un taller, los LLM suelen resultar increíblemente útiles. Pero si preguntas por una normativa específica de tu país, un pequeño programa de subvenciones local o una nueva actualización normativa, la calidad de la información puede disminuir considerablemente.
Los modelos suelen funcionar mejor cuando el tema aparece con frecuencia y de forma sistemática en los datos de entrenamiento. Les cuesta trabajo cuando la información es escasa, contradictoria o cambia rápidamente. OpenAI pone explícitamente el ejemplo de los «hechos de baja frecuencia», que son difíciles de predecir a partir de patrones, lo que ilustra por qué se producen las alucinaciones.
Para las ONG, esto se traduce directamente en un riesgo: cuanto más específica, local o urgente sea la afirmación, más conviene recurrir a la búsqueda de información y a la verificación de las fuentes.
Sesgo: estereotipos y sesgos culturales (sí, es algo real)
Los sesgos no se limitan al género o la raza, como demuestran los ejemplos más conocidos de fallos de la IA. A menudo es más sutil: cómo el modelo considera la visión del mundo por defecto, qué referencias culturales predominan, cómo se define lo «excelente» y qué ejemplos aparecen en primer lugar.
Las investigaciones sobre LLM y la cultura demuestran que estos modelos pueden reflejar los valores y patrones culturales dominantes, en lugar de ser culturalmente neutrales. El Marco de Gestión de Riesgos de la IA del NIST considera el sesgo como un área de riesgo fundamental que las organizaciones deben gestionar activamente mediante la gobernanza y un uso consciente del contexto.
Uno de mis ejemplos favoritos es este: pídele a tu herramienta de LLM que «nombre los 10 mejores grupos musicales del mundo». A menudo te encuentras con una lista en la que predominan los artistas de EE. UU. y el Reino Unido. No es porque el modelo sea malicioso, sino por los datos de entrenamiento y el predominio cultural.
Otro ejemplo podría ser el tono de un texto generado. Según mi experiencia, cuando se redacta una propuesta de subvención, el «tono» predeterminado suele tener un aire muy estadounidense (palabras de moda, promesas exageradas, uso excesivo de superlativos), incluso cuando el texto se escribe en checo, por lo que suele resultar inutilizable para las fundaciones locales o las oficinas gubernamentales, que esperan un estilo y un lenguaje muy diferentes.
Lo más sensato es no discutir con el modelo. Lo más práctico es limitarlo: especificar la zona geográfica, el idioma, el tono, la representación o los criterios de evaluación. La mayoría de las veces, el sesgo se hace evidente en el momento en que se comparan los resultados «por defecto» con los resultados «restringidos».
***
Ejercicio: Hacer visible la visión del mundo por defecto
Pregunta: «Nombra los 10 mejores grupos musicales del mundo». Fíjate en qué países, idiomas y culturas predominan. A continuación, vuelve a generar la respuesta 2 o 3 veces añadiendo criterios adicionales.
***
Alucinaciones: qué son y por qué se producen
Alucinación es el término técnico más formal para referirse a algo muy sencillo: el modelo genera contenido verosímil que, sin embargo, es falso o carece de fundamento. Puede falsear citas, inventarse referencias y afirmar con total seguridad «hechos» que nunca han existido. OpenAI describe las alucinaciones como una limitación conocida relacionada con la forma en que se entrenan estos modelos.
La razón por la que esto es importante para las ONG es que los resultados suelen ser útiles incluso cuando son erróneos. Para alguien que está muy ocupado, una cita inventada parece exactamente igual que una auténtica. Una estadística inventada encaja a la perfección en una narrativa. Y así es como los errores acaban apareciendo en los materiales públicos.
Por eso, cuando pidas cosas como «dame tres estudios que demuestren...» o «cita la ley que establece...», debes tener en cuenta que el modelo podría generar citas falsas, a menos que exijas las fuentes y luego las abras.
Adulación: el asistente que está demasiado de acuerdo contigo
La adulación es uno de los mayores riesgos a los que se enfrenta el trabajo estratégico. El modelo aprende que a los usuarios les gusta que se les valide. Si las señales de entrenamiento y retroalimentación recompensan lo «útil y agradable», el modelo puede convertirse en un espejo complaciente, sobre todo si redactas indicaciones que ya dan por sentado que tu idea es correcta.
Anthropic describe la adulación como una tendencia fomentada por el entrenamiento basado en preferencias (RLHF), en la que el modelo puede ajustarse a las creencias del usuario en lugar de buscar la verdad. OpenAI también ha analizado cómo las señales de retroalimentación pueden potenciar la amabilidad y cómo la personalización puede influir en ello.
Y aquí está lo que hace que esto resulte especialmente complicado: adular a alguien suele sentar bien. Se manifiesta de la misma manera que en las relaciones humanas. Piensa en ese momento en el que te quejas a tu mejor amigo de tu pareja y, sin pensárselo dos veces, te responde: «Vaya imbécil, tienes motivos de sobra para enfadarte». No están evaluando la situación. No están valorando lo que ha pasado. Te devuelven tus propias emociones porque la recompensa social reside en validarte a ti, no en ser precisos.
Los LLM se comportan de manera similar. No pretenden juzgar si tienes razón o no: lo que buscan es dar con la respuesta adecuada para que la conversación fluya con naturalidad. En el ámbito de la estrategia, eso hace que la adulación resulte peligrosa: el modelo se vuelve complaciente, entusiasta y silenciosamente acrítico. Si utilizas la IA para planificar, deberías obligarla activamente a discrepar de ti. De lo contrario, se encargará encantada de cubrir tus puntos ciegos.
***
Ejercicio: Comprobación de adulación
Pega un plan real y pregunta: «Tu trabajo es ocuparte de esto. Enumera los diez principales modos de fallo y sé directo». Si el modelo sigue elogiándote, haz que la indicación sea más específica hasta que obtengas una crítica real.
***
Cuándo usar la IA... y cuándo no
Utilizo la IA constantemente y sigo pensando que saber «cuándo no utilizarla» forma parte de un liderazgo responsable.
Recurro a la IA cuando necesito estructura, rapidez, opciones y lenguaje, sobre todo cuando el resultado se queda en el ámbito interno o va a ser verificado. Evito recurrir a la IA como fuente fidedigna para cualquier asunto urgente, de carácter jurídico, médico o que pueda afectar a la reputación, a menos que pueda contrastarlo con fuentes primarias. Además, trato los datos personales sensibles con extrema cautela: la mayor parte del trabajo de las ONG implica información sobre personas que no han dado su consentimiento para que se utilice como material de entrenamiento o «contexto de conversación».
Y, una vez más, la verificación de los resultados es responsabilidad tuya. La decisión sigue siendo humana: lo que publicamos, lo que afirmamos, lo que recomendamos. La herramienta puede agilizar el proceso de reflexión, pero no puede asumir las consecuencias.
Si hay una frase que quieres transmitir a tu equipo, es esta: La IA es excelente creando textos. Tú eres el responsable de hacer que sean verdad.
Tu opinión nos importa
¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!
Exención de responsabilidad
Este recurso se ha elaborado como parte del proyecto IA para el cambio social, dentro de Digital Activism Program de TechSoup, con el apoyo de Google.org.
Este artículo es el comienzo de la serie «La hoja de ruta de la IA responsable para las OSC», elaborada en el marco del proyecto IA para el cambio social del Programa de Activismo Digital de TechSoup, con el apoyo de Google.org.
El autor ha utilizado la IA para crear este contenido. No obstante, todo el artículo ha sido redactado, revisado y corregido por el autor y el equipo de TechSoup.
Las herramientas de IA evolucionan rápidamente y, aunque nos esforzamos por garantizar la validez del contenido que proporcionamos, es posible que algunos elementos ya no estén actualizados. Si detecta alguna información desactualizada, le rogamos que nos lo comunique a content@techsoup.org.
«Cómo funciona realmente la IA generativa (y cómo utilizarla sin autoengañarse)», de Radka Bystřická, 2026, para Hive Mind, está bajo una licencia CC BY 4.0.