Como su nombre indica, los SLM son versiones más pequeñas de los LLM, con menos parámetros. Algunos de ellos pueden funcionar incluso en ordenadores personales, portátiles o dispositivos móviles. En lugar de depender por completo de sistemas remotos en la nube, muchos SLM pueden funcionar sin conexión o dentro de la propia infraestructura de una organización.
En este artículo analizamos qué son los SLM y por qué pueden resultar relevantes para las organizaciones de la sociedad civil (OSC) que trabajan en proyectos relacionados con datos sensibles o que operan con recursos limitados. Presentamos varios SLM relevantes y ofrecemos orientación práctica sobre cómo pueden utilizarse en la práctica. Al comprender el potencial y las limitaciones de los SLM, las OSC pueden evaluar mejor en qué casos estos modelos pueden ofrecer alternativas más seguras, transparentes y económicas que los LLM.
¿Por qué son importantes los SLM para las organizaciones de la sociedad civil?
Los SLM pueden aportar un valor significativo a las OSC al contribuir a abordar varias cuestiones clave.
1. Privacidad de los datos y protección de las comunidades vulnerables
Muchas OSC manejan información de carácter altamente sensible, como testimonios, documentación sobre derechos humanos, expedientes judiciales o datos personales de activistas o de poblaciones marginadas. El uso de las API de los LLM puede suponer un difícil equilibrio entre la eficiencia y la confidencialidad. La subida de documentos a servidores externos puede exponer a las organizaciones a fugas de datos, vigilancia o accesos no autorizados.
Los SLM pueden resolver este problema, ya que pueden implementarse de forma local en los servidores de la organización o incluso en ordenadores portátiles sin necesidad de enviar datos a proveedores externos. Esto permite resumir, traducir, clasificar o transcribir documentos, al tiempo que se mantiene un mayor control sobre la información confidencial.
2. Retos en materia de infraestructuras y conectividad
En muchas regiones, especialmente en algunas zonas de África, América Latina y las zonas rurales, la conexión a internet sigue siendo cara, inestable o inaccesible. Las API de los LLM requieren acceso a internet. Esto puede provocar una inestabilidad operativa durante las interrupciones del servicio o las subidas de gran volumen, o bien generar costes adicionales.
Algunos SLM pueden funcionar sin conexión una vez instalados localmente. Esto permite a las organizaciones seguir trabajando incluso en condiciones de mala conectividad. Esta capacidad de funcionamiento sin conexión puede resultar especialmente valiosa en situaciones de crisis o emergencia (como se muestra en la tabla 1 que figura a continuación).
3. Sostenibilidad financiera
La mayoría de las OSC funcionan con una financiación limitada e impredecible. Los servicios de LLM basados en suscripción o los elevados costes de uso de las API pueden llegar a ser insostenibles en poco tiempo.
Los SLM pueden reducir esta barrera, ya que muchos de ellos son de código abierto, gratuitos y requieren menos recursos computacionales. Aunque puede que sigan existiendo costes de instalación y mantenimiento, las organizaciones pueden evitar las cuotas mensuales recurrentes asociadas a las plataformas comerciales de IA.
4. Vigilancia y riesgo político
Las organizaciones que trabajan en entornos políticamente hostiles suelen enfrentarse a amenazas de vigilancia. La dependencia de las plataformas internacionales puede acarrear riesgos como las solicitudes de datos por parte de los gobiernos, la censura de las plataformas o la vigilancia de las redes de activistas.
El uso de los SLM ayudará a las organizaciones a reducir su dependencia digital.
5. Cuestiones éticas y medioambientales
Los LLM más populares, como ChatGPT, no son transparentes en cuanto a sus datos de entrenamiento y los pasos que siguen en el procesamiento de datos. Su desarrollo y funcionamiento también requieren importantes recursos informáticos, lo que puede contribuir a generar una huella medioambiental significativa.
Los SLM ofrecen un modelo alternativo que puede ajustarse mejor a los principios de descentralización y participación comunitaria, ya que suelen ser abiertos y más transparentes que los LLM cerrados. En cuanto al impacto medioambiental, aunque los SLM siguen consumiendo recursos computacionales, su huella operativa suele ser menor que la de los LLM.
Ejemplos de SLM
Tabla 1: ofrece una visión general de algunos SLM populares que podrían utilizarse para realizar diversas tareas de OSC, junto con sus proveedores, los idiomas que admiten, sus especializaciones, sus características adicionales y la longitud de los contextos.
Finalidad general: Qwen3-0.6B, Phi-4-mini-instruct, Llama-3.2-3B-Instruct, Gemma-2B y tiny-aya-global son SLM de uso general. Pueden realizar numerosas tareas de análisis de texto, como el reconocimiento de entidades, la síntesis o la respuesta a preguntas. Qwen3-0.6B y Phi-4-mini-instruct también pueden realizar tareas más complejas que la generación de texto y que requieren razonamiento, como comparar información y verificar datos.
Idiomas: Qwen3-0.6B o Phi-4-mini-instruct admiten varios idiomas. Esto significa que podrían entender las instrucciones en otros idiomas y llevar a cabo las tareas solicitadas en el idioma de destino. Sin embargo, esto no significa que se limiten estrictamente a los idiomas compatibles. Si el idioma de destino es similar a los idiomas incluidos en el entrenamiento, es posible que los modelos sigan siendo capaces de responder razonablemente bien en ese idioma.
Traducción y transcripción: Modelos como Translategemma-4b-it y Voxtral-Mini-4B son modelos especializados para tareas concretas, como la traducción y la transcripción, ya que se han ajustado con precisión a partir de conjuntos de datos de entrenamiento específicos para cada tarea.
Análisis de documentos de contexto extenso: Phi-4-mini-instruct, Llama-3.2-3B-Instruct y Ministral-3-3B-Instruct admiten ventanas de contexto largas. Esto puede resultar útil cuando se trabaja con documentos más extensos, como políticas e informes. En el caso de las OSC, esto puede facilitar tareas como resumir documentos extensos o responder a preguntas sobre un informe.
Tareas multimodales: Algunos SLM pueden procesar imágenes, además de texto. Por ejemplo, Ministral-3-3B-Instruct y Llama-3.2-3B-Instruct cuentan con capacidades de visión, mientras que TranslateGemma permite la traducción a partir de entradas de texto e imágenes. Estos modelos pueden resultar útiles cuando las organizaciones necesitan analizar capturas de pantalla, documentos escaneados, diagramas o texto incrustado en imágenes.
Codificación: Algunos SLM, como CodeGemma y Qwen2.5-Coder-3B, pueden realizar tareas de programación, como la generación de código, la depuración y la redacción de consultas SQL/SPARQL. Para las OSC, esto puede resultar útil a la hora de acceder a información procedente de fuentes de datos estructuradas, como Wikidata.
¿Cómo estar al tanto de los nuevos SLM?
Si eres nuevo en el mundo de los SLM y no tienes claro qué modelo elegir, lo mejor suele ser empezar con un modelo muy utilizado y con un buen soporte técnico antes de explorar otras opciones. Además, si tienes pensado redactar indicaciones en un idioma distinto del inglés, es importante comprobar si el SLM se ha entrenado en ese idioma o en idiomas lingüísticamente similares, ya que la compatibilidad multilingüe y el rendimiento pueden variar considerablemente de un modelo a otro.
Imagen: En HuggingFace es fácil encontrar SLM nuevos, populares o especializados.
La IA generativa está evolucionando rápidamente y casi cada día surgen nuevos modelos y herramientas. Por ello, mantenerse al día de las últimas novedades y tendencias puede resultar complicado. No obstante, las siguientes fuentes resultan útiles para estar al tanto de los últimos avances en los SLM.
Huggingface: cuenta con una amplia colección de modelos de IA de código abierto, incluidos SLM. Como se muestra en la imagen anterior, puedes buscar modelos utilizando parámetros específicos (por ejemplo, <4B permite mostrar modelos SLM) y ordenarlos según su popularidad o fecha de creación.
GitHub: otra plataforma que alberga numerosos repositorios de código y proyectos. Puedes buscar ejemplos de uso de SLM o repositorios comoSLMs-Survey puede aportar información adicional sobre los SLM.
Fuentes académicas: La antología ACL y la Biblioteca Digital de ACM también son referencias valiosas para encontrar artículos de investigación aplicada que utilicen SLM en el periodismo y las ciencias sociales. Por ejemplo, en este artículo, los investigadores analizan los SLM para la síntesis de noticias.
Limitaciones
Tabla 2: presenta una comparación entre los SLM y las API de LLM en cuanto a acceso a internet, privacidad de los datos, estructura de costes, rendimiento, facilidad de configuración y escalabilidad.
A pesar de sus ventajas en cuanto a rentabilidad y privacidad, los SLM también presentan varias limitaciones. En comparación con las API de LLM, es posible que los SLM no ofrezcan un rendimiento óptimo en tareas muy complejas que requieran un razonamiento avanzado o en varios pasos, como, por ejemplo, la verificación de datos en documentos o el análisis detallado. También pueden tener ventanas de contexto más cortas, lo que dificulta el procesamiento de indicaciones largas que contengan instrucciones detalladas o entradas de gran volumen, como documentos de varias páginas. Además, el autoalojamiento o la adaptación de los SLM a casos de uso específicos puede requerir conocimientos técnicos y un hardware local adecuado.
Cómo utilizar los SLM en la práctica
Para usuarios con menos conocimientos técnicos:
Estas herramientas ofrecen interfaces sencillas de usar para ejecutar e interactuar con modelos locales sin necesidad de una configuración compleja ni de conocimientos avanzados de programación.
Para usuarios con conocimientos técnicos más avanzados:
Estas herramientas ofrecen una mayor flexibilidad, personalización y optimización del rendimiento a la hora de implementar y probar los SLM en entornos de desarrollo.
Para casos de uso avanzados o de carácter puramente técnico:
Estos marcos están diseñados para desarrolladores que deseen crear aplicaciones basadas en IA, flujos de trabajo con agentes y procesos personalizados utilizando modelos mediante programación. Por otra parte, las páginas de los modelos en Hugging Face a veces incluyen código de ejemplo para ejecutar el modelo.
Métodos para mejorar los resultados en los SLM
Existen varios métodos prácticos que pueden ayudar a mejorar el rendimiento y la calidad de respuesta del SLM.
Divide las tareas complejas en subtareas más pequeñas y sencillas
En lugar de pedirle al modelo que resuelva un problema grande de una sola vez, divide la tarea en pasos secuenciales. Por ejemplo, la verificación de datos puede dividirse en las siguientes etapas: identificar la afirmación, recopilar fuentes, evaluar las pruebas y resumir las conclusiones.
Utiliza indicaciones detalladas y asigna funciones
Las instrucciones precisas ayudan a reducir la ambigüedad y a mejorar la calidad del resultado. Indicar el formato, el tono o el objetivo deseados suele dar lugar a respuestas más fiables que las peticiones imprecisas. Por ejemplo, en lugar de limitarte a pedirle a un modelo que realice una tarea, puedes escribir: «Eres un verificador de datos. Utiliza el pensamiento crítico para evaluar esta afirmación, identificar fuentes fiables y explicar si la afirmación es correcta».
Aporta ejemplos o contexto siempre que sea posible
Proporcionar información contextual o ejemplos de resultados ayuda al modelo a comprender mejor la tarea. Por ejemplo, si deseas definir la extracción de datos básicos para la verificación de datos, puedes añadir un ejemplo a la indicación, como el que aparece en la tabla siguiente:
Tabla 3: un ejemplo de cómo aportar ejemplos y contexto, utilizando la información sobre Digital Activism Program de TechSoup.
Combina los SLM con herramientas de búsqueda o fuentes de conocimiento externas cuando sea necesario
Dado que los modelos más pequeños pueden tener un conocimiento limitado o un contexto reducido, conectarlos a documentos, bases de datos o sistemas de búsqueda puede mejorar la precisión de los datos y el rendimiento en ámbitos específicos.
Utiliza marcos de trabajo basados en agentes para flujos de trabajo de varios pasos
Marcos como LangChain, LangGraph o Smolagents pueden coordinar los pasos de un flujo de trabajo, el uso de herramientas y la memoria entre tareas. Estos marcos también permiten que varios SLM colaboren en una misma tarea compleja, asignando diferentes subtareas a modelos especializados. Por ejemplo, en un flujo de trabajo de verificación por vídeo, un proceso automatizado podría utilizar Voxtral para generar una transcripción, Llama para traducirla a otro idioma y, a continuación, recurrir a un agente de búsqueda en la web para recopilar y evaluar pruebas complementarias de internet.
Reflexiones finales
Los SLM no sustituyen por completo a los LLM, pero ofrecen una alternativa importante para aquellas organizaciones que dan prioridad a la privacidad, la asequibilidad, la transparencia y el control. Para las organizaciones de la sociedad civil que operan en entornos con recursos limitados o políticamente delicados, los SLM pueden ofrecer un enfoque más sostenible y ético a la hora de adoptar aplicaciones de IA generativa.
Para las OSC, el valor de los SLM no es solo técnico, sino también estratégico. Pueden ayudar a las organizaciones a experimentar con la IA generativa, manteniendo al mismo tiempo los datos confidenciales dentro de su propia infraestructura, reduciendo así la dependencia de plataformas comerciales y adaptando las herramientas a las necesidades, los idiomas y los contextos locales. Además, las experiencias de las OSC también pueden servir de base para el desarrollo de los propios SLM, dada la variedad de tareas que desempeñan dichas organizaciones.
Al mismo tiempo, es importante recordar que tanto los SLM como los LLM pueden generar información inexacta o totalmente inventada, lo que se conoce como alucinaciones. Los resultados deben verificarse siempre mediante revisiones de expertos y fuentes fiables, especialmente cuando se utilicen para la toma de decisiones, la defensa de causas u operaciones delicadas.
Tu opinión nos importa
¿Qué te ha parecido este texto? ¡Dedica 30 segundos a compartir tus comentarios y ayúdanos a crear contenidos significativos para la sociedad civil!
Exención de responsabilidad
Este recurso se ha elaborado como parte del proyecto IA para el cambio social dentro de Digital Activism Program de TechSoup, con el apoyo de Google.org.
Las herramientas de IA están evolucionando rápidamente y, aunque hacemos todo lo posible por garantizar la validez del contenido que ofrecemos, es posible que, en ocasiones, algunos elementos ya no estén actualizados. Si detectas que alguna información estás desactualizada, por favor, avísanos en content@techsoup.org.
El contenido ha sido creado, revisado y editado por Ipek Baris Schlicht con la ayuda de la IA.