Los modelos de lenguaje de gran tamaño (LLM) de código abierto son modelos de IA que utilizan texto en lenguaje natural disponible públicamente y datos de código de programas de software para aprender, comprender y replicar el lenguaje humano.
Los LLM de código abierto, una forma de IA de código abierto, pueden modificarse y compartirse libremente, lo que permite colaborar con ellos y personalizarlos sin pagar licencias. Esta apertura promueve la transparencia, la seguridad, la competencia y diversas aplicaciones en todos los sectores. Estos LLM son una forma de IA de código abierto y pueden modificarse y compartirse libremente, lo que permite colaborar con ellos y personalizarlos para cualquier propósito sin necesidad de obtener permiso ni pagar licencias. Este enfoque promueve la transparencia, la seguridad, la competencia, la diversidad y el uso en aplicaciones diferentes.
Los modelos de lenguaje de gran tamaño son la base de las interfaces de usuario modernas que se sustentan en la inteligencia artificial. Estos modelos, que están entrenados con conjuntos de datos enormes y arquitecturas avanzadas de red neuronal, permiten a los humanos interactuar con las aplicaciones de forma natural. El valor de los LLM reside en su capacidad para completar tareas lingüísticas rigurosas, como la síntesis de grandes pasajes de texto o la generación de grandes cuerpos de texto de forma conversacional en respuesta a las instrucciones de su usuario humano. En campos tan diversos como el servicio de atención al cliente, la investigación, la creación de contenido y la educación, los LLM permiten a los usuarios hacer consultas e introducir instrucciones complejas, y a la IA responder de una forma que incluso los usuarios inexpertos pueden comprender, en algunos casos, al mismo nivel que los más avanzados.
Sin embargo, aunque estos modelos pueden permitir interacciones fáciles, son extremadamente complejos y a menudo se basan en datos propios que reducen la visibilidad de su estructura y capacidades internas. Mientras que los LLM de código abierto en general ofrecen una alternativa más accesible, sus grados de apertura son diversos. Algunos modelos lingüísticos de gran tamaño son transparentes en lo que tiene que ver con su código y con los datos con los que están entrenados, lo que permite que cualquiera los utilice, modifique o distribuya. No obstante, es posible que para otros solo se revelen el modelo y algunos de los artefactos utilizados, lo que hace casi imposible auditar la su cadena de suministro ascendente. Gracias a que democratizan el acceso a potentes herramientas de IA, los LLM de código abierto ofrecen a más desarrolladores la posibilidad de innovar y personalizar las soluciones de IA según sus necesidades específicas.
Para hablar sobre LLM de código abierto, es preciso aclarar en qué se diferencian de los LLM propios. Los LLM de código abierto y los propios difieren significativamente en cuanto a transparencia, accesibilidad, adaptabilidad y participación de la comunidad.
Los LLM de código abierto están disponibles de forma gratuita para usarlos y modificarlos según los usuarios consideren oportuno. Además, es posible compartirlos, incluidas sus modificaciones. Esto promueve que la innovación posterior sea más colaborativa, ayuda a los desarrolladores a personalizar estos modelos para cumplir necesidades concretas y contribuye a crear un ecosistema dinámico donde surgen mejoras y nuevas aplicaciones continuamente. Básicamente, todos los desarrolladores que mejoran el modelo de base y ofrecen esos modelos mejorados en formato de código abierto se convierten en miembros del ecosistema de la IA de esa comunidad.
Para que sea posible, los LLM de código abierto dependen en gran medida de la transparencia de la arquitectura del modelo, del entrenamiento y del uso para el que fueron diseñados. Para maximizar la adopción comercial y por parte de la comunidad, los datos utilizados para el entrenamiento previo y la evaluación, los recursos empleados y el código subyacente en sí deben poder revisarse por completo. Este es un factor diferenciador importante de los LLM de código abierto, ya que los propios no suelen ofrecer visibilidad de su funcionamiento interno.
Los LLM de código abierto ofrecen una mayor libertad en forma de flexibilidad, ya que las organizaciones pueden personalizarlos para sus necesidades únicas. Por otro lado, los cambios introducidos en los LLM resultantes pueden debilitar la seguridad. Por ello, es importante elegir LLM de código abierto en los que se apliquen unas prácticas de gobernanza de datos y modelos eficaces para asegurar que los nuevos modelos cumplan las expectativas de seguridad y rendimiento de los usuarios posteriores. Trabajar con una solución de código abierto puede implicar costes importantes, como los asociados a la contratación y la capacitación de expertos, las tarifas legales iniciales, las actualizaciones de características, el cumplimiento en materia de seguridad y el soporte, entre otros. Además, conllevan una labor continua de gestión del ciclo de vida del software.
Los LLM propios están controlados por entidades individuales y son de su propiedad, y el acceso suele estar restringido por medio de licencias y cuotas. Empresas como OpenAI y Google ofrecen LLM potentes, pero su uso suele limitarse a interfaces de programación de aplicaciones (API) predefinidas o aplicaciones específicas que establecen los proveedores. Este funcionamiento cerrado puede limitar la personalización y la adaptación, lo que puede aumentar los costes y restringir el acceso a la infraestructura de computación en la nube de inferencia, que podría no encontrarse en la misma región que el usuario final. Además, es posible que los LLM propios se basen en versiones ajustadas de modelos de código abierto y que las empresas hayan añadido mejoras o características exclusivas (como el aumento del rendimiento o funciones especializadas) para crear versiones propias de esos modelos. Un ejemplo de ello son los Now LLM, que cuentan con mejoras personalizadas que los diferencian de las alternativas de código abierto.
Dicho esto, usar soluciones de LLM propias ofrece varias ventajas. En concreto, estos modelos tienden a ofrecer una mayor seguridad y son más fáciles de usar, y las empresas ofrecen asistencia siempre que se necesita.
El software de código abierto no es ninguna novedad. De hecho, algunos de los primeros programas se compartían libremente entre las personas que trabajaban con ordenadores. Sin embargo, con la llegada relativamente reciente de la inteligencia artificial, los conceptos del código abierto están comenzando a arraigarse en la IA. Aun así, aunque comparten filosofías básicas de transparencia, colaboración y accesibilidad, también existen algunas diferencias significativas:
El software de código abierto son los programas o sistemas cuyo código fuente está disponible de forma gratuita para que cualquiera pueda usarlo, modificarlo y compartirlo. El software de código abierto se rige por licencias como GNU General Public License (GPL) o Apache License, en las que se describen las condiciones de uso y redistribución. Entre los ejemplos más populares se incluyen Linux, Apache HTTP Server y Mozilla Firefox, que siguen prosperando gracias a las contribuciones de comunidades de desarrolladores de todo el mundo.
Con el auge de la inteligencia artificial, los principios del software de código abierto se han adaptado a la IA. El resultado es la IA de código abierto. The Open Source Initiative define la IA de código abierto como: "Un sistema de IA disponible bajo ciertas condiciones y de manera que se garantiza la libertad para:
Estas libertades se aplican tanto a los sistemas plenamente funcionales como a los elementos discretos de los sistemas. Una condición previa para ejercer estas libertades es tener acceso para modificar el sistema de la forma deseada".
- utilizar el sistema para cualquier propósito sin tener que pedir permiso;
- estudiar cómo funciona el sistema e inspeccionar sus componentes;
- modificar el sistema para cualquier propósito, incluso para cambiar su salida;
- compartir el sistema para que otros lo utilicen con o sin modificaciones para cualquier propósito.
Estas libertades se aplican tanto a los sistemas plenamente funcionales como a los elementos discretos de los sistemas. Una condición previa para ejercer estas libertades es tener acceso para modificar el sistema de la forma deseada".
Al igual que ocurre con el software de código abierto, la IA de código abierto promueve la transparencia y la colaboración al permitir a los desarrolladores acceder directamente al código de la IA. Las licencias de código abierto desempeñan un papel fundamental en este ecosistema. En las licencias (como la Blue Oak Model License) se describen los términos y condiciones asociados al uso de la IA. Estos marcos legales ayudan a hacer que la IA de código abierto sea accesible y a proteger a los contribuidores de las responsabilidades legales.
Los LLM de código abierto emplean IA de código abierto con licencias para proporcionar a los desarrolladores la libertad de personalizar y adaptar grandes modelos lingüísticos a sus necesidades específicas sin las limitaciones de los sistemas propios.
Existen muchas opciones para las organizaciones que quieren trabajar con LLM de código abierto. A continuación se muestran algunos de los modelos de lenguaje de código abierto con un desarrollo más transparente disponibles en la actualidad:
StarCoder, desarrollado por el proyecto de colaboración científica abierta BigCode, liderado por Hugging Face y ServiceNow, es un LLM de código abierto diseñado para la generación de código. Está entrenado con más de 80 lenguajes de programación y destaca a la hora de generar código y flujos de trabajo, así como en las tareas de resumen de textos. StarCoder tiene una gran ventana de contexto y características únicas, como las capacidades de relleno, lo que lo convierte en una opción sólida como modelo de base. Está protegido por la licencia OpenRAIL-M, que permite el uso comercial gratuito con limitaciones éticas y responsables de casos de uso de la IA.
Fue creado por la empresa emergente de IA alemana Aleph Alpha, y se centra en ofrecer capacidades avanzadas de generación y comprensión del lenguaje natural. Está diseñado para competir con LLM avanzados (como las versiones recientes de ChatGPT), y ofrece transparencia y un desarrollo ético de la IA. Luminous consta de 13 millones de parámetros y está disponible para tareas que van desde las aplicaciones de lenguaje pequeñas hasta las de gran escala.
Los modelos Granite de IBM son LLM de código abierto diseñados para aplicaciones empresariales. Los modelos de Granite se entrenan con 116 lenguajes de programación y se pueden utilizar para generar código y la corregir errores, así como para resumir y explicar código. Están protegidos por la licencia Apache 2.0, por lo que son adecuados tanto para uso comercial como para investigación.
Phi-2, desarrollado por Microsoft Research, es un modelo ligero, de 2700 millones de parámetros que, sin embargo, es capaz de competir con muchos modelos más grandes en términos de rendimiento. Phi-2 puede hacer tareas complejas que van desde el razonamiento de sentido común hasta la codificación, las matemáticas y la comprensión del lenguaje. Su tamaño compacto lo hace ideal para una experimentación eficiente y está disponible en Azure AI Studio.
Siguiendo la estela del marco de trabajo Stable Diffusion, Stable Video Diffusion es un modelo de código abierto centrado en la generación y edición de vídeo. Emplea la IA para crear contenido visual dinámico, por lo que ofrece herramientas potentes para sectores como el entretenimiento y la publicidad.
Llama 3 de Meta (cuya versión más reciente es la 3.1) es la última incorporación de la familia de modelos Llama. Está disponible en tamaños de modelo que van desde los 8000 millones hasta 405 000 millones de versiones de parámetros y se basa en la arquitectura de sus predecesores. Llama 3 ofrece buenos resultados en tareas de razonamiento, codificación y multilingües, y ha mejorado las herramientas de seguridad y la detección de código inseguro.
Los de representación de codificador bidireccional de transformadores (BERT) están desarrollados por Google y son modelos de transformador de solo codificador diseñados para comprender y generar lenguaje humano. Desde su lanzamiento en 2018, BERT se ha adoptado para multitud de tareas de procesamiento del lenguaje natural (NLP), como clasificar texto, responder a preguntas y hacer análisis de sentimiento. A pesar de su relativa antigüedad, sigue influyendo en el PNL moderno.
Los LLM de código abierto son versátiles y accesibles, y tienen una amplia gama de aplicaciones en multitud de sectores. Estos son algunos de sus usos más destacados:
Los LLM de código abierto se pueden utilizar para transformar PDF en audios atractivos de estilo podcast fácilmente. Al implementar un flujo de trabajo de LLM compuesto, puedes convertir el texto de los PDF en un guion conversacional y luego narrarlo empleando tecnología avanzada de texto a voz. Es ideal para crear contenido accesible y materiales educativos, o simplemente para dar vida a tus documentos con un nuevo formato.
Puede ser difícil determinar las emociones que hay detrás de los comentarios de los clientes. Los LLM de código abierto pueden entrenarse para analizar el texto y determinar el sentimiento general que se está expresando: positivo, negativo o neutral. Esto permite a las empresas comprender mejor las respuestas de los clientes para mejorar sus productos y servicios. El análisis de sentimiento es una herramienta importante en la supervisión de las redes sociales para obtener información sobre los clientes.
Muchos modelos LLM de código abierto pueden ayudar a los desarrolladores proporcionándoles sugerencias de código, escribiendo algoritmos complejos, corrigiendo errores en el código e incluso documentándolo. Pueden generar fragmentos de código a partir de descripciones en lenguaje natural, lo que permite a los usuarios indicar al código en inglés lo que desean que haga.
Los LLM se usan con frecuencia para generar texto coherente y contextualmente relevante, lo que incluye la creación de artículos, historias y diálogos para asistentes virtuales. Esta aplicación es una parte esencial de la IA generativa, y se usa en prácticamente todos los ámbitos.
Los LLM de código abierto pueden automatizar la creación de contenido y generar resúmenes de documentos largos, lo que ayuda a los usuarios a comprender rápidamente los puntos principales de los textos extensos. Esta aplicación resulta especialmente valiosa para los profesionales que necesitan procesar grandes volúmenes de información de manera eficiente.
Los LLM están ayudando a romper las barreras lingüísticas. Gracias a sus capacidades multilingües, muchos LLM de código abierto pueden traducir texto entre varios idiomas, lo que hace posible una comunicación clara con un público de todo el mundo. Estos modelos se entrenan con conjuntos de datos en distintos idiomas, lo que garantiza traducciones precisas y con reconocimiento del contexto que van mucho más allá de las simples traducciones palabra por palabra.
Los LLM de código abierto son la base de los bots de chat de IA y los asistentes virtuales actuales, que mejoran el soporte de atención al cliente al responder a las consultas de forma rápida y precisa. Si se diseñan para tareas conversacionales, los LLM pueden abordar las interacciones con los clientes de una forma eficaz y natural para los usuarios. Además, si hay algo que los LLM no sean capaces de abordar, es posible automatizar el proceso para derivar esos casos a agentes humanos..
Los LLM se pueden integrar en plataformas educativas para proporcionar experiencias de aprendizaje personalizadas. Pueden adaptar el contenido a estilos de aprendizaje individuales, ofrecer explicaciones y generar problemas para practicar específicamente adaptados a las necesidades y capacidades de cada usuario.
- Atención sanitaria
Las soluciones de telemedicina con IA basadas en LLM proporcionan asistencia sanitaria virtual para diagnosticar, ofrecer información y organizar la información de los pacientes. Al igual que los bots de chat de IA y los agentes virtuales, estos programas están diseñados para evaluar los problemas de los pacientes basándose en la información obtenida a partir de amplios conjuntos de datos. De ese modo, saben cuándo prestar asistencia por sí solos y cuándo alertar a los equipos médicos humanos.
- Finanzas
En el sector financiero, los LLM de código abierto mejoran la detección de fraudes, automatizan la asistencia al cliente y hacen análisis de opinión para identificar tendencias emergentes. Estos modelos analizan documentos financieros y otros datos para proporcionar información del mercado en tiempo real.
- Periodismo y noticias
Los periodistas y las organizaciones de noticias utilizan LLM de código abierto para resumir y traducir. Los LLM se pueden utilizar internamente para analizar información sin compartir datos propios fuera de la sala de prensa. Además, si las circunstancias exigen una respuesta inmediata, las agencias de noticias pueden emplear los LLM de código abierto para generar contenido relevante e informativo que vaya dirigido a su público objetivo.
- Sectores basados en la ciencia
Los LLM sirven de apoyo para la investigación científica gracias a que automatizan las revisiones de literatura, el análisis de datos y la generación de hipótesis. Sin embargo, todo ello no es más que el principio, ya que la enorme flexibilidad de estos modelos implica que los científicos puedan adaptarlos a cualquier tipo de investigación, desde la lucha contra el cambio climático hasta el análisis de secuencias de ADN y el modelado de fenómenos astrofísicos.
Son sistemas autónomos personalizables que pueden seguir indicaciones en lenguaje humano y responder en ese mismo lenguaje. No es difícil imaginar qué tipo de ventajas pueden ofrecer a los negocios estos modelos. Las empresas que emplean LLM de código abierto pueden esperar:
Aunque los LLM de código abierto ofrecen muchas ventajas, también pueden implicar ciertos riesgos. Comprender los siguientes desafíos y cómo abordarlos es importante para garantizar un uso responsable y eficaz:
Los LLM de código abierto, debido a su acceso sin restricciones, se pueden utilizar para fines perjudiciales con la misma facilidad que para los beneficiosos. Difundir desinformación, violar la privacidad, acceder a información restringida o privada son algunos de los fines para los que se puede usar una IA. Garantizar el uso ético requiere una gobernanza comunitaria proactiva y directrices claras para equilibrar la innovación con la seguridad y la responsabilidad.
La calidad de las contribuciones de la comunidad a los LLM de código abierto puede ser diversa, lo que da lugar a resultados incoherentes. Sin una supervisión estandarizada, estos modelos pueden producir resultados poco fiables, especialmente en aplicaciones donde la precisión es fundamental. Para mantener unos estándares altos, es preciso vigilar de cerca todas las contribuciones al código y ajustarlas cuando sea necesario. Desafortunadamente, ello puede suponer un gran trabajo cuando se usa un código abierto.
La calidad de la IA depende de la información en la que se basa. Si esa información incluye opiniones prejuiciosas o suposiciones injustas, la IA puede aprender a perpetuarlas. Los LLM pueden verse influidos por los sesgos presentes en sus datos de entrenamiento, lo que da lugar a resultados sesgados e injustos. Una vigilancia estrecha y una selección de datos diversos son necesarias para mitigar los sesgos y asegurar la equidad y la inclusividad en el contenido y las decisiones generados por IA.
A la hora de elegir un LLM, las organizaciones deben tener en cuenta varios factores para asegurarse de elegir la opción que mejor se ajusta a sus necesidades. Estos son los aspectos más importantes:
- Objetivos
Identifica el propósito principal del LLM. ¿Qué va a conseguir tu empresa con él? ¿Cuál será su uso? Algunos modelos están diseñados para la investigación, mientras que otros son adecuados para el uso comercial. Asegúrate de que tu LLM sea adecuado para tus objetivos concretos.
- Precisión
Evalúa la precisión del modelo para las tareas a las que se enfrentará. Incluso aunque tengas acceso para personalizar el código, algunos LLM son más adecuados para determinados usos.
- Coste
Aunque los LLM de código abierto son gratuitos, hay que tener en cuenta los costes de alojamiento, entrenamiento y mantenimiento del modelo. Los modelos más grandes requieren más recursos, lo que puede aumentar los gastos operativos y de infraestructura.
- Rendimiento
Evalúa la fluidez del lenguaje, la coherencia y la comprensión del contexto del LLM. Si tiene un buen rendimiento en estos ámbitos, la experiencia de usuario será mejor y la aumentará la eficacia en las tareas.
- Seguridad de los datos
Asegúrate de que el LLM pueda gestionar de forma segura los datos confidenciales, especialmente cuando se trate de información personal o privada.
- Calidad de los datos de entrenamiento
Comprueba la calidad de los datos de formación usados originalmente por el LLM. Emplear datos de alta calidad permite obtener mejores salidas. Si es necesario, usa datos personalizados para ajustar el modelo y mejorar los resultados.
- Conjuntos de habilidades disponibles
Los LLM complejos requieren habilidades avanzadas en ciencia de datos, operaciones de aprendizaje automático (MLOps)y NLP. Asegúrate de que el equipo que va a trabajar más de cerca con el LLM tenga la experiencia necesaria. Si no es así, traza una estrategia para formar a los profesionales o contratar a expertos para cubrir esa necesidad.
ServiceNow ofrece modelos lingüísticos propios de primer nivel a través del servicio Now LLM. Estos modelos ofrecen funciones basadas en IA, como el resumen de chats y registros de agentes, la búsqueda mejorada con IA y la traducción dinámica, así como unos flujos conversacionales óptimos. Estas funciones se basan en innovaciones de código abierto. Como parte de sus iniciativas, ServiceNow entrena abiertamente modelos como los de StarCoder de base. A continuación, los ajusta para convertirlos en modelos propios de Now LLM, personalizados específicamente para optimizar la productividad en toda la empresa y ofrecer experiencias de IA generativa excepcionales.
Con estos cimientos de código abierto, mejorados gracias a la colaboración con partners como Hugging Face y NVIDIA, ServiceNow puede desarrollar la IA de forma responsable y compartir innovaciones valiosas con la comunidad al mismo tiempo. Gracias a esta estrategia, las organizaciones acceden a funciones de IA potentes y especializadas que van desde las recomendaciones de flujos de trabajo automatizadas hasta la generación precisa de código a partir de texto. Además, dado que los modelos de Now LLM forman parte de Now Platform®, que está completamente integrada, mejoran los flujos de trabajo y las aplicaciones actuales de forma óptima para aumentar la eficiencia de todos los departamentos.
Echa un vistazo a ServiceNow en acción y descubre cómo la IA y los LLM pueden mejorar tus operaciones. Programa tu demostración hoy mismo.