Modelos abertos de linguagem em grande escala (Large Language Models, LLMs) são modelos de IA que usam texto de linguagem natural e dados de código de programa de software publicamente disponíveis, para aprender, entender e replicar a linguagem humana.
Os LLMs de código aberto, que são uma forma de IA de código aberto, podem ser modificados e compartilhados livremente, permitindo assim a colaboração e a personalização sem taxas de licenciamento. Essa abertura promove transparência, segurança, concorrência e diversidade das aplicações em todos os setores. Como forma de IA de código aberto, esses LLMs podem ser modificados e compartilhados livremente, permitindo assim a colaboração e a personalização sem taxas de licenciamento, e promovendo transparência, segurança, concorrência, policultura e diversidade de aplicações.
Modelos de linguagem de grande porte são a base das interfaces de usuário modernas alimentadas por inteligência artificial. Treinados com enormes conjuntos de dados e arquiteturas avançadas de rede neural, esses modelos possibilitam que os seres humanos interagem com aplicações de maneira natural. O valor dos LLMs reside em sua capacidade de executar tarefas com linguagem sofisticada, como a criação de um resumo de grandes passagens de texto, ou vice-versa, como a geração de grandes trechos textuais para as instruções inseridas pelo usuário humano. Em áreas tão diversificadas quanto as de atendimento ao cliente, pesquisa, criação de conteúdo e educação, os LLMs permitem que os usuários insiram consultas e instruções complexas, e que a IA responda de uma maneira que até mesmo usuários inexperientes consigam compreender com equivalência de superusuário em alguns casos.
Contudo, embora esses modelos possam permitir interações amigáveis, eles são extremamente complexos, geralmente baseados em dados privativos que reduzem a visibilidade de sua estrutura interna e dos recursos. Embora os LLMs de código aberto geralmente ofereçam uma opção mais acessível, os níveis de abertura variam. Embora alguns modelos de linguagem de grande porte mostrem os bastidores dos dados e do código de treinamento subjacentes, permitindo assim que qualquer pessoa os use, modifique ou distribua, outros talvez liberem somente o modelo e alguns artefatos de suporte, praticamente impossibilitando a auditoria da cadeia de suprimentos do modelo ascendente. Ao democratizar o acesso a ferramentas de IA avançadas, os LLMs de código aberto proporcionam a uma variedade maior de desenvolvedores a possibilidade de inovar e personalizar soluções de IA conforme suas necessidades específicas.
Qualquer discussão sobre LLMs de código aberto gera a pergunta: Qual é a diferença entre LLMs de código aberto e LLMs de código fechado? Os LLMs de código aberto e os LLMs de código fechado diferem significativamente em transparência, acessibilidade, adaptabilidade e engajamento com a comunidade.
Os LLMs de código aberto estão livremente disponíveis para serem usados e modificados conforme o gosto ou a necessidade dos usuários, e podem ser compartilhados com outras pessoas (inclusive com suas modificações). Isso incentiva uma abordagem colaborativa para a inovação downstream, permitindo que os desenvolvedores personalizem esses modelos, para que atenda a necessidades específicas, e contribuam para um ecossistema dinâmico em que melhorias e novas aplicações surgem continuamente. Basicamente, todos os desenvolvedores que aprimoram um modelo base e oferecem seus modelos ajustados em formato de código aberto se tornam membros do ecossistema de IA dessa comunidade.
Para que isso seja possível, os LLMs de código aberto dependem muito da transparência da arquitetura do modelo, do treinamento e do uso intencionado ao qual foi projetado para atender. Para maximizar a adoção da comunidade e do mercado, os dados usados para pré-treinamento e avaliação, os recursos envolvidos e o próprio código subjacente devem ser totalmente acessíveis para revisão. Esse é um grande fator de diferenciação dos LLMs de código aberto, já que os LLMs de código fechado geralmente não oferecem visibilidade quanto aos seus funcionamentos internos.
A flexibilidade dos LLMs de código aberto proporciona maior liberdade; as organizações podem adaptar o LLM às suas necessidades específicas. Por outro lado, as mudanças introduzidas no LLM derivado podem resultar em enfraquecimento da segurança. Por isso, é importante selecionar LLMs de código aberto que contem com dados robustos e práticas de governança de modelos implementadas para garantir que novos modelos atendam às expectativas de segurança e desempenho para usuários downstream. Trabalhar com uma solução de código aberto pode envolver custos significativos, como: contratação e treinamento de profissionais especializados, pagamento de honorários advocatícios iniciais, atualizações de recursos, conformidade de segurança, suporte, retenção de talentos e gestão contínua do ciclo de vida do software, entre outros.
Os LLMs de código fechado pertencem a entidades específicas, e são controlados por elas, oferecendo acesso geralmente restrito por meio de licenças e tarifas. Empresas como OpenAI e Google oferecem LLMs avançados, mas seu uso geralmente é limitado às interfaces de programação de aplicações (Application Programming Interfaces, APIs) predefinidas ou às aplicações específicas ditadas pelos provedores. Essa abordagem fechada pode limitar a personalização e a adaptação; aumentar potencialmente os custos e limitar o acesso à infraestrutura de computadores em nuvem de inferência que talvez não esteja na mesma região que o usuário final. Além disso, os LLMs de código fechado podem ser desenvolvidos com base em versões refinadas de modelos de código aberto, com as empresas adicionando melhorias exclusivas ou "um toque secreto", como desempenho aprimorado ou funcionalidades especializadas, fazendo assim com que essas versões sejam de código fechado. Um exemplo dessa abordagem inclui ofertas como os Now LLMs, nos quais as melhorias personalizadas proporcionam diferenciais em relação às alternativas de código aberto.
Dito isso, existem algumas vantagens de se trabalhar com soluções LLM de código fechado. Especificamente, os LLMs de código fechado e licenciados tendem a oferecer segurança mais forte e maior facilidade de uso, com suporte oferecido pela empresa para que o usuário tenha assistência quando necessário.
O software de código aberto não é novidade. Na verdade, alguns dos primeiros softwares foram compartilhados livremente entre aqueles que trabalhavam em computadores. Mas com o relativamente recente advento da inteligência artificial, os conceitos por trás do código aberto estão começando a se firmar na IA. Ainda assim, embora compartilhem filosofias centrais de transparência, colaboração e acessibilidade, há também algumas diferenças significativas:
Software de código aberto refere-se a programas ou sistemas cujo código-fonte é disponibilizado gratuitamente para qualquer pessoa usar, modificar e compartilhar. O software de código aberto é regido por licenças que descrevem os termos de uso e redistribuição, como a GNU General Public License (GPL) ou a Apache License. Exemplos conhecidos incluem Linux, Apache HTTP Server e Mozilla Firefox, que continuam prosperando por meio de contribuições de comunidades globais de desenvolvedores.
Com o surgimento da inteligência artificial, os princípios por trás do software de código aberto foram adaptados à IA. A IA de código aberto é o resultado disso. A "Open Source Initiative" define a IA de código aberto como: "Um sistema de IA cujos termos e modo de utilização possibilitem as liberdades de:
Essas liberdades aplicam-se tanto a um sistema totalmente funcional quanto a elementos separados, em um sistema. Uma condição prévia para o exercício dessas liberdades é que se tenha acesso à forma preferencial para fazer modificações ao sistema."
- Usar o sistema para qualquer finalidade, e sem a necessidade de se solicitar permissão.
- Estudar a forma como o sistema funciona e inspecionar seus componentes.
- Modificar o sistema para qualquer finalidade, inclusive para alterar seu resultado gerado.
- Compartilhar o sistema com outras pessoas, para uso com ou sem modificações, em qualquer finalidade.
Essas liberdades aplicam-se tanto a um sistema totalmente funcional quanto a elementos separados, em um sistema. Uma condição prévia para o exercício dessas liberdades é que se tenha acesso à forma preferencial para fazer modificações ao sistema."
Da mesma maneira como se dá com o software de código aberto, a IA de código aberto promove a transparência e a colaboração, permitindo que os desenvolvedores acessem diretamente o código da IA. As licenças de código aberto desempenham um papel central nesse ecossistema. As licenças (como a licença do modelo Blue Oak) descrevem as condições e os termos associados ao uso da IA. Essas estruturas jurídicas ajudam a manter a IA de código aberto acessível e, ao mesmo tempo, protegem os colaboradores contra implicações legais.
Os LLMs de código aberto empregam IA de código aberto que precisa de licenças para oferecer aos desenvolvedores a liberdade de personalizar e adaptar os modelos de linguagem de grande porte às suas necessidades específicas, sem as restrições dos sistemas de código fechado.
Há muitas opções para organizações que tenham interesse em trabalhar com LLMs de código aberto. Confira a seguir alguns dos modelos de linguagem de código aberto desenvolvidos com mais transparência atualmente disponíveis:
Desenvolvido pela colaboração específica para código aberto do projeto BigCode, liderada pela Hugging Face e pela ServiceNow, o StarCoder é um LLM de código aberto que foi projetado para a geração de códigos. Treinado em mais de 80 linguagens de programação, ele se destaca na geração de códigos, nas geração de fluxos de trabalho e até mesmo nas tarefas de resumo de texto. O StarCoder tem uma grande janela de contexto e recursos exclusivos, como capacidade de preenchimento, que fazem dele uma sólida opção de modelo de base. É licenciado sob os termos do OpenRAIL-M, que permite o uso comercial livre com restrições éticas e responsáveis de casos de uso de IA.
Criado pela Aleph Alpha, uma startup de IA alemã, o Luminous se concentra no fornecimento de compreensão da linguagem natural avançada e de recursos de geração. Ele foi projetado para concorrer com LLMs avançados (como as recentes versões do ChatGPT) e para oferecer transparência e ética no desenvolvimento da IA. Composto por 13 bilhões de parâmetros, o Luminous está disponível para tarefas de aplicações de linguagem de pequeno a grande porte.
Os modelos Granite da IBM são LLMs de código aberto projetados para aplicações de nível empresarial. Os modelos Granite são treinados em 116 linguagens de programação e podem ser usados para a geração de código e a correção de erros, juntamente com resumo e explicação mais tradicionais. Eles são lançados sob os termos da licença Apache 2.0, o que os deixa adequados para pesquisa e uso comercial.
Desenvolvido pela Microsoft Research, o Phi-2 é um modelo que, embora leve (com 2,7 bilhões de parâmetros), consegue oferecer concorrência a muitos modelos maiores, em termos de desempenho. O Phi-2 consegue executar tarefas complexas, incluindo raciocínio de senso comum, codificação, matemática e compreensão de linguagem. Por ser compacto, é ideal para experimentação eficiente, e está disponível no Azure AI Studio.
Com base no sucesso da estrutura Stable Diffusion, o Stable Video Diffusion é um modelo de código aberto focado em geração e edição de vídeos. Esse modelo utiliza IA para criar conteúdo visual dinâmico, oferecendo ferramentas avançadas para setores como entretenimento e publicidade.
O Llama 3 da Meta (cuja versão mais recente é a 3.1) é o membro mais moderno da família de modelos Llama. Disponível em tamanhos de modelo que variam de 8 bilhões a 405 bilhões de versões de parâmetros, o Llama 3 se baseia na arquitetura de seus antecessores. Oferecendo bom desempenho em tarefas de raciocínio, codificação e multilíngues, o Llama 3 expandiu suas ferramentas de segurança ou detecção de códigos inseguros
Desenvolvido pelo Google, o BERT (Bidiretional Encoder Representations from Transformers) é um modelo de transformador que usa somente codificação, projetado para entender e gerar linguagem humana. Desde o seu lançamento em 2018, o BERT foi amplamente adotado em várias tarefas de processamento de linguagem natural (NLP), como classificação de texto, resposta a perguntas e análise de sentimentos. Apesar de sua idade relativa, sua influência continua moldando a PNL moderna.
Versáteis e acessíveis, os LLMs de código aberto têm uma ampla variedade de aplicações para uma gama de setores. Estas são algumas das maneiras com que podem ser aplicados:
Os LLMs de código aberto podem ser usados para transformar facilmente PDFs em áudios engajantes, ao estilo de podcast. Ao implementar um fluxo de trabalho de LLM composto, você pode converter textos de PDFs em um script de conversação e, em seguida, gerar a narração desse texto com tecnologia avançada de texto para fala. Isso é ideal para a criação de conteúdo e materiais educacionais acessíveis, ou somente para transformar seus documentos e lhes dar um novo formato.
Pode ser difícil mensurar a emoção por trás do feedback de um cliente. Os LLMs de código aberto podem ser treinados para analisar o texto e determinar o sentimento geral que está sendo transmitido: positivo, negativo ou neutro. Isso permite que as empresas entendam melhor as respostas dos clientes, a fim de melhorar seus produtos e serviços. A análise de sentimento é uma ferramenta importante para a obtenção de informações do cliente por meio do monitoramento de redes sociais.
Muitos modelos de LLM de código aberto podem ajudar os desenvolvedores, fornecendo sugestões de código, escrevendo algoritmos complexos, corrigindo erros no código e até mesmo documentando códigos. Eles podem gerar snippets de código a partir de descrições de linguagem natural, permitindo que os usuários informem ao código o que querem fazer, em inglês simples.
Os LLMs são amplamente usados para gerar texto coerente e contextualmente relevante. Isso inclui a criação de artigos, histórias e diálogos para assistentes virtuais. Essa é uma parte importante da IA generativa (GenAI), com aplicações em praticamente todas as áreas.
Os LLMs de código aberto podem automatizar a criação de conteúdo e gerar resumos de documentos longos, ajudando os usuários a entenderem rapidamente os principais pontos de textos extensos. Isso é particularmente importante para profissionais que precisam processar grandes volumes de informações com eficiência.
Os LLMs estão ajudando a eliminar barreiras linguísticas. Com suas habilidades multilíngues, muitos LLMs de código aberto podem traduzir texto entre vários idiomas, possibilitando uma comunicação clara com um público global. Esses modelos são treinados em diversos conjuntos de dados de linguagem, garantindo traduções precisas e sensíveis ao contexto que vão muito além das simples traduções palavra por palavra.
Os LLMs de código aberto potencializam os atuais chatbots de IA e assistentes virtuais, aprimorando o suporte ao cliente com respostas rápidas e precisas às perguntas feitas. Quando projetados para tarefas de conversação, os LLMs podem lidar com as interações com o cliente de forma eficaz e natural para o usuário. E se houver qualquer coisa com que o LLM não esteja preparado para lidar, ele pode ser automatizado para direcionar o problema para um agente humano.
Os LLMs podem ser integrados a plataformas educacionais para fornecerem experiências de aprendizado personalizadas. Eles podem adaptar o conteúdo a estilos de aprendizagem individuais, oferecer explicações e gerar problemas práticos especificamente adaptados às necessidades e às capacidades dos usuários individuais.
- Saúde
As soluções de telemedicina com IA potencializadas por LLM oferecem atendimento virtual sempre disponível, capaz de diagnosticar, fornecer informações e organizar informações do paciente. Assim como chatbots de IA e agentes virtuais, esses programas são projetados para avaliar os problemas dos pacientes com base em informações de extensos conjuntos de dados, para conseguirem saber quando prestar assistência por conta própria e quando alertar as equipes médicas humanas.
- Finanças
No setor financeiro, os LLMs de código aberto melhoram a detecção de fraudes, automatizam o suporte ao cliente e realizam análises de sentimento para identificar tendências emergentes. Esses modelos analisam documentos financeiros e outros dados para fornecer informações de mercado em tempo real.
- Jornalismo e notícias
Jornalistas e organizações de notícias utilizam LLMs de código aberto para a geração de resumo e tradução. Os LLMs podem ser usados internamente para analisar informações, sem compartilhar dados privativos para fora da sala de imprensa. E, quando as circunstâncias exigem uma mudança imediata, as agências de notícias podem direcionar os LLMs de código aberto para que gerem conteúdo relevante e informativo voltado ao público pretendido.
- Setores científicos
Os LLMs ajudam na pesquisa científica automatizando revisões de literatura, análises de dados e gerações de hipóteses, embora também possam fazer muito mais. A extrema flexibilidade desses modelos significa que os cientistas podem adaptá-los a qualquer tipo de pesquisa, desde o combate às mudanças climáticas até a análise de sequências de DNA e modelagem de fenômenos astrofísicos.
Sistemas autônomos personalizáveis que podem seguir as orientações da linguagem humana e responder de maneira semelhante. Não é difícil imaginar quais tipos de vantagens esses modelos podem significar para os negócios. Empresas que utilizam LLMs de código aberto podem esperar obter:
Embora os LLMs de código aberto ofereçam muitos benefícios, eles também podem apresentar certos riscos. Entender os seguintes desafios e saber como combatê-los é uma parte importante para garantir o uso responsável e eficaz:
Os LLMs de código aberto, devido ao seu acesso irrestrito, podem ser usados de maneira negativa com a mesma facilidade que podem ser usados de maneira apositiva. Disseminação de informações incorretas, violação da privacidade, acesso a informações restritas ou sigilosas: essas são maneiras pelas quais uma IA pode ser explorada. Garantir seu uso ético requer governança proativa da comunidade e diretrizes claras para que seja possível equilibrar inovação com segurança e responsabilidade.
As contribuições da comunidade para os LLMs de código aberto podem variar em qualidade, o que leva a resultados inconsistentes. Sem supervisão padronizada, esses modelos podem gerar resultados não confiáveis, especialmente em aplicações em que o uso de informações precisas seja crucial. Manter padrões elevados significa prestar atenção minuciosa a todas as contribuições de código, refinando-as quando necessário. Infelizmente, esse pode ser uma grande tarefa quando se trabalha com códigos de código aberto.
A qualidade de uma IA depende diretamente da qualidade das informações nela inseridas, de modo que, quando essas informações incluem opiniões tendenciosas ou suposições equivocadas, a IA poderá aprender a perpetuá-las. Os LLMs podem ser influenciados pelas informações tendenciosas presentes em seus dados de treinamento, o que gera resultados distorcidos e parciais. É essencial que haja supervisão cuidadosa e uma diversifica curadoria de dados para atenuar a presença de informações tendenciosas e garantir equidade e inclusividade nas decisões e nos conteúdos gerados por IA.
Ao selecionar um modelo de linguagem de grande porte e código aberto (Open-source Large Language Model, LLM), as organizações precisam considerar vários fatores para conseguirem escolher o melhor para as suas necessidades. Veja a seguir as considerações mais importantes:
- Objetivos
Identifique o objetivo principal do LLM. O que ele alcançará para a empresa? Qual será o foco do LLM? Alguns modelos são adaptados para pesquisa, enquanto outros são adequados para uso comercial. Confira se o LLM realmente se alinha aos objetivos específicos.
- Precisão
Avalie a precisão do modelo para as tarefas que precisará desempenhar. Mesmo com acesso para personalização do código, alguns LLMs são mais adequados a diferentes usos.
- Custo
Embora os LLMs de código aberto sejam gratuitos, considere os custos de hospedagem, treinamento e manutenção do modelo. Modelos maiores exigem mais recursos, o que pode aumentar as despesas operacionais e de infraestrutura.
- Desempenho
Avalie a fluência, a coerência e a compreensão contextual da linguagem do LLM. O alto desempenho nessas áreas melhora a experiência do usuário e a eficácia da tarefa.
- Segurança dos dados
Garanta que o LLM possa lidar com dados confidenciais com segurança, especialmente no caso de informações pessoais ou privativas.
- Qualidade dos dados de treinamento
Verifique a qualidade dos dados de treinamento originais usados pelo LLM. Dados de alta qualidade geram melhores resultados. Se necessário, use dados personalizados para ajustar o modelo para gerar resultados aprimorados.
- Conjunto de habilidades disponíveis
Os LLMs complexos exigem habilidades avançadas em ciência de dados, operações de aprendizado de máquina (Machine Learning Operations, MLOps) e NLP. Certifique-se de que a equipe que trabalhará mais diretamente com o LLM tenha a experiência necessária. Se não tiverem, planeje treinamentos ou contratações para preencher essa lacuna de habilidades.
A ServiceNow oferece modelos de linguagem exclusivos de alto nível por meio do Now LLM Service, viabilizando assim recursos avançados baseados em IA, como resumo de bate-papo, resumo de registros de agentes, pesquisa aprimorada por IA, tradução dinâmica e fluxos de conversação contínuos. Esses recursos são baseados em inovação de código aberto. A ServiceNow treina abertamente modelos de base, como o StarCoder, como parte de suas iniciativas. Esses modelos são então refinados em Now LLMs proprietários, desenvolvidos especificamente para otimizar a produtividade em toda a empresa e oferecer experiências excepcionais com IA generativa.
Essa base de código aberto, aprimorada por meio da colaboração com parceiros como a Hugging Face e a NVIDIA, permite que a ServiceNow promova a IA com responsabilidade e compartilhe inovações valiosas com a comunidade. Por meio dessa abordagem, as organizações se beneficiam de habilidades avançadas e especializadas em IA, desde recomendações automatizadas de fluxo de trabalho até a geração precisa de texto para código. E, como agora os LLMs fazem parte da Now Platform® totalmente integrada, eles melhoram perfeitamente os fluxos de trabalho e as aplicações existentes para impulsionar a eficiência em todos os departamentos.
Confira a ServiceNow em ação e saiba como a IA e o LLM podem aprimorar suas operações. Agende sua demonstração hoje mesmo!