LangChain é uma estrutura poderosa projetada para ajudar os desenvolvedores a construir aplicativos ponta a ponta usando modelos de linguagem. Ele fornece um conjunto de ferramentas, componentes e interfaces que simplificam o processo de criação de aplicativos com tecnologia de grandes modelos de linguagem (LLMs) e modelos de chat. LangChain pode gerenciar facilmente interações com modelos de linguagem, vincular vários componentes e integrar recursos adicionais, como APIs e bancos de dados.

Componentes e Correntes

Modelos e valores de prompt

Seletores de exemplo

Analisadores de saída

Índices e recuperadores

Histórico de mensagens de bate-papo

Agentes e kits de ferramentas

LangChain Agent é a entidade na estrutura que orienta a tomada de decisões. Ele tem acesso a um conjunto de ferramentas e pode decidir qual ferramenta chamar com base na entrada do usuário. Os agentes ajudam a construir aplicações complexas que exigem respostas adaptáveis ​​e específicas ao contexto. Eles são particularmente úteis quando existem cadeias de interações desconhecidas que dependem da entrada do usuário e de outros fatores.

Para usar o LangChain, os desenvolvedores primeiro importam os componentes e ferramentas necessários, como LLMs, modelos de chat, agentes, cadeias e funções de memória. Esses componentes se combinam para criar um aplicativo que entende, processa e responde às entradas do usuário. LangChain fornece vários componentes para casos de uso específicos, como assistentes pessoais, perguntas e respostas de documentos, chatbots, consulta de dados tabulares, interação com APIs, extração, avaliação e agregação.

O modelo LangChain é uma abstração que representa os diferentes tipos de modelos utilizados no framework.

LLM (Large Scale Language Model): Esses modelos usam strings de texto como entrada e retornam strings de texto como saída. Eles são a espinha dorsal de muitos aplicativos de modelos de linguagem.

Modelo de bate-papo: o modelo de bate-papo é baseado em um modelo de linguagem, mas possui uma API mais estruturada. Eles pegam uma lista de mensagens de bate-papo como entrada e retornam mensagens de bate-papo. Isso facilita o gerenciamento do histórico de conversas e a manutenção do contexto.

Modelos de incorporação de texto: esses modelos recebem texto como entrada e retornam uma lista de pontos flutuantes que representam incorporações de texto. Essas incorporações podem ser usadas para tarefas como recuperação de documentos, agrupamento e comparação de similaridades.

LLMs e prompts: LangChain facilita o gerenciamento de prompts, otimizá-los e criar uma interface comum para todos os LLMs. Além disso, inclui alguns utilitários úteis para trabalhar com LLMs.

Cadeia: São sequências de chamadas para LLM ou outras utilidades. LangChain fornece uma interface padrão para a cadeia, integra-se a várias ferramentas e fornece uma cadeia ponta a ponta para aplicações populares.

Geração aumentada de dados: LangChain permite que a cadeia interaja com fontes de dados externas para coletar dados para a etapa de geração. Por exemplo, pode ajudar a resumir textos longos ou responder perguntas usando fontes de dados específicas.

Agentes: Os agentes permitem que o LLM tome decisões sobre ações, execute essas ações, verifique os resultados e siga em frente até que o trabalho seja concluído. LangChain fornece uma interface padrão para corretores, uma variedade de corretores para escolher e exemplos de corretores de ponta a ponta.

Memória: LangChain possui uma interface de memória padrão que ajuda a manter o estado entre chamadas em cadeia ou proxy. Ele também fornece uma série de exemplos de implementações de memória e cadeias ou proxies que usam memória.

Avaliação: Os modelos generativos são difíceis de avaliar usando métricas tradicionais. É por isso que LangChain fornece dicas e cadeias para ajudar os próprios desenvolvedores a avaliar seus modelos usando LLM.

Perguntas e respostas específicas do documento: responda a uma pergunta com base em determinados documentos, usando informações desses documentos para criar a resposta.

Chatbots: crie chatbots que possam aproveitar o poder do LLM para gerar texto.

Agentes: Desenvolva agentes que possam decidir sobre ações, executá-las, observar os resultados e continuar a execução até a conclusão.