LangChain è un potente framework progettato per aiutare gli sviluppatori a creare applicazioni end-to-end utilizzando modelli linguistici. Fornisce una serie di strumenti, componenti e interfacce che semplificano il processo di creazione di applicazioni basate su modelli linguistici di grandi dimensioni (LLM) e modelli di chat. LangChain può gestire facilmente le interazioni con modelli linguistici, collegare più componenti insieme e integrare risorse aggiuntive come API e database.

Componenti e Catene

Modelli e valori di prompt

Selettori di esempio

Parser di output

Indici e Retriever

Cronologia dei messaggi di chat

Agenti e toolkit

LangChain Agent è l'entità nel framework che guida il processo decisionale. Ha accesso a una serie di strumenti e può decidere quale strumento chiamare in base all'input dell'utente. Gli agenti aiutano a creare applicazioni complesse che richiedono risposte adattive e specifiche al contesto. Sono particolarmente utili quando sono presenti catene di interazioni sconosciute che dipendono dall'input dell'utente e da altri fattori.

Per utilizzare LangChain, gli sviluppatori importano prima i componenti e gli strumenti necessari, come LLM, modelli di chat, agenti, catene e funzioni di memoria. Questi componenti si combinano per creare un'applicazione che comprende, elabora e risponde all'input dell'utente. LangChain fornisce più componenti per casi d'uso specifici, come assistenti personali, domande e risposte sui documenti, chatbot, interrogazione di dati tabulari, interazione con API, estrazione, valutazione e aggregazione.

Il modello LangChain è un'astrazione che rappresenta i diversi tipi di modelli utilizzati nel framework.

LLM (Large Scale Language Model): questi modelli accettano stringhe di testo come input e restituiscono stringhe di testo come output. Costituiscono la spina dorsale di molte applicazioni di modelli linguistici.

Modello di chat: il modello di chat è basato su un modello linguistico ma ha un'API più strutturata. Prendono un elenco di messaggi di chat come input e restituiscono messaggi di chat. Ciò semplifica la gestione della cronologia delle conversazioni e il mantenimento del contesto.

Modelli di incorporamento del testo: questi modelli accettano il testo come input e restituiscono un elenco di float che rappresentano gli incorporamenti di testo. Questi incorporamenti possono essere utilizzati per attività quali il recupero di documenti, il clustering e il confronto delle somiglianze.

LLM e prompt: LangChain semplifica la gestione dei prompt, l'ottimizzazione e la creazione di un'interfaccia comune per tutti i LLM. Inoltre, include alcune utili utilità per lavorare con LLM.

Catena: sono sequenze di chiamate a LLM o altre utilità. LangChain fornisce un'interfaccia standard per la catena, si integra con vari strumenti e fornisce una catena end-to-end per le applicazioni più diffuse.

Generazione aumentata dai dati: LangChain consente alla catena di interagire con fonti di dati esterne per raccogliere dati per la fase di generazione. Ad esempio, può aiutare a riassumere testi lunghi o a rispondere a domande utilizzando fonti di dati specifiche.

Agenti: gli agenti consentono al LLM di prendere decisioni sulle azioni, intraprendere tali azioni, controllare i risultati e andare avanti fino al completamento del lavoro. LangChain fornisce un'interfaccia standard per i broker, una varietà di broker tra cui scegliere ed esempi di broker end-to-end.

Memoria: LangChain ha un'interfaccia di memoria standard che aiuta a mantenere lo stato tra chiamate a catena o proxy. Fornisce inoltre una serie di esempi di implementazioni di memoria e catene o proxy che utilizzano la memoria.

Valutazione: i modelli generativi sono difficili da valutare utilizzando le metriche tradizionali. Ecco perché LangChain fornisce suggerimenti e catene per aiutare gli sviluppatori stessi a valutare i propri modelli utilizzando LLM.

Domande e risposte specifiche per il documento: rispondi a una domanda basata su determinati documenti, utilizzando le informazioni di tali documenti per creare la risposta.

Chatbot: crea chatbot in grado di sfruttare la potenza di LLM per generare testo.

Agenti: sviluppa agenti in grado di decidere azioni, intraprenderle, osservare i risultati e continuare l'esecuzione fino al completamento.