LangChain ist ein leistungsstarkes Framework, das Entwicklern dabei helfen soll, End-to-End-Anwendungen mithilfe von Sprachmodellen zu erstellen. Es bietet eine Reihe von Tools, Komponenten und Schnittstellen, die den Prozess der Erstellung von Anwendungen vereinfachen, die auf großen Sprachmodellen (LLMs) und Chat-Modellen basieren. LangChain kann problemlos Interaktionen mit Sprachmodellen verwalten, mehrere Komponenten miteinander verknüpfen und zusätzliche Ressourcen wie APIs und Datenbanken integrieren.

Komponenten und Ketten

Eingabeaufforderungsvorlagen und -werte

Beispielselektoren

Ausgabeparser

Indizes und Retriever

Chat-Nachrichtenverlauf

Agenten und Toolkits

LangChain Agent ist die Einheit im Framework, die die Entscheidungsfindung vorantreibt. Es hat Zugriff auf eine Reihe von Tools und kann basierend auf Benutzereingaben entscheiden, welches Tool aufgerufen werden soll. Agenten helfen beim Aufbau komplexer Anwendungen, die adaptive und kontextspezifische Reaktionen erfordern. Sie sind besonders nützlich, wenn es unbekannte Interaktionsketten gibt, die von Benutzereingaben und anderen Faktoren abhängen.

Um LangChain nutzen zu können, importieren Entwickler zunächst die notwendigen Komponenten und Tools wie LLMs, Chat-Modelle, Agenten, Ketten und Speicherfunktionen. Diese Komponenten ergeben zusammen eine Anwendung, die Benutzereingaben versteht, verarbeitet und darauf reagiert. LangChain bietet mehrere Komponenten für spezifische Anwendungsfälle, wie z. B. persönliche Assistenten, Fragen und Antworten zu Dokumenten, Chatbots, Abfrage tabellarischer Daten, Interaktion mit APIs, Extraktion, Auswertung und Aggregation.

Das LangChain-Modell ist eine Abstraktion, die die verschiedenen im Framework verwendeten Modelltypen darstellt.

LLM (Large Scale Language Model): Diese Modelle verwenden Textzeichenfolgen als Eingabe und geben Textzeichenfolgen als Ausgabe zurück. Sie sind das Rückgrat vieler Sprachmodellanwendungen.

Chat-Modell: Das Chat-Modell basiert auf einem Sprachmodell, verfügt jedoch über eine strukturiertere API. Sie nehmen eine Liste von Chat-Nachrichten als Eingabe und geben Chat-Nachrichten zurück. Dies erleichtert die Verwaltung des Gesprächsverlaufs und die Pflege des Kontexts.

Texteinbettungsmodelle: Diese Modelle nehmen Text als Eingabe und geben eine Liste von Floats zurück, die die Texteinbettung darstellen. Diese Einbettungen können für Aufgaben wie das Abrufen von Dokumenten, Clustering und Ähnlichkeitsvergleiche verwendet werden.

LLMs und Eingabeaufforderungen: Mit LangChain können Eingabeaufforderungen einfach verwaltet, optimiert und eine gemeinsame Schnittstelle für alle LLMs erstellt werden. Darüber hinaus enthält es einige praktische Dienstprogramme für die Arbeit mit LLMs.

Kette: Dabei handelt es sich um Abfolgen von Aufrufen an LLM oder andere Dienstprogramme. LangChain bietet eine Standardschnittstelle für die Kette, lässt sich in verschiedene Tools integrieren und bietet eine End-to-End-Kette für gängige Anwendungen.

Datenerweiterte Generierung: LangChain ermöglicht der Kette die Interaktion mit externen Datenquellen, um Daten für den Generierungsschritt zu sammeln. Es kann beispielsweise dabei helfen, lange Texte zusammenzufassen oder Fragen mithilfe spezifischer Datenquellen zu beantworten.

Agenten: Agenten ermöglichen es dem LLM, Entscheidungen über Aktionen zu treffen, diese Aktionen durchzuführen, die Ergebnisse zu überprüfen und weiterzumachen, bis die Arbeit abgeschlossen ist. LangChain bietet eine Standardschnittstelle für Broker, eine Vielzahl von Brokern zur Auswahl und End-to-End-Brokerbeispiele.

Speicher: LangChain verfügt über eine Standardspeicherschnittstelle, die dabei hilft, den Status zwischen Ketten- oder Proxy-Aufrufen aufrechtzuerhalten. Es bietet außerdem eine Reihe von Beispielen für Speicherimplementierungen und Ketten oder Proxys, die Speicher verwenden.

Bewertung: Generative Modelle sind mit herkömmlichen Metriken schwer zu bewerten. Aus diesem Grund bietet LangChain Tipps und Ketten, die Entwicklern dabei helfen, ihre Modelle mithilfe von LLM selbst zu bewerten.

Dokumentspezifische Fragen und Antworten: Beantworten Sie eine Frage basierend auf bestimmten Dokumenten und verwenden Sie Informationen aus diesen Dokumenten, um die Antwort zu erstellen.

Chatbots: Erstellen Sie Chatbots, die die Leistungsfähigkeit von LLM nutzen können, um Text zu generieren.

Agenten: Entwickeln Sie Agenten, die über Aktionen entscheiden, diese Aktionen ausführen, die Ergebnisse beobachten und die Ausführung bis zum Abschluss fortsetzen können.