frameworkPython, TypeScript

LangChain

LangChain er det mest udbredte framework til at bygge applikationer med store sprogmodeller. Frameworket abstraherer LLM-integration, prompt-håndtering, retrieval og agentic workflows til genbrugelige komponenter, og har defineret hvordan moderne LLM-apps struktureres.

https://langchain.com

LangChain blev lanceret i oktober 2022 af Harrison Chase som et open source-bibliotek der skulle gøre det nemmere at bygge produktionsklare applikationer med store sprogmodeller. Timing var perfekt: ChatGPT blev lanceret to måneder senere, og efterspørgslen efter LLM-integration eksploderede. LangChain gik fra hobby-projekt til centralt værktøj i AI-økosystemet på under et år, og biblioteket har i dag over 100.000 stjerner på GitHub og over 20 millioner månedlige downloads.

Frameworkets grundfilosofi er at LLM-applikationer består af genkommende byggeklodser der kan komponeres. Prompt templates håndterer formatering og dynamisk indhold. Chains kæder flere LLM-kald sammen med databehandling imellem. Agents lader modellen selv beslutte hvilke værktøjer den skal bruge til at løse en opgave. Memory-komponenter håndterer samtalehistorik og længerevarende kontekst. Retrievers henter relevant information fra vektordatabaser. Denne modulære arkitektur gør det muligt at bygge komplekse applikationer uden at genopfinde grundmekanikkerne.

LLM-abstraktionen er en af de mest værdifulde funktioner. LangChain understøtter over 50 forskellige LLM-udbydere gennem en fælles interface: OpenAI, Anthropic, Google, Mistral, Cohere, samt lokalt kørende modeller via Ollama, Llama.cpp og Hugging Face. En applikation kan skifte fra GPT-4 til Claude eller til en on-premise Llama-model ved at ændre en enkelt linje kode. Dette reducerer vendor lock-in dramatisk og gør det praktisk at evaluere forskellige modeller på samme opgave.

Retrieval-Augmented Generation (RAG) er LangChains mest populære use case. Frameworket integrerer med over 30 vektordatabaser inklusive Pinecone, Weaviate, Chroma, Qdrant og pgvector. Dokument-loaders håndterer PDF, Word, HTML, Markdown, Notion, Google Drive og hundredvis af andre formater. Text splitters bryder lange dokumenter op i chunks der passer i modellens kontekstvindue. Embedding-modeller fra OpenAI, Cohere eller Hugging Face konverterer tekst til vektorer. Alle disse komponenter fungerer sammen out-of-the-box, hvilket reducerer et typisk RAG-projekt fra ugers arbejde til få dages implementering.

Agents er en af de mere ambitiøse dele af frameworket. En agent er en LLM der har adgang til værktøjer (tools) og selv beslutter hvilke der skal bruges til at løse en given opgave. ReAct-mønsteret (Reasoning + Acting), udviklet af Google Research i 2022, ligger bag de fleste LangChain agents: modellen alternerer mellem at tænke over næste skridt og udføre handlinger. Tools kan være alt fra websøgning og kode-udførelse til API-kald mod interne systemer. Denne agentic tilgang er kernen i moderne AI-assistenter som Claude med tool use og OpenAI's Assistants API.

LangChain Expression Language (LCEL) blev introduceret i 2023 som en deklarativ måde at komponere chains på. Syntaksen bruger pipe-operatoren (|) fra Unix-verdenen: prompt | llm | output_parser. Dette gør kode mere læsbar og muliggør automatisk parallel eksekvering, streaming, batching og retries. LCEL har erstattet den ældre imperative chain-syntaks som det anbefalede mønster og betragtes som frameworkets modning fra prototyping-værktøj til produktionsklar teknologi.

LangSmith er kommerciel observability-platform fra LangChain-teamet der løser et af feltets største problemer: debugging af LLM-applikationer. Traditionelle logging-værktøjer fanger dårligt de nested LLM-kald, prompt-variationer og tool-invocations der karakteriserer moderne AI-apps. LangSmith visualiserer hele udførelsesgrafer, sporer omkostninger per samtale og muliggør A/B-testing af prompts. Platformen er ikke gratis men er blevet standard i produktion for de fleste seriøse LangChain-brugere.

LangGraph er en nyere tilføjelse designet til komplekse agent-workflows. I stedet for lineære chains modellerer LangGraph applikationer som direkted grafer med tilstand, hvilket muliggør cycles, betingede spring og parallel eksekvering. Dette er kritisk for multi-step reasoning, hvor en agent skal kunne gå tilbage og revidere tidligere beslutninger. Biblioteket har hurtigt fået traction blandt teams der bygger seriøse produktionssystemer med LLM'er.

Kritik af LangChain er reel og fortjent på flere punkter. Frameworket har gennemgået flere store refaktoreringer, og API-brud har frustreret brugere. Abstraktionerne er nogle gange for tykke: simple LLM-kald der burde tage 5 linjer kode ender ofte i 50 linjer LangChain-kode. Dokumentationen kæmper for at følge med den hurtige udvikling. Alternativer som LlamaIndex (mere specialiseret til RAG), Semantic Kernel (Microsofts framework) og Instructor (Pydantic-baseret struktureret output) vinder terræn i specifikke nicher.

I den danske kontekst har LangChain fundet bred anvendelse hos konsulenthuse og enterprise-virksomheder der bygger AI-assistenter til intern brug. Chatbots med adgang til CRM-systemer, dokumentanalyse-værktøjer til advokatvirksomheder og kundeservice-automatisering er typiske use cases. Kombinationen med dansksprogede embedding-modeller fra Hugging Face gør RAG på danske dokumenter praktisk anvendeligt, selvom præstationen stadig ligger under engelske systemer.

TypeScript-versionen LangChain.js har vokset sig næsten lige så udbredt som Python-versionen. Dette har åbnet LLM-integration for hele web-udvikler-communityet og gør det muligt at bygge full-stack AI-applikationer med Next.js, Vercel AI SDK og LangChain uden context-switching mellem sprog. Denne dobbelt-implementering er sjælden blandt ML-frameworks og har været en central grund til LangChains dominans.

Produktions-deployment af LangChain-applikationer sker typisk gennem LangServe der eksponerer chains som REST API'er, ofte hostet på Vercel, Railway eller AWS Lambda. Streaming responses håndteres native, og LangSmith integration giver observability out-of-the-box. For teams der ønsker mere kontrol tilbyder Modal, Beam og Replicate serverless GPU-inferens der integrerer smertefrit med LangChain-pipelines.

Sikkerhed og datasuverænitet er blevet centrale bekymringer for enterprise-brugere af LangChain. Prompt injection, hvor ondsindet brugerinput manipulerer LLM'en til uønsket adfærd, er en reel trussel når frameworket bruges til at eksponere interne systemer. LangChain tilbyder guardrails-integrationer med NeMo Guardrails fra NVIDIA og Guardrails AI, men best practice er stadig at behandle LLM-output som utrusted input der skal valideres før det bruges til handlinger. Til datasuverænitet i regulerede brancher som sundhed og finans muliggør frameworkets support for lokalt kørende modeller via Ollama og VLLM at hele pipelinen kan køre on-premise uden data forlader virksomhedens infrastruktur.

// styrker

Hvorfor LangChain?

LLM-abstraktion (50+ udbydere)
RAG-integration
Agentic workflows
LangGraph til komplekse flows
LangSmith observability