Lokale LLM'er, RAG og Agentiske AI-systemer

Hvordan bygger man AI-løsninger, der ikke blot fungerer som en chatbot, men kan anvende egne data, værktøjer og eksterne systemer?
I dette valgfag arbejder de studerende praktisk med lokale og open-source sprogmodeller og undersøger, hvordan de kan indgå i moderne AI-løsninger. Der arbejdes med lokale LLM'er, modelvalg, Hugging Face, API-adgang, embeddings, RAG, AI-agenter og Model Context Protocol (MCP)
De studerende arbejder eksperimenterende med forskellige modeller og arkitekturer og undersøger både muligheder og begrænsninger. Undervejs udvikles løsninger, hvor en sprogmodel gradvist får adgang til egne dokumenter, data og værktøjer
Valgfaget afsluttes med et mindre projekt, hvor de studerende udvikler og demonstrerer et samlet AI-system

Den studerende har:
• viden om grundlæggende principper bag Large Language Models og lokale AI-modeller.
• forståelse for forskelle mellem forskellige typer af modeller og deres anvendelsesområder
• viden om embeddings, vector search og Retrieval-Augmented Generation (RAG).
• forståelse for forskellen mellem traditionelle AI-applikationer, workflows og agentiske AI-systemer
• viden om principperne bag tool use og AI-agenters interaktion med eksterne systemer.
• forståelse for Model Context Protocol (MCP) og samspillet mellem MCP-klienter, MCP-servere, resources og tools
• viden om centrale problemstillinger omkring sikkerhed, databeskyttelse, hallucinationer, modelvalg og adgang til værktøjer Den studerende kan:
• installere, konfigurere og anvende lokale sprogmodeller
• finde, undersøge og sammenligne relevante open-source modeller
• anvende modeller gennem et API
• arbejde med embeddings og semantisk søgning
• udvikle en mindre RAG-løsning baseret på egne dokumenter eller data
• konfigurere og anvende tools i forbindelse med en sprogmodel
• opsætte og anvende en MCP-server og forbinde den med en MCP-klient
• udvikle en mindre agentisk løsning, hvor en AI-model kan anvende relevante værktøjer og datakilder
• teste og sammenligne forskellige AI-løsninger og dokumentere deres styrker og begrænsninger Den studerende kan:
• selvstændigt udvælge relevante AI-modeller og teknologier til en konkret problemstilling
• designe og udvikle en mindre AI-løsning, der kombinerer modeller, egne data og eksterne værktøjer
• vurdere hvornår RAG, MCP og agentiske løsninger er relevante, og hvornår en simplere løsning er tilstrækkelig
• forholde sig kritisk til kvalitet, sikkerhed, databeskyttelse og graden af autonomi i AI-systemer
• selvstændigt tilegne sig ny viden inden for lokale LLM'er og agentiske AI-systemer