Intro LLM's
Basisbegrippen AI, geschiedenis, werking en toepassingen van LLM's.
Generatieve modellen
Tekst-, beeld-, audio- en multimodale generatie met OpenAI API.
Monitoring & evaluatie
Output beoordelen en verbeteren.
Technieken
- Function calling: Koppeling met systemen.
- Structured outputs: Gestructureerde output genereren.
- Embeddings: Data als vectoren.
- Frameworks: welke frameworks (bijvoorbeeld LangChain) zijn er om met LLM API's te werken en hoe werken deze?
- Fine-tuning: Modellen aanpassen op maat.
- System prompts & tokenization: Begrip en toepassing binnen prompting.
Agents
- Intro AI agents: Zelfstandige systemen die meerdere taken uitvoeren.
- Monitoring: Bijhouden van gedrag en output van agents.
Eigen documenten bevragen met RAG (retrieval-augmented generation)
- Vector databases: Opslag & zoeken op basis van vectoren.
- Embeddings: Data omzetten naar vectorrepresentaties.
- Chunking: Slim opdelen van documenten.
- Retrieval technieken: Context ophalen via similarity search e.d.
Lokaal LLM
- Werking & voordelen: Meer privacy, controle en snelheid.
- LLaMA & lokaal draaien: Werken met lokale modellen via tools als Ollama of LM Studio.