-- Beschreibung
Generative KI schafft zahlreiche neue Möglichkeiten für Unternehmen, insbesondere bei der Steigerung von Produktivität und Effizienz. Sie macht Features günstiger oder überhaupt erst realisierbar. Da diese Modelle jedoch nicht deterministisch sind, liefern sie gelegentlich falsche oder unbrauchbare Informationen. In diesem Workshop beleuchten wir die Eigenschaften generativer Modelle und verstehen die Ursachen dieser Herausforderungen. Wir lernen, wie wir die Modelle mit eigenen Daten versorgen können, um die Ergebnisse zu verbessern. Dabei setzen wir auf die Architektur der Retrieval-Augmented Generation (RAG).
Ziel des Kurses ist es, alle Bausteine einer einfachen RAG-Architektur kennenzulernen. Die Experimente sind darauf ausgelegt, diese Bausteine Schritt für Schritt vorzustellen. Am Ende des Workshops werden wir alle Komponenten zu einem Chatbot zusammenführen, der mit unseren eigenen Dokumenten arbeitet.
-- Agenda
Tag 1
- Grundlagen von Large Language Models (LLMs)
- Architektur
- Modellparameter
- Prompting
- Arbeiten mit der OpenAI Chat API
- Aufbau eines einfachen LLM-Chatbots
- Erste Experimente mit dem Chatbot
Tag 2
- Function Calling: Das LLM als Agent
- Eigene Funktionen für das LLM implementieren
- Grundlagen von Embeddings
- Semantische Repräsentation mit Vektoren
- Textähnlichkeit ermitteln
- Retrieval-Augmented Generation (RAG)
- Anwendungsfälle
- Unternehmensdaten für LLMs vorbereiten
- Vektordatenbanken
- Unternehmensdaten für den Chatbot verfügbar machen
- LLMs testen
- Wann sind generierte Antworten „gut“?
- Embeddings zur Erstellung von Testszenarien nutzen
- Nutzerfeedback zur Verbesserung der Antworten einsetzen
-- Dein Nutzen
Du lernst den Umgang mit der OpenAI Chat API.
Du verstehst, wie du ein LLM mit Daten versorgen kannst.
Du lernst, wie ein LLM in bestehende Systeme integriert wird.
Du kannst besser einschätzen, wie GenAI in deiner Umgebung verwendet werden kann.
-- Zielgruppe
Entwickler:innen
Voraussetzungen
Der Workshop verwendet Jupyter Notebooks. Der zu schreibende Code ist einfach. Grundkenntnisse in Python genügen, und ein AI-Assistent unterstützt dich bei Bedarf.
Technische Voraussetzungen
- Python 3.10 oder höher
- Jupyter
- C++ Compiler (Visual Studio C++ Buildtools unter Windows, unter Linux oder Mac das python-dev (apt) bzw. python-devel (brew) Paket)
- Optional: Bevorzugte IDE mit Python- und Jupyter-Plugin. Alternativ bietet JupyterLab alles Notwendige.
-- Lernziele
Umgang mit der OpenAI Chat API
Prompting-Techniken verstehen
Ansätze gegen Halluzinationen von LLMs erkennen
Aufbau eines LLM-Chatbots verstehen
Unternehmensdaten mit Retrieval-Augmented Generation verfügbar machen
LLMs mit eigenen Tools erweitern
Embeddings und ihre Anwendung verstehen
-- Deine Trainer:innen
Hermann Schmidt
INNOQ
Facilitation, Large Language Models
- GenAI für Entwickler:innen
Hermann Schmidt arbeitet als Senior Consultant bei INNOQ. Nach über zwei Jahrzehnten als Entwickler und Architekt, die sich hauptsächlich um die Frage des „Wie“ der Softwareentwicklung gedreht haben, rückt bei ihm heute das „Was“ und „Wer“ in den Vordergrund. Als Facilitator interessieren ihn Teamstrukturen, Entwicklungs- und Innovationsprozesse, sowie Kreativtechniken. Probleme, die sich in der Wolke zwischen Fachbereich und Entwicklungsteam verstecken, sind sein Lieblingsgebiet. In letzter Zeit haben die Large Language Models bei ihm einen Funken gezündet, der ihn an die Zeit als 17-Jähriger im Gymnasium erinnert, als er fasziniert mit großen Augen vor dem einzigen Computer saß und seine ersten Programme schrieb.
Marco Steinke
INNOQ
Softwarearchitektur, KI
- GenAI für Entwickler:innen
Marco Steinke ist Consultant bei INNOQ. Sein Schwerpunkt liegt in der Software-Architektur. Außerdem beschäftigt er sich mit künstlicher Intelligenz und dabei vor allem mit der Architektur und der Integration von KI-Systemen.
-- Fachinfos und Bücher
Generative AI
The End of „Too Expensive“ in Business Software? Exploring Features That Were Once Out of Reach. Zum Blogpost
Inhouse Training
Du kannst dieses Training auch als Inhouse-Training exklusiv für dein Team buchen. Bitte nutze dafür unser Anfrage-Formular.
Jetzt anfragen-- Relevante weitere Trainings
auf Anfrage
Workshop
Wenn du einen kurzweiligen Einstieg in das Prompt Engineering möchtest.