Kurs1: Lokaler KI-Agent mit Ubuntu, NVIDIA, Ollama & FastAPI

In diesem Kurs baust du Schritt für Schritt deinen eigenen lokalen KI-Agenten – komplett ohne Cloud und mit voller Kontrolle über deine Daten. Du startest mit der Einrichtung eines Ubuntu-Servers, richtest die NVIDIA-Treiber ein und prüfst, ob deine GPU richtig erkannt und genutzt wird. Danach installierst du Ollama, lädst geeignete Sprachmodelle und lernst, wie du sie testest und für deinen Einsatzzweck auswählst.

Im zweiten Teil programmierst du ein schlankes Python-/FastAPI-Backend, das Anfragen annimmt, an die KI weitergibt und Antworten sauber aufbereitet. Darauf setzt du ein einfaches Web-Frontend, mit dem du im Browser chatten kannst – inklusive Datei-Upload. Dein KI-Agent kann PDFs, TXT- und CSV-Dateien lokal einlesen, daraus Kernaussagen herausziehen und Zusammenfassungen erstellen, ohne dass Inhalte dein Netzwerk verlassen.

Der gesamte Kurs ist in 31 klare Clips gegliedert, damit du jeden Schritt nachbauen und bei Bedarf erneut ansehen kannst. Du brauchst kein Profi-Wissen in Linux oder Python: grundlegende PC- und Terminalkenntnisse reichen aus. Am Ende hast du einen vollständig funktionsfähigen Offline-KI-Agenten, den du für eigene Projekte, interne Dokumente oder Experimente weiter ausbauen kannst – inklusive vieler Praxis-Tipps, Hinweisen zu typischen Fehlern und Ideen für zukünftige Erweiterungen.