Vor dem Hintergrund von Datenschutz, digitaler Souveränität und Ressourcennutzung stehen Unternehmen beim Einsatz von künstlicher Intelligenz vor Herausforderungen. Hier bieten lokal betriebene Open-Source-Sprachmodelle eine Alternative: Interne Daten verbleiben auf eigener Hardware, Kosten lassen sich gezielt steuern und Abhängigkeiten von einzelnen Anbietern vermeiden.

Im iX-Workshop KI ohne Cloud: Modelle lokal betreiben, eigene Daten anbinden, Prozesse automatisieren üben Sie praxisnah, wie Sie lokale KI-Modelle effizient betreiben, in bestehende Systeme integrieren und Aufgaben mit eigenen Daten gezielt automatisieren. Zunächst lernen Sie dazu verschiedene Open-Source-Modelle und blicken auf die Gemeinsamkeiten und Unterschiede bei Qualität, Leistung, Kosten und Datenschutz, damit Sie ihre Einsatzmöglichkeiten im Unternehmen fundiert einschätzen können.

Anschließend erhalten Sie einen umfassenden Einblick in geeignete Hardware-Architekturen, bevor Sie typische Inferenzserver wie vLLM, SGLang, Ollama oder LM Studio kennenlernen. Außerdem üben Sie, wie Sie Sprachmodelle bereitstellen, eigene Schnittstellen entwickeln und eine lokale KI in bestehende Anwendungen integrieren.

Um eine sichere und kosteneffiziente Nutzung der Sprachmodelle sicherzustellen, lernen Sie, wie Sie Modelle skalieren, die Ressourcennutzung optimieren und den Betrieb überwachen. Weiterhin trainieren Sie, wie Sie mithilfe von Retrieval Augmented Generation (RAG) eigene Daten mit Ihren lokalen Sprachmodellen verknüpfen und so ganze Prozesse mit KI-Agenten automatisieren.

Sie profitieren von der direkten Anleitung durch Ihren Trainer Pawel Sawicki, AI Engineer und Softwareentwickler bei der SunsetPicnic UG. Er verfügbar über mehr als 15 Jahren Erfahrung in der professionellen Anwendungsentwicklung und weiß, welche Anforderungen lokale Sprachmodelle für den produktiven Betrieb im Unternehmen erfüllen müssen.

Im Hands-on-Workshop sammeln Sie wertvolle Praxiserfahrungen, in Sie zahlreiche Einblicke in reale Anwendungsfälle erhalten und die Inhalte sofort in vertiefenden Übungen anwenden. In einer kleinen Gruppe von maximal 15 Teilnehmern können Sie individuelle Fragen stellen, eigene Anwendungsfälle diskutieren und sich fachlich austauschen, sodass Sie konkrete Impulse für Ihre tägliche Arbeit mitnehmen.

Der Workshop richtet sich an IT-Architekten, die lokale KI-Anwendungen in ihrem Unternehmen betreiben und bereitstellen wollen sowie Softwareentwickler, die KI-Funktionen mittels lokaler Sprachmodelle in eigene Anwendungen integrieren möchten. Er eignet sich außerdem für AI/ML-Engineers und Data Scientists, die eigene Daten mit RAG in lokale Modelle einbinden wollen.

(ilk)