Tech-Meetup: Sprachmodelle lokal betreiben
Termine
Preise
kostenlos
Der lokale Betrieb von Sprachmodellen bedeutet für Unternehmen, dass diese auf eigenen Servern oder Geräten statt in der Cloud ausgeführt werden. So entsteht eine höhere Kontrolle über Daten, es können höhere Sicherheits- und Datenschutzanforderungen gewährleistet und Latenzzeiten reduziert werden. Aber lokale Implementierungen erfordern oft mehr Rechenleistung und Speicher, woraus besondere Anforderungen an die Hardware entstehen.
Prof. Dr. Sören Auer ist Professor für Datenwissenschaft und Digitale Bibliotheken an der Leibniz Universität Hannover und Direktor der Technische Informationsbibliothek (TIB).
Im Vortrag wird Prof. Auer vorstellen, große Sprachmodelle kurz einführen und erläutern, wie diese lokal betrieben werden können. Außerdem wird Prof. Auer motivieren, warum und wie Sprachmodelle mit weiteren Informationsquellen kombiniert werden können um Qualität, Nachvollziehbarkeit zu verbessern und fachspezifisches Kontextwissen zu integrieren.
Hans-Christian Brockmann ist Gründer und Geschäftsführer der brox IT-Solutions GmbH sowie dem AI Spezialisten eccenca GmbH.
Im Vortrag wird Herr Brockmann aus einem aktuellen Projekt des Unternehmens berichten, in dem ein Tool entwickelt wird, das IT-Verträge im Automotive-Bereich mit KI und Knowledge Graphs analysiert. Ziel ist es, die zeitaufwändig und fehleranfällige manuelle Vertragsprüfung mit Hilfe von KI, sowie Fach- und Branchenwissen, zu optimieren und Fehler zu minimieren.
Zusätzlich gibt er eine kurze Einführung in Agentic AI und zeigt, wie verschiedene KI-Technologien zusammenspielen müssen, um industrielle Automatisierung in Unternehmen neu zu denken.
Im Nachgang an die Vorträge besteht die Möglichkeit beim Networking ins Gespräch kommen, Erfahrungswerte auszutauschen und vielleicht Idee für eigene Planungen zu konkretisieren. Vielleicht ergeben sich auch einige Gespräche zum neuen Sprachenmodell DeepSeek, welches aktuell intensiv in den Medien diskutiert wird.

Die Veranstaltung findet in Kooperation mit KI.WI, dem KI-Netzwerk der Wirtschaftsregion Hannover und der Technischen Informationsbibliothek (TIB) statt.
Ablauf
16:00 Uhr Begrüßung
16:05 Uhr Vorstellungsrunde
16:30 Uhr Large Language Models (LLMs) lokal betreiben
Prof. Dr. Sören Auer, Direktor der TIB und Leitung Forschungsgruppe Data Science and Digital Libraries
Technische Informationsbibliothek (TIB)
16:45 Uhr Knowledge Graphen und selbst gehostetes LLM für Contract Management
Hans-Christian Brockmann, CEO
brox IT-Solutions GmbH und eccenca GmbH
17:00 Uhr Networking
(Veranstaltungsende: 18:00 Uhr)
Ort
Technische Informationsbibliothek (TIB)
Welfengarten 1 B
30167 Hannover
Gebäude Nr. 1002, Vortragsraum
Kontakt
Dr. Jöran Wrana
Region Hannover
Wirtschaftsförderung
Fachbereich Wirtschafts- und Beschäftigungsförderung

Melanie Albrecht
Region Hannover
Wirtschaftsförderung
Fachbereich Wirtschafts- und Beschäftigungsförderung
