Tech-Meetup: Sprachmodelle lokal betreiben

In unserem „Tech Meetup: Sprachmodelle lokal betreiben“, bekommen wir einen Einblick und Erfahrungswerte inwieweit lokale Sprachmodelle Lösungen für spezifische Anwendungen für Unternehmen bieten können.

Preise

kostenlos

Der lokale Betrieb von Sprachmodellen bedeutet für Unternehmen, dass diese auf eigenen Servern oder Geräten statt in der Cloud ausgeführt werden. So entsteht eine höhere Kontrolle über Daten, es können höhere Sicherheits- und Datenschutzanforderungen gewährleistet und Latenzzeiten reduziert werden. Aber lokale Implementierungen erfordern oft mehr Rechenleistung und Speicher, woraus besondere Anforderungen an die Hardware entstehen.

Prof. Dr. Sören Auer ist Professor für Datenwissenschaft und Digitale Bibliotheken an der Leibniz Universität Hannover und Direktor der Technische Informationsbibliothek (TIB).

Im Vortrag wird Prof. Auer vorstellen, große Sprachmodelle kurz einführen und erläutern, wie diese lokal betrieben werden können. Außerdem wird Prof. Auer motivieren, warum und wie Sprachmodelle mit weiteren Informationsquellen kombiniert werden können um Qualität, Nachvollziehbarkeit zu verbessern und fachspezifisches Kontextwissen zu integrieren.

Hans-Christian Brockmann ist Gründer und Geschäftsführer der brox IT-Solutions GmbH sowie dem AI Spezialisten eccenca GmbH.

Im Vortrag wird Herr Brockmann aus einem aktuellen Projekt des Unternehmens berichten, in dem ein Tool entwickelt wird, das IT-Verträge im Automotive-Bereich mit KI und Knowledge Graphs analysiert. Ziel ist es, die zeitaufwändig und fehleranfällige manuelle Vertragsprüfung mit Hilfe von KI, sowie Fach- und Branchenwissen, zu optimieren und Fehler zu minimieren.

Zusätzlich gibt er eine kurze Einführung in Agentic AI und zeigt, wie verschiedene KI-Technologien zusammenspielen müssen, um industrielle Automatisierung in Unternehmen neu zu denken.

 

Im Nachgang an die Vorträge besteht die Möglichkeit beim Networking ins Gespräch kommen, Erfahrungswerte auszutauschen und vielleicht Idee für eigene Planungen zu konkretisieren. Vielleicht ergeben sich auch einige Gespräche zum neuen Sprachenmodell DeepSeek, welches aktuell intensiv in den Medien diskutiert wird.

Die Veranstaltung findet in Kooperation mit KI.WI, dem KI-Netzwerk der Wirtschaftsregion Hannover und der Technischen Informationsbibliothek (TIB) statt.

Ablauf

16:00 Uhr      Begrüßung          

16:05 Uhr      Vorstellungsrunde

 16:30 Uhr      Large Language Models (LLMs) lokal betreiben

            Prof. Dr. Sören Auer, Direktor der TIB und Leitung Forschungsgruppe Data Science and Digital Libraries

            Technische Informationsbibliothek (TIB)

16:45 Uhr      Knowledge Graphen und selbst gehostetes LLM für Contract Management

            Hans-Christian Brockmann, CEO

            brox IT-Solutions GmbH und eccenca GmbH

17:00 Uhr      Networking  

(Veranstaltungsende: 18:00 Uhr)            

Ort

Technische Informationsbibliothek (TIB)
Welfengarten 1 B
30167 Hannover

Gebäude Nr. 1002, Vortragsraum

Kontakt

Region Hannover
Projektleitung & Betriebsberatung
Dr. Jöran Wrana
Projektleitung & Betriebsberatung
Region Hannover
Wirtschaftsförderung
Fachbereich Wirtschafts- und Beschäftigungsförderung
Region Hannover
Projektleitung & Betriebsberatung
Melanie Albrecht
Projektleitung & Betriebsberatung
Region Hannover
Wirtschaftsförderung
Fachbereich Wirtschafts- und Beschäftigungsförderung
nach oben