Rückblick auf den Workshop Einsatz von LLMs – Szenarien, Nutzung, Hintergründe (15.+22-02-2025)
Am 15. und 22. Januar fand der Workshop ‘Einsatz von LLMs – Szenarien, Nutzung, Hintergründe’ statt. Er war eine Kooperation zwischen dem CMS und dem IZ D2MCM. Der Kurs begann unter der Leitung von Malte Dreyer (CMS) mit einer umfassenden Einführung in die Grundlagen von KI und Large Language Models (LLMs), einschließlich der Auswahlkriterien und Unterschiede zwischen verschiedenen Modellen. Ein besonderer Schwerpunkt lag auf dem Prompting, wobei sowohl grundlegende als auch fortgeschrittene Techniken behandelt wurden. Ein weiteres wichtiges Thema war die KI-Sicherheit und der Datenschutz. Der Kurs bot zudem Einblicke in verschiedene Anwendungsfälle von KI in der Forschung, Lehre und allgemeinen Aufgaben, um den Teilnehmern ein breites Spektrum an Einsatzmöglichkeiten dieser Technologie aufzuzeigen.
Konstantin Schulz (SLF) führte in die Thematik rund um Responsbile AI und Dokumentation ein. Carolin Odebrecht (SLF, IZ D2MCM) zeigte Verbindungen der Forschung an und mit LLM zur guten wissenschaftlichen Praxis auf.
Was wir besprochen und gelernt haben
- KI-Tools des Computer- und Medienservice (Zugriff via HU-VPN):
- Große Sprachmodelle
- Transkription von Video- und Audio-Dateien
- Zusammenfassung von Dokumenten
- Maschinelles Sehen, i.e. Informationen aus Bildern herauslesen
- Skalierung von LLM:
- Investitionsstrategien
- Lineares Wachstum der Fähigkeiten, d.h. Benchmark-Erfolge, bei großen Sprachmodellen
- Vergleich von Big AI und Small AI Community
- Promptingstrategien:
- Bei Zero-Shot- One-Shot- und Few-Shot-Prompts werden entsprechend viele Beispiele als Kontext gegeben
- Auch die Rolle von Parametern wie Temperatur, top_k und top_p wurde thematisiert. Die verschiedene Sprachmodelle gehen anders mit diesen Parametern um.
- Ein genaues Lesen des Systemprompts gibt Aufschlüsse über die Schwächen und Stärken des Sprachmodells.
- Grenzen des Prompting: Kleine Sprachmodelle von unter 10 Mrd. Token haben Schwierigkeiten, mit komplexen Promptingstrategien umzugehen.
- Gute Wissenschaftliche Praxis und LLMs:
- GenAI-Ergebnisse können per APA zitiert werden
- Sprachmodelle sind aber keine Urheber:innen oder Autor:innen
- Die Leitprinzipien der HU-Governance zu Guter Wissenschaftlicher Praxis treffen auch auf die Arbeit mit GenAI zu
- Alle Schritte der wissenschaftlichen Arbeit müssen angemessen dokumentiert werden
Was folgt
Wir planen weitere Workshops unter der Leitung von Malte Dreyer im SoSe 2025! Alle aktuellen Termine werden über unseren IZ D2MCM Newsletter verteilt. Anmeldung hier.
Alle LLM-Interessierten, langjährige Praktiker:innen und Entwickler:innen sind herzlich in die IZ-Arbeitsgruppe LLM eingeladen!
Cite as: Carolin Odebrecht, Paul Bayer: Rückblick auf den Workshop 'Einsatz von LLMs – Szenarien, Nutzung, Hintergründe'. In: IZ D2MCM Blog [Weblog], 13.03.2025. URL: https://izd2m.hu-berlin.de/blog-posts/2025/03/13/bp-ws-llm.html.