Bachelor- oder Masterarbeit: Lokale Sprachmodelle (m/w/d)

Worum es geht

„Dürfen unsere Daten überhaupt in die Cloud?“ – diese Frage hören wir in fast jedem Erstgespräch mit mittelständischen Unternehmen. Die ehrliche Antwort lautet oft: Es kommt darauf an. Lokale Modelle halten Daten im Haus, brauchen aber Hardware und Pflege. Cloud-Modelle sind stark und schnell eingerichtet, werfen aber Fragen zu Auftragsverarbeitung und Datenfluss auf. In dieser Abschlussarbeit machst du aus „es kommt darauf an“ eine nachvollziehbare Entscheidungshilfe.

vona ist eine Webagentur aus Leipzig und arbeitet remote-first: „Aus Leipzig, für Kunden überall“. Unsere Kunden sind kleine und mittlere Unternehmen, Mittelstand und Handwerk, Startups und etablierte Marken im deutschsprachigen Raum. KI setzen wir als Werkzeug ein und legen vorher fest, woran Erfolg gemessen wird.

Beide Wege kennen wir aus Projekten. Bei der automatisierten Dokumentenverarbeitung für einen Logistikdienstleister läuft das Modell lokal mit Ollama und Llama 3 – kein Dokument verlässt das Unternehmen, trotzdem werden 85 % der Belege vollautomatisch verarbeitet. Unser KI-Kundenberater für den Online-Handel dagegen nutzt GPT-4o in der Cloud und kostet im Betrieb rund 180 € im Monat. Eine mögliche Forschungsfrage: Ab welcher Datenmenge, welchem Schutzbedarf und welcher Aufgabe ist ein lokales Modell die bessere Wahl als ein Cloud-Modell – und wie groß ist der Qualitätsabstand wirklich? Eigene Ideen, etwa zu hybriden Ansätzen oder europäischen Anbietern wie Mistral, sind willkommen.

Die Stelle ist 100 % remote. Du kannst von überall in Deutschland, Österreich oder der Schweiz aus arbeiten.

Deine Aufgaben

• Du wählst zwei bis drei typische Aufgaben aus dem Mittelstand aus, etwa Belege auslesen, E-Mails zusammenfassen oder Fragen zu internen Dokumenten beantworten.
• Du richtest lokale Modelle mit Ollama oder LM Studio ein und vergleichst sie mit Cloud-Modellen wie Claude, GPT, Gemini oder Mistral.
• Du entwickelst ein Bewertungsschema für Antwortqualität und führst die Messungen reproduzierbar durch, zum Beispiel in Python.
• Du stellst Kosten gegenüber: Hardware und Betrieb auf der einen, Gebühren pro Anfrage auf der anderen Seite.
• Du arbeitest die Datenschutzfragen auf und fasst alles in einer praxistauglichen Entscheidungshilfe zusammen.

Was du mitbringst

• Du studierst Informatik, Wirtschaftsinformatik, Data Science oder etwas Verwandtes
• Sicherer Umgang mit Python und der Kommandozeile
• Neugier auf Open-Weight-Modelle und Lust, sie selbst zum Laufen zu bringen
• Interesse an DSGVO-Fragen – ein juristisches Studium brauchst du dafür nicht
• Gutes Deutsch, weil die Kundenprojekte im deutschsprachigen Raum liegen

Schön, aber kein Muss: Erfahrung mit Hugging Face, Docker oder Quantisierung von Modellen.

Was wir bieten

• Ein Thema, das direkt aus Fragen unserer Kundenprojekte stammt
• Eine feste Ansprechperson, die dich im Unternehmen fachlich begleitet, und regelmäßige Abstimmungen per Video; die wissenschaftliche Betreuung bleibt bei deiner Hochschule
• Zugang zu den Werkzeugen für deine Vergleiche, darunter Claude, ChatGPT, Mistral, Ollama und OpenRouter
• Arbeitszeiten nach deinem Semesterplan und vollständig von zu Hause aus
• Bei gutem Verlauf die Möglichkeit, auch nach der Arbeit mit uns weiterzumachen, etwa in Anschlussprojekten – eine Möglichkeit, keine Zusage

So bewirbst du dich

Füll das Formular unten auf der Seite aus und erzähl uns in ein paar Sätzen, wer du bist und warum dich das Thema lokale Sprachmodelle reizt. Ein Link zu GitHub, LinkedIn oder deinem Lebenslauf reicht völlig. Du hörst in der Regel innerhalb einer Woche von uns. Bewirb dich ruhig auch, wenn du noch nicht alles davon kannst.