LibreChat
Quelloffene Chat-Oberfläche zum Selbsthosten, die Modelle vieler Anbieter und lokale Modelle mit Agenten, RAG und SSO bündelt.
Was es kann
LibreChat ist eine quelloffene Chat-Oberfläche unter MIT-Lizenz, die du auf eigenen Servern betreibst. Du nutzt darin Modelle von OpenAI, Anthropic, Google, Azure oder AWS nebeneinander und bindest über eigene Endpunkte auch lokale Modelle etwa per Ollama an. Agenten verarbeiten Dateien, rufen APIs auf und nutzen über MCP externe Werkzeuge. Dazu kommen die Suche in hochgeladenen Dokumenten per RAG, Code-Ausführung in einer abgeschotteten Umgebung, Artefakte, Websuche sowie Anmeldung per SSO (OAuth, SAML), LDAP und Zwei-Faktor-Authentifizierung.
Für wen es passt
Für Unternehmen mit eigener IT, die ihren Mitarbeitenden einen gemeinsamen KI-Chat mit zentraler Benutzerverwaltung bereitstellen und selbst bestimmen wollen, welche Modelle zum Einsatz kommen.
Datenschutz im Unternehmen
Da du LibreChat selbst hostest, legst du den Serverstandort fest – ein Betrieb in der EU ist also möglich. Die Gespräche gehen nicht an das Projekt, wohl aber an den Modellanbieter, den du anbindest. Ob Eingaben fürs Training genutzt werden und welcher Auftragsverarbeitungsvertrag gilt, regelst du mit diesem Anbieter. Mit lokalen Modellen bleiben die Daten vollständig im eigenen Netz. Einen Auftragsverarbeitungsvertrag oder Geschäftstarife bietet LibreChat selbst nicht an.
Grenzen
Einrichtung, Updates und Absicherung liegen bei dir; Kenntnisse in Docker oder Kubernetes sind nötig. Bezahlten Support nennt das Projekt nicht. Die öffentliche Demo eignet sich nicht für vertrauliche Daten.