Haystack
Open-Source-Framework aus Berlin, mit dem du in Python RAG-Suchen, Agenten und Chatbots aus kombinierbaren Pipeline-Bausteinen baust.
Was es kann
Haystack ist ein Python-Framework unter Apache-2.0-Lizenz, mit dem du KI-Anwendungen aus einzelnen Komponenten zusammensetzt. Pipelines verbinden Datenimport, Suche, Prompts und Sprachmodelle und können verzweigen oder Schleifen enthalten. Typische Einsätze sind RAG-Suchen über eigene Dokumente, Agenten mit Werkzeugaufrufen und Chatbots. Anbindungen gibt es unter anderem für OpenAI, Anthropic, Mistral, Hugging Face, Elasticsearch, Pinecone und Weaviate. Das Zusatzprojekt Hayhooks stellt Pipelines als HTTP-Endpunkt oder MCP-Server bereit. Die Haystack Enterprise Platform ergänzt einen visuellen Editor, Tests, Monitoring und Rechteverwaltung.
Für wen es passt
Für Entwicklungsteams, die Suche oder Assistenten auf Firmendaten selbst bauen und jeden Schritt steuern wollen, statt fertige Software zu kaufen.
Datenschutz im Unternehmen
Das Framework läuft auf deiner eigenen Infrastruktur; wohin Daten fließen, bestimmen die Modelle und Datenbanken, die du anbindest. Anonyme Nutzungsstatistiken ohne Anfragen oder Dokumentinhalte schaltest du mit der Umgebungsvariable HAYSTACK_TELEMETRY_ENABLED=False ab. Die Enterprise Platform gibt es in der Cloud oder selbst gehostet, seit Oktober 2026 auch auf STACKIT mit Rechenzentren in Deutschland und Österreich. deepset nennt SOC 2 Type II und ISO 27001. Laut Dokumentation nutzt deepset Kundendaten nicht, um KI-Modelle zu trainieren oder zu verbessern. Den Auftragsverarbeitungsvertrag bekommst du über das Trust Center oder dein Ansprechpartner-Team bei deepset.
Grenzen
Ohne Python-Kenntnisse kommst du nicht weit. Der kostenlose Studio-Tarif ist auf einen Nutzer, 100 Pipeline-Stunden, 50 Dateien und zwei Entwicklungs-Pipelines ohne Produktivbetrieb begrenzt. Enterprise-Preise gibt es nur auf Anfrage.