Warum eine Plattform statt verstreuter Werkzeuge
Einzelne KI-Bausteine erzeugen Wartungslast: ein Vektorspeicher hier, ein API-Adapter dort, ein Skript für Auswertungen. Die ESTAYA AI Platform fasst diese Schichten zu einem dokumentierbaren System zusammen. Im Zentrum steht ein Gateway auf Basis von LiteLLM. Es vereinheitlicht den Zugriff auf offene Modelle wie Llama, Mistral, Qwen und Teuken, die wir selbst mit vLLM betreiben. Sie sind dadurch nicht an einen Anbieter gebunden und tauschen Modelle aus, ohne Anwendungen umzuschreiben.
Die Antwortqualität entsteht über mehrere Verfahren statt über einen einzelnen Suchschritt. Citation-grounded RAG belegt jede Aussage mit ihrer Quelle. PageIndex ordnet lange Dokumente strukturiert ein, ein Wissensgraph verbindet Entitäten, und ein NLI-Prüfschritt verwirft Aussagen, die nicht durch den Kontext gedeckt sind. Eigene Algorithmen schärfen die Auswahl: Reciprocal Rank Fusion vereint mehrere Trefferlisten, Cross-Encoder-Reranking ordnet nach Relevanz, eine kontextadaptive Gewichtung passt sich der Anfrage an.
KI-Agenten arbeiten nach dem Muster Plan-Execute-Reflect und binden Fachsysteme über das Model Context Protocol an. Governance und Observability protokollieren jeden Aufruf, jedes Modell und jede Quelle nachvollziehbar. Mit dem eval_harness und RAGAS messen wir Treffergüte und Belegtreue in Zahlen.
- Modell-Unabhängigkeit durch ein einheitliches Gateway
- Belegbare Antworten über Grounding und NLI-Prüfung
- Eigene Ranking-Algorithmen statt reiner Vektor-Suche
- Deployment on-premises, in der VPC oder als SaaS auf eigenen Servern in Deutschland
- Produktiv in der ESTAYA AI Platform und im KI-Archiv einer großen deutschen Regionalzeitung
DSGVO, EU AI Act, BSI IT-Grundschutz und ISO 27001/42001 bilden den Rahmen, den wir für Sie umsetzen. Beyonetix führt selbst keine Zertifizierung. Was wir liefern, sind nachvollziehbare Protokolle, mit denen Ihre Prüfung diese Anforderungen belegen kann.