On-Premises-AI-Assistent auf selbst gehosteten LLMs
COMAN Software GmbH · 08/2025 – 04/2026
Der kostenintensive HubSpot-Chatbot wurde abgelöst: planbare, deutlich niedrigere Kosten und spürbar bessere Antwortqualität.
Sicherheit, Datenschutz, Governance, Zugriffskontrolle, Observability und Evaluation – verankert für einen kontrollierten Enterprise-AI-Betrieb.
Ein AI-System ist erst dann im Unternehmen tragfähig, wenn neben der Funktion auch der kontrollierte Betrieb geklärt ist. Anforderungen an Sicherheit, Datenschutz und Governance werden in eine technische Architektur übersetzt, die Datenzugriffe, Modellnutzung und Systemgrenzen nachvollziehbar macht.
Dazu gehören definierte Zugriffskontrollen, beobachtbare Abläufe und eine Evaluation, die Antworten und Aktionen überprüfbar macht. Diese Leitplanken werden nicht nachträglich ergänzt, sondern von Beginn an mit Retrieval, Agentenlogik, Schnittstellen und Betriebsprozessen verbunden.
Bei COMAN Software GmbH habe ich einen Q&A-Chatbot mit lokalen LLMs und Qdrant on-premises in bestehende Produkte integriert. Für leezy.ai habe ich produktive RAG- und Agentenkomponenten umgesetzt. Bei Carano Software Solutions habe ich abteilungsübergreifende AI-Schulungen konzipiert und durchgeführt. Diese Verbindung aus Architektur, Implementierung und Enablement schafft die Grundlage dafür, Enterprise AI sicher und kontrolliert weiterzuentwickeln.
COMAN Software GmbH · 08/2025 – 04/2026
Der kostenintensive HubSpot-Chatbot wurde abgelöst: planbare, deutlich niedrigere Kosten und spürbar bessere Antwortqualität.
leezy.ai · seit 01/2024
Rund 85 % der Anfragen werden vollautomatisch gelöst; die Erstantwort erfolgt in weniger als zwei Sekunden.
Carano Software Solutions GmbH · 02/2025 – 06/2025
70 Mitarbeitende aus Fach- und IT-Bereichen setzen AI-Werkzeuge heute eigenständig und produktiv ein, auf Basis einer verbindlichen Verfahrensanweisung statt individueller Experimente.
Lassen Sie uns klären, wie Ihr RAG-System, AI Agent oder Ihre Automatisierung sicher in die Produktion kommt.