SaaS-Plattform für agentischen AI-Customer-Service

Problem

Kundenanfragen, ob allgemeine Frage, Vertriebsanliegen oder Problem, sollen schnell, rund um die Uhr und in gleichbleibender Qualität beantwortet werden, inklusive eigenständiger Terminbuchung, ohne dass dafür jedes Mal ein Mitarbeitender eingreifen muss.

Lösung

Für leezy.ai habe ich eine SaaS-Plattform für agentischen Customer Service konzipiert und entwickelt: Ein LLM-basierter Agent beantwortet Kundenanfragen in Echtzeit, klassifiziert eingehende Anfragen automatisch (allgemeine Frage, Sales oder Problem) und leitet daraus die passende Aktion ab, bis hin zur eigenständigen Terminbuchung. Die Plattform läuft seit Anfang 2024 im Produktivbetrieb. Im Hintergrund arbeitet eine RAG-Architektur mit Vektordatenbank. Die Architektur wurde iterativ konsolidiert: von einem Python-basierten Prototyp über ein NestJS-Backend bis zu einer integrierten Nuxt-/Nitro-Anwendung. Antwortqualität und Antwortzeiten habe ich fortlaufend über Langfuse-Traces gemessen und iterativ optimiert.

Ergebnis

Ergebnis: Rund 85 % der eingehenden Anfragen werden vollautomatisch gelöst, ohne dass ein Mitarbeitender eingreift. Die Erstantwort erfolgt in unter 2 Sekunden, rund um die Uhr und in gleichbleibender Qualität.

Technische Umsetzung

• Plattformarchitektur, RAG-Pipelines und Prompt-Engineering-Strategien
• Mandantenfähige Architektur: jeder Kunde mit eigener Wissensbasis, eigenen Integrationen und isolierten Daten
• Automatische Klassifizierung eingehender Anfragen und eigenständige Auswahl der Aktion
• Kalender-Integration mit Google und Microsoft für die automatische Terminbuchung
• Anbindung von Zapier, Notion, Slack und Microsoft 365
• Kunden-Dashboard zur Einsicht von Anfragen und Statistiken
• Evaluation und prototypische Integration von LangChain und weiteren Frameworks zur Orchestrierung von LLM-Workflows