Generative KI

Das Aufkommen von generativer KI und den dazugehörigen Large Language Models (LLMs) eröffnet völlig neue Möglichkeiten für Bots, um Interaktionen natürlicher, vielseitiger und effizienter zu gestalten. Verschiedene Anbieter bieten Modelle an, die flexibel in unterschiedliche Anwendungen integriert werden können. 

Die meisten dieser Modelle sind ausschließlich in der Cloud verfügbar, während einige auch als On-Premises-Lösungen installiert werden können. Unabhängig davon, ob sie in der Cloud oder lokal eingesetzt werden, sollte die Nutzung stets DSGVO-konform erfolgen und den Anforderungen des EU AI Acts entsprechen, um rechtliche und ethische Standards einzuhalten.

Generative KI kann auf mehreren Ebenen eingesetzt werden, um Bots zu unterstützen und ihre Leistungsfähigkeit zu erweitern:

1. Unterstützung bei der Erstellung von Bots

• Automatisierte Antwortgenerierung: Generative KI kann genutzt werden, um Bot-Antworten automatisch zu erstellen, wodurch Entwicklungszeiten drastisch verkürzt werden.
• Generierung von Trainingsmaterial: Die KI kann Variationen von Benutzereingaben simulieren, die zur Verbesserung der Intent- und Entity-Erkennung des Bots genutzt werden.
• Verhaltenssimulation: Durch die Nachbildung des Verhaltens potenzieller Nutzer können verschiedene Szenarien durchgespielt und der Bot gezielt darauf optimiert werden.

2. KI-Assistenten zur Interaktion

• Standardisierte Reaktionen: Bots können KI-Assistenten verwenden, um Benutzereingaben dynamisch zu interpretieren und zu beantworten.
• Individuelle Anpassung: Der Assistent wird über Systemanweisungen ("Prompting") und Anwendungsdaten konfiguriert. So können spezifische Funktionen definiert werden, z. B. die Übergabe der Kontrolle an den Bot zur weiteren Verarbeitung einer Aufgabe (z.B. eines Geschäftsfalls wie eine Überweisung im Zahlungsverkehr).

3. Retrieval-Augmented Generation (RAG)

• Für komplexe Systeme mit großen, individuellen Datensätzen bietet die RAG-Architektur eine besonders flexible Lösung. Sie kombiniert die Stärken der generativen KI mit einer effizienten Datenabfrage aus Wissensquellen.

Retrieval-Augmented Generation (RAG)

Ein RAG-System besteht aus zwei zentralen Komponenten:

1. Embedding

• Datensammlung: Anwendungsdaten werden aus verschiedenen Quellen wie Webseiten („Scraping“), Dokumenten oder Datenbanken extrahiert.
• Chunking: Die Daten werden in kleinere Einheiten ("Chunks") aufgeteilt. Jeder Chunk enthält ein Wissenselement mit begrenzter Größe, die auf die Verarbeitungskapazitäten des LLM abgestimmt ist.
• Vektorisierung: Jeder Chunk wird mithilfe des LLMs in einen Vektor umgerechnet. Dieser Vektor repräsentiert den Inhalt im Merkmalsraum und kann aus tausenden Dimensionen bestehen.
• Vektordatenbank: Alle erzeugten Vektoren werden in einer speziellen Vektordatenbank gespeichert.
• Abfrage durch Benutzereingaben: Benutzereingaben werden ebenfalls in Vektoren umgewandelt. Die KI sucht dann in der Datenbank nach Vektoren, die im Vektorraum räumlich der Eingabe am nächsten kommen. Diese Vektoren repräsentieren die potenziell relevantesten Informationen.

2. Generierung der Antwort

• Datenabfrage und Prompting: Die zu den gefundenen Vektoren gehörigen Chunks und die Benutzereingabe werden zusammen mit spezifischen Anweisungen („Prompts“) an die generative KI übergeben.
• Antworterstellung: Die KI generiert eine textuelle Antwort, die die abgerufenen Informationen sinnvoll integriert und präsentiert.

MCP: Wenn KI-Agenten nicht nur antworten, sondern handeln

RAG beantwortet Fragen auf Basis von Wissen. MCP geht einen Schritt weiter: Das Model Context Protocol ermöglicht KI-Agenten den kontrollierten Zugriff auf freigegebene Tools, Datenquellen und Backend-Prozesse.

Damit wird aus einem informierenden Bot ein handlungsfähiger KI-Agent. Er kann nicht nur erklären, sondern auch Aufgaben ausführen – zum Beispiel einen Status abrufen, ein Ticket erstellen, einen Passwort-Reset starten, eine Kundendatenänderung vorbereiten oder einen Prozess im CRM, ERP oder Fachsystem anstoßen.

CreaLog integriert MCP als Governance- und Tool-Layer in die Plattformarchitektur. Das schafft eine klare Trennung zwischen KI-gestütztem Reasoning und deterministischer Ausführung im Backend. So bleiben Zugriffe kontrollierbar, nachvollziehbar und sicher.

Typische MCP-Anwendungen im Kundenservice

• Abfrage von Kundendaten, Auftragsstatus oder Ticketinformationen
• sichere Anbindung von CRM, ERP, BSS/OSS, Datenbanken und Fachsystemen
• Start definierter Self-Service-Prozesse
• Passwort-Reset oder Account-Entsperrung in Microsoft Teams
• Outbound-Kommunikation mit sicherem Kundendatenzugriff
• Eskalation an Service-Teams mit vollständigem Gesprächskontext
• Agent Assist mit Zugriff auf relevante Tools und Wissensquellen

Fazit

Generative KI, die auf fortschrittlichen Modellen und Architekturen wie MCP und RAG basiert, revolutioniert die Art und Weise, wie Bots Informationen verarbeiten, Wissen abrufen, Aktionen ausführen und mit Nutzern interagieren. Durch die Kombination von Echtzeitdaten, intelligenter Analyse und personalisierten Antworten bauen KI-gestützte Bots auf einer eigenständigen Architektur auf und schaffen effizientere und ansprechendere Interaktionen, wodurch sie neue Maßstäbe in der digitalen Kommunikation setzen.