Wir bei JAM

Warum Sie bei uns bald mit Robotern sprechen werden

Unser Support-Chatbot vorgestellt

Blog Author Jens

Jens

Customer Support
JAM Software AI Chatbot
Veröffentlicht am 31.01.2024

Die Digitalisierung schreitet in rasantem Tempo voran, und wir bei JAM sind fest entschlossen, am Puls der Zeit zu bleiben. Darum experimentieren wir bereits seit einigen Monaten mit ChatGPT, Microsoft Copilot und Co., um unseren Service für Sie aufs nächste Level zu bringen.

Unser Ziel ist es, Ihre Wartezeit auf Support-Anfragen drastisch zu verkürzen: Während es heute noch maximal einen Werktag dauert, bis Sie Ihre Support-Anfrage beantwortet haben, erhalten Sie in Zukunft innerhalb einiger Sekunden eine erste Antwort.

In den letzten Monaten haben wir einen Chatbot entwickelt, der auf unsere umfangreichen Online-Hilfen und FAQs zurückgreifen kann. Mit diesem können wir fortan auf unser gesammeltes Wissen zugreifen und Ihre Kundenanfragen noch schneller beantworten.

Dieser digitale Assistent durchläuft derzeit unsere internen Tests und wird bald als erster Ansprechpartner fungieren, um Sie bei Produktfragen zu unterstützen.

Doch wie wird unser KI-Chatbot genau funktionieren? Schauen wir doch einmal in das innovative Innenleben des Systems!

Vektordatenbanken und die Kraft von Embeddings

Als erstes ist es notwendig, unser gesammeltes Produktwissen aus Online-Hilfen und FAQs in ein sogenanntes „Embedding“ umzuwandeln. Ein solches Embedding transformiert den Text in Vektoren, also Zahlenarrays, die sich in einem hochdimensionalen Raum widerspiegeln.

Die Vektoren repräsentieren schließlich die Bedeutung der Textinhalte und sind somit die entscheidende Schnittstelle zwischen menschlicher Sprache und maschinellem Verständnis.

Vereinfachte Graphische Darstellung des Vektorraums (erstellt mit Dall-E)

 

Embeddings bilden die Vielschichtigkeit und Nuancen des menschlichen Ausdrucks in einem maschinell interpretierbaren Format ab.

Dadurch kann der Kontext und die Intention hinter einer Anfrage erfasst werden, um in der Datenbank nach korrespondierenden Inhalten zu suchen. Im Vergleich zu einer Suche nach Stichwörtern ist die Wahrscheinlichkeit, die richtige Antwort zu erhalten, also deutlich höher.

Wie sieht es also in der Praxis aus?

Wenn eine Kundenanfrage eingeht, wird diese auch in Vektoren umgewandelt. Unsere Vektordatenbank gleicht die Anfrage mit den vorhandenen Informationen ab.

Als nächstes sucht die Vektordatenbank nach den ähnlichsten Vektoren zur Anfrage und kann anschließend innerhalb weniger Sekunden den passenden Inhalt liefern.

JAM-Chatbot auf dem neuesten Stand der KI-Technik

Um unseren KI-Chatbot kontinuierlich zu verbessern, nutzen wir die neuesten Technologien und Erkenntnisse aus dem Bereich der künstlichen Intelligenz:

Bereits in der Woche der Veröffentlichung haben wir die neuesten Embeddings von OpenAI implementiert. Diese werden uns dabei helfen, die Qualität und Vielfalt unserer Datenbank zu erhöhen, welche die Grundlage für die KI-gestützte Beantwortung der Fragen unserer Kund:innen bildet.

Die neuen Embeddings von OpenAI basieren auf dem Modell „text-embedding-3-large“, das über 175 Milliarden Parameter verfügt und mehr als 45 Sprachen abdeckt. Damit ist es das bisher größte und leistungsstärkste Modell seiner Art.

Zum Vergleich: Die vorherigen Embeddings, die auf text-embedding-ada-002 basierten, hatte nur 10 Milliarden Parameter und verfügte über weniger sprachübergreifende Fähigkeiten.

Mit text-embedding-3-large können wir sowohl monolinguale als auch multilinguale Anfragen verarbeiten und Inhalte aus verschiedenen Quellen und Sprachen kombinieren.

Das Modell ist zudem in der Lage neben semantischen Ähnlichkeiten, auch die stilistische und pragmatische Ähnlichkeit zwischen Texten zu erfassen.

Da die Embeddings ständig aktualisiert werden, ist unser Chatbot immer auf dem neuesten Stand und kann Fragen zu den aktuellen Versionen unserer Produkte beantworten.

Da wir immer nur für die aktuelle Version unserer Software Support leisten können und der Chatbot immer auf dem neuesten Stand ist, ist es auch für Sie als Kund:in empfehlenswert, immer die aktuelle Version Ihrer Software installiert zu haben.

ChatGPT-4 übernimmt und formuliert eine Antwort

Die Vektoren sind nun abgeglichen und der beste Inhalt wurde von unserer Datenbank gefunden, wie geht es nun weiter? ChatGPT tritt auf den Plan!

Die gefundenen Inhalte werden aus der Datenbank nun in Deutsch oder Englisch an OpenAI geschickt und von ChatGPT-4-Turbo weiterverarbeitet. 

ChatGPT erstellt daraufhin eine präzise Antwort auf Ihre Support-Anfrage. Dazu kombiniert es die verschiedenen Informationen aus der Datenbank zu einer zusammenhängenden Antwort.

Symbolische Interaktion zwischen Mensch und Maschine (erstellt mit Dall-E)

Schnellere Antworten dank Caching

Um die Antwortzeit unseres KI-Chatbots noch weiter zu verkürzen, haben wir ein Caching-System implementiert, das häufig gestellte Fragen und Antworten speichert.

Dadurch muss ChatGPT nicht jedes Mal die Datenbank abfragen und eine neue Antwort formulieren, sondern kann auf das Cache zurückgreifen und sofort eine passende Antwort liefern.

Das Caching-System basiert auf einem Language Model, das die Ähnlichkeit zwischen neuen Fragen und den gespeicherten Fragen im Cache misst. Wenn dann eine hohe Ähnlichkeit festgestellt wird, wird die entsprechende Antwort aus dem Cache geholt, ansonsten wird eine neue Antwort generiert.

Das Caching-System ist dynamisch und wird von uns ständig aktualisiert, damit wir die Qualität und Relevanz unserer Antworten gewährleisten und weiter verbessern können.

Auf den Punkt gebracht

Schauen wir zum Abschluss nochmal auf die wichtigsten Punkte:

Unser KI-basiertes Assistenzsystems hält für Sie als Kund:in einige Vorteile bereit!

Nicht nur erhalten Sie in Zukunft noch schneller Unterstützung, sondern unser Kundensupport erhält auch neuen zeitlichen Raum für persönliche Beratung, wo sie am meisten benötigt wird.

Konnten wir Sie neugierig machen? Dann behalten Sie doch die weitere KI-Entwicklungen bei JAM im Auge. In unserer neuen Reihe „KI bei JAM“ halten wir Sie auf dem Laufenden!

Haben Sie abschließend noch Fragen? Dann melden Sie sich gern direkt bei uns!