Warum Lucidworks und ChatGPT?

Vor sechs Monaten forderte uns einer unserer wichtigsten Kunden auf, OpenAI und unsere Suchplattform für einen Anwendungsfall der Mitarbeitererfahrung zu integrieren. Sie betrachteten uns beide als ihre strategischen Lieferanten und wollten sehen, wie viel Wert sie durch die Nutzung großer Sprachmodelle gewinnen können, aber dennoch die Kontrollen und die Benutzererfahrung, die Lucidworks ihren Mitarbeitern bietet, beibehalten.

Seitdem haben wir ein sehr starkes Interesse an einer integrierten ChatGPT- und Lucidworks-Plattform für verschiedene Anwendungsfälle(Handel, Wissensmanagement, Kundenservice usw.) festgestellt. Der Hype um ChatGPT ist in letzter Zeit sehr groß. Einige Kunden fragen, warum sie zusätzlich zu ChatGPT eine Suchplattform benötigen. Es ist jedoch wichtig zu betonen, dass eine robuste Suchplattform immer noch erforderlich ist, um den vollen Nutzen aus großen Sprachmodellen wie ChatGPT zu ziehen.

Einige Vorteile einer integrierten ChatGPT- und Lucidworks-Lösung:

• Leitplanken und Kontrolle – begrenzen Sie die ChatGPT-Antworten auf Ihren Katalog und dokumentieren Sie
• Datenanreicherung – Extrahieren von Metadaten und Zurücksenden an Lucidworks zur weiteren Verwendung
• Sicherheit – Produkte und Dokumente nach Benutzernamen oder Segmenten herausfiltern
• Nahtlose, integrierte Erfahrung zwischen ChatGPT und Lucidworks, einschließlich der Facetten
• Nicht produktbezogene Inhalte – fragen Sie ChatGPT nach ergänzenden Inhalten
• Commerce Studio – Steuerung der Produktpräsentation durch den Händler
• Personalisierung und Recs – Nutzen Sie Recs in Lucidworks zur Anzeige in ChatGPT
• Konnektoren – verbinden Sie beliebige Daten und verwenden Sie sie als Trainingsdaten für ChatGPT
• Signals Beacon und Trainingsprozesse – System verbessert sich kontinuierlich mit Ihren Daten und dem Nutzerverhalten
• Leistung – Benutzer neigen dazu, bei langsamen Antwortzeiten schnell abzuspringen, was typisch für ein Chat-Erlebnis ist

Eine weitere Einschränkung von ChatGPT ist sein mangelndes Wissen über domänenspezifische Inhalte. Es kann zwar auf der Grundlage der Informationen, auf die es trainiert wurde, kohärente und kontextbezogene Antworten generieren, aber es ist nicht in der Lage, auf domänenspezifische Daten zuzugreifen oder personalisierte Antworten zu geben, die von der einzigartigen Wissensbasis eines Benutzers abhängen. Benutzer sollten daher Vorsicht walten lassen, wenn sie Ratschläge oder Antworten zu solchen Themen ausschließlich bei ChatGPT suchen.

Das WIE

Wie machen wir das? Ein wesentliches Unterscheidungsmerkmal zwischen Lucidworks und anderen Suchmaschinen ist, dass Kunden jedes maschinelle Lernmodell in die Lucidworks-Plattform einbringen können, einschließlich großer Sprachmodelle wie ChatGPT, Bard (Vertex PaLM API, Bloom usw.). Die flexiblen Index- und Abfrage-Pipelines von Lucidworks ermöglichen es der Plattform, eine große Sprachmodell-Antwort zu transformieren (einschließlich Entity Enrichment und andere).

Im Flussdiagramm unten sehen Sie, wie alle Abfragen zunächst durch die Lucidworks-Abfragepipeline geleitet werden, einschließlich der ChatGPT-Antwort. Dadurch kann Lucidworks die ChatGPT-Antwort interpretieren und eine Reihe von Dingen tun, bevor die Nachricht an den Benutzer zurückgegeben wird. Zum Beispiel extrahiert es Entitäten, Facetten, Empfehlungen und filtert unerwünschte Daten heraus.

Das Gleiche kann zur Indexzeit geschehen, was für Unternehmen ein wichtiger Kostenfaktor ist. Anstatt beispielsweise die ChatGPT-API zur Abfragezeit aufzurufen, können Sie dies zur Indexzeit tun, um die Metadaten für Ihren Katalog oder Dokumentenindex anzureichern. Die Anreicherung Ihrer Daten mit großen Sprachmodellen zur Indexierungszeit hat viele Vorteile.

Indem Sie die ChatGPT-Antwort kontrollieren, können Sie in dieser Demo unten eine vollständig integrierte, nahtlose Erfahrung mit Lucidworks und ChatGPT sehen. Lucidworks extrahiert die Entitäten aus der ChatGPT-Antwort und verwendet sie für Entitätsextraktion, Facetten und Boosting. Die Produktliste im Chatbot stammt aus einer anderen Lucidworks Query Pipeline, die durch Empfehlungen, Personalisierung oder sogar Boost/Bury-Regeln, die durch Predictive Merchandiser (Merchandiser-Tooling) gesteuert werden, unterstützt werden kann. Unter der Suchleiste extrahieren wir „Benutzerabsichten“ aus verschiedenen ChatGPT-Fragen zur weiteren Personalisierung.

Nachfolgend sehen Sie ein Beispiel für eine Lucidworks Query Pipeline. Pipelines werden von oben nach unten ausgeführt. Sie werden feststellen, dass wir mehrere ChatGPT-Prompts verwenden, um die Antworten, die an Lucidworks zurückkommen, zu initialisieren und fein abzustimmen. Sie können zum Beispiel eine Eingabeaufforderung verwenden, um Entitäten aus der Antwort zu extrahieren (z.B. Marke, Jahrgang, Region). Sobald wir diese Metadaten von ChatGPT haben, können wir sie in Lucidworks wie Facetten zuordnen oder zur Steigerung der Relevanz verwenden. Wir können auch eine Eingabeaufforderung verwenden, um mehr Informationen aus der Antwort zu erhalten, z. B. „Sagen Sie mir in zwei oder weniger Worten, was dieser Benutzer fragt“. Dies eignet sich hervorragend für die Personalisierung im weiteren Verlauf der Produktentdeckungsreise.

Spätere Phasen der Query Pipeline dienen dazu, Preisabsichten zu verstehen und Geschäftsregeln anzuwenden, die im Predictive Merchandiser (Merchandiser UI) definiert werden können.

Die zusätzliche Leistung in diesem Beispiel besteht in der Nutzung einer Query Pipeline-Stufe, um mehr Kontext aus einer GPT LLM zu erhalten. Hier ist ein Beispiel für eine Prompt ChatGTP-Stufe. Die Aufforderung an ChatGPT lautet einfach: „In ein oder zwei Worten, was ist das Hauptthema der folgenden Anfrage“. Die Antworten werden dann verwendet, um die Links „Suche nach Interessen“ unter der Suchleiste zu aktivieren, die für eine spätere Personalisierung verwendet werden können. Diese können in der Sitzung verwendet und/oder in einer Lucidworks-Sammlung zur späteren Verwendung gespeichert werden. Sie können mehrere Prompts verwenden, einschließlich fein abgestimmter Klassifizierungsstufen.

Sie können ChatGPT Prompts auch für andere Dinge verwenden, z. B. für Nicht-Produkt-Inhalte. Schreiben Sie zum Beispiel auf der PDP eine Aufforderung „Welches Essen passt zu diesem Wein?“ Dies kann auch über Predictive Merchandiser gesteuert werden.

Zusammenfassend lässt sich sagen, dass die Lucidworks-Plattform große Sprachmodelle mit der Wahrheit begründet. Wir haben jetzt Demos für ChatGPT (OpenAI GPT4), Bard (Google Vertex PaLMAPI) und andere große Sprachmodelle bereit. Kontaktieren Sie uns für weitere Informationen oder eine Demo Ihrer eigenen Daten.