Debatte: Mensch vs. Maschine im E-Commerce
Erleben Sie eine lebhafte Debatte über die Zukunft des E-Commerce. Ein Moderator wird eine Reihe von Fragen stellen, die die Grenzen des maschinellen Lernens im E-Commerce und die Auswirkungen auf die Kunden und die operativen Bereiche wie Marketing, Merchandising und Kundenservice untersuchen.
Zielpublikum
Führend im Bereich E-Commerce und Kundenerfahrung
Teilnehmer nehmen mit
Ein besseres Verständnis der wichtigsten Vor- und Nachteile des Einsatzes und der Operationalisierung von maschinellem Lernen im E-Commerce-Kontext.
Moderator
Katie Florez, Senior Manager, PR Marketing, Lucidworks
Redner
Peter Curran, General Manager, Digitaler Handel, Lucidworks
Sanjay Mehta, Leiter der Abteilung Industrie, eCommerce
[Katie Florez]
Herzlich willkommen. In der heutigen Sitzung bei Activate gehen wir die Dinge ein wenig anders an. Mein Name ist Katie Florez und ich bin Senior Manager für PR und Marketing hier bei Lucidworks. Ich bin heute Ihre Moderatorin und freue mich sehr, dass Sie alle bei unserer Debatte dabei sind. Das Thema der Diskussion lautet: Sollten E-Commerce-Unternehmen Investitionen in maschinelles Lernen gegenüber Investitionen in die menschliche Kuratierung bevorzugen? Unsere beiden Diskussionsteilnehmer sind Peter Curran, General Manager of Digital Commerce hier bei Lucidworks, und Sanjay Mehta, Head of Industry E-Commerce, ebenfalls hier bei Lucidworks, die heute an unserem Battle Royal teilnehmen.
Sanjay wird die Notwendigkeit vertreten, Investitionen in maschinelles Lernen zu priorisieren, und Peter wird die Seite der menschlichen Kuratierung vertreten. Bevor wir beginnen, werde ich ein paar Grundregeln aufstellen. Nachdem wir jede Frage gestellt haben, gebe ich jedem Diskutanten zwischen 30 Sekunden und zwei Minuten Zeit, um zu antworten. So sehr Sie das auch wollen, Sanjay und Peter, Sie dürfen Ihren Debattanten nicht überreden oder unethische Ablenkungstechniken anwenden, die sich nicht darauf beschränken, Ihren Zoom-Hintergrund in den Weltraum zu verwandeln oder ein niedliches Hündchen oder Kätzchen vor die Kamera zu stellen. Okay, fair? Sind Sie bereit?
[Peter Curran]
Verdammt.
[Katie Florez]
Fantastisch. Fangen wir an. Sanjay, ich werde mit Ihnen beginnen. Warum sollten wir uns das maschinelle Lernen zu eigen machen? Ich gebe Ihnen zwei Minuten Zeit für Ihre Antwort.
[Sanjay Mehta]
Okay. Ich denke, ich werde es auf vier Hauptbereiche herunterbrechen. Einer ist die Automatisierung. Sie wissen schon, die Fähigkeit, Dinge auf eine skalierbarere Weise zu tun. Ein weiteres Thema, das ich für wichtig halte, ist die Reaktionszeit, d.h. die Fähigkeit, bei großen Datenmengen sofortige Entscheidungen zu treffen. Und schließlich ist auch die Präzision ein wichtiges Thema. Dinge auf der Grundlage von Daten und nicht aufgrund von Vermutungen zu entscheiden.
Und ich denke, dass wir vor allem mit der Entstehung des E-Commerce, aber auch mit all den anderen digitalen Berührungspunkten, die wir heute haben, eine enorme Menge an Daten erhalten haben. Und für den menschlichen Verstand ist es schwierig, all diese Daten in großem Umfang zu verarbeiten und Entscheidungen zu treffen. Und wenn wir bedenken, dass unser Verstand nicht wirklich für diese Aufgabe geschaffen ist, sondern eher mit kleineren Gruppen oder Einzelpersonen zu tun hat, dann denke ich, dass das maschinelle Lernen genau für diese Aufgabe entwickelt wurde.
Wenn wir also über die Einbindung eines Nutzers in Echtzeit nachdenken und Millionen von Nutzern betrachten, um zu verstehen, was sie tun, und um darauf zu reagieren, dann ist das etwas, was für einen menschlichen Entscheidungsträger fast unmöglich ist.
[Katie Florez]
Das stimmt. Und das ist definitiv ein interessantes Argument in Bezug auf Skalierbarkeit und Automatisierung. Peter, ich gebe Ihnen zwei Minuten Zeit, um auf Sanjay zu antworten.
[Peter Curran]
Ja, danke. Zunächst möchte ich sagen, dass es mir als jemand, der für ein Unternehmen arbeitet, das Technologie für maschinelles Lernen verkauft, schwer fällt, mich auf die Seite der Menschen zu stellen, aber ich werde mein Bestes tun. Und ich glaube fest an die Argumente, die ich Ihnen heute vortragen werde.
Die erste ist, dass maschinelles Lernen für die meisten Einzelhändler und B2B-E-Commerce-Websites auf Unternehmensebene bestenfalls eine zweit- oder drittrangige Überlegung ist. In der Regel gibt es viel wichtigere Prioritäten, wie z.B. die richtige Strukturierung der Produktdaten, die richtige Einteilung der Kategorien und die korrekte Kennzeichnung Ihrer Website. Wie oft haben Sie sich Ihre Kennzahlen angeschaut und ein Sternchen daneben gesetzt und gesagt: „Oh ja, aber weil es nicht richtig getaggt ist, ist die Konversionsrate falsch“ oder etwas Ähnliches. Praktisch jeder im Publikum hat diese Art von Entschuldigung für Ihre Metriken schon erlebt. Dinge wie Ihre einfache Stichwortsuche, ist sie für die 200 oder 500 wichtigsten Begriffe optimiert? Diese Dinge haben mit maschinellem Lernen zu tun, aber ich denke, sie kommen vor dem maschinellen Lernen. Darauf sollten wir unsere Investitionen konzentrieren.
Das maschinelle Lernen unterliegt, wie die Technologie schon immer, dem „Garbage in, garbage out“-Problem. Mein Argument wäre also, dass wir menschlichen Investitionen Vorrang einräumen sollten, um die Voraussetzungen für hochwertiges maschinelles Lernen zu schaffen.
Das zweite Argument, das ich vorbringen würde, ist, dass die Abwärtsrisiken erheblich sind. Ich betrachte das maschinelle Lernen also als eine Art – es ist keine perfekte Entsprechung – aber als eine Art Kerntechnologie im Bereich der Computerwissenschaft unserer Zeit. Und selbst jetzt, 80 Jahre nach der Erfindung der Nukleartechnologie, haben wir sie immer noch nicht sehr gut im Griff. Sehen Sie sich nur die Katastrophe von Fukushima im Jahr 2011 an. Und es ist klar, dass wir das maschinelle Lernen nicht sehr gut kontrollieren können.
Erst in der letzten Woche wurde Facebook erneut vor den Kongress gezerrt, um zu erklären, warum das Unternehmen wusste, dass seine Algorithmen Kinder ausnutzen und dazu führen, dass sie süchtig werden und sich übermäßig mit seinen Anwendungen beschäftigen, und dennoch weiterhin Investitionen tätigte, um Kinder zu einer stärkeren Nutzung seiner Anwendungen zu bewegen. Ich denke also, dass es moralische und ethische Überlegungen gibt, über die wir noch nicht nachgedacht haben. Die ganze Automatisierung, die Reaktionszeit und die Präzision, über die Sanjay spricht, sind schön und gut, aber wir haben noch keine Kontrolle über diese Technologie.
[Katie Florez]
Großartig. Die Bedeutung der menschlichen Aufsicht über Dinge, die einfach sind, vielleicht nicht einfach, aber kleiner, wie Metriken und Markierungen, aber auch die größeren moralischen und ethischen Überlegungen sind Gründe für die Priorisierung menschlicher Investitionen. Sanjay, ich gebe Ihnen 30 Sekunden Zeit, um auf Peter zu antworten, da Sie den Anfang gemacht haben.
[Sanjay Mehta]
Sicher. Wenn ich das Argument der mangelhaften Daten einmal auseinandernehme, dann glaube ich in der Tat, dass in den meisten digitalen Plattformen bereits eine Menge an Analysepaketen und Tag-Management vorhanden ist, die die Leute bereits nutzen, um ihr Geschäft zu messen, und die jetzt für KI zur Verfügung stehen. Ich denke also, dass ein Teil des Problems darin besteht, dass viele Leute in Tools für das Stammdatenmanagement und das Produktinformationsmanagement investieren, um die Struktur ihrer Daten zu verwalten und zu kontrollieren und sie besser nutzbar zu machen.
Ich denke also, dass vieles von dem, was wir beobachten, schon immer da war. Und ein Argument, das ich Ihnen zugestehen möchte, ist, dass die schlechten Erfahrungen zum großen Teil darauf zurückzuführen sind, dass man das falsche Werkzeug für die falsche Aufgabe verwendet, nicht wahr? Ich glaube, wir alle haben gehört, dass man einen Hammer benutzt, um eine Schraube einzudrehen. Vieles davon ist, ja, wurde falsch konfiguriert, oder, das ist der Punkt, an dem ein Teil des menschlichen Einflusses zum Tragen kommt, die Auswahl der richtigen Modelle und auch die Einbeziehung dessen, was wir erklärbare KI nennen, um Ihnen mitzuteilen, was die Maschine tut und warum, ist etwas, das meiner Meinung nach jetzt mehr Leute einsetzen sollten.
[Katie Florez]
Großartig, vielen Dank. Peter, bevor wir zur nächsten Frage übergehen, möchten Sie Sanjay noch etwas antworten? Ich gebe Ihnen etwa eine Minute Zeit.
[Peter Curran]
Ja, ich meine, da parken Sanjay und ich unsere Autos in der gleichen Garage. Der Geschäftsanwender muss informiert werden, nicht der Datenwissenschaftler, nicht das Team von Ingenieuren, der Geschäftsanwender muss darüber informiert werden, was die maschinelle Lerntechnologie tut. Und so weit sind wir einfach noch nicht. Ich meine, Lucidworks verfügt über eine großartige, auf Deep Learning basierende Produktfindungstechnologie, mit der wir Produkte finden können, die beispielsweise nicht im Vokabular des Händlers enthalten sind.
Es ist wirklich schwierig zu erklären, wie das funktioniert, so dass ein Geschäftsanwender die Kontrolle darüber übernehmen kann. Ich denke also, dass wir in der Branche diese wirklich unglaubliche Technologie entwickeln können, aber wir müssen noch viel weiter gehen, damit der Geschäftsanwender, der im Gegensatz zu einer Maschine ein echtes Verständnis für das Produkt und den Kunden hat, verstehen kann, was diese Technologie wirklich tut.
[Katie Florez]
Ich höre Sie also sagen, dass es wichtig ist und eine Herausforderung darstellt, Menschen und Technologie zusammenarbeiten zu lassen, um rundum mehr Wert zu schaffen, und das klingt in der Theorie unglaublich und wirkungsvoll, aber ich gebe das an Sanjay weiter, wissen Sie, was sind einige Beispiele aus dem wirklichen Leben, wo menschliche Kuration und maschinelles Lernen zusammenarbeiten können?
[Sanjay Mehta]
Ja, ich denke, dass bestimmte Aufgaben, die sehr eintönig oder redundant sind, eine wirklich große Chance sind, automatisiert zu werden oder vom maschinellen Lernen übernommen zu werden. Und wenn wir an den E-Commerce denken, dann ist ein großer Teil davon das Durchsuchen und die Navigation, die selbst für einen Menschen sehr schwierig zu individualisieren oder für jeden einzelnen Nutzer relevanter zu machen sind, aber für die KI ist es sehr einfach, das zu übernehmen.
Dennoch kann es immer einen Anwendungsfall geben, in dem das Unternehmen eine Strategie verfolgt, um zu beeinflussen, was die Nutzer sehen. Wir alle wissen, dass wir unser Marketing vorantreiben, dass wir bestimmte Artikel und Inhalte bewerben. Ich denke, dass es daher immer einen Spielraum gibt, um das, was die Nutzer sehen oder was sie dem maschinellen Lernen ausgesetzt sind, zu übersteuern. Und ich glaube, was wir da draußen hören, ist, dass das maschinelle Lernen mehr die Regeln verwaltet und die Menschen eher die Ausnahmen. Oder die 80/20-Regel, die Sie oft hören, nicht wahr? Sie besagt, dass die Maschine den Großteil der Arbeit erledigen soll, von der Sie wissen, dass sie sich zum Beispiel wiederholt.
[Katie Florez]
Und Peter, glauben Sie, dass die Geschäftskunden bereit sind, diese Art von Arbeit zu übernehmen, indem sie menschliches Kuratieren und maschinelles Lernen zusammenbringen?
[Peter Curran]
Mehr oder weniger. Ich denke, jede Arbeit hat zunächst einmal eine gewisse Würde. Wir müssen also ein wenig vorsichtig sein, wenn wir darüber urteilen, ob diese Arbeit für eine Person angemessen ist oder ob diese Arbeit für eine Person unangemessen ist.
Ich glaube, es war letztes Jahr, als Walmart in die Schlagzeilen geriet, weil das Unternehmen einen Vertrag mit einem Robotikunternehmen gekündigt hatte, das nachts Roboter in den Läden einsetzte, um die Bestände in den Regalen zu überprüfen. Sie kündigten den Vertrag, weil sie feststellten, dass Menschen das besser können. Und es gibt Menschen da draußen, die diese Art von Jobs wollen und dringend brauchen. Ich wäre also ein wenig vorsichtig damit.
Ich würde auch sagen, dass die KI, wenn Sie ihr erlauben, die Kontrolle zu übernehmen, manchmal in eine Richtung lenkt, die Sie nicht wollen. Wenn Sie also eine Marke sind, z.B. eine Modemarke, dann wollen Sie nicht unbedingt um jeden Preis die Konversion anstreben. Es gibt bestimmte Produkte, die Sie verkaufen möchten, weil sie eine höhere Gewinnspanne haben, saisonal sind und zum vollen Preis angeboten werden. Wenn sich das maschinelle Lernen beispielsweise zu sehr auf die Konversionsrate konzentriert, werden Sie viele reduzierte Produkte verkaufen oder die Kunden zu Produkten führen, bei denen die Größen nicht stimmen, oder ähnliches.
Ich denke also, dass es einige dieser Arten von Kontrollen und Möglichkeiten gibt, aber in vielen Fällen fehlen einige der Feinheiten.
[Katie Florez]
Sanjay, ich gebe Ihnen 30 Sekunden, um darauf zu antworten, falls Sie noch etwas hinzufügen möchten.
[Sanjay Mehta]
Ja, ich denke, es geht eher darum, in einigen dieser Fälle ein KI-gestütztes Modell zu verwenden, oder? Das heißt, die KI zeigt Ihnen, was sie denkt. Das ist etwas, das wir zum Beispiel auch in unseren Merchandising-Tools zeigen, wo die KI Ihnen zeigt, was sie denkt, und dann können Sie als Geschäftsanwender entscheiden, ob Sie sich dem anschließen oder es außer Kraft setzen wollen.
Und dann gibt es noch viele Randfälle oder Longtails, bei denen Sie nicht alle Szenarien abdecken können, die Ihre Benutzer durchlaufen. Und für diese Fälle gibt es die KI, die zumindest etwas für Sie tut, wenn Sie so wollen. Ein weiterer Punkt, den wir in letzter Zeit immer wieder hören, ist der Mangel an Ressourcen. So fehlt es zum Beispiel an vielen Mitarbeitern, sei es im Fulfillment oder im operativen Geschäft. Große Unternehmen wie Amazon verbrauchen all diese Ressourcen und Talente und haben nicht einmal das Personal, um bestimmte Dinge zu tun, um ihre Ergebnisse zu verbessern. Meiner Meinung nach haben sie also mit der KI eine Ausweichmöglichkeit.
[Katie Florez]
Ich danke Ihnen. Ich möchte hier ein wenig den Gang wechseln und Sanjay, ich werde diese Frage direkt an Sie zurückgeben. Einige Leute argumentieren, dass Sie für ein echtes, einzigartiges Kundenerlebnis die Genialität und Intelligenz eines Menschen benötigen. Aber können Sie für Top-Einzelhändler, die Hunderttausende oder sogar Millionen von Kunden haben, mit Hilfe von maschinellem Lernen wirklich ein solches Maß an echter persönlicher Betreuung bieten?
[Sanjay Mehta]
Ja, das glaube ich auf jeden Fall, denn selbst wenn Sie 10.000 geschäftliche Nutzer hätten, wäre es unmöglich, diese persönlichen Erfahrungen zu schaffen, weil Sie immer mehr Nutzer als geschäftliche Nutzer haben werden. Ich meine, das ist doch ganz einfach. Aber ich denke, wenn wir auf das One-to-One zurückkommen, dann sind wir im Zeitalter des Datenschutzes und der Möglichkeit, Daten von Dritten zu erhalten, auf die Beobachtung von Verhaltensweisen angewiesen.
Und das ist etwas, was die Maschine wirklich gut kann, nämlich Verhaltensweisen und Ähnlichkeiten in den Verhaltensweisen zu beobachten, um ein Erlebnis zu schaffen, das für jeden Benutzer funktioniert. Und ich denke, es geht um das, was wir einen prädiktiven Ansatz nennen, der wirklich mehr auf dem Zuhören des Benutzers basiert, im Gegensatz zu einem präskriptiven Ansatz, der dem Benutzer sagt, was er sehen muss. Und ich denke, es ist wichtig, dass Sie vielleicht eine kleine Mischung haben, bei der Sie Ihre Marke besitzen und das Erlebnis kontrollieren wollen, aber andererseits wollen die Nutzer auch gehört werden. Sie möchten, dass die Website ihnen zuhört und auf ihre Absichten reagiert. Und das ist mein…
[Katie Florez]
Großartig. Sehr gut, vielen Dank. Und Peter, ich gebe Ihnen eine Minute, um darauf zu antworten, wenn Sie möchten.
[Peter Curran]
Es ist besser, wenn Sie die volle Kontrolle darüber haben, oder? Das Risiko eines Rückschlags ist groß. Ich liebe diesen Tweet von Jack Reynor von vor ein paar Jahren, in dem er sagt: „Liebes Amazon, ich habe einen Toilettensitz gekauft, weil ich einen brauchte. Notwendigkeit, nicht Wunsch. Ich sammle sie nicht, ich bin nicht süchtig nach Toilettensitzen, egal wie verlockend Sie mir eine E-Mail schicken, ich werde nicht denken, oh, nur zu, noch ein Toilettensitz, ich werde mir etwas gönnen. Oder?
Das ist das Risiko, dass die KI versucht, Sie auf eine Weise zu kennen, die offensichtlich falsch und dumm ist. Wenn Sie also den Weg der Hyperpersonalisierung einschlagen wollen, müssen Sie in der Lage sein, die Signale, die den Entscheidungen der KI zugrunde liegen, zu hinterfragen. Sie müssen sicherstellen, dass Geschäftsanwender die Persönlichkeit eines Kunden, der ein bestimmtes Angebot erhalten wird, übernehmen können. Sie brauchen Funktionen wie diese, die es dem Geschäftsanwender ermöglichen, den Umfang und die Auswirkungen der Technologie, die er auf seinen wertvollen Kunden loslässt, vollständig zu verstehen.
[Katie Florez]
Ich weiß, dass Sie über dieses Risiko im Zusammenhang mit maschinellem Lernen gesprochen haben, aber ich möchte es auch umdrehen und auf menschliche Vorurteile zurückführen, darauf, wie wir Erfahrungen für unsere Kunden kuratieren. Wenn ich bei REI einen Rucksack eingebe und eigentlich eine andere Tasche möchte als die, die auf der Website angezeigt wird. Wie kann ich als Einzelhändler diese vielleicht unbewussten Vorurteile ansprechen, die ich als Verkäufer habe, wenn es darum geht, wie ich dieses Erlebnis gestalte? Denn das wäre für mich die andere Kehrseite des Risikos, wenn ich mehr in die menschliche Auswahl investieren würde.
[Peter Curran]
Ich denke, Sie testen. Sie führen also automatisierte Regressionstests für die von Ihnen getroffenen Kurationsentscheidungen durch, um zu verstehen, dass es sich beim E-Commerce um einen Markt handelt, den ich so liebe. Und genau wie bei einer normalen Marktinteraktion erhalten Sie Feedback vom Kunden. Wenn Sie eine Regel aufstellen und die Konversionsrate für Rucksäcke sinkt, dann könnte das ein Hinweis darauf sein, dass jetzt einfach nicht mehr die richtige Jahreszeit ist, um Rucksäcke zu kaufen. Alle guten Rucksäcke sind ausverkauft, und es bleiben nur noch die minderwertigen Rucksäcke übrig. Andererseits könnte es auch sein, dass Sie Ihre Regel zu genau formuliert haben. Ich denke also, dass diese Feedback-Mechanismen zum Betrieb und zur sorgfältigen Überwachung einer E-Commerce-Website einfach dazugehören. Wissen Sie, es fällt mir schwer, diese Sichtweise zu vertreten, aber so würde ich sie Ihnen gegenüber darstellen.
[Katie Florez]
Ganz genau. Sanjay, ich gebe Ihnen kurz 30 Sekunden Zeit, wenn Sie noch etwas dazu sagen möchten.
[Sanjay Mehta]
Ja, ich meine, ich weiß, dass die manuellen, ersten Ansätze zu dem führen, was wir als „Experience Hijacking“ oder Stereotypisierung von Nutzern bezeichnen. Ich denke, dass die Nutzer von heute aufgrund ihrer täglichen Berührungspunkte mit der Macht der Individualisierung geschult werden. Egal ob es sich um soziale Netzwerke, Medien, Google oder Amazon handelt. Daher ist es meiner Meinung nach sehr wichtig, dass wir uns stärker an den Erwartungen der Nutzer orientieren. Und dann denke ich, dass die Idee der Makroeinflüsse eines Erlebnisses sehr wichtig ist, oder? Das heißt, die Diagnose, warum etwas passiert, ist die andere Seite der KI, die sehr interessant ist.
Die Fähigkeit, all diese Makrodaten innerhalb und außerhalb Ihres Unternehmens zu nutzen, um diese Trends zu verstehen. Wissen Sie, es gibt einige Dinge, die mit dem Lieferanten passieren, oder sogar das Crawlen sozialer Medien und die Betrachtung der Stimmung und solche Dinge sind wirklich mächtige Fähigkeiten.
[Katie Florez]
Vielen Dank, ja. Ich möchte die Zeit im Auge behalten, denn ich weiß, dass es noch eine Menge anderer Sitzungen gibt, die ich besuchen muss. Und zum Schluss möchte ich unsere Debatte mit zwei Worten zusammenfassen. Besser zusammen. Menschliches Kuratieren und maschinelles Lernen kommen zusammen, um den Käufern wirklich vernetzte und persönliche Erfahrungen zu bieten.
Vielen Dank, dass Sie bei uns sind, Peter und Sanjay, und vielen Dank an alle Activate-Teilnehmer, dass Sie hier sind. Sanjay und Peter werden im weiteren Verlauf der Konferenz an Sitzungen teilnehmen, und ich hoffe, dass Sie sie grüßen und noch offene Fragen stellen werden. Ich wünsche Ihnen einen schönen Rest des Tages.