Kommentar von Kai Ebert, Valtech Proprietäre LLMs oder lieber Open Source im Retail?

Anbieter zum Thema

Valtech GmbH

PresseBox - unn | UNITED NEWS NETWORK GmbH

Windhoff Group

Die dynamische Commerce-Welt ist auf die Integration neuer Trends und Technologien angewiesen. Insbesondere Künstaliche Intelligenz (KI) verspricht, durch Innovation und Effizienzsteigerung einen entscheidenden Beitrag zu den drängendsten Herausforderungen der Branche zu leisten: steigende Kundenerwartungen, ein dynamisches Marktumfeld sowie schwindende Grenzen zwischen physischem und digitalem Einkaufserlebnis.

Um KI im Handel sinnvoll einsetzen zu können, sind in erster Linie auf das Anwendungsszenario zugeschnittene Large Language Models (LLMs) wichtig. Auch wenn mittelfristig eine Konsolidierung des Angebots zu erwarten ist, läuft es derzeit häufig noch auf die Zuspitzung Open Source versus proprietäre LLMs hinaus. Es lohnt sich daher, einen Blick darauf zu werfen, wann welches Modell verwendet werden sollte.

Anwendungsszenarien von KI im Retail

Einerseits profitieren die Kunden von den neuen Möglichkeiten der KI. LLMs sind die Voraussetzung für leistungsfähige Chatbots und virtuelle Assistenten, die rund um die Uhr verfügbar sind. Von Produktempfehlungen über die personalisierte Ansprache bis hin zur schnellen Hilfe bei Problemen verbessern diese Systeme die Customer Experience. Je mehr kontextrelevante Kundendaten einfließen, desto relevanter und personalisierter werden die Ergebnisse, was die Markentreue und Kundenzufriedenheit steigert.

Zum anderen können KI-Tools interne Prozesse und Arbeitsabläufe im Retail optimieren. So werden beispielsweise komplett automatisierte Workflows bei Produktbeschreibungen möglich, selbst wenn viele Varianten oder Sprachen involviert sind, oder Alttexte können über eine Image-to-Text-Funktion direkt generiert werden. So bleibt Mitarbeiterinnen und Mitarbeitern mehr Zeit für komplexere Aufgaben. Auch in Marketing und Vertrieb kommen die Modelle zum Einsatz. Bei der Analyse von Vertriebsdaten, Marktberichten oder Kundenfeedbacks leisten sie einen wertvollen Beitrag zur Optimierung der Unternehmensstrategie. Nicht zuletzt unterstützen LLMs das Supply Chain Management. Durch die Analyse großer Datenmengen kann das Risiko von Über- oder Fehlbeständen reduziert werden.

Auf das Context Window kommt es an

Großen, proprietären LLMs fehlt zwar das Kontextwissen über das Anwenderunternehmen und seine Bedürfnisse. Dennoch lassen sich brauchbare Ergebnisse erzielen: Per Prompt Engineering (optimierte Formulierung von Eingaben), Vergrößerung des Context Window und Few-Shot-Learning (Optimierung mit einer kleinen Menge an Trainingsdaten).

Für eine gezielte Erweiterung der Wissensbasis eines proprietären Modells kann dessen maximal zulässiges Context Window jedoch zu klein sein. In diesem Fall wäre Fine-Tuning eine Alternative. Bei großen proprietären Modellen jedoch ist die Unterstützung dafür noch nicht Standard. GPT-4 bietet Fine-Tuning z. B. lediglich im „Experimental Access Mode“ an. Man muss also abwägen, ob Prompt Engineering eines großen proprietären Modells ausreicht oder ob man sich ein Open-Source-Modell sucht, das gezielt für die eigenen Bedürfnisse mit Unternehmensdaten trainiert werden kann.

Da große proprietäre Modelle jedoch ihr Context Window immer weiter vergrößern, wird es bald nicht mehr notwendig sein, kleinere Modelle nur aus diesem Grund auf den eigenen Daten zu trainieren oder zu finetunen. Je mehr die Integration von Echtzeitdaten in proprietäre generative KI-Modelle zum neuen Standard wird, desto mehr Möglichkeiten ergeben sich für Retailer oder Marken, mit diesen Modellen zu arbeiten.

Die „Custom Instructions“ von ChatGPT bieten zum Beispiel bereits die Möglichkeit, ChatGPT spezifische Anweisungen oder Voreinstellungen zu geben. Diese helfen dem Tool, den Output im gewünschten Stil, Ton oder Format zu liefern. Damit verbunden ist jedoch der Zugriff auf Unternehmensdaten. Entscheidend sind daher vor allem Fragen des Datenschutzes.

API-Sicherheitsrisiken: Datenschutz entscheidet

Die meisten proprietären Modelle sind nur über eine Schnittstelle (API) zugänglich. Wenn beispielsweise auf die API von OpenAI zugegriffen wird und unternehmensinterne Daten geteilt werden, stellt sich immer die Frage nach dem Datenschutz. Eine Ausnahme wäre, wenn Unternehmen ChatGPT for Enterprise einsetzen und eine eigene Cloud-Instanz bei OpenAI haben. Das ist jedoch nicht ganz kostengünstig.

So läuft es letztendlich darauf hinaus, dass datenschutzbewusste Unternehmen ChatGPT nicht über die API nutzen können, um ihre eigenen Daten einzuspeisen. Das wiederum bedeutet, dass ein Modell benötigt wird, das im eigenen Cloud Space oder on-Premises gehostet werden kann – Open-Source-Modelle.

So kann man die eigenen Daten rein intern nutzen und muss nicht befürchten, dass sie potenziell zweckentfremdet werden. Gleichzeitig haben die Unternehmen Einfluss darauf, wie das Framing aussieht, worauf das System zugreift oder welche anderen Schnittstellen genutzt werden, damit das Modell gegen lokale Datenbanken arbeiten kann.

Fazit: Open Source vs. Proprietär – der Anwendungsfall entscheidet

Zusammengefasst haben Unternehmen zwei Alternativen: Entweder können sie große Closed-Source-Modelle einsetzen, wenn keine sensiblen Daten im Spiel sind. Oder es kann sich lohnen, auf Open-Source-Modelle zu setzen, die lokal implementiert und damit datenschutzkonform an die eigenen Bedürfnisse angepasst werden können.

Mit zunehmender Marktreife von KI-Lösungen werden sich die Anwendungsbereiche erweitern, wovon auch der Retail-Sektor profitieren wird. In diesem Jahr wird der Wettbewerb zwischen angepassten Open-Source-Modellen und proprietären Modellen weiter zunehmen, da beide Seiten in hoher Schlagzahl neue Features und Releases veröffentlichen.

(ID:49972197)