Der Online-Riese Amazon setzt künstliche Intelligenz (KI) ein, die Zusammenfassungen von Bewertungen für Produkte erstellen soll. Auf diese Weise soll der Kaufprozess für Kundinnen beschleunigt werden, die unter Zeitdruck stehen und nicht unzählige Reviews von Verbraucherinnen durchforsten möchten.
Die fortschreitende Entwicklung der künstlichen Intelligenz hat zu einer Vielzahl von Anwendungen geführt, die uns Menschen in verschiedenen Bereichen des täglichen Lebens unterstützen können. So auch im E-Commerce, wo Amazon eine KI entwickelt hat, die automatisierte Produktbewertungen erstellt. Doch eine kürzlich durchgeführte Untersuchung hat ergeben, dass diese KI ihre Aufgabe nicht zuverlässig erfüllt und die Nachteile für Kunden überwiegen.
Die Funktion zur Zusammenfassung von Produktrezensionen
Im Jahr 2023 stellte Amazon eine KI vor, die dazu dient, Produktrezensionen automatisiert zusammenzufassen und somit den Kaufprozess für Kunden zu erleichtern. Das Ziel dieser Funktion ist es, die Kernaussagen zahlreicher Bewertungen zu extrahieren und in einer Kurzrezension die wichtigsten Aspekte eines Produkts hervorzuheben. Kunden sollen somit nicht mehr mühsam hunderte von Rezensionen durchlesen müssen, sondern erhalten eine kompakte Übersicht, die ihnen bei ihrer Kaufentscheidung helfen soll.
Schwächen bei der Bewertung von Produkten
Jedoch zeigt die Untersuchung von Bloomberg, dass die Amazon-KI ihre Aufgabe nicht zuverlässig erfüllt. Bei der Analyse von dutzenden Produkten stellte sich heraus, dass die KI nicht in der Lage ist, die Highlights der Bewertungen angemessen zu filtern und zu berücksichtigen. Oftmals werden negative Aspekte in den Rezensionen überbewertet und insgesamt werden positive und negative Punkte eines Produkts nicht kohärent aufgelistet. Dies führt zu einer Verfälschung der Gesamteinschätzung und kann Kunden in die Irre führen.
Ein Beispiel aus der Untersuchung betrifft Einmachgläser. Obwohl diese im Durchschnitt eine Bewertung von 4,5 Sternen erzielten, betonte die KI als negativen Aspekt Rostspuren auf den Gläsern. Allerdings wurde dieser Aspekt nur von 16 Nutzern in den insgesamt 3000 Bewertungen erwähnt. Dennoch nahm dieser Aspekt ein Drittel der KI-Zusammenfassung ein, was zu einer verzerrten Darstellung des Produkts führte.
Fehlende oder falsche Informationen in den KI-Zusammenfassungen
Neben der Überbetonung negativer Aspekte zeigt die Untersuchung auch, dass die Amazon-KI manchmal wichtige Informationen in den Rezensionen nicht angemessen würdigt. So fehlte beispielsweise bei einem Rucksack mit über 21.000 Bewertungen der Hinweis, dass für die Trägergurte minderwertiges Material verwendet wurde. Es kam sogar vor, dass die KI aus einem Fitnessgerät einen Schreibtisch machte und somit die Beschreibung des Produkts fehlerhaft war.
Diese Schwächen der Amazon-KI sind auch den Kunden aufgefallen, die angaben, dass die Funktion die Weihnachtsverkäufe negativ beeinflusst. Trotz dieser Kritik weist Amazon die Vorwürfe zurück und betont, dass die KI den Kunden dabei helfe, die richtigen Produkte zu finden und somit zu erhöhten Verkäufen führe. Zudem arbeite das Unternehmen kontinuierlich daran, das System zu verbessern.
Die Herausforderungen bei der Entwicklung von KI-Systemen
Die Probleme, auf die die Bloomberg-Untersuchung hinweist, verdeutlichen die aktuellen Herausforderungen bei der Entwicklung von KI-Systemen. Künstliche Intelligenz ist nicht in der Lage, eigenständig zu denken, sondern ergänzt lediglich das nächstwahrscheinliche Wort. Dies kann zu Fehlinterpretationen und Verzerrungen führen, wie es bei der Amazon-KI der Fall ist.
Die KI-generierten Texte sind nicht in der Lage sind, menschliches Denken und Urteilsvermögen zu ersetzen. Sie können lediglich als Hilfsmittel dienen, um Informationen zu extrahieren und zu strukturieren. Bei der Nutzung solcher KI-Funktionen sollten Kunden daher stets kritisch bleiben und die Informationen mit eigenen Recherchen und Einschätzungen ergänzen.