Wie arbeiten die eBay-Suchingenieure?

Ein interessanter Beitrag ist auf auf dem eBay Tech Blog zu finden. Dieser beschäftigt sich damit, wie die Suchingenieure von eBay den Best Match-Algorithmus testen, um die Relevanz der Suchresultate für ein bestimmtes Thema zu bewerten.

Antwort: eBay bezahlt Leute dafür, dass sie sich hinsetzen, um die Suchmaschine zu testen und in einer 4-Punkte-Skala ihre Ergebnisse darlegen. Mehr als zwei Millionen Suchen wurden bis dato auf diese Weise in diesem Jahr ausgewertet. Die Tests helfen eBay zu verstehen, ob ein Suchalgorithmus besser ist als ein anderer. Zweitens helfen die Tests [eBay] zu verstehen, wo ein Suchalgorithmus nicht arbeitet und verbessert werden muss. Beispielsweise kann der eine perfekt für die Sammler-Kategorie perfekt sein, aber schlecht in der Mode-Kategorie. Und drittens hilft es zu verstehen, was eBay-Nutzer wirklich wollen. Die Daten werden von Menschen als Relevanz-Urteil gesammelt, das heißt: Sammeln menschlicher Beurteilungen über die Zweckdienlichkeit der Such-Anfragen und Resultate.

Die grundlegende Aufgabe läuft wie folgt ab: Die eBay-Ingenieure präsentieren einem „Richter“, in dem Fall dem Tester, einen eBay-Artikel und eine Suchmaschinen-Anfrage. Dann bitten sie den Tester abzuschätzen, wie zutreffend der Artikel zu der Suchanfrage passt, was auf der 4-Punkte vermerkt wird.

Beispiel: Angenommen die Anfrage ist „iPod nano 16GB“ und bei dem Artikel handelt es sich um einen neuen Apple iPod nano 16 GB der 6. Generation. Der Richter sagt „Super-Resultat“, bewertet also ganz oben auf der Skala. Wenn es sich bei dem Artikel um ein Auto mit einem iPod-Adapter handelt, mag der Tester sagen „bedeutungslos“, Bewertung demnach ganz unten auf der 4-Punkte-Skala. Handelt es sich um einen Samsung mp3 Player, könnte das Resultat des Testers etwa in der Mitte der Skala liegen und bei einem gebrauchten Apple iPod nano 2. Generation, notiert der Tester „okay“, das heißt nicht perfekt, aber immerhin handelt es sich um einen Apple iPod.

Trotz aller Kritik an der Suchabfolge nach beliebtesten Artikeln, sind sachbezogene Suchresultate ein wirklich lohnenswertes Ziel und, Doug Feiring von AuctionInsights schreibt in seinem Blog dass er erfreut ist darüber, dass eBay eine aktive Annäherung an dieses Ziel in Angriff nimmt und die Arbeit von Außenstehenden beurteilen lässt. Händler sollten diese Bemühung begrüßen.

Feiring stellt sich als letztes aber noch folgende Frage: „Now how do I get one of those jobs evaluating relevance?”


Beitrag teilen: