Shared publicly  - 
 
Warum die Kritik an der Filterbubble vor allem psychologische Ursachen hat
+Kathrin Passig erläutert in diesem wunderbaren Artikel in der Süddeutschen Zeitung den Background der Mahner und Warner vor der Filter-Bubble

http://www.sueddeutsche.de/digital/zur-kritik-an-algorithmen-warum-wurde-mir-ausgerechnet-das-empfohlen-1.1253390

Für diejenigen, denen dieser Begriff nicht vertraut ist: Es ist eine These des Autors Eli Pariser (die es allerdings früher schon gab), dass die zunehmende Personalisierung von Nachrichtenquellen im Internet dazu führt, dass die Menschen immer mehr ihnen genehme Nachrichten sehen. Nach eine Weile haben diese Menschen dann das Gefühl, dass das "die Wahrheit" ist und alle vernünftigen Menschen so denken. Sie sind von einer Blase umgeben, die widerstreitende Ansichten nicht mehr durchlässt. In Deutschland ist diese Sorge vor allem durch die ansonsten sehr kluge Miriam Meckel vertreten worden.

Ich glaube diese These nicht; zumindest nicht in ihrem Absolutheitsanspruch. Zum Einen gibt es Menschen, die diese Blase genau so wollen und sie sich auch ohne Internet immer schon geschaffen haben. Zum Anderen gibt es Menschen, die nicht in einer solchen Blase leben wollen - und denen Filter- und Empfehlungssysteme sogar neue Möglichkeiten geben, divergierende, neue, anregende Ansichten zu erfahren.

Siehe auch: http://notizen.steingrau.de/2011/05/17/die-personliche-zeitung-die-zeit-ist-reif/

Kathrin Passig stellt - ganz überzeugend für mich - die These auf, dass die Angst vor den Filtern im Wesentlichen auf zwei Überzeugungen beruht:
(1) Die Empfehlungsalgorithmen sind primitiv und empfehlen mir nur Dinge, die ich schon früher als interessant/gut/präferiert gekennzeichnet habe - wobei sie sogar grobe Fehler machen.
(2) Empfehlungsalgorithmen sind komplex. Oft verstehe ich nicht, warum mir ein Text, Buch, ein Musiktitel, ein Film oder eine Nachricht empfohlen werden. Da müssen doch finstere Mächte/kommerzielle Interessen im Spiel sein ...

Beide Überzeugungen widersprechen sich natürlich, aber was kümmert das einen empörten Mahner und Warner?

Kritikpunkt 1 hat seine Quelle in den tatsächlich eher simplen Empfehlungsalgorithmen, wie sie Amazon, Apple und die meisten kleinen Shops und auch Zeitungen anwenden. Das ist Technologie, die inzwischen über 10 Jahre alt ist, und die tatsächlich sehr gradlinig vorgeht. Tatsächlich können moderne Empfehlungsalgorithmen ganz erstaunliche Vorhersagen machen. Sie leiten aus Filmen und Büchern, die ich mag, durchaus Empfehlungen zu anderen Werken ab, die zunächst als "völlig anders" erscheinen mögen - die mir dann aber doch überraschenderweise zusagen.

Bei diesen überraschenden Empfehlungen - und damit sind wir bei Punkt 2 - gibt es aber kaum noch menschlich verständliche Erläuterungen, wie die Empfehlungen zustande kamen. Die Algorithmen sind keine simplen Wenn-Dann-Bäume mehr. Dahinter stecken lernende Systeme. Ihre Ergebnisse sind u.U. so schwer nachzuvollziehen, wie eine Aus-dem-Bauch-Entscheidung - und funktionieren doch.

Menschen fällt es schwer, solche "undurchschaubaren" Entscheidungen zu akzeptieren - wenn sie von einem Computer kommen. Bei uns selbst und bei anderen Menschen glauben wir komischerweise an die Weisheit der Intuition ;-)
Translate
9
3
Matthias Rückel's profile photoMarkus Breuer's profile photoFlorian Baumert's profile photoMichael Bormann's profile photo
36 comments
 
(nicht plussiert, weil ich darin gelobt werde, na gut, nicht nur, sondern weil Dinge drinstehen, die ich gern selbst geschrieben hätte)
Translate
 
Danke +Markus Breuer der diesen Beitrag eingestellt hat und +Kathrin Passig ++ für den aus meiner Sicht guten Artikel, ach gäbe es doch mehr davon. Algorithmenbashing da musste ich mal fett schmunzeln.
Translate
Translate
Translate
 
Sehr interessanter Artikel, allerdings! Komplexität von Algorithmen Nicht-ITlern klarzumachen ist eine ungemein schwierige Aufgabe.

Was mich schon länger umtreibt ist die Frage ob das gleiche Konzept (Filterbubbles) auf Parteimitglieder (vermutlich eher die aktiv beteiligten) zutrifft. Meiner Meinung nach schon, zumindest habe ist oft in Diskussionen mit ebenjenen oft das Gefühl.
Translate
 
jetzt wäre es angebracht, würden nicht IT'ler sich mal dazu äußern.
Translate
 
Der schöne Artikel von +Kathrin Passig schwamm schon mal durch meinem Strom und wir hatten da ein paar kurze recht technische Notizen dazu (nicht nur von mir, auch in den Kommentaren): https://plus.google.com/105661541109472601976/posts/VpYTp1QAW3X

Um das mal ganz grob technisch zu vereinfachen:

1. Die Algorithmen sind nicht wirklich kompliziert. Das Grundgerüst ist schon in der Mathematik fürs Abi abgedeckt. Das komplizierte (also technisch interessante) ist eher, das alles so hinzubekommen, dass das auf die großen Datenmengen skaliert und dabei schnell antwortet.

2. Die Algorithmen liefern überraschende Ergebnisse, weil sie auf menschliche Intuition aufbauen. Die Datenkette ist ja heute praktisch immer von der Art:
* Ich, also, was das System von mir weiß, "Angaben".
==> ähnliche User/Menschen, also mit ähnlichem Angaben.
==> Dinge, die die irgendwie ähnlichen Menschen auch gut fanden, die ich noch nicht habe/kenne.

3. In dieser Kette steckt neben viel Statistik ganz zentral "Mensch" und damit Intuition. Diese natürlich "herunterprojiziert" auf die Angaben, die Spur, die man im System hinterläßt. Die Kunst besteht eben auch in einem großen Maß darin, welche Angaben man aus dem Gesamtdatenvolumen herausfischt und welche Ähnlichkeiten man verwendet.
Translate
 
Ahem, was du da so locker beschreibst ist ein n-Dimensionaler Qube. Den in der Form zu designen ist nicht gerade ein Klacks.
Translate
 
Ui, ui, ui, jetzt wirds technisch. Sorry an alle anderen. +Michael Bormann ich bin nicht sicher, was du genau mit Qube meinst. Es mag sein, dass es ein geläufiger Terminus ist, aber mit leider nicht. Ich denke, es ist einfacher als zum Beispiel ein OLAP cube, da die Abfrage, der Durchgriffspfad immer genau derselbe ist, von Objekten auf verwandte Objekte. Ich denke, eine einfache Version kann man einem 12. Klässler mit mathematischer Neigung erklären. Ich leugne nicht, dass die praktischen Probleme Hirnschmalz benötigen.
Translate
 
+Frank Nestel oups - OLAP - aber sicher doch, wer hats erfunden, weiss ich nicht mehr. Aber in der Marktforschung hatte sich jeder damit abgemüht die SQL-Statements korrekt einzuhacken, -damals:::::: zwecklos ;-)
Weil sich einige die Zunge brachen, entstand die erinnerliche Kurzform -Qube - sorry für die Verwirrung.
Ob wir das technische Geplänkel doch lieber lassen?
Translate
 
+Florian Baumert Die Neigung, besonders gerne Informationen und Meinungen zu lesen, wenn sie mit der eigenen Meinung übereinstimmen, ist ein Phänomen, dass in etwa so alt wie die menschliche Gesellschaft ist. Es ist deshalb ganz sicherlich auch in Parteien zu finden.
Translate
 
Danke für die Erläuterungen, +Frank Nestel Was du beschreibst ist Collaborative Filterung, wie es Amazon popularisiert hat. Das ist allerdings nicht das einzige Verfahren, dass heute für Empfehlungen dieser Art zum Einsatz kommt. Und ab diese Algorithmen menschliche Intuition nachbilden, würde ich jetzt mal nicht unterschreiben wollen. Meines Wissens gibt es zwar eine Reihe von Thesen, was Intuition ist, bzw. was dabei im Gehirn abläuft, aber keinen Konsens.

Ich glaube allerdings nicht, dass das viel mit meinem Post bzw. dem Text von Kathrin Passig zu tun hat :)
Translate
 
Das Intuitionsargument kommt eigentlich immer, wenn ich mit Leuten über Empfehlungsalgorithmen rede. Ich halte es bis zum Beweis* des Gegenteils für eine Legende, dass Empfehlungen von Menschen a) überhaupt treffsicherer sein sollen als von Maschinen und b) aufgrund von Intuition.

* Naja, Beweis. Mir würde für den Anfang schon so was genügen wie: Jemand führt Buch über die Bücher, die er gelesen hat (angefangene und dann abgebrochene mitgezählt), den Weg, auf dem er zu diesem Buch fand und sein abschließendes Urteil. Das macht man so lange, bis ein statistisch brauchbares Sample herauskommt. Dann sieht man nach, wessen Empfehlungen erfolgreicher waren. Das ist nur ein ganz grober Ansatz, der noch jede Menge Probleme hat, zum Beispiel könnte ich menschlichen Empfehlern - oder bestimmten Menschen - mehr vertrauen und deshalb alles, was sie mir empfehlen, erst mal anlesen, während ich bei anderen Empfehlungsquellen skeptischer bin. Aber es wäre wenigstens schon mal irgendein Anfang. Bis sich jemand diese Mühe macht, gehe ich davon aus, dass menschliche Empfehlungen vor allem deshalb geschätzt werden, weil man den Empfehlungsvorgang mag oder sich wünscht, dieselben Bücher zu mögen wie der empfehlende Freund.
Translate
 
> gehe ich davon aus, dass menschliche
> Empfehlungen vor allem deshalb
> geschätzt werden, weil man den
> Empfehlungsvorgang mag oder sich
> wünscht, dieselben Bücher zu mögen
> wie der empfehlende Freund
nods
Translate
 
Zumindest bei mir kommt sicher dazu daß ich Empfehlungen vor allem dann folge wenn ich (aus Erfahrung) weiß, daß derjenige einen ähnlichen "Geschmack" hat, also ähnliche Dinge bevorzugt wie ich.

Ansonsten gilt für Bücher oft: in die Hand nehmen, Klappentext lesen und entweder es spricht mich an, oder nicht.

Amazon Empfehlungen sind aus meiner Sicht selten gut.
Translate
Translate
 
Das Data Mining von Amazon als simple zu bezeichnen kann nur von jemandem stammen der nicht viel ueber Data Mining weiss. Amazon ist schon immer einer der Leader in DM gewesen und das sage ich als jemand der seit bald 20 Jahren mit Data Mining arbeitet. Dort benutzt man keine "Wenn Dann Baeume" (soll wohl auf Decision Trees hinweisen) sondern wesentlich komplexere Algorithmen in Kombination. Fuer Data Miner ist Amazon sowohl von den Daten als auch von der Qualitaet der Arbeit ein Paradies!
Translate
 
Trotzdem sind die Ergebnisse halt leider wenig überzeugend; neulich habe ich bei einem Vortrag einen Screenshot gezeigt, auf dem meine ersten 20 Empfehlungen komplett aus Elmore-Leonard-Büchern bestanden, nachdem ich eines von ihm gekauft hatte. (Es waren mehr, aber auf den Screenshot passten nur 20). Das ist erstens schwach, weil ich mir eventuell selbst denken kann, dass mir andere Bücher vom selben Autor gefallen werden, und zweitens, weil ich, selbst wenn ich diesen Vorschlag total überraschend und hilfreich fände, ihn nicht für jedes Buch dieses sehr produktiven Autors noch mal bräuchte.
Translate
 
Danke für die freundliche Bewertung ;-) +Andreas West
Ich habe hier aber nicht über das "Data Mining" von Amazon geschrieben und auch Amazon nicht unterstellt, mit Entscheidungsbäumen zu arbeiten. Das sind zwei getrennte Abschnitte gewesen. Ich habe mich allerdings auf den - algorithmisch tatsächlich sehr simplen - Ansatz des collaborative Filterung, den Amazon tatsächlich bis heute für die Produktempfehlungen nutzt, bezogen. Die Urform dieses Verfahrens ist Slope One und wird sogar in der Wikipedia recht gut beschrieben. Siehe http://en.wikipedia.org/wiki/Slope_One

Dieses Verfahren wurde im Laufe der Zeit zwar immer wieder verfeinert, ist tatsächlich aber die Mutter nahezu aller Empfehlungssyteme die auf "Ähnlichkeit" (von Produkten als auch Menschen) basieren. Das funktioniert auch sehr gut - Kritiker amüsieren sich gerne über gelegentliche Ausreißer und leiten daraus eine Kritik des Verfahrens ab. Das ist aber albern.

Dieser Ansatz liefert aber selten überraschende Empfehlungen, der er eben sehr stark von "Ähnlichkeiten" getrieben ist. Und Ähnlichkeiten liefern selten Überraschendes.Deshalb liefert Amazon selten überraschende Empfehlungen - die absurden, über die wir uns so gerne amüsieren, sind nahezu immer Ergebnis einer Überbewertung von einzelnen Verhaltenssignalen.
Translate
 
Dieses - Amazon-typische - Verhalten - ist aber nicht einmal dem schlichten, wenn auch nicht schlechten, algorithmischen Ansatz geschuldet, sondern der Implementierung, +Kathrin Passig Dass es blöd aussieht, 20 Bücher des selben Autor zu empfehlen, wenn man eines davon gekauft hat, könnte man jedem Empfehlungsalgorithmus als heuristische Zusatzregel mitgeben. ... könnte ...
Translate
 
Wo genau ist jetzt der Unterschied zwischen einem Empfehlungsalgorithmus und seiner Implementierung?
Translate
 
+Kathrin Passig Sind Empfehlungen von Menschen treffsicherer als von Maschinen? Ob sich das in %-Werten von durchgelesenen Büchern wiederfindet, bin ich mir nicht sicher. Ich gehe aber davon aus, dass die Empfehlungen von Menschen eine andere Qualität besitzen. Die gemeinsame Auseinandersetzung und Diskussionen über Inhalte, über Zustimmung oder Ablehnung von Inhalten, gemeinsames und trennendes in den Meinungen über ein Buch sind Faktoren die es bei Algorithmen in dieser Form im Moment nicht gibt. Deshalb hat eine Empfehlung durch einen (bekannten) Menschen weitaus andere qualitative Merkmale als eine wie auch immer geartete Trefferquote, die ja auch erst einmal genau definiert werden müsste.

Ist der Kauf eines Buches nach der Empfehlung der Treffer, oder das Lesen oder die Zustimmung zum Inhalt, oder eine wie auch immer erfolgte Auseinandersetzung mit Inhalten?
Translate
 
Was mir gerade noch einfällt: Gibt es Studien, ob zum Beispiel bei Amazon eher die inhaltlichen (qualitativen) Kundenkommentare zu Kauf führen oder das bloße Auftauchen einer Empfehlung in einer Liste?
Translate
 
+Matthias Rückel Die subjektive Zufriedenheit ist der Treffer - und wie die zustandekommt, ist individuell unterschiedlich. Und ja, natürlich ist gemeinsame Auseinandersetzung eine schöne Sache, aber sie ist eben nicht dasselbe wie eine gute, passende Buchempfehlung. Auch wenn sie immer mit ihr in einen Topf geworfen wird. Diese Gleichsetzung von "gute Empfehlung" und "Gespräch über das Buch" ist so, als würde man "dieses Essen schmeckt mir" gleichsetzen mit "die Gespräche währenddessen waren angenehm".
Translate
 
/me lacht
Da kann man sicher lange drüber diskutieren. Im Prinzip enthält ja jedes Stück Software die Inkarnation eines Algorithmus. Da hast Du Recht, +Kathrin Passig

Ich habe aber nicht von Algorithmus sondern von einem "algorithmischen Ansatz" geschrieben. Dieser Ansatz kann sehr allgemein/grundlegend beschrieben werden - siehe den verlinkten Wikipedia-Artikel. Die Implementierung - in einer bestimmten Programmiersprache, im Kontext einer bestimmten Systemumgebung aus unter Umständen vielen anderen Hard- und Softwarekomponenten - setzt ihn in die Realität um/macht ihn konkret. Dabei kommen diverse - durchaus nicht irrelevante - Detailverfeinerungen hinzu.

Beispiel Tabellenkalkulation: Ich kann den algorithmischen Kern der Anwendung "Tabellenkalkulation" vermutlich auf maximal zwei Seiten beschreiben. Eine nützliche Implementierung hat aber selbst in der simpelsten Form (Visicalc) sicherlich schon einige zehntausend Zeilen Programmcode verlangt.
Translate
 
+Markus Breuer Ich hoffe, es ist ok, wenn ich in den geschätzt erforderlichen 750 weiteren Erklärbär-Artikeln trotzdem nicht von "Implementationen von algorithmischen Empfehlungsansätzen" spreche.
Translate
 
Ich würde mich sehr darüber freuen, wenn dies unterbleiben würde ;-)

Allerdings kann die tatsächliche Tauglichkeit eines Algorithmus für einen gegebenen Zweck in der realen Welt sehr stark von seiner Implementierung abhängen :)
Translate
 
+Kathrin Passig Da habe ich mich scheinbar nicht klar ausgedrückt. Durch die gemeinsame qualitative Auseinandersetzung über Bücher mit einer Person gibt es meiner Meinung nach eine andere Qualität wenn ich von dieser dann ein anderes Buch empfohlen bekomme. Sie ist Teil des "Datensammelns" welches zu einer Buchempfehlung führt.
Translate
 
Ein Algorithmus beschreibt erstmal einen theoretischen Ablauf. Die Implementierung entscheidet über viele Details, die oftmals in der Algorithmus-Beschreibung offen gelassen werden.

Umgangssprachlich meint man mit "Algorithmus" aber ja meist eine konkrete Implementierung.
Translate
 
+Matthias Rückel Ich fürchte, es ist mir immer noch nicht klarer. Heißt es "ich vertraue nur Empfehlungen von Personen, bei denen ich vorher durch Gespräche festgestellt habe, dass wir wenigstens einige Ansichten über Bücher teilen"? Wenn ja, dann wäre es zum einen trivial und zum anderen auch noch nichts anderes als das, was kollaborative Filterung macht - die reicht mir ja auch nicht die Empfehlungen aller, sondern die Empfehlungen von Nutzern, die in ihrem Kauf- oder (im günstigeren Fall) Bewertungsverhalten etwas mit mir gemeinsam haben. Aber das war vermutlich gar nicht gemeint, oder?
Translate
 
+Kathrin Passig
Es soll heißen "die Buchempfehlungen von Personen, mit denen ich schon inhaltliche Auseinandersetzungen geführt habe, sind qualitativ besser".

Ein Beispiel:

Eine Empfehlung eines Buches durch einen Freund mit der Maßgabe "Lese Buch B, weil es in dem und dem inhaltlichen Kontext zu dem bereits gelesenen Buch A. steht", besitzt eine andere Qualität als die Buchempfehlungen bei Amazon.

Diese haben "nur" Handlungen der Nutzer zur Basis "sah auch diese Buch", "kaufte auch diese Buch". Eine Verbindung zum Inhalt des Buches gibt es deshalb nur sehr indirekt.

Ich bin kein EDVler, aber kollaborative Filterungen beziehen doch auch nur auf das Nutzerverhalten, oder?

Die fehlende Ebene bei "Algorithmen", die ich versuche darzustellen, ersetzt Amazon zum Beispiel durch die schriftlichen Kommentare (rudimentär).

Ob die Amazon "Empfehlung" meine inhaltlichen Erwartungen trifft, kann ich nur über die inhaltlichen Kommentare feststellen.
Translate
 
Amazon bezieht auch Bewertungen ein, das ist zwar auch noch keine Verbindung zum Inhalt des Buchs, aber schon mal besser als "kaufte dieses Buch". Ich will den Amazon-Algorithmus auch gar nicht verteidigen, weil er (oder halt seine Implementation) wirklich nicht besonders ist. Man sollte sich halt nur nicht auf Amazonbasis eine Meinung über Empfehlungsalgorithmen bilden.
Translate
 
Liebe +Kathrin Passig, lieber +Mathias Richel
Ich - als einfacher westfälischer Bauernjunge - sach' mal so:

Wenn ein Mensch mich, meine Interessen (speziell bei Sachliteratur), meine thematischen Vorlieben (speziell bei Belletristik), meine Art zu Dingen, meinen präferrierten Stil der Charakterierung und des Erzählens kennt, und eine größere Menge, der Bücher, von denen er weiß, dass ich sie schätze, kennt - und ein schlauer Mensch ist - kann er mir vermutlich sehr gute Empfehlungen geben, deren Qualität weit über die von algorithmischen Empfehlungen hinausgeht.

Die obige Latte liegt aber ziemlich hoch ... :)

Nun etwas anekdotische Evidenz ohne empirische Bedeutung:

Bei den meisten Empfehlungen von Menschen, auf die mehrere der obigen Vorraussetzungen nicht zutreffen - das ist die Mehrzahl der Empfehlungen, die ich erhalte - ist die Erfolgsquote schlechter als die von Amazon. Letztere ist verbesserungsfähig aber tatsächlich kaufe ich zwischen 20% und 30% meiner Bücher auf Basis dieser (algorithmischen) Empfehlungen. Not too bad ...
Translate
 
Allerdings sind unsere Freunde nicht unsere Geschmacksnachbarn (eigene Erfahrung, Aussagen der Netflix-Programmierer). Ob man sich mit den Geschmacksnachbarn anfreunden könnte, habe ich noch nicht ausprobiert, bin aber skeptisch, dass geteilter Buch- oder Musik- oder Filmgeschmack eine sonstige Sympathie wahrscheinlicher macht.
Translate
 
+Markus Breuer Stimme als einfacher hessischer Stadtmensch der netten und rhetorisch geschickten Überspitzung zu.;-)

Ich folge quantitativ ja auch mehr Amazonempfehlungen als denen von Freuden und bin sogar nach dem Lesen in der Regel zufrieden. Und das trotz seiner Simplizität.:-)

Die unterschiedlichen Wahrnehmungen von Qualität und Quantität werden wir auf diesem Weg wahrscheinlich nicht lösen können. :-)
Translate
 
Ich bin immer wieder erstaunt über die Qualität der Diskussionen hier. Vielen Dank, war alles sehr interessant zu lesen.

Zum Thema Amazon (und mal weg von den Büchern) fällt mir noch eine Sache ein. Amazon hat stellenweise eine sehr schlechte Datenqualität.

Ich z.b. suche einen Fernseher. Und dort sind bei Amazon die Daten nicht so hinterlegt das ein Vergleich machbar wäre. Also kann Amazon maximal sagen "Leute die diesen Fernseher sich angesehen haben, haben auch folgende angesehen".

Nicht aber das meiner Meinung nach deutlich informativere "dieses andere Modell wäre auch interessant für Sie, hat aber kein 3D, nur 2 Tuner und kein W-Lan". Diese auf Fakten beruhenden Vorschläge bekommt Amazon so nicht hin, wären aber einer Artikelfindung extrem hilfreich.
Translate
Add a comment...