Algorithmen als Manipulation Tool?

In einem Interview mit dem Magazin «Technology Review», einer Publikation des «Massachusetts Institute of Technology», an dem sie selbst forschte, sprach sie über ihr aktuelles Buch «The Shame Machine: Who Profits in the New Age of Humiliation». Hierin hat sie die Macht der Algorithmen untersucht. «Die Macht schlechter Algorithmen ist ein Vertrauensbruch», sagt O’Neil. Scham sei ein effizientes Mittel, systemimmanente Ungerechtigkeit gegen Betroffene zu verwenden. Im Kapitel über «vernetzte Scham» untersucht sie, wie Facebook, Google und andere Plattformen die Algorithmen permanent optimieren. Sie fordert, dass sowohl Design der Plattformen als auch Algorithmen auf ihre Toxizität überprüft werden. O’Neil selbst ist hier bereits tätig geworden und hat das Consulting-Unternehmen «ORCA» gegründet. Hier stellt man sich die Frage, bei wem das algorithmische System versagt. O’Neil nennt hierzu Beispiele: Ältere Menschen beim Einstellungslogarithmus, fettleibige bei Lebensversicherungspolicen oder Schwarze bei Studienkrediten. Ihr Fazit: Wir müssen die Bereiche definieren, die uns Sorgen bereiten und die Interessengruppen, die geschädigt werden könnten. Kann es also auch einen «guten» Algorithmus geben? Cathy O’Neil: «Fairness und Schwellenwerte müssen eindeutig definiert werden.»