Die US-amerikanische Mathematikerin Dr. Cathy O’Neil will den Beleg erbringen, dass Algorithmen wollen, dass Menschen sich für sich schämen.
Die US-amerikanische Mathematikerin Dr. Cathy O’Neil will den Beleg erbringen, dass Algorithmen wollen, dass Menschen sich für sich schämen.
In einem Interview mit dem Magazin «Technology Review», einer Publikation des «Massachusetts Institute of Technology», an dem sie selbst forschte, sprach sie über ihr aktuelles Buch «The Shame Machine: Who Profits in the New Age of Humiliation». Hierin hat sie die Macht der Algorithmen untersucht. «Die Macht schlechter Algorithmen ist ein Vertrauensbruch», sagt O’Neil. Scham sei ein effizientes Mittel, systemimmanente Ungerechtigkeit gegen Betroffene zu verwenden. Im Kapitel über «vernetzte Scham» untersucht sie, wie Facebook, Google und andere Plattformen die Algorithmen permanent optimieren. Sie fordert, dass sowohl Design der Plattformen als auch Algorithmen auf ihre Toxizität überprüft werden. O’Neil selbst ist hier bereits tätig geworden und hat das Consulting-Unternehmen «ORCA» gegründet. Hier stellt man sich die Frage, bei wem das algorithmische System versagt. O’Neil nennt hierzu Beispiele: Ältere Menschen beim Einstellungslogarithmus, fettleibige bei Lebensversicherungspolicen oder Schwarze bei Studienkrediten. Ihr Fazit: Wir müssen die Bereiche definieren, die uns Sorgen bereiten und die Interessengruppen, die geschädigt werden könnten. Kann es also auch einen «guten» Algorithmus geben? Cathy O’Neil: «Fairness und Schwellenwerte müssen eindeutig definiert werden.»
News
Cyberkriminelle nutzen nun auch gefälschte Captcha-Verifizierungstests, um Geräte mit Malware zu infizieren. Analysten von HP Wolf Security haben den aktuellen Threat Insights Report vorgelegt.
Albert Rösti, Schweizer Bundesrat und Vorsteher des Eidgenössischen Departements für Umwelt, Verkehr, Energie und Kommunikation (UVEK), hat am 27. März 2025 in Strassburg die KI-Konvention
Am 26. März 2025, ein Jahr nach dem Rollout in den USA, hat Google sein Feature «Übersicht mit KI» auch in der Schweiz, Österreich und
Was steckt hinter No Code*, Low Code** und generativer KI und wie können Unternehmen davon profitieren? Die ersten beiden Begriffe sagen Ihnen nur wenig oder
Melde dich für unseren Newsletter an und erhalte exklusive Tipps, Insider-Wissen und praxisnahe Insights von MOLINOTEQ – direkt in dein Postfach!