ETH-Student entlarvt diskriminierenden Twitter-Algorithmus
Ein Student der EPFL hat Diskriminierungen in einem Twitter-Algorithmus festgestellt. Dafür erhielt er im Rahmen eines Wettbewerbs 3500 US-Dollar von der Social-Media-Plattform.

Twitter hat im Rahmen eines Wettbewerbs die stärksten Bevorzugungen und Benachteiligungen in seinem Bildbeschneidungsprogramm gesucht. Es gewann Bogdan Kulynych, Student an der Eidgenössischen Technischen Hochschule in Lausanne (EPFL). Wie "Heise" berichtet, fand er heraus, dass der Algorithmus eine Vorliebe für junge, hellhäutige Gesichter mit stereotypisch femininen Gesichtszügen hat. Ausserdem würde das Programm lateinische Schriftzeichen arabischen vorziehen.
Mit dem Wettbewerb wollte die Social-Media-Plattform laut Heise Problematiken der Technik offenlegen. Angelehnt habe Twitter die Preisausschreibung an die Bug-Bounty-Programme, die Geld für gefundene und gemeldete Sicherheitslücken in Software zahlen.
Um gezielt nach diskriminierenden Präferenzen des Algorithmus suchen zu können, stellte Twitter den Teilnehmenden den Quellcode zur Verfügung. Der Algorithmus wurde bereits aus dem Verkehr gezogen, nachdem Kritik zur KI der Bildbeschenidung laut geworden war.
Die Ergebnisse, die Bogdan Kulynych präsentierte, sind gemäss Heise eindeutig. Der Algorithmus benachteilige nicht nur ältere, dunkelhäutige und männliche Gesichtszüge, sondern auch Personen, die Kopftücher trügen, weisse Haare oder Behinderungen hätten. Twitter habe den Algorithmus bereits entfernt mit dem Hinweis, dass die Wahl des Bildausschnitts besser bei den Nutzenden aufgehoben sei, schreibt Heise.
Apropos: Twitter will nicht nur Diskriminierung vorbeugen, sondern auch gezielt gegen Fake News vorgehen. Wie dies mit Hilfe von AP und Reuters gelingen soll, lesen Sie hier.

Update: Doch kein Phishing mit Fake-Tickets für UEFA-Frauenfinal

Update: Ex-Google-Forscher verlassen OpenAIs Zürcher Büro für Meta

Vertrauen und Wert schaffen mit kundenzentrierten Softwarelösungen

Finanzwelt von morgen: KI, Sicherheit und das Rückgrat der Rechenzentren

Mehrwert statt Mehraufwand – wie Multi-Cloud Business-Innovation ermöglicht

Der Innovation auf die Finger geschaut

Wie sich der CFO vom Zahlenhüter zum Zukunftsgestalter mausert

Update: Strafverfahren eröffnet wegen Russland-Skandal beim Schweizer Geheimdienst

Wie die BKB mit ADOGRC neue Standards in der Compliance setzt
