ImageNet Roulette zeigt, wie menschlich KI-Stereotypen sind

ImageNet Roulette zeigt, wie menschlich KI-Stereotypen sind

Obwohl ich auf viele KI- und KI-bezogene Anwendungen gestoßen bin, die sich positiv auf die reale Welt auswirken, befĂŒrchte ich, dass ImageNet Roulette sicherlich keine davon ist. Vielmehr enthĂŒllt es die dunkle Seite der KI. Das Modell ist derzeit auf der Ausstellung Training Humans von Trevor Paglen und Kate Crawford im Fondazione Prada Museum in Mailand zu sehen.

„ImageNet Roulette ist eine Herausforderung, mit der wir sehen können, wie Menschen in maschinellen Lernsystemen klassifiziert werden. Es verwendet ein neuronales Netzwerk, das in “Personen” -Kategorien aus dem ImageNet-Datensatz trainiert wurde und ĂŒber 2.500 Beschriftungen enthĂ€lt, mit denen die Fotos von Personen klassifiziert werden. “”beschreibt die Schöpfer.

Das System verwendet die Open-Source-Deep-Learning-Plattform von Caffe, die auf Bildern und Etiketten der Kategorie “Person” trainiert wird. ImageNet Roulette erkennt zuerst Gesichter an den Bildeingaben. Wenn gefunden, wird das Bild zur Klassifizierung an das Caffe-Modell gesendet. Wenn nicht, wird das Originalbild mit dem Etikett in der oberen linken Ecke zurĂŒckgegeben.

Die Kategorien stammen aus WordNet und enthalten viele anstĂ¶ĂŸige Kategorien, die manchmal rassistisch oder sogar frauenfeindlich sein können. „Wir möchten Aufschluss darĂŒber geben, was passiert, wenn technische Systeme auf problematische Trainingsdaten trainiert werden. Die KI-Klassifikationen von Personen sind fĂŒr klassifizierte Personen selten sichtbar. Mit ImageNet Roulette können Sie einen Blick auf den Prozess werfen – und Ihnen zeigen, wie etwas schief gehen kann. “, sagen Schöpfer.

Wie Sie unten sehen können, beschreibt das neuronale Netzwerk Leonardo DiCaprios BeispielgemĂ€lde als “Heuchler”, “Disassembler”, “Dissimulator” und einige beleidigendere Wörter. Das Schlimmste ist jedoch, dass er die Beschreibung gab: “eine Person, die Überzeugungen und Meinungen hat, die nicht da sind, um ihre wahren GefĂŒhle oder Motive zu verbergen. “

ImageNet Roulette zeigt, wie KI-Stereotypen Menschen sind 1

TatsĂ€chlich ist ImageNet Roulette das perfekte Beispiel dafĂŒr, was ein KI-Modell nicht sein sollte und wie schlimmer es wĂ€re, wenn der falsche Datensatz zum Trainieren von KI-basierten Modellen verwendet wĂŒrde. Was halten Sie von ImageNet Roulette? Lass es uns in den Kommentaren wissen.