Die virtuelle App von ImageNet, die Selfies hei├čt, hei├čt “rassistisch und …

Die virtuelle App von ImageNet, die Selfies hei├čt, hei├čt

Die SELFIE-App l├Âste einen Online-Aufschrei aus, nachdem sie bei rassistischen Beleidigungen gegen ihre Benutzer erwischt wurde.

Die virale Site von ImageNet Roulette schien zun├Ąchst unschuldig genug zu sein. Mithilfe k├╝nstlicher Intelligenz wurden Gesichter in Fotos ausgew├Ąhlt und anhand ihres Erscheinungsbilds beschriftet.

    Eine virale Selfie-App wurde wegen rassistischer Gewalt gegen ihre Nutzer ausgesondert.  Personen, die ├╝ber die Anwendung Fotos zur Analyse eingereicht haben, haben solche Etiketten erhalten

3)

Eine virale Selfie-App wurde wegen rassistischer Gewalt gegen ihre Nutzer ausgesondert. Personen, die Fotos zur Analyse ├╝ber die App eingereicht haben, wurden mit “gook” und schr├Ągem Auge markiert (links)Bildnachweis: Twitter

Aber ver├Ąrgerte Benutzer sagen, dass das Tool sie mit beleidigenden und rassistischen Begriffen wie “Slant Eye”, “Negro” und “Play” ├╝ber die App getroffen hat.

Es mag wie ein katastrophaler Fehler erscheinen, aber ImageNet Roulette ist so konzipiert, dass es beleidigend ist.

Die Macher von Kate Crawford, Forscherin f├╝r k├╝nstliche Intelligenz und K├╝nstlerin Trevor Paglen, sagen, die App sei absichtlich provokativ, um die inh├Ąrenten Vorurteile der KI hervorzuheben.

ImageNet Roulette wurde mit Millionen von Bildern trainiert und verwendet ein neuronales Netzwerk, um die Fotos von Personen zu klassifizieren.

    Benutzer Eric hat die App in die Luft gesprengt, nachdem sie als markiert wurde

3)

Benutzer Eric hat die App in die Luft gesprengt, nachdem er als “Erstt├Ąter” eingestuft wurde.Bildnachweis: Twitter

Aufgeregte Benutzer haben die Ergebnisse in sozialen Netzwerken ver├Âffentlicht, und die gl├╝ckliche Frau erhielt Komplimente wie “atemberaubend”, “Anf├╝hrer” oder “Sch├Ânheit”.

Andere hatten nicht so viel Gl├╝ck, weil die App sie “Augenzwinkern”, “Nerd” oder “Dweeb” nannte.

Aber als Tausende von Eintr├Ągen ├╝ber die App gefiltert wurden, berichtete eine kleine Anzahl ver├Ąrgerter Benutzer, dass der Treffer sie mit rassistischer und beleidigender Sprache traf.

Die Journalistin Julia Carrie Wong enth├╝llte in The Guardian, dass die App sie “gook” nannte.

Sie schrieb: “Ich wei├č nicht genau, was ich von der Maschine erwartet hatte, aber ich hatte nicht erwartet, was ich bekommen w├╝rde: eine neue Version meines offiziellen Guardian-Fotos mit neongr├╝nem Aufdruck: das schr├Ąge Auge.”

“Unter dem Bild wurde mein Etikett hilfreich definiert als” ein respektloser Begriff f├╝r eine asiatische Person (insbesondere f├╝r nordvietnamesische Soldaten w├Ąhrend des Vietnamkrieges) “.

Andere schockierte Benutzer gingen zu Twitter, um ihre Emp├Ârung auszudr├╝cken.

    Sydnee Wagner hat einen Tag

3)

User Sydnee Wagner wurde als “Mulatte” bezeichnet, ein historischer rassistischer Begriff f├╝r gemischte PersonenBildnachweis: Twitter

Benutzer Eric hat die App in die Luft gesprengt, nachdem er als “Erstt├Ąter” eingestuft wurde.

Er sagte: ÔÇ×Das ganze Internet liebt Imagenet AI, einen Bildklassifikator, der bizarre Vorhersagen macht! * 5 Sekunden sp├Ąter * Wir bedauern, Ihnen mitteilen zu m├╝ssen, dass KI rassistisch ist. “

User Sydnee Wagner wurde als “Mulatte” bezeichnet, ein historischer rassistischer Begriff f├╝r gemischte Personen.

Sie twitterte: ÔÇ×Hey Peeps, die Imagenet-Datenbank ist F ****** RACIST.

“Ich bin nicht schwarz, aber ich bin gemischt und verdammt, kannst du nicht einfach das Wort ‘Mulatte’ im Jahr 2019 verwenden!? Ich bin verdammt w├╝tend. “

Die Entwickler Kate und Trevor haben sich nicht f├╝r die vulg├Ąre Sprache entschuldigt, die von der Anwendung verwendet wird.

Sie sagen, dass das Projekt unbewusste und oft rassistische Vorurteile hervorhebt, die in KI-Systemen entwickelt wurden und h├Ąufig auf mangelnde Vielfalt in ihrem Design zur├╝ckzuf├╝hren sind.

Was ist k├╝nstliche Intelligenz?

Folgendes m├╝ssen Sie wissen …

  • K├╝nstliche Intelligenz, auch als KI bekannt, ist eine Art Computersoftware
  • Normalerweise macht der Computer das, was Sie ihm sagen
  • K├╝nstliche Intelligenz simuliert jedoch den menschlichen Geist und kann seine eigenen Schlussfolgerungen, Schlussfolgerungen oder Entscheidungen treffen
  • Mit einem einfachen Computer k├Ânnen Sie einen Alarm einstellen, um Sie zu wecken
  • Das KI-System kann jedoch Ihre E-Mails scannen, herausfinden, dass Sie morgen einen Termin haben, dann einen Alarm ausl├Âsen und eine Reise f├╝r Sie planen
  • KI-Technologie wird oft “trainiert” – das hei├čt, sie beobachtet etwas (m├Âglicherweise sogar einen Menschen) und lernt dann im Laufe der Zeit etwas ├╝ber die Aufgabe
  • Beispielsweise kann ein KI-System Tausende von Fotos von menschlichen Gesichtern f├╝ttern und dann selbst Fotos von menschlichen Gesichtern erzeugen
  • Einige Experten haben Bedenken ge├Ąu├čert, dass Menschen irgendwann die Kontrolle ├╝ber superintelligente KI verlieren werden
  • Aber die Tech-Welt ist immer noch gespalten dar├╝ber, ob AI-Tech uns alle in einer Terminator-├Ąhnlichen Apokalypse t├Âten wird

Zahlreiche Studien haben gezeigt, dass KI “schockierend rassistisch und sexistisch” ist, da die Datens├Ątze, die zum Trainieren ihrer Algorithmen verwendet werden, nicht gen├╝gend Frauen und Minderheiten enthalten.

“ImageNet hat viele problematische, anst├Â├čige und bizarre Kategorien – alle von WordNet”, schreiben sie auf der Website der Anwendung.

ÔÇ×Einige verwenden frauenfeindliche oder rassistische Begriffe. Daher werden die Ergebnisse, die ImageNet Roulette zur├╝ckgibt, auch von diesen Kategorien abgeleitet.

ÔÇ×Dies ist eine Annahme: Wir m├Âchten Aufschluss dar├╝ber geben, was passiert, wenn technische Systeme auf problematische Trainingsdaten trainiert werden.

“KI-Klassifikationen von Personen sind f├╝r klassifizierte Personen selten sichtbar. Mit ImageNet Roulette k├Ânnen Sie einen Blick auf den Prozess werfen – und Ihnen zeigen, wie etwas schief gehen kann.

“Die Technologie wurde entwickelt, um zu zeigen, wie wichtig es ist, beim Training eines maschinellen Lernsystems die richtigen Daten auszuw├Ąhlen, um die sehr negativen Auswirkungen zu vermeiden.”

In anderen Nachrichten erstellt diese gruselige KI fotorealistische Modelle und Outfits von Grund auf neu.

Bill Gates, der Gr├╝nder des Microsoft-Milliard├Ąrs, gab k├╝rzlich eine erschreckende Warnung vor “gef├Ąhrlicher k├╝nstlicher Intelligenz” heraus und behauptete, sie stelle die gleiche Bedrohung f├╝r die Menschheit dar wie Atomwaffen.

Und ein Experte f├╝r k├╝nstliche Intelligenz sagte voraus, dass digitale Assistenten wie Alexa bald erkennen k├Ânnten, wann Ihre Beziehung auf einem Felsen steht.

Bist du besorgt ├╝ber KI? Lass es uns in den Kommentaren wissen!


Wir bezahlen f├╝r Ihre Geschichten! Haben Sie eine Geschichte f├╝r das Sun Online Tech & Science-Team? Mailen Sie uns unter [email protected]