Google verfolgt die Hauttöne von Menschen, um seine Suchergebnisse nach Angst vor technischem Rassismus „inklusiver“ zu gestalten

GOOGLE plant die Einführung einer neuen Skala zur Messung von Hauttönen, um KI-Voreingenommenheit zu beseitigen.

Nach einer Partnerschaft mit Harvard-Professor Ellis Monk, Google fördert eine neue Art der Identifizierung von Hauttönen in seinem Produkte und Dienstleistungen.

1

Google plant die Einführung einer neuen Skala zur Messung von Hauttönen, um KI-Voreingenommenheit zu beseitigen. Kredit: Google

„Oft haben die Leute das Gefühl, dass sie in rassische Kategorien eingeteilt werden: die schwarze Kategorie, die weiße Kategorie, die asiatische Kategorie usw., aber hier gibt es all diese Unterschiede“, sagte Monk.

„Sie brauchen ein viel feineres komplexes Verständnis, das dieser Unterscheidung zwischen einer breiten Rassenkategorie und all diesen phänotypischen Unterschieden zwischen diesen Kategorien wirklich gerecht wird.“

Als Reaktion auf diesen Bedarf entwickelte Monk, ein Assistenzprofessor für Soziologie in Harvard, die 10-stufige Monk Skin Tone Scale (MST).

Sein Modell ist darauf ausgelegt, veraltete zu korrigieren KI Hauttonskalen, die zu heller Haut tendieren.

Google Maps hat ein VERSTECKTES Menü, das drei erstaunliche Tricks freischaltet
Das NEUE Google Pixel 6 verarbeitet riesige 65 GB Daten für 26 £ pro Monat

Wenn das Computer Vision (CV) einer KI die Hautfarbe nicht korrekt kategorisiert, kann dies zu Leistungsproblemen führen, insbesondere bei Benutzern mit dunklerer Hautfarbe, erklärte Monk.

„Studien zeigen, dass Produkte, die mit den heutigen Technologien für künstliche Intelligenz (KI) und maschinelles Lernen (ML) entwickelt wurden, unfaire Vorurteile aufrechterhalten können und für Menschen mit dunkleren Hauttönen nicht gut funktionieren“, so Google schreibt.

Vor allem hilft diese Recherche den Benutzern beim Abrufen von Suchergebnissen und beim Eingeben Googles Fotos-App.

In der Suche implementiert Google die MST-Skala, um Ergebnisse anzuzeigen, die dunklere Hauttöne stärker einbeziehen.

Zum Beispiel werden Braut-Make-up- oder haarbezogene Suchen mit einem Algorithmus geliefert, der verschiedene Hauttöne berücksichtigt, damit Benutzer die relevantesten Ergebnisse erhalten.

Und in Fotos wird die MST-Skala einen neuen Satz von „Real Tone-Filtern“ bieten, die „für Hauttöne gut geeignet sind“ und „eine breitere Auswahl an Looks“ von Google bieten.

Google hofft, die Skala mit der Zeit in mehr seiner Produkte und Dienstleistungen einsetzen zu können, und nennt es einen „wichtigen nächsten Schritt in einer gemeinsamen Anstrengung, die Inklusivität von Hauttönen in der Technologie zu verbessern“.

“Für Google wird es uns helfen, Fortschritte bei unserem Engagement für Imagegerechtigkeit und die Verbesserung der Repräsentation in unseren Produkten zu machen. Und indem wir die MST-Skala für alle freigeben, hoffen wir, es anderen einfacher zu machen, dasselbe zu tun, damit wir es können gemeinsam lernen und sich weiterentwickeln.”

Der Schritt des Technologieriesen folgt auf eine kürzlich im März erfolgte Klage, in der Google der Voreingenommenheit gegenüber schwarzen Mitarbeitern beschuldigt wurde.

Diese Klage ist eine von vielen, die die Vorurteile der Technologiebranche herausstellt – nicht nur in Bezug auf Beschäftigungspraktiken, sondern auch in der Produktentwicklung.

„Maschinen können auf schädliche Weise diskriminieren. Ich habe das am eigenen Leib erfahren als ich 2015 Doktorandin am MIT war und entdeckte, dass manche Gesichtsanalysesoftware mein dunkelhäutiges Gesicht nicht erkennen konnte, bis ich eine weiße Maske aufsetzte“, schrieb Joy Buolamwini 2019 für TIME.

„Diese Systeme werden oft mit Bildern von überwiegend hellhäutigen Männern trainiert“, fügte Buolamwini hinzu, der Untersuchungen zu großen geschlechtsspezifischen und rassistischen Vorurteilen in KI-Systemen durchführte, die von Technologiegiganten wie IBM, Microsoft und Amazon verkauft werden.

„Wir gehen oft davon aus, dass Maschinen neutral sind, aber das sind sie nicht.“

Ein weiteres Beispiel dafür ist SkinVision, eine KI-gestützte App, die darauf abzielt, Krebs zu erkennen.

Der Algorithmus von SkinVision wurde 2021 als effektiver für hellere Hauttöne herausgefordert.

Erika von RHOBH sieht ohne Make-up und Designerklamotten völlig unkenntlich aus
Ich bin ein Dollar Tree-Fan – die Ladengeheimnisse, die nur Mitarbeiter kennen

„Die Algorithmen sind alles andere als ideal, zum Teil, weil sie bestehende rassistische Vorurteile im Bereich der Dermatologie zu verstärken drohen“, schrieb Jyoti Madhusoodanan für Der Wächter im Jahr 2021.

Zum Glück gibt es neben Google eine wachsende Zahl von Technologieunternehmen, darunter ApfelPinterest und Snapchat arbeiten daran, solche Probleme anzugehen.

Wir zahlen für Ihre Geschichten!

Haben Sie eine Geschichte für das Team von The US Sun?

!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod?
n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n;
n.push=n;n.loaded=!0;n.version=’2.0′;n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,
document,’script’,’https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘752905198150451’);
fbq(‘track’, “PageView”);

Leave a Reply

Your email address will not be published.