Microsoft pracuje nad naprawą oprogramowania do rozpoznawania twarzy opartego na uprzedzeniach rasowych.
Contents
Jest to coś, o czym wielu ludzi nigdy by nie pomyślało – chyba że jesteś osobą kolorową. Oprogramowanie do rozpoznawania twarzy, a przynajmniej oprogramowanie Microsoftu, zostało zaprogramowane głównie z twarzami mężczyzn rasy kaukaskiej. Oznacza to, że trudniej jest rozpoznać ciemniejsze twarze, zwłaszcza kobiet. Ale Microsoft ogłasza, że to poprawił.
Rasistowska strona oprogramowania do rozpoznawania twarzy
Na początku tego roku Microsoft Face API, oparty na platformie Azure, spotkał się z krytyką w artykule badawczym. Przyjrzeli się wskaźnikowi błędów prób identyfikacji płci osób kolorowych i stwierdzili, że wynosił on aż 20,8 procent, zwłaszcza przy próbie identyfikacji kobiet o ciemniejszym odcieniu skóry. Jednak w przypadku „jaśniejszych męskich twarzy” poziom błędu wynosił zero procent.
Dzieje się tak dlatego, że technologia sztucznej inteligencji jest po prostu sztuczna. Musi być zaprogramowany przez ludzi, co oznacza, że wyniki będą zależeć od tego, jak dobrze zaprogramowano technologię i danych, które zostały do tego użyte.
Kiedy Microsoft rozwijał swoje oprogramowanie, nie miał wystarczającej liczby zdjęć osób o ciemniejszej karnacji, co skutkowało wyższym wskaźnikiem błędów osób kolorowych, zwłaszcza kobiet.
Rasizm to ważny temat do rozważenia. Microsoft z pewnością nie zamierzał być rasistą, ale zezwalając na programowanie oprogramowania głównie z udziałem białych mężczyzn, pytanie brzmi, czy programiści nieumyślnie pokazali swoje własne uprzedzenia rasowe.
Poprawka
Niezależnie od tego, dlaczego Microsoft skończył z oprogramowaniem, które wykazywało stronniczość jego twórców/programistów, musiał to naprawić. Po naprawieniu tego firma stwierdziła, że była w stanie zmniejszyć wskaźnik błędów dla osób o ciemniejszej karnacji nawet dwudziestokrotnie. W przypadku kobiet, niezależnie od odcienia skóry, wskaźniki błędów zmniejszyły się dziewięciokrotnie.
Aby uzyskać ten poprawiony wskaźnik błędów, zespół Face API zainicjował trzy zmiany. Oczywistą potrzebą rewizji i rozszerzenia były szkolenia i dane do ich wzorców. Skupili się w szczególności na odcieniu skóry, płci i wieku.
„Rozmawialiśmy o różnych sposobach wykrywania stronniczości i operacjonalizacji uczciwości” — powiedziała Hannah Wallach, starszy badacz w nowojorskim laboratorium badawczym Microsoftu, a także ekspert w zakresie uczciwości, odpowiedzialności i przejrzystości w systemach sztucznej inteligencji. „Rozmawialiśmy o wysiłkach związanych z gromadzeniem danych w celu dywersyfikacji danych szkoleniowych. Rozmawialiśmy o różnych strategiach wewnętrznego testowania naszych systemów przed ich wdrożeniem”.
Cornelia Carapcea, główny kierownik programu w zespole Cognitive Services, powiedziała, że ostatecznie grupa Wallacha dała „bardziej szczegółowe zrozumienie uprzedzeń” i pomogła jej zespołowi opracować zestaw danych, „który dawał nam odpowiedzialność niezależnie od odcieni skóry”.
Iść dalej
„Jeśli szkolimy systemy uczenia maszynowego, aby naśladowały decyzje podejmowane w stronniczym społeczeństwie, korzystając z danych generowanych przez to społeczeństwo, wówczas systemy te z konieczności odtworzą jego uprzedzenia” – powiedział Wallach.
To ma sens. Czy nam się to podoba, czy nie, rasizm istnieje w naszym społeczeństwie. Możemy nie lubić myśleć, że tak jest, ale czasami po prostu nie możemy temu zaprzeczyć. To samo społeczeństwo tworzy również technologię, której używamy, a to oznacza, że może ona być również uprzedzona rasowo. Jeśli chcemy, aby nasza technologia działała lepiej, sami musimy zrobić to lepiej.
Co sądzisz o stworzeniu przez Microsoft oprogramowania opartego na uprzedzeniach jego twórców? Czy to zmienia Twoją opinię o firmie? Jak myślisz, jak to odbija się na społeczeństwie? Dodaj swoje przemyślenia w naszej sekcji komentarzy poniżej.
Nigdy nie przegap
Otrzymuj aktualizacje naszych najnowszych samouczków.
Zapisz się na wszystkie newslettery.
Chcę otrzymywać newslettery pocztą elektroniczną. Nie udostępnimy Twoich danych i w każdej chwili możesz zrezygnować z subskrypcji.
Subskrybuj
Rejestrując się, wyrażasz zgodę na naszą Politykę prywatności, a użytkownicy europejscy zgadzają się na zasady przesyłania danych.
