P:
Dlaczego stronniczość maszyn jest problemem w uczeniu maszynowym?
ZA:Na to pytanie można odpowiedzieć na dwa różne sposoby. Po pierwsze, dlaczego problem odchylenia maszynowego jest taki sam, dlaczego występuje w procesach uczenia maszynowego?
Uczenie maszynowe, choć wyrafinowane i złożone, jest w pewnym stopniu ograniczone w zależności od wykorzystywanych zestawów danych. Konstrukcja zbiorów danych wiąże się z nieodłącznym uprzedzeniem. Podobnie jak w mediach, gdzie pominięcia i celowe wybory włączenia mogą wykazywać określone uprzedzenia, w uczeniu maszynowym używane zestawy danych muszą zostać zbadane w celu ustalenia, jaki rodzaj uprzedzenia istnieje.
| Bezpłatne pobieranie: Uczenie maszynowe i dlaczego to ma znaczenie |
Na przykład częstym problemem podczas testowania technologii i procesów projektowania jest wykazanie preferencji dla jednego typu użytkownika w stosunku do innego. Jednym z wielkich przykładów jest nierówność płci w świecie technologii.
Dlaczego to robi różnicę i dlaczego dotyczy uczenia maszynowego?
Ponieważ brak istniejących kobiet w środowisku testowym może prowadzić do wytworzenia technologii, która jest mniej przyjazna dla kobiet. Niektórzy eksperci opisują to w ten sposób, że bez istniejących testów kobiecych produkt końcowy może nie rozpoznać wkładu żeńskich użytkowników - może nie mieć narzędzi do rozpoznawania tożsamości kobiet lub odpowiedniego radzenia sobie z wkładem kobiet.
To samo dotyczy różnych grup etnicznych, ludzi różnych religii lub każdego innego rodzaju demograficznego. Bez odpowiednich danych algorytmy uczenia maszynowego nie będą działać poprawnie dla danego zestawu użytkowników, więc dane włączenia muszą zostać celowo dodane do technologii. Zamiast brać pierwotne zestawy danych i wzmacniać nieodłączne uprzedzenia, osoby zajmujące się obsługą ludzi muszą naprawdę przyjrzeć się temu problemowi.
Innym przykładem jest silnik uczenia maszynowego, który pobiera informacje o pracy i wynagrodzeniach oraz wyrzuca wyniki. Jeśli ten nieodłączny zestaw danych nie zostanie przeanalizowany, maszyna wzmocni błąd systematyczny. Jeśli stwierdzi, że mężczyźni zajmują zdecydowaną większość stanowisk kierowniczych, a proces uczenia maszynowego obejmuje filtrowanie surowego zestawu danych i zwracanie odpowiednich wyników, zwróci wyniki wykazujące męskie nastawienie.
Druga część pytania dotyczy tego, dlaczego to uprzedzenie jest tak szkodliwe. Bez odpowiedniego nadzoru i testowania nowe technologie mogą zaszkodzić naszemu poczuciu włączenia i równości, a nie pomóc. Wprowadzenie na rynek nowego produktu technologicznego, który rozpoznaje twarze o jaśniejszej, ale nie ciemniejszej karnacji, może prowadzić do eskalacji napięć etnicznych i poczucia, że dana firma nie jest wrażliwa na różnorodność. Jeśli algorytm uczenia maszynowego odtwarza i zwiększa stronniczość w zestawach danych, sztuczna inteligencja będzie dodawać swój głos do ludzkich głosów i ludzkich tendencji, które już istnieją w systemie społecznym, które faworyzują jedną grupę ludzi nad inną.
Najlepszym sposobem na poradzenie sobie z tym jest dokładne przyjrzenie się bazowym zestawom danych, korzystanie z wyboru funkcji, dodawanie zmiennych wejściowych i manipulowanie samymi surowymi zestawami danych oraz zwiększenie prawdziwej mocy uczenia maszynowego poprzez celowe ludzkie tworzenie danych, aby uzyskać wynik, który zapewnia wielką moc analityczną, ale także niektóre ludzkie spostrzeżenia, których komputery nie są jeszcze w stanie powielić.
