Czy sztuczna inteligencja jest rasistowska? Sprawdzi to specjalny urząd

Czy rozwiązania wykorzystujące sztuczną inteligencję, stosowane podczas rekrutacji czy w bankach, mogą opierać się na uprzedzeniach dotyczących koloru skóry lub pochodzenia ocenianych osób? W Wielkiej Brytanii ten temat zostanie zbadany.

Publikacja: 14.07.2022 15:26

W firmach zajmujących się rekrutacją algorytmy coraz częściej odpowiadają za pierwszy etap selekcji

W firmach zajmujących się rekrutacją algorytmy coraz częściej odpowiadają za pierwszy etap selekcji potencjalnych kandydatów do pracy.

Foto: LinkedIn Sales Solutions

Firmy coraz skuteczniej walczą z jakimikolwiek przejawami uprzedzeń rasowych czy kulturowych. Zdecydowana większość korporacji ma bardzo jasne wytyczne wskazujące, jak reagować na wszelkie przejawy rasizmu czy seksizmu. Nauczyliśmy się też wychwytywać – i potępiać – tego typu zachowania w mediach czy polityce. 

Sztuczna inteligencja i rasizm

A co ze sztuczną inteligencją? W teorii algorytmy powinny być całkowicie bezstronne i działać wyłącznie w oparciu o suche dane. Dlatego tego typu rozwiązania coraz częściej stosowane są w firmach. Sztuczna inteligencja powinna być wolna od ludzkich wad, słabości – i uprzedzeń. Jak jest w praktyce – i w jaki sposób kontrolować procesy podejmowania decyzji przez AI w odniesieniu do ludzi? Czy przenieśliśmy na algorytmy nasze uprzedzenia? Czy też może sztuczna inteligencja w naturalny sposób dostrzega – i wykorzystuje przeciwko niektórym – ich gorszą pozycję w społeczeństwie? 

To właśnie chcą sprawdzić urzędnicy z brytyjskiego urzędu ICO (Information Commissioner’s Office), zajmującego się między innymi ochroną danych osobowych i będącego czymś w rodzaju brytyjskiego odpowiednika polskiego UODO. W oświadczeniu opublikowanym przez ICO czytamy, że dyskryminacja ze strony algorytmów może mieć niszczący wpływ na ludzkie życie i prowadzić do tego, że ktoś oceniany przez sztuczną inteligencję zostanie niesprawiedliwie potraktowany – jego wniosek o kredyt czy podanie o pracę zostaną odrzucone.

Czytaj więcej

Czesi tworzą spis wad narodowych. Każdy obywatel może zgłosić, co mu przeszkadza

„Będziemy badać, czy obawy dotyczące wykorzystania sztucznej inteligencji przy przesiewaniu zgłoszeń w procesach rekrutacyjnych, które mogłyby mieć negatywny wpływ na możliwości na rynku pracy osób pochodzących z różnych środowisk” – czytamy w oświadczeniu ICO.

Ta inicjatywa to element polityki nowego szefa tej instytucji, Johna Edwardsa, który objął stery w ICO w styczniu 2022 roku, a wcześniej zajmował podobne stanowisko w Nowej Zelandii. Edwards zamierza nie tylko przyjrzeć się procesom podejmowania decyzji przez sztuczną inteligencję, zapowiedział też, że jego urząd będzie się zajmował telemarketingiem, stosowaniem algorytmów w procesie przyznawania świadczeń socjalnych, czy przestrzeganiu nienaruszalności prywatności osób niepełnoletnich. 

Biznes
Miliarderzy z Francji walczą na luksusowe nieruchomości. Rekordowa transakcja
Materiał Promocyjny
Tajniki oszczędnościowych obligacji skarbowych. Możliwości na różne potrzeby
Biznes
Triumf rosyjskiego „króla dżinsów”. 76-latek debiutuje na liście miliarderów
Biznes
Powolna śmierć marek modowych dla „klasy średniej”. Znikają z miast Europy
Biznes
Lidl wygrał z gigantem rynku luksusowego. 10 lat walki o prawa do jednego koloru
Materiał Promocyjny
Naukowa Fundacja Polpharmy ogłasza start XXIII edycji Konkursu o Grant Fundacji
Biznes
Najbogatszy Chińczyk w tarapatach. „Ta woda mineralna jest za mało chińska”