23.09.2018
PL EN
11.04.2018 aktualizacja 11.04.2018

Broń matematycznej zagłady (witajcie w Matrixie)

"Broń matematycznej zagłady" Cathy O`Neil to wiadro zimnej wody na głowy entuzjastów Big Data i masowej obecności algorytmów w każdej dziedzinie życia społecznego. Pozwala uświadomić sobie skalę wpływu Big Data na życie - i poznać niewygodne konsekwencje takiego podejścia.

Danych jest za dużo. Bo kiedy na świecie żyje ponad 7 mld osób osobne rozpatrzenie każdego wniosku kredytowego czy aplikacji na studia jest po prostu niemożliwe. Na szczęście firmy mają do dyspozycji Big Data – algorytmy i modele matematyczne, których zadaniem jest przetwarzanie ogromnej liczby danych. Ich moc obliczeniowa pozwala przetworzyć o wiele więcej informacji niż standardowe procedury. Przede wszystkim są jednak niezależne i wolne od uprzedzeń i wykonują tylko jedno zdanie: wskazać poprawny, obiektywny i właściwy wynik.

To idealny obraz. W praktyce pojawia się problem: algorytmy pisane są przez ludzi, którzy nie zawsze bywają obiektywni. Podobnie jak stworzone przez nich algorytmy oraz modele matematyczne, przeznaczone do analizy Big Data - czyli tytułowa "broń matematycznej zagłady" (Beemzet). Narzędzia te, zamiast opisywać świat, kreują rzeczywistość zgodnie z założeniami swoich twórców. Mechanizmy, o których pisze autorka książki Cathy O`Neil, mogą przemycać uprzedzenia i dyskryminujące czynniki, a także wykorzystywać ludzkie słabości. Z ich powodu parabanki pogrążają ubogich i zdesperowanych a słabo wykształceni kończą na uczelniach, których dyplomy nie mają żadnej wartości.

Jak to się dzieje? Jakiś algorytm przetwarza mnóstwo statystyk i generuje informację, która wskazuje na prawdopodobieństwo, że pewna osoba może być złym pracownikiem, ryzykownym kredytobiorcą, terrorystą lub niekompetentnym nauczycielem. To prawdopodobieństwo urzeczywistnia się w punktacji, która może wywrócić człowiekowi życie do góry nogami. Kiedy jednak taka osoba podejmuje walkę, kontrdowody o charakterze jedynie "przekonującym" okazują się niewystarczające. Aby istniały szanse na powodzenie, nieprawidłowość musi zostać udowodniona ponad wszelką wątpliwość. Od ludzkich ofiar Beemzetów wymaga się o wiele większej staranności dowodowej, niż od algorytmów - zauważa autorka.

O’Neil - matematyczka i weteranka kryzysu finansowego z Wall Street - podąża tropem przegranych i skrzywdzonych, odkrywając kolejne Beemzety wszędzie: na uczelniach i w szkołach, w sieciowych restauracjach, służbie zdrowia, internetowych agencjach reklamowych, bankach, towarzystwach ubezpieczeniowych, policji, mediach społecznościowych czy podczas kampanii wyborczych.

Zarysowany w książce obraz jest kasandryczny; trudno sobie jednak wyobrazić ograniczenie skali usług i udogodnień, z których korzystamy, a które opierają się na przetwarzaniu wielkiej liczby danych. Tym bardziej, że z jednej strony staje się to coraz prostsze technologicznie (komputery mogą przyjmować i obrabiać coraz większe zasoby informacji), a z drugiej - my sami jesteśmy wciąż coraz lepiej "owskaźnikowani" i profilowani.

Dane na nasz temat pochodzą z serwisów społecznościowych, wyszukiwarek internetowych, które śledzą nasze zapytania, z telefonów komórkowych, które zdradzają naszą lokalizację, kart kredytowych i urządzeń mobilnych. Wraz z rozwojem internetu rzeczy coraz więcej będzie wiadomo o naszych zwyczajach żywieniowych, o tym, kiedy zmywamy, co trzymamy w lodówce i w jakich porach jemy, gdzie i jak szybko jeździmy samochodem, jakie oglądamy filmy, gdzie spędzamy wakacje. Dzięki tym danym można będzie tworzyć coraz dokładniejsze modele, które pozwolą na opracowanie algorytmów coraz precyzyjniej targetujących pod nas reklamy. A marketing to tylko jedna branża, która wykorzystuje modelowanie matematyczne do swoich celów.

Książka ukazała się nakładem Wydawnictwa Naukowego PWN w przekładzie Marcina Zielińskiego.

zan/ ekr/

Zapisz się na newsletter
Copyright © Fundacja PAP 2018