Komputery przeciwko ludziom - to nie science fiction

"Nie ulega wątpliwości, że komputery zarządzają działaniem naszego świata - mają ostatnie słowo w każdej kwestii, od ceny twojej porannej kawy po globalne kursy wymiany walut" - gdy przeczytałem pierwsze zdanie w książce autorstwa programisty Gojko Adzica, uznałem, że to po prostu zbyt duże uproszczenie i przesada. A nawet bzdura! Przecież ostatnie słowo należy do człowieka! To on może zawsze wkroczyć i zmienić "decyzję" maszyny!

Tymczasem każdy z kolejnych rozdziałów książki obalał moje wygodne przekonanie. To prawda, decyzje o wysłaniu w przestworza atomowych rakiet balistycznych podejmują co prawda ludzie, jest jednak wiele dziedzin życia, które coraz szerzej są zdominowane przez algorytmy. Mają one uprawnienia do podejmowania nadspodziewane licznych i ważkich decyzji.

Na książkę "Człowiek vs komputer" składają się liczne, nieprawdopodobne historie, w których prawdziwość często trudno uwierzyć. Na szczęście autor zadbał o odnośniki źródłowe. Te zawarte są w bibliografii. Większość z nich dotyczy USA.

Obracając kolejne kartki przecierałem oczy ze zdumienia. Okazuje się, że komputerowe algorytmy podejmują decyzję o przedterminowym wypuszczeniu z więzienia przestępców w USA (oczywiście zdarzyły się pomyłki, wskutek których z błędu komputera korzystali groźni bandyci) czy blokują możliwość edukacji dziecku (opisano przypadek złego zinterpretowania daty narodzin przez algorytm urzędu miasta, który stwierdził, że uczennica ma nie kilkanaście lat, ale ponad 100).

Inny algorytm spowodował, że w loterii zorganizowanej przez producenta znanych napojów wygrało zbyt wielu ludzi, co w konsekwencji doprowadziło do zamieszek, bo organizator nie chciał zgodzić się z "werdyktem" alogorytmu! Podobnych przypadków związanych z grami losowymi opisanych jest znacznie więcej. Pomyłki powodowały absolutnie zrozumiałą złość wielu ludzi. Inne systemy komputerowe wstrzymywały z kolei wypłatę zasiłku osobom potrzebującym. Uznały, że ludzie ci nie spełniali odpowiednich kryteriów, albo wręcz próbowali oszukać państwo.

Cathy Uhl, mieszkanka amerykańskiego miasta Grand Rapids, otrzymała pod koniec 2003 r. list ze szpitala, że ma uiścić rachunek za usługi medyczne. Wynikało z niego również, że adresatka nie żyje. Okazało się, że system komputerowy uśmiercił przez przypadek ponad 8 tys. osób w tej miejscowości (5 proc. populacji), a dodatkowo wystawił zmarłym rachunki.

Bywa zatem i śmiesznie i strasznie. Z czego wynikają zatem takie sytuacje? "Nie ma czegoś takiego jak oprogramowanie doskonałe. Skoro programiści nie dysponują nieskończonym czasem i nieskończoną wiedzą, zawsze będą popełniać błędy" - wskazuje Adzic.

Jednocześnie dodaje, że można jednak unikać błędów, które się powtarzają - można je po prostu przewidzieć. Dlatego po książkę powinni sięgnąć zarówno programiści, bo mamy tu opisane różnorodne typy zagrożeń na nich czyhających, jak również laicy, którzy dla własnego dobra lepiej, jeśli poznają mechanizmy rządzące algorytmami. Końcowa część książki skierowana jest raczej do tej pierwszej grupy. To zwięzła check-lista dla programistów, którzy chcą ustrzec się przed poważnymi wpadkami.

Książka ukazała się nakładem Wydawnictwa Naukowego PWN.

Szymon Zdziebłowski