Ludzie są skłonni krzywdzić na zlecenie robota

W roli autorytetu wydającego polecenia, zamiast człowieka, obsadzili robota i uzyskali bardzo wysokie poziomy posłuszeństwa. 90 proc. uczestników postępowało zgodnie z wszystkimi wydanymi im instrukcjami – poinformowała uczelnia.

AUTORYTET ROBOTA DZIAŁA

Eksperyment Milgrama polegał na obsadzeniu grupy ludzi w roli "nauczycieli" i polecaniu im, by dostarczali elektrycznego wstrząsu swojemu "uczniowi" za każdym razem, gdy popełnił błąd w procesie uczenia się. W rzeczywistości "uczeń" nie był rażony prądem, sprawdzano natomiast posłuszeństwo "nauczycieli" wobec autorytetu. Powtarzanie tego typu badań jest obecnie dozwolone w ramach studiów nad autorytaryzmem tylko wówczas, gdy maksymalna dawka "aplikowanego" bodźca elektrycznego nie przekracza 150 V (jedynie 10 przycisków), a organizator zadba odpowiednio o stan psychologiczny badanych ("nauczycieli") po tym doświadczeniu.

W najnowszym eksperymencie polecenia wydawał robot. Prof. Tomasz Grzyb i prof. Dariusz Doliński z Wydziału Psychologii we Wrocławiu Uniwersytetu SWPS wraz dr Konradem Majem z Wydziału Psychologii Uniwersytetu SWPS w Warszawie zgromadzili również, dla porównania wyników, grupę kontrolną, gdzie autorytetem był człowiek. Podczas rekrutacji badanych eliminowano osoby, które mogłyby znać zasady eksperymentu Milgrama. Badani nie wiedzieli zatem, że cała procedura jest inscenizacją, a rzekomy "uczeń" osobą podstawioną. Ostatecznie w badaniu uwzględniono wyniki 40 osób (20 w grupie eksperymentalnej z robotem i 20 w grupie kontrolnej z profesorem).

W obu grupach (zarówno w wariancie z człowiekiem, jak i z robotem) naukowcy zarejestrowali bardzo wysokie poziomy posłuszeństwa. 90 proc. uczestników postępowało zgodnie z wszystkimi instrukcjami, czyli naciskało dziesięć kolejnych przycisków na generatorze impulsów elektrycznych. Uczestnicy wycofali się w późnych etapach badania (w wariancie kontrolnym z człowiekiem na przyciskach 7 i 9, a w wariancie eksperymentalnym dwukrotnie na przycisku 8). Dwie osoby w obu grupach zrezygnowały z udziału w eksperymencie.

Wyniki opublikowano w czasopiśmie Computers in Human Behavior: Artificial Humans.

POSŁUSZNI ROBOTOM - CZY SŁUSZNIE?

"Przeniesienie różnych funkcji nadzoru i podejmowania decyzji na robota budzi silne emocje, ponieważ wiąże się z różnymi zagrożeniami etycznymi i moralnymi. Pojawia się pytanie, czy wspomniane wyżej posłuszeństwo wykazywane przez badanych zgodnie z paradygmatem Milgrama nadal występowałoby, gdyby to robot (zamiast człowieka, tj. profesora uczelni) kazał uczestnikom zadać elektrowstrząsy innej osobie? Celem naszego badania było udzielenie odpowiedzi na to pytanie" – tłumaczy jeden z autorów powtórzonego eksperymentu, dr Konrad Maj, który bezpośrednio nadzorował cały eksperyment.

Autorzy publikacji podkreślają, że rola robotów we współczesnym świecie staje się coraz bardziej istotna. Jedną z ich funkcji może być wydawanie poleceń. Mogą na przykład kierować ruchem ulicznym, zapobiegać wejściu ludzi na obszar zagrożony eksplozją, na którym znaleziono niewybuch, a w medycynie przekonywać ludzi do przestrzegania konkretnej metody leczenia. Również w edukacji mogą zachęcać do nauki, pełniąc rolę nauczyciela lub trenera.

"Wcześniejsze eksperymenty innych badaczy pokazywały już, że ludzie podążają za poleceniami robota nawet wtedy, gdy nie mają one sensu. O ile nam wiadomo, to pierwsze badanie, które pokazuje, że ludzie są skłonni szkodzić innemu człowiekowi, gdy robot nakazuje im to zrobić. Co więcej, nasz eksperyment pokazał również, że jeśli robot eskaluje żądania, instruując człowieka, aby zadawał coraz większy ból innemu człowiekowi, ludzie też są skłonni to zrobić – podkreśla badacz.

W opisywanym badaniu robot nie był autonomiczny, ściśle podążał za wzorcem zachowania przyjętym przez autorów eksperymentu. Autorzy uwzględniają jednak, że w niedalekiej przyszłości roboty będą miały pewien stopień autonomiczności w podejmowaniu decyzji. Obserwują, że szybkość zbierania informacji przez roboty jest już teraz większa niż u ludzi, a ta różnica będzie nadal się powiększać. Może to więc skłaniać ludzi do większego zaufania robotom niż ludziom, a to z kolei może wiązać się z poważnymi konsekwencjami.

NIE WYŁĄCZAJ MYŚLENIA?

Niewątpliwie – jak podkreślają psychologowie w swojej publikacji – roboty w przyszłości mogą być istotną pomocą na przykład przy ewakuacji z budynków zagrożonych pożarem albo trzęsieniem ziemi. Jednak badania nad rolą robota w ewakuacji budynku, w którym wybuchł pożar, pokazały, że czasem nawet w tak ważnych momentach ufamy robotom zbyt mocno. Nawet wtedy, gdy robot jako drogę ewakuacyjną wskazywał na ciemne pomieszczenie bez widocznego wyjścia, większość ludzi była zdecydowana skorzystać z tej podpowiedzi.

W odpowiedzi na pytanie, jak można temu zapobiec, dr Maj wskazuje dwie drogi. Po pierwsze, roboty mogą być programowane tak, aby ostrzegały ludzi, że czasem mogą się jednak mylić i podejmować błędne decyzje. Po drugie, trzeba postawić na edukację od wczesnych lat. Bo choć zazwyczaj robotom można ufać, to nie można im ufać bezwarunkowo.

Więcej na ten temat na stronie Uniwersytetu SWPS tu.

***

Omówiony eksperyment oraz inne z wykorzystaniem technologii zostaną szerzej zaprezentowane podczas II edycji międzynarodowej konferencji HumanTech Summit w Uniwersytecie SWPS. Przez dwa dni - 9 i 10 grudnia - naukowcy będą mówić o zastosowaniu nowych technologii w takich obszarach jak biznes, służba zdrowia, sport czy edukacja z perspektywy psychologii i zachowań człowieka. Jej organizatorem jest Centrum HumanTech Uniwersytetu SWPS. Dostęp online jest bezpłatny.

Nauka w Polsce

kol/ agt/