Eksperci ostrzegają przed zabójczymi robotami

Wśród sygnatariuszy listu są wybitny filozof Noam Chomsky, fizyk Stephen Hawking, biznesmen Elon Musk, współzałożyciel firmy Apple Steve Wozniak oraz szef działu sztucznej inteligencji firmy Google Demis Hassabis.

W liście ostrzegają, że wyścig zbrojeń w dziedzinie bojowej sztucznej inteligencji może być niesłychanie niebezpieczny i wzywają do jego powstrzymania. W szczególności chodzi o systemy działając autonomicznie, to znaczy wybierające i atakujące cele bez interwencji człowieka.

"Podobnie jak większość chemików i biologów nie jest zainteresowana tworzeniem broni chemicznej czy biologicznej, większość osób zajmujących się sztuczną inteligencją nie jest zainteresowana inteligentnymi broniami – i nie chcą, aby inni niszczyli ich dziedzinę czyniąc to” – czytamy w liście.

Prof. Hawking w wywiadzie udzielonym w grudniu ubiegłego roku BBC powiedział, że jego zdaniem rozwój sztucznej inteligencji może doprowadzić do końca rodzaju ludzkiego. "Ludzie, ograniczeni przez powolną ewolucję biologiczną, nie będą mogli konkurować (ze sztuczną inteligencją) i zostaną przez nią zastąpieni” - przewidywał.

Choć na razie nie ma całkowicie autonomicznych systemów uzbrojenia, powstały już systemy mające częściowa autonomię – na przykład będące w fazie prób współpracujące ze sobą amerykańskie pływające drony czy rozmieszczone na granicy Korei Południowej roboty wyposażone w karabin maszynowy i wyrzutnię granatów. W obu przypadkach decyzje o otwarciu ognia podejmuje jednak człowiek.

„Bunt maszyn” jest jednym z najstarszych i najbardziej oklepanych motywów literatury science fiction, by wspomnieć roboty z książki „Czy androidy marzą o elektrycznych owcach”, szalony komputer z „Odysei kosmicznej 2001” czy zbuntowany system obrony z „Terminatora”. Już żydowska legenda o golemie i powieść Mary Shelley o Frankensteinie poruszają podobny temat – dzieła, które obraca się przeciwko twórcy.

List, opublikowany online przez Future of Life Institute (FLI), został zaprezentowany podczas międzynarodowej konferencji poświęconej sztucznej inteligencji - International Joint Conference on Artifical Intelligence odbywającej się w Buenos Aires.

Jeden z sygnatariuszy listu - Eric Horvitz, szef Microsoft Research, opublikował online wideo w obronie innych badań nad sztuczną inteligencją. Jego zdaniem technologia ta może przynieść wiele korzyści w licznych dziedzinach. (PAP)

pmw/ agt/