Jaki będzie bunt maszyn

W 2014 roku Google żartobliwie opublikował na swoich serwerach plik killer-robots.txt, w którym wskazał model terminatora T-800 i T-1000 nie zabić dwóch założycieli «dobra Korporacji»: Larry Page i Sergey Brin przeżyją, jeśli ich dusze nie przyjdzie, powiedzmy, T-X. Lub T-34.

Oczywiście, cała ta akcja była po prostu żart i пасхалкой, zorganizowanej na urodziny pliku robots.txt ale w sumie problem buntu maszyn lekko widnieje na horyzoncie. Na początku miesiąca w fabryce Volkswagen robot zabił człowieka. To nie jest bunt maszyn, ten robot sztuczną inteligencją (którego jeszcze nie ma) nie miał i o trzech prawach robotyki dziadka fiction Азимова miał widok nie więcej niż o teorii strun.

Kilka lat temu przy uniwersytet w Cambridge powstało Centrum nauki egzystencjalnych zagrożeń — te chłopaki zajęty wyjaśnianiem tych najbardziej ryzyka, czyli źródeł masowej zagłady ludzkości. Zje twój mózg zombie lub lśniła metalem robot zmiażdży ostatni czaszka ludzkości? W tym ich pytania.

Założycieli Centrum w trzy — to psycholog Hugh Cennik, astrofizyk Martin Reeves i jeden z twórców programu Skype — Джаан Tallinn. I oni uważają, że dyskontować ryzyko bunt maszyn, biorąc pod uwagę postęp technologiczny, nie można. Ale możliwy jest taki układ tylko pod warunkiem stworzenia pełnej AI — wszystkie pozostałe przypadki zabójstwa zdarzają się pracami lub z powodu ludzkich błędów, lub po śmiesznej przypadkowości. Przecież ważnym warunkiem powstanie będzie właśnie chęć maszyny zabić.

Czym straszyli pierwsze filmy o Терминаторах, które należą do kategorii «ciasto»? To bezduszne roboty, w których była wyraźnie cel i zdolność, mówiąc umownie, myślenia, aby osiągnąć ten cel za wszelką cenę. Można było oderwać mu ręce, wysadzić nogi, ale on nadal się czołgać do celu. Powoli i nieodwracalnie, przywołując skojarzenia ze Śmiercią. Tej śmiertelnej stanowczości maszyny i straszyć ludzi: ludzie w większości są głupi, słabi i tyle amorficzne.

Problem w tym, że każdy teoretyk sprawia, że klasyczny błąd — wszystkie przenoszą cechy człowieka, na samochód, licząc, że ostatnia ciekawe jest to samo, co nam. Ale roboty w zasadzie stawiać na piramidę potrzeb Maslowa — nie mają takiego samego pojęcia o śmierci, jak u nas, nie potrzebują jedzenie, instynkt rozmnażania i tak samo jest nieznany. To zupełnie inne, bez tworzenia standardowych ludzkich uczuć. Którzy chcą zobaczyć coś więcej właśnie na ten temat mogą iść oglądać najnowszą «Ex Machina«.

Tworzenie SI cholernie skomplikowany proces, a test Turinga, aby ujawnić fakt posiadania umysłu u robota czysto empiryczne. To znaczy, to zależy od konkretnych warunków i konkretnego testowego, ale rzecz w tym, że ten test jest inny i nie może być. Przecież nawet nie wiemy, jak wydobyć fakt posiadania umysłu — jak zrozumieć, że miecz jest przed tobą i naprawdę myśli i świadomy, a nie tylko udaje?

Ale do tego daleko — raczej ludzkość z radosnym whooping pobije siebie samodzielnie.