Ewelina Zambrzycka-Kościelnicka , 7 listopada 2019

Elektroniczny morderca z funkcją ojca. Marzenie Putina czy bliska przyszłość?

On nigdy nie ustanie, nigdy nie opuści Johna ani nie zrani. Nie będzie krzyczał, nie upije się i nie będzie go bił. […] Odda życie w jego obronie. Koniec cytatu. Filmowa matka zapomniała rozważyć, co się stanie, gdy ktoś przeprogramuje robota, by zabił dziecko.

Prezydent Rosji Władimir Putin powiedział, że ten, kto zostanie liderem wprowadzania systemów sztucznej inteligencji do wojskowości, stanie się władcą świata. Jak to się może skończyć dla świata, nikt chyba nie pokazał lepiej, niż pewien potężny facet z austriackim akcentem i obrzynem w dłoni. Czy ludzkość naprawdę może stworzyć prawdziwego Terminatora?

Jest na dobrej drodze.

Prezydent Rosji Władimir Putin przemawia na Międzynarodowym Kongresie Cyberbezpieczeństwa w Moskwie, 6.06.2018 r.

Prezydent Rosji Władimir Putin przemawia na Międzynarodowym Kongresie Cyberbezpieczeństwa w Moskwie, 6.06.2018 r.

Autor: Mikhail Svetlov

Źródło: Getty Images

Proroctwo Terminatora

Gdy w 1984 roku Arnold Schwarzenegger wcielił się po raz pierwszy w elektronicznego mordercę, robotyka, mechatronika i oparte na sieciach neuronowych systemy sztucznej inteligencji były jeszcze w powijakach lub nie istniały w ogóle. A jednak James Cameron i Gale Ann Hurd, z którą reżyser napisał scenariusz, dość trafnie przewidzieli w jakim kierunku może rozwinąć się technologia - oraz kiedy dojdzie do kolejnych przełomów.

Dzisiaj, na 10 lat przed 2029 rokiem, z którego w "Terminatorze" przenosi się w nasze czasy morderczy cyborg sygnowany nazwą Cyberdyne Systems Series 800 Model 101, możemy śmiało powiedzieć, że nie tylko wojsko używa systemów SI i pół-autonomicznych dronów-bombowców. Humanoidalne roboty wyposażone w uczące się systemy SI są na wyciągnięcie ręki. Cywilnej, nie wojskowej.

Pamiętam, że w dzieciństwie niczego nie bałam się tak bardzo, jak tego, że ktoś, kogo postrzegam jako człowieka, jest tak naprawdę sztucznym tworem. Wydajną, nie ulegającą żadnej perswazji maszyną o jasno określonych priorytetach. Czy w naszych czasach jesteśmy już w stanie zbudować, zacytujmy "cybernetyczny organizm pokryty żywą tkanką kryjącą metalowy endoszkielet"?

Niemal.

Każdy kolejny film o przygodach robota Atlasa firmy Boston Dynamics, ma miliony widzów i setki tysięcy udostępnień. Każdy wywołuje dyskusje o tym, jak zaawansowana jest technologia i czy przypadkiem właśnie sami na siebie nie kręcimy bata. Nic dziwnego, konstrukcje amerykańskich inżynierów są tak zaawansowane, że wręcz niewiarygodne. Na jednym z ostatnich filmów dwunożny robot robi fikołki, chodzi na rękach i wykręca salta.

Zbudowany w 2013 roku Atlas wsławił się już pokazem parkouru oraz umiejętnością poruszania się w naturalnym terenie.

- To bez wątpienia najbardziej zaawansowany przykład możliwości współczesnej mechatroniki - mówi dr Krzysztof Walas z Instytutu Automatyki i Inżynierii Informatycznej Politechniki Poznańskiej. - Jest hydrauliczny, stąd jego siła, możliwość podnoszenia i przenoszenia ciężkich przedmiotów. Poza Boston Dynamics może jedna firma na świecie produkuje podobnie zaawansowane maszyny - dodaje i od razu zadaje pytanie: po co tak naprawdę robić roboty humanoidalne, kroczące na nogach, jak my, skoro powoduje to niemal same utrudnienia? Budowany na podobieństwo człowieka robot jest mniej stabilny, jego środek ciężkości znajduje się wyżej, co utrudnia zachowanie równowagi. Po prostu wszystko się komplikuje.

- Znacznie bardziej sensowne byłyby roboty przemieszczające się na kołach lub gąsienicach, ale przecież chcemy, aby funkcjonowały w naszym otoczeniu - dostosowanym do istot dwunożnych. Stąd potrzeba maszyny, która naśladowałaby nasz sposób poruszania się w przestrzeni - wyjaśnia naukowiec.

Chociaż roboty mogłyby mieć na przykład cztery nogi. Zupełnie jak Spot, robo-pies stworzony również przez Boston Dynamics:

Wygląda znacznie bardziej przyjacielsko, niż pies z serialu "Black Mirror", prawda? Bo rozwój technologii zawsze budzi lęk przed tym, do czego wytwór tej technologii będzie zdolny.

Jak zrobić z robota człowieka?

Jednak nasz "Terminator" ma przypominać człowieka. Metalowy endoszkielet nie jest problemem. Patrząc na sposób poruszania się robotów Boston Dynamics, możliwości ruchu humanoidalnych maszyn również są do opanowania. Ale od tego typu maszyny oczekiwalibyśmy też funkcjonowania w przestrzeni w sposób podobny do naszego.

- To już nie jest takie łatwe. O ile w przypadku przemieszczenia się na przykład z biura do domu nasz przykładowy Terminator mógłby użyć systemu GPS, o tyle już przemieszczanie się wewnątrz budynku wymagałoby zeskanowania go i stworzenia trójwymiarowej mapy, która pozwalałaby robotowi poruszać się między poziomami, odnajdywać drogę - mówi Krzysztof Walas. Jednym z kluczowych zadań robotyki jest dostarczenie rozwiązania problemu jednoczesnej samolokalizacji i budowy mapy. Jest to tzw. SLAM - z ang. Simultaneous Localization and Mapping.

- Poza tym humanoidalny robot sterowany przez system SI musi odpowiadać na polecenia wydane tak, jak byśmy mówili do ludzi. Co więcej, musi je wykonywać w ten sam sposób, w jak zrobiłby to człowiek - wyjaśnia naukowiec.

Przywołajmy przykład: jesteśmy w sali konferencyjnej i chcemy, aby nasz Terminator przeniósł krzesło stojące pod oknem, pod tablicę w drugim końcu sali. Aby robot mógł zrozumieć polecenie powinniśmy przekazać je w postaci prostego algorytmu: "podejdź do krzesła znajdującego się w miejscu A na osi X, podnieś je, przenieś je w miejsce B na osi Y i postaw". Ale nie dość, że nie chcemy wydawać tak nienaturalnie brzmiącego polecenia, to jeszcze nie mamy w oczach siatki i nie określamy położenia przedmiotów współrzędnymi. W naszym języku polecenie to brzmiałoby: "przestaw krzesło spod okna i postaw pod tablicą". Gdyby krzeseł pod oknem było więcej, to dodalibyśmy coś wyróżniającego, np. "przestaw czerwone krzesło spod okna i postaw pod tablicą".

Robot Sophia, stworzony przez Hanson Robotics, przemawia na konferencjach naukowych, wprawiając w zdumienie widzów

Robot Sophia, stworzony przez Hanson Robotics, przemawia na konferencjach naukowych, wprawiając w zdumienie widzów

Autor: Pedro Fiúza

Źródło: Getty Images

Dla robota takie przedstawienie sprawy to bełkot. A jednak musimy nauczyć go rozumieć intencje naszej wypowiedzi i niejako intuicyjnie pojmować zadanie. Problemem tym zajmuje się dział określany mianem Human-Robot Interactions.

- Prace nad tym trwają. Jest to o tyle skomplikowane, że algorytmy zasadzają się na powtarzalności pewnych elementów, a my chcemy je dostosować do chaotycznego sposobu funkcjonowania i przemieszczania się człowieka. Przykład z salą konferencyjną jest dobry, lecz nie uwzględnia wciąż jednego bardzo istotnego czynnika - człowieka. Tego, że robot musiałby intuicyjnie potrafić przewidywać ruchy otaczających go ludzi, umieć manewrować pomiędzy nimi, pojmować ludzką nieprecyzyjność. To ogromne wyzwanie - mówi Krzysztof Walas.

W filmie John Connor zadaje Terminatorowi pytanie o to, czy potrafi się uczyć, stawać się bardziej ludzki. Maszyna odpowiada:

- Moja jednostka centralna to sieć neuronowa, mogę się uczyć, im więcej stykam się z ludźmi, tym więcej się uczę.

I faktycznie w taki sposób "trenuje się" systemy SI: poprzez dostarczanie jak największych ilości danych. Jak w grze Go. Stworzony przez Google, a bazujący na sieciach neuronowych program SI AlphaGo tak długo grał i przegrywał z ludźmi w tę tradycyjną chińską grę, aż nauczył się jej strategii gry, opierając się na podejściu uczenia ze wzmocnieniem, czyli takiego, w którym nacisk położono na rozwijanie algorytmów SI maszyny poprzez dynamiczne reakcje z otoczeniem.

I zaczął wygrywać.

Nie, nie wygrywał sporadycznie. Wygrywał nieustannie. Pokonał nawet Ke Jie, chińskiego arcymistrza go, po czym nie miał już z kim grać. AlphaGo jest w stanie pokonać każdego przeciwnika. Właśnie w taki sposób uczyłby się bazujący na sieciach neuronowych system Terminatora.

Brakuje tylko baterii

Również rozpoznawanie i generowanie mowy nie powinno stanowić problemów. W końcu mamy Alexę i Siri, które już świetnie radzą sobie z tematem. Czy w takim razie już nic nie dzieli nas od powstania Terminatorów?

- Problemem jest zasilanie. W filmie maszyna zasilana jest baterią wystarczającą na 120 lat. My wciąż nie mamy takich, które byłyby w stanie zasilać tak rozbudowaną maszynę przez kilka dni - mówi Krzysztof Walas i dodaje, że roboty Boston Dynamics zasilane są elektrycznie i regularnie ładowane. Tak, jak samochody elektryczne. Wcześniejsze modele miały nawet silniki spalinowe.

- Można byłoby to obejść tworząc jakąś miniaturową elektrownię atomową, którą umieszczałoby się wewnątrz robota. Jednak związane z tym ryzyko byłoby zbyt duże. Przy obecnych bateriach Terminator rozładowałby się, zanim znalazłby dom Sarah Connor - mówi badacz.

A co sądzicie o T-1000 z drugiej części kultowej sagi? Robocie ze stopu mimetycznego, płynnego metalu zachowującego się jak rtęć? Czy to już totalna futurologia? No nie...

Scena z

Scena z "Terminatora 2": robot odbudowuje swoją strukturę po ataku ogniem

Autor: Jean-Paul Aussenard/WireImage

Źródło: Getty Images

W kilku ośrodkach badawczych trwają prace nad możliwością dynamicznego kształtowania płynnego metalu przy użyciu pola elektrycznego. - Na razie są to raczej proste mechanizmy nieporównywalne z tym co widzieliśmy w terminatorze.. Ale prace trwają - mówi Krzysztof Walas.

Mogę zatem z dużą pewnością siebie napisać: humanoidalne roboty, organizmy cybernetyczne to już nie futurologia, lecz całkiem bliska przyszłość.

A teraz przypomnijcie sobie, jak to się stało, że w pierwszym filmie Terminator był "zły", a w drugim "dobry".

Ktoś go po prostu przeprogramował.

Sztuczna inteligencja to broń. Z jedną wadą

Na początku tego roku rząd USA ogłosił wprowadzenie systemów SI do tworzenia strategii wojskowej, w tym do działań logistycznych, zaopatrzenia w broń oraz do procesów decyzyjnych. Departament Obrony USA zaproponował na rok 2020 budżet w wysokości 718 miliardów dolarów, z czego 927 milionów ma zostać przeznaczone na bazujące na uczeniu maszynowym systemy SI. Podobną strategię, ale już w 2017 roku, przyjęły Chiny.

Oparte na głębokim uczeniu maszynowym systemy SI pomagają namierzać cele, identyfikować zagrożenie, wrogów i przewidywać ruchy przeciwnika. Pomagają też sterować samolotami. Firma Boeing opracowała półautonomiczny samolot, który może służyć do misji zwiadowczych, ochrony samolotów załogowych lub do przenoszenia ładunków. Program nosi nazwę "Loyal Wingman" [ang. Wierny Skrzydłowy].

Samoloty półautonomiczne towarzyszą w locie myśliwcom, mogąc oddalać się na misje zwiadowcze lub w razie problemów wziąć na siebie uderzenie. Niedawno światło dzienne ujrzał będący częścią tego programu XQ-58A Valkyrie. Może przenosić znaczne ładunki, w tym bomby. Dron zasilany jest silnikiem odrzutowym i rozwija prędkość ponad 1000 km/h oraz ma zasięg niemal 4000 km.

W tej chwili dron operuje pół-samodzielnie, tj. wciąż przyjmuje polecenia pilota myśliwca, do którego jest przypisany, ale kto wie, jak będzie wyglądała przyszłość? Oraz na ile ludzie i zbudowane przez nich systemy SI będą mogły zhakować te operujące dronem?

W marcu tego roku grupa programistów z chińskiego giganta Tencent oznajmiła, że znalazła sposób na oszukanie algorytmów Tesli, samochodu elektrycznego. Wprowadzając tylko niewielkie modyfikacje, doprowadzili system jazdy autonomicznej do zjechania na przeciwny pas ruchu.

Programy bazujące na głębokim uczeniu maszynowym mogą prześlizgnąć się przez zabezpieczenia i wprowadzić zmiany w systemach rozpoznawania twarzy czy w programach medycznych. A co, jeśli posłużą również do oszukania wojskowych dronów, programów do analizy zdjęć satelitarnych, "nakłaniając je" do widzenia czegoś, czego w rzeczywistości nie ma? Albo, jak w przypadku wspomnianego wyżej drona, skłonić go do zrzucenia bomb na cele cywilne?

Ten scenariusz dziwnie przypomina historię powstania Skynetu, wszechpotężnego systemu komputerowego odpowiedzialnego za wojnę maszyn z ludźmi w filmach o Terminatorze. Jak doszło do zagłady nuklearnej, w której zginęły trzy miliardy ludzi oraz do opanowania Ziemi przez maszyny? To wyjaśnia "Terminator 2: Dzień sądu" z 1991 roku.

Wszystko miało się zacząć od przełomowego mikroprocesora, który powstał w zakładach Cyberdyne Systems. Dzięki niemu firma stała się głównym dostawcą oprogramowania dla wojska, tworzyła również systemy operacyjne dla bombowców stealth - autonomicznych pełnowymiarowych dronów wojskowych. Bombowce sprawdziły się świetnie, a amerykański senat przyznał fundusze na budowę Skynetu - samodzielnego systemu uczącego się w postępie geometrycznym.

Pojawił się jednak problem - system uzyskał świadomość. Wystraszeni jego możliwościami wojskowi próbowali go wyłączyć. Skynet - ratując się - zaatakował cele w Rosji. Rosja odpowiedziała kontratakiem, jednocześnie eliminując wrogów Skynetu. Ludzkość została pokonana, a Ziemię objęły we władanie władać roboty.

Arnold Schwarzenegger jako niezwyciężony robot w filmie

Arnold Schwarzenegger jako niezwyciężony robot w filmie "Terminator 2"

Autor: Jean-Paul Aussenard/WireImage

Źródło: Getty Images

I chociaż myśl o realizacji scenariusza, w którym maszyny przejmują władzę nad światem i eliminują nas jako potencjalne zagrożenie, jest bez wątpienia przerażająca, to należy jasno stwierdzić, że jak na razie to my jesteśmy najbardziej morderczym gatunkiem kroczącym po Ziemi. Mówi o tym nawet sam Terminator w "Dniu Sądu": "Macie wrodzoną skłonność do autodestrukcji".

A może maszyny wcale nie będą takie straszne? Może pozbawione naszych uprzedzeń, ludzkiego egocentryzmu będą wręcz lepsze od nas? Bardziej wiarygodne i całkowicie oddane. Taki Data ze Star Trek Nowe Pokolenie byłby idealną nianią. Spokojny, cierpliwy, rozważny. Byłby w stanie odpowiedzieć na każde pytanie dziecka, wyjaśnić dlaczego latawiec lata, a psy nie potrafią mówić. Mógłby czuwać całe dnie i noce, gdyby była taka konieczność, ustrzegłby podopiecznego przed każdym niebezpieczeństwem i nigdy go nie opuścił dla własnych interesów.

W jednej ze scen "Terminatora 2" Linda Hamilton, grająca Sarah Connor, mówi:

Patrzyłam jak John bawi się z maszyną i nagle mnie olśniło. Terminator nigdy nie ustanie, nigdy go nie opuści ani nie zrani. Nie będzie na niego krzyczał, nie upije się i nie będzie go bił. Zawsze będzie miał dla niego czas, chronił go i odda życie w jego obronie. (...) John miał wielu przybranych ojców, ale tylko ta maszyna spełniała wszystkie wymagania. W oszalałym świecie to był najlepszy wybór.

Czyżby?