Powinniśmy zaakceptować drony, ale zarazem krytycznie przyglądać się ich rozwojowi i w razie potrzeby go kwestionować – twierdzi James Rogers z SDU i London School of Economics, doradca parlamentu brytyjskiego w dziedzinie dronów, w rozmowie z Maciejem Chojnowskim

Maciej Chojnowski: Trzy lata temu powstał krótki paradokument „Slaughterbots” opowiadający o inteligentnych miniaturowych dronach, które można nauczyć automatycznego rozpoznawania ludzi i wykorzystać do selektywnych egzekucji (targeted killing). Wystąpił w nim prof. Stuart Russell, by przestrzec przed potencjalnymi zagrożeniami nieograniczonego rozwoju technologii. Czy tego typu mordercze maszyny to jedyny powód, dla którego powinniśmy obawiać się dronów?

James Rogers*: „Slaughterbots” to fascynujący film. Dzięki niemu udało się rzeczywiście zwrócić uwagę ludzi, jak może wyglądać przyszłość dronów. Jednak na obecnym etapie nie chciałbym zajmować się tak skrajnymi wizjami. Wolę trzymać się przykładów z życia wziętych, które są nie mniej niepokojące.

Dronów obecnej generacji używano chociażby do prób zamachu na światowych przywódców. W Japonii nafaszerowany materiałami radioaktywnymi dron wylądował na dachu rezydencji premiera i zanim ktokolwiek go zauważył, przez dwa tygodnie tkwił tam, uwalniając promieniowanie.

Widzieliśmy też próby wrogiego wykorzystania dronów przez terrorystów w niektórych z największych europejskich miast. Niedawno w Manchesterze niedoszli zamachowcy chcieli skorzystać z niezbyt zaawansowanego technicznie pomysłu: do wydmuszek z jajek włożyli kruszone szkło i paprykę chili i za pomocą drona mieli zamiar zrzucać je na ludzi, żeby wywołać panikę.

Oczywiście dron to jedynie część sposobu, w jaki terroryści mogą przeprowadzić atak. Kiedy już wywoła się panikę, ludzie rozbiegają się w miejsca, gdzie może czekać terrorysta wyposażony w konwencjonalną broń, by wzmóc siłę ataku. Tak więc drony stają się częścią systemu, który zamachowcy mogą wykorzystać do skutecznego sterroryzowania ludzi.

Adres filmu na Youtube: https://youtu.be/9CO6M2HsoIA

Dzięki filmowi „Slaughterbots” udało się zwrócić uwagę ludzi, jak może wyglądać przyszłość dronów.
Źródło: Stop Autonomous Weapons / YouTube

Przy czym na razie mówimy wyłącznie o dronach pozbawionych śmiercionośnej broni.

Tak. A teraz spójrzmy, jak drony – obok zamachowców samobójców, samochodów pułapek czy snajperów – wykorzystywało Państwo Islamskie do stworzenia dość wyrafinowanej taktyki wywoływania chaosu wśród wojsk zachodnich w Syrii i Iraku.

ISIS miało setki, jeśli nie tysiące, dronów w swoim arsenale. Dziesiątki takich maszyn przelatywały z dużą prędkością nad oddziałami, wywołując panikę. Żołnierze wycofywali się, lecz wtedy ta sama fala nadlatywała z tyłu, popychając ich w przeciwnym kierunku i doprowadzając do stłoczenia w jednym miejscu. Wtedy żołnierze pojedynczo uciekali na boki, a tam już czekali na nich właśnie snajperzy, zamachowcy samobójcy czy samochody pułapki, co pozwalało ich łatwo pozabijać. Takie drony nie tylko trudno dojrzeć, ale także wychwycić na radarze czy przez dostępne obecnie systemy antydronowe.

Oficerowie z jednostek zajmujących się ochroną baz wojskowych (force protection) mówią, że ich ekrany świecą się jak choinki. Wszystko dlatego, że drony przeciwnika wyglądają w systemie tak samo jak ich własne maszyny – mogą nawet używać podobnej technologii! Siły zbrojne zachodnich sojuszników mają swoje systemy antydronowe, a także duże drony krążące po niebie. Są więc setki sygnałów, wśród których wyodrębnienie tych niewielkich wrogich maszyn jest bardzo trudne.

Jeszcze kilka lat temu drony uważano za bezpieczną alternatywę dla broni konwencjonalnej. Teraz to się zmieniło. Dlaczego? Jaki czynnik jest tu najważniejszy?

Pełna zgoda. W trakcie kosztownych wojen w Iraku i Afganistanie wykorzystanie przez wroga ładunków wybuchowych własnej roboty sprawiło, że wielu zachodnich żołnierzy zostało rannych lub zginęło. Takie amatorskie miny wybuchały pod naciskiem stopy lub pojazdu, zabijając lub okaleczając żołnierzy. Siły zachodnie nie wiedziały już, po czym stąpają. Jaka była alternatywa?

W Stanach Zjednoczonych oraz w krajach europejskich, w których było najwięcej ofiar, pojawiła się wówczas ogromna presja ze strony opinii publicznej. Szczególnie prezydent Barack Obama miał twardy orzech do zgryzienia: bo jak bronić bezpieczeństwa państwa w skali globalnej, a jednocześnie dotrzymać obietnicę sprowadzenia oddziałów do kraju?

Wtedy pojawiły się drony. Można nimi sterować z odległości tysięcy kilometrów. Są też w stanie pozostawać w powietrzu znacznie dłużej niż samoloty z załogą. Mogą wisieć nad celem, zbierać na jego temat informacje i w razie potrzeby wyeliminować przeciwnika.

Prezydent Obama powiedział, że drony to część „sprawiedliwej wojny”. Faktycznie, ratowały życie. Ale było to życie ludzi z Zachodu. Gdy przyjrzeć się sprawie, okazuje się, że precyzja dronów oznacza zwiększoną gwarancję zniszczenia danego celu. Nie znaczy to jednak, że ów cel jest właściwy. Chodzi wyłącznie o to, że gdy strzelisz, cel zostanie zniszczony.

Więc gdy wskutek błędów wywiadowczych atakowano niewłaściwe cele, nadal powodowało to śmierć i zniszczenie. Tysiące cywilów zginęło w wyniku ataku dronów. Jednak z perspektywy prowadzenia działań wojennych przez Zachód drony spełniły wtedy swój cel. Wycofaliśmy oddziały i w dużym stopniu przeszliśmy na zdalne prowadzenie działań wojennych.

Co się zmieniło od tamtego czasu?

Wówczas było prościej śledzić, w jaki sposób zachodnie siły używały dronów. Dziś liczba państw lub organizacji mających dostęp do wojskowych bądź wyposażonych w niszczycielskie technologie dronów wynosi około 140. Dzieje się to równolegle z pozyskiwaniem największych uzbrojonych dronów przez przynajmniej 40 państw. Oznacza to, że dostęp do broni umożliwiającej precyzyjne zabijanie nie ogranicza się dziś do sił zachodnich, ale obejmuje szeroki zakres graczy – tak naszych sprzymierzeńców, jak i wrogów.

Nie da się już dłużej bezkarnie używać dronów, a to zmieni sposób prowadzenia wojen. W ciągu minionych 10 lat przywykliśmy do niedrogich i wolnych od ryzyka działań wojennych. Tymczasem gdy przeciwnik może zaatakować nawet nasze najmniejsze oddziały czy bazy, po raz pierwszy od dekady mamy do czynienia z zagrożeniem z powietrza.

Nasi wrogowie szukają naszych słabych stron, a dziś są nimi właśnie drony

Amerykańscy wojskowi mówią – szczególnie w kontekście terrorystów z Państwa Islamskiego – że siły USA i Zachodu straciły taktyczną przewagę w powietrzu na wysokości 120-1200 m nad ziemią. Oczywiście siły USA nadal kontrolują wyższy rejon, ale powstrzymanie wrogich działań w tym niższym obszarze jest naprawdę trudne.

A zatem Zachód uważał drony za bezpieczną broń, dopóki miał dzięki nim przewagę nad przeciwnikami. Kiedy zaś stały się częścią wrogiego arsenału, przestały być bezpieczne.

To stały motyw w historii wojen. Ktoś wymyślił kuszę jako broń dla elity, ale z czasem rozprzestrzeniła się ona na biedniejszych. Łatwo się jej używa, nie wymaga długiego treningu i oto można za jej pomocą zabijać także samą elitę. W takiej sytuacji trzeba zmienić sposób prowadzenia działań wojennych.

Spójrzmy na broń jądrową. Jeśli tylko jedna strona dysponuje bombą atomową, wówczas ma przewagę nad innymi państwami. Jednak wraz z rozprzestrzenianiem się technologii zmienia się świat. W przypadku dronów widzimy dziś, jak siła, która kiedyś była w rękach jednego kraju czy sojuszu, trafiła do wrogich obozów i po raz kolejny zmienia sposób prowadzenia wojny.

Jednak drony nie ograniczają się do działań wojennych i nie tylko wojskowe drony są niebezpieczne. Co sprawia, że drony jako takie mogą być groźne?

Drony komercyjne zaprojektowano w taki sposób, aby mogły wykonywać coraz bardziej zaawansowane zadania. Najwięksi światowi producenci tworzą dziś maszyny, które pokonują coraz większe odległości dzięki bardziej zaawansowanym przekaźnikom i silnikom, co oznacza, że osoby nimi sterujące mogą zmieniać częstotliwość, na której dron jest kontrolowany. Wszystkie te rozwiązania są korzystne z komercyjnego punktu widzenia, bo oznaczają, że drony stają się bardziej niezawodne i przydatne.

Jednak osoby o złych zamiarach mogą także z nich korzystać. Coraz większe odległości pokonywane przez drony oznaczają wzrost anonimowości, bo im dalej od drona się znajdujesz, tym trudniej stwierdzić, kim jesteś oraz co i w jakim celu robisz.

Z kolei możliwość coraz większych obciążeń oznacza, że osoba o złych intencjach może przenosić więcej śmiercionośnych ładunków. A większa prędkość i lepszy napęd potęgują trudności z wykryciem drona.

Tak więc te na pozór pozytywne możliwości techniczne mogą zostać wykorzystane w złym celu. Dostępne na rynku technologie wciąż idą naprzód. Byłoby świetnie, gdyby służby odpowiedzialne za ochronę państwa, a także sądownictwo oraz administracja potrafiły dotrzymać kroku tym zmianom. Jednak dziś dużo więcej inwestuje się w rozwój komercyjnych dronów niż systemów antydronowych. A mechanizmy działania rządów sprawiają, że zawsze zostają one w tyle.

Ja jestem za zwiększoną współpracą producentów dronów z producentami systemów antydronowych oraz z rządami. W przeciwnym razie społeczeństwo straci zaufanie do tej technologii. Wystarczy przypomnieć incydent na lotnisku Gatwick czy inne podobne przypadki, gdy drony spowodowały paraliż infrastruktury.

Jestem przekonany, że w przyszłości drony mogą zostać wykorzystane dla naszego dobra, dostarczając całemu społeczeństwu istotnych korzyści, np. w obszarze logistyki czy zaopatrzenia medycznego. Ale nie działajmy pochopnie. Najpierw upewnijmy się, że społeczeństwo panuje nad tą technologią, i zbudujmy odpowiednią infrastrukturę, nie tracąc w międzyczasie zaufania do dronów.

Podczas swojego wystąpienia na Infoshare powiedział pan, że wzrost przydatności dronów w trakcie pandemii koronawirusa zwiększa presję na decydentów, by poluzować regulacje w tym obszarze. Czy w tym kontekście powinniśmy zaakceptować wykorzystanie dronów na szerszą skalę?

Uważam, że na obecnym etapie użycie dronów powinno być kontrolowane. Testy pilotażowe mogą pomóc wypracować dobre praktyki w ich zastosowaniu oraz wyodrębnić zachowania negatywne. Obawiam się jednak, że – jak to już w przeszłości bywało – technologia nadal będzie uważana za panaceum na społeczne problemy. I będziemy dążyć do postępu, nie biorąc pod uwagę jego długofalowych konsekwencji.

Regulacje dotyczące dronów nie pojawiły się bez przyczyny. A nie widzę żadnego znaczącego postępu w technologiach antydronowych, które uzasadniałyby poluzowanie tych regulacji. Na tym etapie nie sądzę, by takie zmiany były słuszne. Przeciwnie – uważam, że powinniśmy dobrze się zastanowić, zanim podejmiemy taką decyzję.

Na obecnym etapie użycie dronów powinno być kontrolowane. Obawiam się jednak, że technologia nadal będzie uważana za panaceum na społeczne problemy. I będziemy dążyć do postępu, nie biorąc pod uwagę jego długofalowych konsekwencji

Tak jak mówiłem w swoim wystąpieniu, nasi wrogowie szukają naszych słabych stron, a dziś są nimi właśnie drony. Wystarczy spojrzeć na ataki z ich użyciem lub inne sposoby ich wrogiego wykorzystania, które miały miejsce w Stanach Zjednoczonych. Powszechnie dostępne drony umożliwiły wtargnięcie na tereny pod szczególną ochroną – od Białego Domu, przez Pentagon, aż po jedną z największych na świecie elektrowni atomowych w Arizonie, nad którą przez kilka dni fruwał rój dronów, który wziął się nie wiadomo skąd.

Przy czym rzecz nie sprowadza się wyłącznie do wrogich zastosowań. Drony są coraz częściej używane przez policję i ratowników. A w USA narastają obawy, że niektóre chińskie technologie przesyłają dane prosto do Pekinu. Jeśli rzeczywiście tak jest, a służby w Stanach i Europie używają tych dronów do zbierania informacji o swoich obywatelach i utrzymywania porządku, to jest w tym coś niepokojącego. Dokąd trafiają te informacje i czy są bezpieczne?

Czy w kontekście regulacji powinniśmy traktować drony jako część szerszego cyfrowego ekosystemu obejmującego sztuczną inteligencję i internet rzeczy, czy raczej ujmować je osobno?

Podobnie jak w przypadku innych nowych technologii, drony warto postrzegać w szerszych ramach, szczególnie uwzględniających SI. Pomaga to w rozstrzyganiu kwestii etycznych związanych z technologią.

Blisko współpracuję z zespołami budującymi drony zarówno w Danii, jak i w Wielkiej Brytanii, starając się rozwiązać niepokojące inżynierów problemy dotyczące użycia dronów. Dlatego jestem jak najbardziej zainteresowany analizą dronów w szerszym kontekście, ponieważ wiele dyskusji w obszarze SI znajduje zastosowanie w dziedzinie dronów i odwrotnie.

W rzeczywistości wiele osób pracujących nad dronami wkracza w obszar SI, przekonując, że drony będą coraz częściej zautomatyzowanymi systemami opartymi na sztucznej inteligencji. Dlatego chciałbym bardzo, aby interdyscyplinarna debata w tym obszarze była kontynuowana i by oba te zjawiska rozpatrywano wspólnie.

Abstrahując od regulacji, w jaki sposób możemy się bronić przed zagrożeniem ze strony dronów? Wspomniał pan technologie antydronowe.

Przede wszystkim technologie antydronowe stanowią antidotum głównie na znane od dekady zagrożenia ze strony pojedynczych dronów lub par dronów poruszających się na niskich wysokościach. Jednak dziś istnieje możliwość podłączenia sześciu czy siedmiu dronów do darmowego oprogramowania czy aplikacji i łatwego sterowania nimi wszystkimi naraz za pomocą komputera bądź telefonu nawet z odległości 8 kilometrów.

Właściwie nie trzeba nawet samemu nimi kierować. Wystarczy wcisnąć na mapie przycisk lokalizacji, by dron wzbił się w powietrze i sam poleciał do celu. Jak w sytuacji podobnego zagrożenia władze miałyby ścignąć je na ziemię?

Nie ma systemów, które umożliwiałyby po prostu zestrzelenie dronów?

Jeśli chodzi o strzelające drony czy o sieci dronów, to są one tak zaprojektowane, że mogą unieszkodliwić jeden bądź dwa drony – i to pod warunkiem, że w danym miejscu jest akurat zainstalowany system antydronowy. Trzeba więc zacząć od ochrony miejsc i infrastruktury o strategicznym znaczeniu dla kraju. Trzeba chronić elektrownie, bazy wojskowe czy siedziby rządu.

Jeśli jednak technologie antydronowe wciąż pozostają w tyle, jak możemy tu zagwarantować odpowiednią ochronę?

Nie sądzę, byśmy na razie mogli to zrobić, ale od tego trzeba zacząć.

Następnie jako społeczeństwo zatroskane o sprawy publiczne powinniśmy zaakceptować drony, ale zarazem krytycznie przyglądać się ich rozwojowi i w razie potrzeby go kwestionować. Na zasadzie: czy na pewno w danym przypadku potrzebujemy tak zaawansowanych możliwości technicznych bądź dronów o takich rozmiarach lub mogących przenosić tak duże ładunki? A może da się stworzyć system, który realizuje swoje zadanie bez zwiększania ryzyka, jeśli wpadłby we wrogie ręce? Przecież drony można zhakować.

Można na to spojrzeć i tak: w Wielkiej Brytanii istnieje zagrożenie związane z użyciem broni palnej, ale nie każdy policjant jest uzbrojony. Mamy za to oddziały szybkiego reagowania, które wkraczają do akcji, gdy pojawia się zagrożenie ze strony osoby z bronią. Dlaczego nie zastosować podobnego podejścia w kontekście dronów i technologii antydronowej? Nie każdy policjant musi mieć przy sobie strzelającego drona. Wystarczy, że wszędzie będą odpowiednie oddziały, które w razie potrzeby potrafią szybko zareagować.


Redakcja dziękuje organizatorom Infoshare za pomoc w zaaranżowaniu rozmowy z Jamesem Rogersem.


*James Rogers jest profesorem w Centrum Badań nad Wojną na Uniwersytecie Południowej Danii oraz członkiem think tanku LSE IDEAS w London School of Economics. Sprawuje funkcję specjalnego doradcy parlamentu brytyjskiego w ramach Międzypartyjnej Parlamentarnej Grupy ds. Dronów. Jest także doradcą ONZ oraz Ministerstwa Obrony Wielkiej Brytanii.


Infoshare 2020 Online – wirtualny festiwal społeczności napędzanej technologią!

Ponad 7,5 tysiąca uczestników z 71 krajów, 250 technologicznych start-upów i korporacji oraz blisko 200 ekspertów z całego świata, którzy dzielili się wiedzą na 9 scenach Infoshare. Tak wyglądał Infoshare 2020 Online! Największa technologiczna konferencja w CEE odbyła się we wrześniu i transmitowana była na cały świat z Gdańska.


Read the English version of this text HERE

Skip to content