Yuval Harari mówi o nadchodzącej cyfrowej dyktaturze

Jeśli technologiczna władza nowej ery wpadnie w ręce Stalina XXI w., rezultatem będzie najgorszy reżim totalitarny w historii ludzkości. - powiedział autor wielu bestsellerów, Yuval Harari, podczas tegorocznej konferencji w Davos. Oto transkrypcja jego wypowiedzi.

Wkraczając w trzecią dekadę XXI wieku, ludzkość staje przed tak wieloma problemami i pytaniami, że naprawdę trudno jest zdecydować, na czym należy się skupić. Chciałbym więc wykorzystać następne dwadzieścia minut, aby pomóc nam skupić się na poszczególnych problemach, z którymi się borykamy. Egzystencjalne wyzwanie dla naszego gatunku stanowią trzy problemy. Te trzy wyzwania to nuklearne zniszczenia, kryzys klimatyczny, rewolucja technologiczna. Na nich powinniśmy się skupić. Wojna nuklearna i zapaść ekologiczna są już zagrożeniami dobrze znanymi, więc pozwólcie mi poświęcić trochę czasu na wyjaśnienie mniej znanego zagrożenia, jakie stanowi rewolucja technologiczna. W Davos wiele słyszymy o ogromnych obietnicach technologii – i te obietnice są z pewnością prawdziwe. Ale technologia może również zakłócić działanie ludzkiego społeczeństwa i podkopać na wiele sposobów sens ludzkiego życia, od stworzenia globalnej klasy bezużytecznych po wzrost kolonializmu danych i dyktatur cyfrowych. Po pierwsze, możemy napotkać przeobrażenia na poziomie społecznym i gospodarczym. Automatyzacja wkrótce wyeliminuje miliony miejsc pracy i chociaż z pewnością zostaną utworzone nowe, nie jest jasne, czy ludzie będą w stanie wystarczająco szybko nauczyć się niezbędnych nowych umiejętności. Załóżmy, że jesteś pięćdziesięcioletnim kierowcą ciężarówki i właśnie straciłeś pracę na rzecz pojazdu sterowanego sztuczną inteligencją. Pojawiają się miejsca pracy związane z projektowaniem oprogramowania lub kursami jogi dla inżynierów – ale w jaki sposób pięćdziesięcioletni kierowca ciężarówki ma stać się inżynierem oprogramowania lub nauczycielem jogi? I ludzie będą musieli to robić nie raz, ale raz po raz przez całe życie, ponieważ rewolucja w automatyzacji nie będzie pojedynczym wydarzeniem, po którym rynek pracy ustabilizuje się w nowej równowadze. Będzie to raczej kaskada coraz większych przełomów, ponieważ sztuczna inteligencja nie jest jeszcze bliska osiągnięcia swojego pełnego potencjału. Stare miejsca pracy znikną i pojawią się nowe, ale wówczas te nowe miejsca pracy szybko się zmienią i również znikną. Podczas gdy w przeszłości człowiek musiał zmagać się z wyzyskiem, w XXI w. naprawdę nierówna walka będzie miała związek z bezsensownością. Znacznie gorzej jest być nieistotnym niż wyzyskiwanym. Ci, którym nie powiedzie się walka z nieistotnością, będą stanowić nową „klasę bezużytecznych”: ludzi, którzy są bezużyteczni nie z punktu widzenia przyjaciół i rodziny, ale z punktu widzenia systemu gospodarczego i politycznego. Ta klasa bezużytecznych będzie oddzielona od coraz potężniejszej elity rosnącą luką. Rewolucja sztucznej inteligencji (SI) może stworzyć bezprecedensową nierówność nie tylko pomiędzy klasami, ale także pomiędzy krajami. W dziewiętnastym wieku kilka krajów, takich jak Wielka Brytania i Japonia, uprzemysłowiło się jako pierwsze, aby następnie podbić i wyzyskiwać większość świata. Jeśli nie zachowamy ostrożności, to samo stanie się w XXI wieku z SI. Jesteśmy już w trakcie wyścigu zbrojeń SI, w którym prowadzą Chiny i USA, a większość krajów pozostaje daleko w tyle. O ile nie podejmiemy działań w celu rozdzielenia korzyści i mocy SI między wszystkich ludzi, sztuczna inteligencja prawdopodobnie wygeneruje ogromne bogactwo w kilku zaawansowanych technologicznie centrach, podczas gdy inne kraje zbankrutują lub staną się koloniami danych. Nie mówimy tutaj o scenariuszu science fiction, w którym roboty zbuntują się przeciwko ludziom. Mówimy o znacznie bardziej prymitywnej sztucznej inteligencji, która jednak wystarcza, by zakłócić globalną równowagę. Wystarczy pomyśleć, co stanie się z rozwijającymi się gospodarkami, kiedy produkcja tekstyliów lub samochodów będzie tańsza w Kalifornii niż w Meksyku? A co się stanie z polityką w Twoim kraju za dwadzieścia lat, kiedy ktoś w San Francisco lub Pekinie pozna całą historię medyczną i osobistą każdego polityka, każdego sędziego i dziennikarza w Twoim kraju, w tym wszystkie ich seksualne eskapady, wszystkie ich psychiczne słabości i wszystkie ich brudne interesy? Czy nadal będzie to niezależny kraj, czy stanie się kolonią danych? Mając wystarczającą ilość danych, nie musisz wysyłać żołnierzy, aby przejąć kontrolę nad krajem. Oprócz nierówności, drugim poważnym zagrożeniem, przed którym stoimy, jest rozwój cyfrowych dyktatur, które będą monitorować wszystkich przez cały czas. Zagrożenie to można sformułować prostym równaniem, które moim zdaniem może być równaniem definiującym życie w XXI wieku: B x C x D = AHH! Co to oznacza? Wiedza biologiczna (B) pomnożona przez moc obliczeniową (C, ang. computing power) pomnożoną przez zasoby danych (D) równa się zdolność hakowania ludzi (AHH, ang. ability to hack humans). Jeśli wystarczająco dobrze znasz biologię i masz odpowiednią moc obliczeniową i dane, możesz zhakować moje ciało, mózg i życie, a także zrozumieć mnie lepiej niż ja sam. Możesz poznać mój typ osobowości, moje poglądy polityczne, moje preferencje seksualne, moje słabości umysłowe, moje najgłębsze lęki i nadzieje. Poznasz mnie lepiej niż ja sam. I możesz to zrobić nie tylko ze mną, ale z każdym. System, który rozumie nas lepiej niż my sami, może przewidywać nasze uczucia i decyzje, może nimi manipulować, a ostatecznie może podejmować decyzje za nas. W przeszłości wiele rządów i tyranów chciało to zrobić, ale nikt nie rozumiał biologii wystarczająco dobrze i nikt nie miał wystarczającej mocy obliczeniowej oraz danych niezbędnych, aby zhakować miliony ludzi. Nie mogły tego zrobić ani Gestapo, ani KGB. Ale wkrótce przynajmniej niektóre korporacje i rządy będą w stanie systematycznie hakować wszystkich ludzi. My, ludzie, powinniśmy przyzwyczaić się do tego, że nie jesteśmy już tajemniczymi duszami – jesteśmy teraz zwierzętami, które można hakować. Tym właśnie jesteśmy. Moc hakowania ludzi można wykorzystywać do dobrych celów – takich jak zapewnienie znacznie lepszej opieki zdrowotnej. Ale jeśli taka władza wpadnie w ręce Stalina XXI w., rezultatem będzie najgorszy reżim totalitarny w historii ludzkości. A mamy już wielu kandydatów do miana Stalina XXI w. Wyobraźmy sobie Koreę Północną za dwadzieścia lat, kiedy wszyscy będą musieli nosić bransoletkę biometryczną, która monitoruje ciśnienie krwi, tętno, aktywność mózgu przez 24 godziny na dobę. Słuchasz przemówienia wielkiego przywódcy w radiu, a oni wiedzą, co naprawdę czujesz. Możesz klaskać i się uśmiechać, ale jeśli jesteś zły, oni się o tym dowiedzą, a jutro będziesz w gułagu. A jeśli pozwolimy na pojawienie się tak totalitarnych systemów nadzoru, nie myślmy, że bogaci i potężni w miejscach takich jak Davos będą bezpieczni, zapytajcie Jeffa Bezosa [którego telefon został zhakowany dzięki wiadomości wysłanej mu na WhatsApp przez jego znajomego, saudyjskiego następcę tronu Muhammada bin Salmana – przyp.red.]. W ZSRR Stalina państwo monitorowało członków elity komunistycznej bardziej niż kogokolwiek innego. To samo dotyczy przyszłych reżimów całkowitego nadzoru. Im wyższe miejsce w hierarchii zajmujesz, tym dokładniej będziesz obserwowany. Czy chcesz, aby Twój dyrektor lub prezydent wiedzieli, co naprawdę o nich myślisz? Dlatego w interesie wszystkich ludzi, w tym elit, leży zapobieganie powstaniu takich cyfrowych dyktatur. A w tzw. międzyczasie, jeśli otrzymasz podejrzaną wiadomość na WhatsApp od jakiegoś księcia, nie otwieraj jej. Jeśli rzeczywiście zapobiegniemy ustanowieniu cyfrowych dyktatur, zdolność do hakowania ludzi może nadal podważać sam sens ludzkiej wolności. Ponieważ ludzie będą polegać na sztucznej inteligencji przy podejmowaniu coraz większej liczby decyzji, władza przejdzie z ludzi na algorytmy, a to już się dzieje. Już dziś miliardy ludzi ufają algorytmowi Facebooka, mówiącemu nam, co nowego, algorytmowi Google, mówiącemu nam, co jest prawdą, Netflixowi mówiącemu nam, co oglądać, oraz algorytmom Amazon i Alibaba mówiącym nam, co kupić. W niedalekiej przyszłości podobne algorytmy mogą mówić nam, gdzie pracować i kogo poślubić, a także decydować, czy zatrudnić nas do pracy, czy udzielić nam pożyczki i czy bank centralny powinien podnieść stopę procentową. A jeśli zapytasz, dlaczego nie otrzymałeś pożyczki albo dlaczego bank nie podniósł stopy procentowej, odpowiedź zawsze będzie taka sama – ponieważ komputer mówi „nie”. A ponieważ ograniczony ludzki mózg nie ma wystarczającej wiedzy biologicznej, mocy obliczeniowej i zasobu danych – ludzie po prostu nie będą w stanie zrozumieć decyzji komputera. Tak więc nawet w rzekomo wolnych krajach ludzie prawdopodobnie stracą kontrolę nad własnym życiem, a także zdolność rozumienia polityki publicznej. Dzieje się to już teraz. Ilu ludzi obecnie rozumie system finansowy? W najlepszym przypadku może jeden procent. Za kilka dziesięcioleci liczba ludzi zdolnych pojąć system finansowy wyniesie dokładnie zero. My, ludzie, jesteśmy przyzwyczajeni do myślenia o życiu jako dramacie podejmowania decyzji. Jaki będzie sens ludzkiego życia, gdy większość decyzji podejmują algorytmy? Nie mamy nawet modeli filozoficznych zdolnych pojąć taką egzystencję. Zwykle układ między filozofami a politykami polega na tym, że filozofowie mają wiele fantazyjnych pomysłów, a politycy zasadniczo wyjaśniają, że brakuje im środków na ich realizację. Teraz mamy odwrotną sytuację. Grozi nam filozoficzne bankructwo. Bliźniacze rewolucje w infotechnologii i biotechnologii dają obecnie politykom środki na stworzenie raju bądź piekła, ale filozofowie mają problem z konceptualizacją tego, jak będzie wyglądać nowy raj i nowe piekło. I jest to sytuacja bardzo niebezpieczna. Jeśli nie zdołamy wystarczająco szybko wyobrazić sobie nowego raju, możemy łatwo zostać wprowadzeni w błąd przez naiwne utopie. A jeśli nie uda nam się wystarczająco szybko wyobrazić sobie nowego piekła, możemy zostać w nim uwięzieni bez wyjścia.Technologia zmienia biologię. Wreszcie technologia może zakłócić nie tylko naszą gospodarkę, politykę i filozofię, ale także naszą biologię. W nadchodzących dziesięcioleciach, SI i biotechnologia dadzą nam boskie moce przeprojektowywania życia, a nawet tworzenia zupełnie nowych form życia. Po czterech miliardach lat kształtowania życia organicznego przez dobór naturalny wkraczamy w nową erę życia nieorganicznego, kształtowanego przez inteligentny projekt. Nasz inteligentny projekt stanie się nową siłą napędową ewolucji życia, a korzystając z naszych nowych boskich mocy stwarzania, możemy popełniać błędy na kosmiczną skalę. Szczególnie rządy, korporacje i armie najprawdopodobniej wykorzystają technologię do podnoszenia ludzkich umiejętności, które uznają za potrzebne – takich jak inteligencja i dyscyplina – przy jednoczesnym zaniedbywaniu innych umiejętności – takich jak współczucie, wrażliwość artystyczna i duchowość. Rezultatem może być rasa ludzi bardzo inteligentnych i zdyscyplinowanych, ale pozbawionych współczucia, wrażliwości artystycznej i duchowej głębi. Oczywiście nie jest to przepowiednia. To tylko możliwości. Technologia nigdy nie jest deterministyczna. W XX w. ludzie używali tej samej technologii przemysłowej do budowy bardzo różnych rodzajów społeczeństw: faszystowskich dyktatur, reżimów komunistycznych, liberalnych demokracji. To samo stanie się w dwudziestym pierwszym stuleciu. SI i biotechnologia z pewnością przekształcą świat, ale możemy je wykorzystać do stworzenia bardzo różnych rodzajów społeczeństw. A jeśli boicie się niektórych możliwości, o których wspomniałem, nadal możecie coś z tym zrobić. Ale aby zrobić cokolwiek skutecznego, potrzebujemy globalnej współpracy. Wszystkie trzy wyzwania egzystencjalne, z którymi się mierzymy, stanowią globalne problemy wymagające globalnych rozwiązań. Ilekroć jakiś przywódca mówi coś w stylu „Mój kraj przede wszystkim!” przypominajmy temu przywódcy, że żaden naród nie jest w stanie samodzielnie zapobiec wojnie nuklearnej ani zatrzymać ekologicznej katastrofy, ani żaden naród nie jest w stanie samodzielnie regulować SI i bioinżynierii. Prawie każdy kraj powie: „Hej, przecież nie chcemy opracowywać zabójczych robotów ani prowadzić inżynierii genetycznej na ludzkich dzieciach. My jesteśmy ci dobrzy. Ale nie możemy ufać, że nasi rywale tego nie zrobią. Więc musimy zrobić to pierwsi”. Jeśli pozwolimy na taki wyścig zbrojeń w dziedzinach takich jak sztuczna inteligencja i bioinżynieria, tak naprawdę nie ma znaczenia, kto ten wyścig wygra – przegranym będzie ludzkość. Niestety, akurat gdy globalna współpraca jest bardziej potrzebna niż kiedykolwiek wcześniej, niektórzy z najpotężniejszych przywódców i krajów na świecie celowo podważają globalną współpracę. Przywódcy tacy jak prezydent USA mówią nam, że istnieje naturalna sprzeczność między nacjonalizmem a globalizmem oraz że powinniśmy wybrać nacjonalizm, a globalizm odrzucić. Jest to jednak niebezpieczny błąd. Nie ma sprzeczności między nacjonalizmem a globalizmem. Ponieważ nacjonalizm nie polega na nienawidzeniu obcokrajowców. Nacjonalizm polega na miłości wobec własnych rodaków. A w dwudziestym pierwszym wieku, aby chronić bezpieczeństwo i przyszłość swoich rodaków, musimy współpracować z obcokrajowcami. Tak więc w XXI wieku dobrzy nacjonaliści muszą być także globalistami. Globalizm nie oznacza obecnie ustanowienia globalnego rządu, porzucenia wszelkich narodowych tradycji ani otwarcia granic na nieograniczoną imigrację. Oznacza raczej przywiązanie do niektórych globalnych reguł. Reguł, które nie negują wyjątkowości każdego narodu, a jedynie regulują stosunki między nimi. Dobrym modelem są Mistrzostwa Świata w piłce nożnej. Mistrzostwa Świata to rywalizacja między narodami, a ludzie często okazują silną lojalność wobec swojej drużyny narodowej. Ale jednocześnie Mistrzostwa Świata stanowią niesamowity pokaz globalnej harmonii. Francja nie może grać przeciwko Chorwacji, chyba że Francuzi i Chorwaci uzgodnią takie same zasady gry. I to jest globalizm w praktyce. Jeśli lubisz Mistrzostwa Świata – już jesteś globalistą. Mam nadzieję, że narody będą w stanie uzgodnić globalne reguły nie tylko w piłce nożnej, ale także w sposobie zapobiegania katastrofie ekologicznej, regulacji niebezpiecznych technologii i zmniejszania globalnej nierówności. Jak na przykład upewnić się, że SI przynosi korzyści meksykańskim pracownikom włókienniczym, a nie tylko amerykańskim inżynierom oprogramowania? Oczywiście będzie to znacznie trudniejsze niż piłka nożna – ale nie niemożliwe. Co do niemożliwego – cóż, już osiągnęliśmy niemożliwe. Uciekliśmy już z dzikiej dżungli, w której my, ludzie, żyliśmy przez całą naszą historię. Przez tysiące lat ludzie żyli prawem dżungli w stanie wszechobecnej wojny. Prawo dżungli mówi, że dla każdych dwóch sąsiadujących ze sobą krajów istnieje prawdopodobny scenariusz, w którym w przyszłym roku pójdą na wojnę. W świetle tego prawa, pokój oznaczał jedynie „tymczasowy brak wojny”. Kiedy panował „pokój” między – powiedzmy – Atenami i Spartą, albo Francją i Niemcami, oznaczało to, że teraz nie są w stanie wojny, ale w przyszłym roku mogą. I przez tysiące lat ludzie zakładali, że tego prawa nie sposób uniknąć. Ale w ciągu ostatnich kilku dekad ludzkość zdołała dokonać niemożliwego: złamać to prawo i uciec z dżungli. Zbudowaliśmy oparty na regułach liberalny globalny porządek, który pomimo wielu niedoskonałości dał jednak początek najbogatszej i najbardziej pokojowej erze w historii ludzkości. Zmieniło się samo znaczenie słowa „pokój”. „Pokój” nie oznacza już jedynie chwilowego braku wojny. Pokój oznacza teraz niewiarygodność wojny. Jest wiele krajów, w przypadku których po prostu nie jesteśmy w stanie wyobrazić sobie, że mogłyby w przyszłym roku prowadzić wojnę przeciwko sobie – jak Francja i Niemcy. W niektórych częściach świata nadal wybuchają wojny. Pochodzę z Bliskiego Wschodu, więc wierzcie mi, doskonale to znam. Ale nie powinno nas to zaślepiać w odbiorze całego obrazu globalnego. Żyjemy obecnie w świecie, w którym wojna zabija mniej ludzi niż samobójstwa, a proch strzelniczy jest o wiele mniej niebezpieczny dla naszego życia niż cukier. Większość krajów – z kilkoma znaczącymi wyjątkami, takimi jak Rosja – nawet nie marzy o podboju i aneksji swoich sąsiadów. Dlatego większość krajów może sobie pozwolić na przeznaczanie około dwóch procent PKB na obronność, a znacznie więcej na edukację i opiekę zdrowotną. To nie jest dżungla. Niestety, przyzwyczailiśmy się do tej cudownej sytuacji, dlatego uważamy ją za coś oczywistego i stajemy się wyjątkowo nieostrożni. Zamiast robić wszystko, co w naszej mocy, aby wzmocnić kruchy globalny porządek, kraje go zaniedbują, a nawet celowo podważają. Globalny porządek jest teraz jak dom, w którym wszyscy mieszkamy, ale którego nikt nie naprawia. Może wytrzymać jeszcze kilka lat, ale jeśli będziemy tak dalej robić, to się zawali – i znów znajdziemy się w dżungli wszechobecnej wojny. Zapomnieliśmy, jak to jest, ale wierzcie mi jako historykowi – nie chcecie tego poznać. Jest to znacznie, znacznie gorsze, niż sobie wyobrażacie. Owszem, nasz gatunek wyewoluował w tej dżungli i żył w niej, a nawet prosperował przez tysiące lat, ale jeśli wrócimy tam teraz, to dzięki potężnym nowym technologiom XXI wieku, nasz gatunek prawdopodobnie sam się unicestwi. Oczywiście, nawet jeśli znikniemy, nie będzie to koniec świata. Coś nas przeżyje. Być może szczury w końcu przejmą Ziemię i odbudują cywilizację. Być może nauczą się czegoś na naszych błędach. Żywię jednak wielką nadzieję, że możemy polegać na zgromadzonych tu przywódcach, a nie na szczurach. Oryginalny tekst: TUTAJ