18.02.2021

Nowy Napis Co Tydzień #088 / Cyfrowa lekkość bytu. Jak się dobrze ustawić w świecie algorytmów

Automatyzacja życia na Ziemi jest jak pożar. Ustanie dopiero, gdy przetrawi wszystko, co może. Wtedy relacja człowieka z algorytmem osiągnie poziom optymalny. Powstaną nowe filozofie życia i nowe typy ludzi. Jeśli chcesz dobrze wybrać zawód na przyszłość to pamiętaj: nadchodzi wielkie oczyszczenie.

Gdy grasz w Wiedźmina albo GTA, raczej nie myślisz o tym, że to wszystko dzięki algorytmowi, który powołał świat do życia: jego fizykę, zasady, ludzi, a nawet modele ich psychiki i scenariusze możliwych w grze przyszłości. Algorytm jako idea kreująca rzeczywistość od dawna rozpala wyobraźnię wizjonerów: w filmie Matrix algorytm był prawie tak potężny jak Bóg. Tymczasem w informatyce czy matematyce algorytm jawi się całkiem trywialnie – to po prostu sekwencja instrukcji czy działań nakierowanych na rozwiązanie jakiegoś problemu. Gdyby jednak twoją podróż w świecie Wiedźmina musieli na bieżąco obliczać matematycy uzbrojeni w kartkę papieru, nie zacząłbyś nawet gry. Samo obliczenie ruchu gałęzi drzewa na wietrze oraz trajektorii spadających liści zajęłoby im wieki. Dlaczego? Bo ludzkie mózgi nie są przyzwyczajone do samodzielnego przetwarzania oceanów danych. Na szczęście mamy algorytmy, które żmudną robotę obliczania tego, co da się obliczyć, zrobią za nas.

Jesteś wyjątkowy (jak wszyscy)

Właśnie z ogromnej, codziennej przydatności algorytmów wzięła się ich ekspansja prowadząca do coraz większej automatyzacji życia na Ziemi. Algorytmy dziś prowadzą samochody, szacują, w jaki fundusz warto zainwestować, i obliczają, jaki będzie wynik eksperymentu chemicznego, jeszcze zanim cokolwiek wlejemy do próbówki. Ciągle jeszcze zbyt mało osób zdaje sobie sprawę, że algorytmy obliczają też człowieka. Bo człowiek jest obliczalny – i policzalny. Choć ten konkretny, pojedynczy człowiek jest ciągle jeszcze zagadką, to ludzie w swojej masie są coraz lepiej uporządkowaną strukturą. Podzieleni na kategorie, otagowani, przewidywalni w swoich zachowaniach, typowi w marzeniach i spodziewalni w wierzeniach. Ktokolwiek ma klucz do ich zbiorowej duszy, ten ma nad nimi władzę. To pierwsza ważna lekcja, jaką dają nam algorytmy: ludzie w XXI wieku to już nie romantyczni indywidualiści, lecz dobrze posegregowana i przewidywalna ludzka trzoda. Oczywiście, ty jesteś w tej masie wyjątkowa i wyjątkowy – jak wszyscy. Właściwie każdy bowiem zostawia dziś za sobą cyfrowy ślad, wyjątkowy i schematyczny zarazem. Dzięki temu można o człowieku powiedzieć dziś coraz więcej: kim jest, gdzie mieszka, gdzie bywa, co ma w głowie i co być może zrobi jutrohttps://www.facebook.com/greg2future/videos/570217230232122/ [dostęp: 17.02.2021].[1].

Czasem wiedza algorytmu o nas jeszcze nas zadziwia. Naprawdę wstyd przyznać, ale już wiele razy zamówiłem produkty i usługi, których zupełnie nie znałem (nie potrzebowałem?), a które podsunął mi algorytm. Czy ich zakup to była moja autentyczna potrzeba i autentyczna decyzja, a algorytm tylko mi to uświadomił? A może raczej wykreował we mnie tę potrzebę, bo znał moje bezwolne uwarunkowanie do pewnych decyzji? Być może algorytm po prostu nacisnął odpowiednie przyciski mojej psychiki, o których wie już Google, a ja sam jeszcze nie? Czy to w ogóle możliwe, że algorytm z binoklem wie o mnie więcej niż ja sam?

W zasadzie większość z nas wie – w teorii – jak to działa: dzięki zbieranej przez algorytmy wiedzy o tym, co lubisz, Facebook rekonstruuje twój profil światopoglądowy, a Google opierając się na tym, co czytasz, piszesz i o czym myślisz, podsuwa produkty i usługi. Firmy te należą do grona tak zwanych big tech, czyli gigantów technologicznych, posiadających własne platformy cyfrowe oraz ukryte pod nimi algorytmy pozwalające porządkować i segregować wiedzę o świecie i człowieku. Pracują nad tym codziennie, bez ustanku – i aż do końca świata.

Big tech, czyli Szymborska w Chinach

Oprócz firm z USA w tej syzyfowej, ale intratnej pracy uczestniczą też giganci technologiczni z Rosji, Chin, a także między innymi prężne firmy z Izraela. Łączy je wszystkie ogromny głód danych o tobie. Środowiska związane z Google na przykład są tak głodne wiedzy o człowieku, że po cichu protestują przeciw zachodnim, liberalnym normom prywatności. Jak pokazuje badaczka technologii Naomi Klein, byli pracownicy firmy z Mountain View prowadzili ostatnio aktywny lobbing w administracji USA, twierdząc, że współczesne rozumienie prywatności – zgodnie z którym mam prawo decydować, ile wie o mnie algorytm – to przeżytek. Były szef Google Eric Schmidt ostrzega wręcz, że ograniczanie algorytmom pola działania w imię wolności jednostki spowoduje, iż Zachód przegra rywalizację technologiczną z ChinamiN. Klein, „How big tech plans to profit from the pandemic”, „The Guardian” 13.05.2020, https://www.theguardian.com/news/2020/may/13/naomi-klein-how-big-tech-plans-to-profit-from-coronavirus-pandemic, [dostęp: 20.06.2020].[2]. W totalitarnych Chinach bowiem mało liczy się indywidualny człowiek i jego prywatność. Liczy się ul, a nie pszczoła; całość, a nie jednostka. Jak głosi chińskie przysłowie: „cokolwiek służy ulowi, służy też pszczole”T. Lau, et al., „Best-Loved Chinese Proverbs”, New York 2009, s. 19.[3]. Dlatego Chiny w interesie ula-Partii potrafią ci zajrzeć do ubikacji, ukarać za zbyt dużo kupionego alkoholu czy szepnięte złe słowo o Komunistycznej Partii ChinG. Lewicki, „Nowy wspaniały rój”, „PlusMinus”, 13–14.10.2018, nr 40/2018.[4]. Mają taką możliwość, bo nieustannie zbierają i integrują dane dzięki wielkiemu systemowi inwigilacji, rozpiętemu między smartfonami, komputerami, urządzeniami, lampami, termometrami, drzwiami, telewizorami czy milionami kamer w budynkach i na ulicach. W zasadzie to wszystko jest w stanie integrować i kontrolować jeden centralny system. Chiny nieustanie poszerzają przy tym pole działania algorytmów w dziedzinie inwigilacji i wprowadzają coraz to nowe rozwiązania w tym zakresie. Dzięki temu doskonalą technologię. Tymczasem Zachód ma opory – bo wierzy w godność jednostki i prawo do prywatności… A przynajmniej kiedyś wierzyłZobacz slajdy: https://www.theguardian.com/news/2020/may/13/naomi-klein-how-big-tech-plans-to-profit-from-coronavirus-pandemic#img-3 [dostęp: 17.02.2021].[5].

Jak pamiętają zapewne absolwenci liceum, Wisława Szymborska pisała kiedyś: „Tyle wiemy o sobie, ile nas sprawdzono”W. Szymborska, „Minuta ciszy po Ludwice Wawrzyńskiej” [w:] „Wiersze wybrane”, Wydawnictwo a5, Kraków 2000, s. 38–39.[6]. Chodziło o to, że człowiek nie wie na dobrą sprawę, jak zachowa się w jakiejś określonej sytuacji. I dopiero ta sytuacja sprawdza, jacy jesteśmy naprawdę. Dziś powiedzielibyśmy inaczej, bo dziś jest odwrotnie: „Tyle wiemy o sobie, ile nam zdradzono”. Choć bowiem repozytorium wiedzy o nas jako ludzkości rośnie nieustannie, to przechowywana jest ona w zamknięciu na serwerach gigantów technologicznych. To już nie jest ten świat, w którym ty sama i ty sam zarządzasz prawdą o sobie – to raczej świat, w którym wiedza o tobie już została zgromadzona, a co więcej – kopiec informacji o tobie staje się co dzień coraz bardziej kompletny. Przy tym jednak ta wiedza wcale nie jest dla ciebie dostępna. W licznych debatach na temat tego, do kogo właściwie należą twoje dane, daleko jest od globalnej zgody. Unia Europejska twierdzi, że big techtylko zarządza twoimi danymi, a ty masz cały czas do nich prawo (o tym mówi właśnie sławne RODO, unijne rozporządzenie o ochronie danych osobowychRODO, Urząd Ochrony Danych Osobowych RP, https://uodo.gov.pl/pl/404/224 [dostęp: 17.02.2021].[7]). Z kolei firmy z USA, takie jak Google czy Facebook, dokładają starań, aby tak długo, jak się da, wyciszać problem i traktować dane o tobie de facto jako swoją własność.

Zerwać zasłonę tajności

Kiedy kraje takie jak Australia domagają się większej przejrzystości i „zerwania zasłony tajności” spowijającej wielki kopiec danych o tobie, big tech zasłania się tajemnicą biznesowąB. Kaye, „T. Westbrook, Australia to ‘lift veil’ on Facebook, Google algorithms to protect privacy”, „Reuters”, 25.07.2019, https://www.reuters.com/article/us-australia-tech-regulator/australia-to-lift-veil-on-facebook-google-algorithms-to-protect-privacy-idUSKCN1UL01P, [dostęp: 20.06.2020].[8]. Mówi mniej więcej tak: „O tym, co wiemy o was i co z tą wiedzą robimy, możemy wam powiedzieć tylko trochę, bo jeśli powiemy zbyt dużo, skorzysta na tym nasza konkurencja”N. Klein, dz. cyt.[9]. Roger McNamee, inwestor, który kiedyś wspierał big tech, ale teraz go krytykuje, odpowiada: „To tylko dowodzi, że nie jesteście zdolni do samoregulacji i trzeba ograniczyć wasze zapędy międzynarodowymi przepisami prawnymiZob. R. McNamee, „Zucked: Waking Up to the Facebook Catastrophe”, New York 2019.[10]. A big tech z kolei ripostuje, zresztą całkiem sensownie: „Zaraz, zaraz, pomagamy śledzić zarażonych w pandemii COVID-19, aby ratować zdrowie ludzi, a wy chcecie nas ograniczać? Róbcie tak dalej, a Zachód bezpowrotnie przegra starcie technologiczne z Chinami”N. Klein, dz. cyt.[11].

W takiej oto kakofonii głosów wiedza o tobie, twoich marzeniach i wierzeniach staje się coraz bardziej kompletna – a także coraz bardziej nieprzejrzysta dla obywateli i państw. Ta wiedza jest często potężniejsza i głębsza niż wiedza, którą gromadzą najsprawniejsze służby specjalne świata. Klucz do niej ma big tech ślący w obieg, dzień w dzień, niezliczone mrowie algorytmów przeczesujących zakamarki rzeczywistości. Taka wiedza staje się wręcz wiedzowładzą – czyli wiedzą zdolną kształtować zachowania ludzi na całym świecie. Dlaczego? Bo jest to wiedza prawdziwa, zebrana od samego człowieka, z jego serca. „Mówię to wam ze swego nieznanego serca” – pisze SzymborskaW. Szymborska, dz. cyt.[12]. Owo nieznane serce jest właśnie teraz na kozetce big tech, a algorytmy projektowane przez psychologów i filozofów na usługach biznesu wyciskają to serce jak cytrynę. To kolejna lekcja, którą dają nam algorytmy: przemyśl swoje poczucie „ja”, bo nadchodzą czasy, w których ktoś inny wie o tobie więcej niż ty sam. I zastanów się, w jakim wolisz żyć świecie – wolnym od inwigilacji, ale niebezpiecznym, nieprzewidywalnym? Czy może w świecie inwigilowanym, ale bezpiecznym, w którym – jeśli będziesz grzeczny – włos ci z głowy nie spadnie? I jeszcze pamiętaj, że przyjdzie ci żyć w świecie, w którym tyle wiesz o sobie, ile ci zdradzono. Czy mając pewność, że algorytmy znają cię dużo lepiej niż ty sam, pozwolisz, by decydowały o tobie? O twoim zdrowiu, codziennych wyborach oraz szeroko pojętej drodze życia?

Cyfrowy Mojżesz i koniec niewoli

Aby lepiej zrozumieć algorytm, cofnijmy się kilka tysięcy lat, do czasów Mojżesza i Starego Testamentu. Pewnego dnia, gdy Mojżesz pasł owce na Górze Synaj, ukazał mu się anioł w płomieniu ognistego krzakaDz 7, 30–34.[13]. Płomień ten miał dziwne właściwości – choć płonął, wcale nie niszczył krzewu. Gdy Mojżesz wpatrywał się w ogień, zapewne z wielkim zdziwieniem, anioł obiecał mu wyprowadzić jego lud z niewoli.

Motyw krzewu gorejącego jest stale obecny w tradycji chrześcijańskiej. Na przykład Kościół reformowany we Francji w XVI wieku uczynił go częścią oficjalnej pieczęci, na której widniała łacińska fraza „flagror non consumor”, a więc „palę się, lecz nie niszczeję” lub „płonę, lecz się nie spalam”P. Henry, „Henry’s Abridged Life of Calvin (Das Leben Johann Calvin’s)”, „The Byblical repertory and Princeton Review for the Year 1848”, Vol XX, s. 297.[14]. Wydaje się, że taką właśnie naturę, jak płomień mojżeszowego krzewu, ma trawiąca dziś ludzkość automatyzacja. Po pierwsze, jest z pewnością paląca – ekspansja algorytmów każe na nowo przemyśleć filozoficzne podstawy naszej wolności. Co więcej, już teraz powoduje zanikanie wielu zawodów i profesji oraz powstawanie nowych, co prowadzi do ludzkiego cierpienia. Co więcej, coraz wyraźniej widzimy, że źle wdrożone algorytmy potrafią nam bardzo zaszkodzić.

Po drugie, przepalanie człowieczeństwa przez ogień automatyzacji ostatecznie wcale go nie zniszczy. Wręcz przeciwnie – proces ten doprowadzi do przemiany człowieka i przeorientowania jego społecznych celów. Doprowadzi też do przemiany mojego i twojego myślenia o nas samych. Zaczniemy myśleć o tym, jak naprawdę wykorzystać swój potencjał, robiąc rzeczy ludzkie, a nie takie, które równie dobrze mógłby wykonywać automat. Oczywiście droga do samowiedzy i przeorientowania celów cywilizacji wiedzie przez dezorientację i nierówności społeczne. Będzie piekło (ale o tym później).

Po trzecie, automatyzacja, tak samo jak obietnica krzewu gorejącego, jest związana z obietnicą wyprowadzenia nas z niewoli. Tą niewolą – często nieuświadomioną! – jest uwikłanie umysłu w sprawy mało ważne i automatyczne. Czyli takie, które szybciej i lepiej zrobi algorytm. A człowiek odzyska wolność. Na przykład, kiedy informacje prasowe będą pisać i czytać roboty – co już się dziejeZob. na przykład G. Lewicki, J. Włodarczyk, „News wars. Information, Journalists and Media in the Neomedieval Era” [w:] „Cities in the neomedieval era”, red. G. Lewicki, Wrocław 2016.[15] – to dziennikarze newsowi i prezenterzy znajdą inne ujście dla swojej kreatywności; kiedy autami kierować będą algorytmy – to kierowcy ciężarówek będą mogli wreszcie poszukać miejsc pracy bliżej swoich rodzin. Algorytm będzie uwalniał ludzi od coraz większej liczby zadań. A co nas czeka na końcu?

Prawa dla cyfrowo słabszych

Kiedy ostatecznie oddamy automatom, co należy do automatów, a człowiekowi, co ludzkie, zacznie się zupełnie nowy rozdział ludzkości. Dalsze dzieje ludzkości w tym duchu opisywał między innymi nasz współczesny Lem, czyli pisarz Jacek Dukaj w intrygującej książce Perfekcyjna niedoskonałośćJ. Dukaj, „Perfekcyjna niedoskonałość”, Wydawnictwo Literackie, Kraków 2004.[16]. W wizji Dukaja automatyzacja i algorytmizacja powodują, że ludzie wchodzą na coraz wyższe poziomy cywilizacyjnej złożoności i w coraz większym stopniu przenoszą się do świata cyfrowego. Potrafią archiwizować pamięć i stają się tak naprawdę niezależnymi od ciał ośrodkami życia psychicznego (frenami), potrafiącymi przeskakiwać na różne nośniki fizyczne. Oczywiście nie wszyscy – bo część ludzi boi się zmian lub z innych powodów chce pozostać w naszej analogowej cywilizacji. Tacy ludzie, niczym dzisiejsi pustelnicy, odmawiają skorzystania z coraz liczniejszych dobrodziejstw postępu cywilizacyjnego, zyskując za to święty spokój. Mają do tego prawo – bo prawo w wizji Dukaja bezwzględnie chroni ludzi mniej potężnych ewolucyjnie od silniejszych, korzystających z techniki, która umożliwia przekraczania siebie.

Może nie taki dokładnie wybór, ale z pewnością podobny stanie przed tobą i twoimi wnukami. Na ile oddać się algorytmowi? Na ile pod niego przepisywać i ciągle aktualizować swoje życie? Być może już dziś czujesz, że po kilku godzinach przełączania się między ekranem smartfona, komputera i tabletu ogarnia cię zmęczenie i rozkojarzenie. To naturalny proces psychiczny wywołany użytkowaniem sieci i interakcją z algorytmamiZob. J. Firth et al., „The „online brain”: how the Internet may be changing our cognition”, „World Psychiatry” 2019, 18 (2), https://www.ncbi.nlm.nih.gov/pmc/articles/PMC6502424/, [dostęp: 20.06.2020].[17] – ludzki mózg po prostu nie jest przystosowany do przetwarzania tylu informacji, ile jest dostępnych obecnie. Polowanie, śledzenie, postrzeganie, analiza sytuacji – w tym nasze mózgi są dobre. Ale szybkie, równoczesne analizowanie kilkuset wiązek piętrowo złożonych informacji leży poza naszym zasięgiem. Skoro więc cywilizacja ewoluuje dziś o wiele szybciej niż nasze biologiczne mózgi, jesteśmy w pewnym sensie skazani na używanie narzędzi cyfrowych. Są to odpowiedniki archaicznego młotka i radła, które umożliwiły kiedyś wskoczenie człowiekowi na wyższy poziom organizacji świata wśród lasów i gór. Jeśli dziś chcemy wskoczyć na jeszcze wyższy poziom wśród wieżowców i neonów, młotek-algorytm jest nam niezbędny.

Automat do dyskryminacji

Na razie jednak na linii człowiek-algorytm mocno iskrzy. Choć automatyzacja wkracza w coraz to nowe dziedziny, a cyfryzacja wypruwa dane z coraz większych obszarów realności, w dalszym ciągu nie odpowiedzieliśmy sobie, czego od nich chcemy i na ile pozwolimy im zmienić naszą kulturę. W pewnym sensie my, ludzie Zachodu, chcemy algorytmów i nie chcemy równocześnie, nie potrafiąc zważyć na szali korzyści i zagrożeń wynikających z ich wdrożeniaPor. na przykład: Z. Doffman, „Yes, Apple And Google Have Given Us A Serious Contact Tracing Problem – Here’s Why”, „Forbes”, 19.06.2020, https://www.forbes.com/sites/zakdoffman/2020/06/19/how-apple-and-google-created-this-contact-tracing-disaster/, [dostęp: 20.06.2020].[18]. Kilka przykładów ilustracji tego paradoksu: w czerwcu szef amerykańskiej firmy IBM Arvind Krishna ogłosił, że z powodów etycznych firma przestaje pracować nad mechanizmami rozpoznawania twarzy. Według Krishny rozpoznawanie twarzy umożliwia profilowanie rasowe oraz inwigilację, której poziom jest nieakceptowalny z punktu widzenia praw człowiekaT. Jurczak, „W obawie o rasizm IBM kończy z rozpoznawaniem twarzy, „Sztuczna Inteligencja” 13.06.2020, https://www.sztucznainteligencja.org.pl/w-obawie-o-rasizm-ibm-konczy-z-rozpoznawaniem-twarzy/, [dostęp: 20.06.2020].[19]. Najprościej mówiąc, profilowanie to możliwość podzielenia osób w bazie danych ze względu na rasę, religię czy edukację i wyciąganie na tej podstawie wniosków statystycznych. A co jeśli okaże się, że jakaś grupa etniczna częściej popełnia przestępstwa? Czy daje to jakiekolwiek prawo służbom do działań prewencyjnych? Krishna napisał w tej sprawie list do Kongresu USA, w którym oferuje współpracę IBM w działaniach na rzecz sprawiedliwości i równości rasowej. Takie listy nie zatrzymają jednak raczej gigantów technologicznych typu Google, traktujących inwigilację, w tym wypruwanie danych o ludziach z materiałów wideo, jako niezbędny warunek sprawnego działania automatyzowanych miast przyszłości (smart cities)Z. Doffman, dz. cyt.[20].

Problem inwigilacji i krzywdzenia przez algorytm dał się we znaki ostatnio także Europejczykom. Holenderski sąd rejonowy w Hadze kazał w maju wyłączyć rządowi system nadzorujący przyznawanie świadczeń społecznychJ. Henley, R. Booth, „Welfare surveillance system violates human rights, Dutch court rules”, „The Guardian” 5.02.2020, https://www.theguardian.com/technology/2020/feb/05/welfare-surveillance-system-violates-human-rights-dutch-court-rules, [dostęp: 20.06.2020].[21]. System ten sprawdza różne dane o świadczeniobiorcach, takie jak historia kredytowa, historia pobranych świadczeń, miejsc pracy i miejsc zamieszkania. Słowem: mnóstwo papierkowej roboty, którą za człowieka robi algorytm. Jeśli system uzna, że świadczeniobiorca zataja informacje lub może dopuszczać się oszustwa, zwraca na to uwagę urzędnikowi, co może wpłynąć na dalsze losy świadczenia. Sąd jednak stwierdził, że automat może dopuszczać się dyskryminacji (na przykład z góry dyskryminując ludzi z „trudnych dzielnic”, uznając ich z góry za „ryzykownych”). Co więcej, sąd wykazał, że algorytm jest nieprzejrzysty, niewystarczająco jasny i trudny do aktualizacji. Dlatego zakazał, przynajmniej na razie, jego używania, co w praktyce oznacza, że urzędy rozdzielające świadczenia będą znów potrzebować ludzkich rąk do pracy.

Podobnych przykładów w mediach jest mnóstwo – na przykład wysoce zautomatyzowany dział zasobów ludzkich w firmie Amazon załamał się w drugim kwartale 2020 roku w wyniku epidemii COVID-19. Okazało się bowiem, że algorytm nie daje rady przetwarzać złożonej sytuacji wielu pracowników uwikłanych w problemy zdrowotne. Na przykład automatycznie inicjuje procedury zwalniające pracowników, którzy nie stawili się w miejscu pracy z powodu choroby lub konieczności opieki nad chorymi na koronawirusaM. Day, „Amazon’s Heavily Automated HR Leaves Workers in Sick-Leave Limbo”, „Bloomberg”, 5.06.2020, https://www.bloomberg.com/news/articles/2020-06-05/amazon-s-heavily-automated-hr-leaves-workers-in-sick-leave-limbo, [dostęp: 20.06.2020].[22]. Powodem inicjacji procedur dyscyplinarnych mogło być na przykład nieprzedłożenie na czas oświadczenia zdrowotnego czy deklaracji na temat konieczności opieki nad bliskimi. Jeśli pracownik chciał wyjaśnić sprawę, musiał przeciskać się przez gąszcz czatbotów, aby dopiero na końcu dotrzeć do człowieka z krwi i kości, który może uelastycznić zwyczajowe procedury. Amazon otwarcie przyznał, że sytuacja przerosła firmę, i rozpoczął ponowne zatrudnianie tysięcy ludzi do działu HR, czyli tego samego działu, który niedawno zautomatyzował. Porażki algorytmów w takich przypadkach pokazują, że zanim automatyzacja przepali i oczyści wszystkie dziedziny naszego życia, musi minąć jeszcze trochę czasu. I niekoniecznie będzie to czas sielanki.

Warto przy tym podkreślić, że w Chinach o podobnych problemach cisza. Od dawna działa tam System Zaufania Społecznego, który sprzęża dane ze smartfonu, lodówki, karty kredytowej, sieci społecznościowych i autobusu w jeden system nadzoru nad rojem posłusznych ludziZob. G. Lewicki, „Nowy wspaniały rój. Czy pochłonie nas chiński kapitalizm roju?”, „Rzeczpospolita. Plus Minus”, 12.10.2018.[23].

Będzie piekło. Bez roboty przez roboty?

Ogień automatyzacji nie zniszczy cywilizacji, a jego działanie przyniesie ostatecznie więcej korzyści niż szkód. W międzyczasie jednak będzie piekło. To pieczenie związane będzie z negatywnymi zjawiskami algorytmizacji i bolesną koniecznością dostosowania się do jej konsekwencji. Te negatywne procesy to między innymi:

a) Cyfrowa dyskryminacja. Związana jest z niekorzystnymi konsekwencjami wdrożenia algorytmów, co pokazują wymienione wcześniej przykłady Amazona i systemu nadzorującego świadczenia w Holandii. W obu przypadkach wdrożenie algorytmu zrodziło podejrzenia, że nie spełnia on pokładanych w nim nadziei. Już teraz jednak widać, jak możemy dobrze sobie radzić z tym problemem: przede wszystkim poprzez regulacje prawne, nakazujące zwiększenie przejrzystości algorytmów oraz badanie ich pod kątem możliwej dyskryminacji grup społecznych.
b) Nierówności między cywilizacjami. Tak jak silnik parowy wygenerował wielkie fortuny i ustawił krezusów finansjery na całe pokolenia, tak „silnik cyfrowy”, czyli algorytmizacja generuje fortuny jeszcze większe. Technologiczni giganci (Apple, Amazon, Microsoft, Google etc.) już teraz należą do najpotężniejszych firm świata. Poza tym obecnie odbywa się globalna rywalizacja potęg o to, kto z kim stworzy nowy cyfrowy porządek świata i kto będzie kontrolował infrastrukturę sieciową (hardware) oraz działające na niej algorytmy (software)G. Lewicki, „Osiem cywilizacji, trzy internety”, „Rzeczpospolita”, 31.01.2019, https://www.rp.pl/Plus-Minus/301319958-Osiem-cywilizacji-trzy-internety.html, [dostęp: 20.06.2020].[24]. Wygrani, czyli najprawdopodobniej USA oraz Chiny, będą wyznaczać cyfrowe trendy dla reszty świata. W efekcie przegrani, czyli na przykład Afryka, kraje Bliskiego Wschodu, a nawet Europa, mogą stać się przedmiotem nowego, cyfrowego kolonializmu. Polega on na uzależnieniu technologicznym: z braku posiadania własnej infrastruktury sieciowej i własnych firm big tech przegrani będą zmuszeni oddać pełną kontrolę nad przepływami informacyjnymi zwycięzcom i przystać na dyktowane przez nich zasady. Dla wielu krajów może to oznaczać poważną utratę suwerenności.
c) Nierówności społeczne. Ekspansja algorytmów to także groźba technologicznego bezrobocia i nierówności społecznych. O pierwszym z tych zjawisk pisał już w 1930 roku filozof ekonomii John Maynard KeynesG. Lewicki, „Koniec pracownika?”, „Wprost. Biznes”, 30.06.2014, https://biznes.wprost.pl/gospodarka/454267/koniec-pracownika.html, [dostęp: 20.06.2020].[25]. Keynes zauważył, że dzięki automatyzacji szybciej odkrywamy nowe sposoby ekonomizacji pracy, niż znajdujemy nowe sposoby użycia siły roboczej. Z tego względu ucierpią ludzie, którzy stracą pracę przez automatyzację, a równocześnie nie będą mieć na tyle wysokich kompetencji adaptacyjnych, żeby się przebranżowić. W efekcie nie będą potrafili korzystać z narzędzi cyfrowych, a w związku z tym utracą wiele możliwości rozwoju zawodowego. Choć tacy ludzie będą pokrzywdzonymi transformacji i mogą wszczynać bunty, to według Keynesa etap ten będzie przejściowy, ponieważ z czasem jako cywilizacja nauczymy się kolektywnej empatii i opracujemy mechanizmy łagodzące konsekwencje globalnej niestabilności.

Taki scenariusz może na pierwszy rzut oka wydać się idealistyczną bujdą, jednak być może właśnie zaczyna się sprawdzać. Po pierwsze, w świecie zachodnim obserwujemy kryzys klasy średniej i jej ubożenie. Powodem nie jest głównie technologia, choć jest ona jednym z czynników w całym procesie. Równocześnie jednak opinia publiczna w krajach kapitalistycznych zaczyna domagać się sprawiedliwości społecznej w postaci redystrybucji zasobów i wprowadzania coraz to lepszych mechanizmów ochrony na wypadek niestabilności i kryzysu. Dyskusja nad dochodem podstawowym (universal basic income), a więc dochodem, który przynależny byłby człowiekowi „za darmo”, z racji bycia członkiem jakiejś społeczności, jest tylko jednym z przykładów takiej zmiany w myśleniuC. Dermont, D. Weisstanner, „Automation and the future of the welfare state: basic income as a response to technological change?”, „Political Research Exchange” 06.05.2020, https://www.tandfonline.com/doi/full/10.1080/2474736X.2020.1757387, [dostęp: 20.06.2020].[26]. Choć niewielu polityków rozważa dziś wprowadzanie dochodu podstawowego na stałe, to pandemia COVID-19 uczyniła postulat tymczasowego dochodu podstawowego realnie rozważaną opcją. Podobne postulaty będą powracać, ponieważ niestabilność świata w przyszłości tylko się zwiększy. Ostatecznie kapitalizm może przekształcić się w duchu nowego feudalizmu w system, w którym obywatele są gotowi oddać wiele wolności korporacjom i państwu w zamian za perspektywę przewidywalnej i bezpiecznej przyszłościG. Lewicki, „Nadchodzi nowe średniowiecze. Era erozji państwa, technologicznego zjednoczenia świata i irracjonalizmu”, „Gazeta Wyborcza” 10.07.2020, https://wyborcza.pl/Jutronauci/7,165057,26114600,kujmy-miecze-na-nowe-sredniowiecze.html, [dostęp: 20.06.2020].[27]. Aby już dziś minimalizować ryzyko feudalizacji naszych społeczeństw, należy od szkoły podstawowej przygotowywać młode pokolenie do kształcenia ustawicznego, czyli zdobywania coraz to nowych kompetencji przez całe życie, a nie tylko w okresie szkoły i studiów. W tym procesie będzie liczyć się nie tylko nauczenie studenta konkretnych rzeczy, ale też nauczenie go procedur dynamicznego zdobywania i przekształcania własnej wiedzy. Oznacza to, że absolwent dobrej szkoły przyszłości będzie miał nie tylko wiedzę przedmiotową, ale też umiejętność szybkiego przyswajania informacji (na przykład szybkie czytanie), umiejętność całościowej analizy procesów oraz umiejętność szybkiego zapominania czegoś tylko po to, aby nauczyć się tego na nowo.

Należy jednak pamiętać, że automatyzacja nie musi wcale przyczynić się do globalnej niedoli. Choć bieda pozostaje jednym z największych problemów na świecie, według danych Banku Światowego liczba ludzi żyjących w skrajnym ubóstwie spadaWorld Bank, Poverty and Shared Prosperity 2018, https://www.worldbank.org/en/publication/poverty-and-shared-prosperity, [dostęp: 20.06.2020].[28]. Także dzięki technologii. Dlatego za odtechnologiczne bolączki ludzkości powinniśmy winić nie tyle samą technologię, ile ludzi, którzy źle zarządzają jej rozwojem.

Cyfrowa lekkość bytu. Czy mamy jakiś wybór?

Co dalej? Jak zmieni się rola człowieka w świecie dążącym do pełnej automatyzacji? Czy Zachód nieustannie będzie szukał środkowej drogiPor. na przykład: pomysły [w:] F. DeBrabander, „Life after Privacy Reclaiming Democracy in a Surveillance Society”, Cambridge 2020, https://www.cambridge.org/pl/academic/subjects/law/e-commerce-law/life-after-privacy-reclaiming-democracy-surveillance-society, [dostęp: 20.06.2020].[29], gdzieś między cyfrowym totalitaryzmem na modłę chińską a obecną formą liberalizmu, który podkreśla konieczność zachowania pełni wolności w erze automatów? Już teraz podskórnie czujemy jednak, że obecna forma liberalizmu jest nie do utrzymania, ulega erozji i odchodzi na śmietnik historii. Rzeczywiście, wydaje się, że liberalizm, czyli przekonanie o tym, że wolność jednostki musi mieć bezwzględnie priorytet nad innymi postulatami społecznymi, rozpada się. Marcin Król, klasyk myśli liberalnej w Polsce, stwierdził wręcz ostatnio, że koncepcja demokracji liberalnej jest wewnętrznie sprzeczna, bo z jednej strony zakłada, że politycy muszą maksymalizować wolność pojedynczego człowieka (liberalizm), a z drugiej strony maksymalizować interes całej wspólnoty (demokracja)M. Król, „Liberal democracy?”, [w:] „Europe on Test: The Onus of the Past”, red. J. Niżnik, Warszawa 2020.[30]. Co jednak wtedy, gdy interes wspólnoty i interes jednostki ciągną w innym kierunku? Co wreszcie, gdy jednostka wcale nie chce maksymalizować wolności, ale chce mieć życie łatwe, bezpieczne i przyjemne?

Tak właśnie dzieje się dzisiaj – ludzie sami, dla własnej wygody oddają się pod zarząd mechanizmów, które do końca nie rozumieją. Algorytm ostatecznie uwalnia nas od myślenia. Skoro, za Szymborską, algorytm ma dostęp do naszego „nieznanego serca”, to z czasem zaczniemy ufać mu bardziej niż sobie. Będziemy podejmować decyzje za radą algorytmu, który spełni dla nas rolę profesjonalnego doradcy, psychiatry, księdza, nauczyciela, rodzica i mecenasa. Na końcu tej drogi niekoniecznie czeka nas model chiński, ale będzie to model, w którym liberalizm przyjmie zupełnie inną postać niż dzisiaj.

W przyszłości ty i twoje dzieci będziecie wybierać z co najmniej tych trzech strategii podejścia do algorytmów:

  1. zupełne zawierzenie swojego życia osądom algorytmów w zamian za duże korzyści – na przykład zysk, więcej wolnego czasu – ale kosztem utracenia samosterowności, a więc wolności (na ryc. 1 jest to lewa strona osi x);
  2. częściowe zawierzenie algorytmom ze względu na korzyści, ale też odmówienie automatyzacji życia w części dziedzin (na ryc. 1 jest to środek osi x);
  3. zupełne odrzucenie algorytmów jako doradców i przewodników po rzeczywistości (na ryc. 1 jest to prawa strona osi x); w teorii wiele procesów cyfrowych człowiek może nieustannie odrzucać, pytanie jednak o koszty takiego odrzucenia, które będą rosnąć.

W praktyce strategie na przyszłość będą sprowadzać się do łańcuszka wielu codziennych wyborów. Na przykład: czy wybierzesz pracę, w której będziesz stosować algorytm albo którą algorytm nadzoruje, czy może postawisz przede wszystkim na prace „ludzkie”, w których liczy się interakcja z człowiekiem? Czy sam będziesz umiał tworzyć algorytmy? Czy będziesz preferować informacje o świecie pisane przez algorytm czy raczej poszukasz pogłębionych analiz pisanych przez człowieka? Czy pozwolisz się inwigilować w zamian za długoletnią zniżkę na kosmetyki, samochód czy opiekę medyczną? Czy będziesz chronić swoją prywatność w internecie czy może uznasz, że jest to zbyt męczące i dasz sobie spokój? Czy udostępnisz swoje bardziej prywatne dane bankowi w zamian za obietnicę opłacalnego kredytu? A może udostępnisz firmom swoją historię chorób w zamian za obietnicę tańszych leków na starość? W dalszej zaś przyszłości: czy udostępnisz zawartość mózgu firmom obiecującym przepisanie twojej jaźni na nośnik komputerowy po śmierci? Czy zaakceptujesz związane z tym wszystkim ryzyka?

Podobnych pytań jest mnóstwo. Niezależnie od tego, jak wybierzesz, oprócz ciebie wybierać będą wszyscy wokół. I wcale nie będzie zgody, co jest wyborem najlepszym. Jednak zgodnie z tak zwanym rozkładem normalnym w statystyce, który zakłada, że umiarkowane postawy są liczniejsze, a postawy skrajne rzadsze, pewne postawy będą częstsze. Większość osób w obrębie wartości zachodnich, a więc ceniących chrześcijański personalizm, godność człowieka i wolność będzie przyjmować postawy umiarkowane, co pokazuje właśnie rysunek 1, na której takie właśnie postawy są najbardziej liczne, choć z możliwymi odchyleniami.

Niezależnie od tego, jak będziemy wybierać, jedno jest pewne: gdy płomień algorytmu przepali już wszystko, co tylko może, nasze zniewolenie się zmniejszy i dokona się transformacja ludzkości. W pewnym sensie wyzwolimy umysły i dusze z terroru indywidualizmu i przestaniemy przesadnie fiksować się na podkreślaniu naszej wyjątkowości jako jednostek. Staniemy się bardziej wspólnotowi, bo algorytm uświadomi nam, że nasza „wyjątkowość” była już gdzieś opisana, w ramach jakiegoś behawioralnego i statystycznego schematu.

Paradoksalnie, nowym, młodszym pokoleniom cywilizacji zachodniej będzie z tym wszystkim dużo lżej. Na tym właśnie polega cyfrowa lekkość bytu, która nas czeka. Obecnie bowiem dzieciom w cywilizacji zachodniej wtłaczane są do głowy ciężkie, skrajnie indywidualistyczne wartości, a każda matka gotowa zaświadczyć, że akurat jej dziecko jest dzieckiem renesansu. W wyniku takiego wychowania w sytych społeczeństwach Zachodu armia Leonardów da Vinci przekonana o własnej wyjątkowości nie chce pracować przy sklepowej kasie albo przy obrabiarce – bo przecież los stworzył ich do wyższych celów. W tym kontekście algorytmizacja po prostu monotonne zawody usunie, umożliwiając ludziom zajmowanie się właśnie wyższymi celami. Choć każdy z nas jest oczywiście porównywalnym i częściowo podobnym zlepkiem doświadczeń oraz zdarzeń losowych (tak zwane szczęście), a wiedza, że tak właśnie jest, działa kojąco. To kolejna lekcja, jaką dają nam algorytmy: świadomość własnych ograniczeń wyzwala! Jeśli wiesz, że pochodzisz z określonej klasy społecznej, masz określony kapitał intelektualny, określony poziom charyzmy, urody, określone talenty, potencjał, to wtedy lepiej możesz analizować – choćby z algorytmem – swoje możliwości w życiu.

Twoje liberalne „ja” będzie oczywiście cierpieć w wyniku takiej samowiedzy, ale nie zniknie. Będzie płonąć, ale nie spłonie. W przyszłości bowiem model chiński będzie nieustannie przypominał całemu światu, czym kończy się odrzucenie indywidualizmu i do jakiego systemu politycznego prowadzi. W tym sensie liberalizm w nowej, przyszłej formie jest bezpieczny. To dobra wiadomość dla świata, bo bez liberalizmu nie byłoby myślenia naukowego, które jest ziarnem postępu technologicznego.

Święty Graal. 
Jak się dobrze ustawić w świecie algorytmów?

Jeśli już wiesz to wszystko, możesz zadać sobie pytanie: jak dobrze żyć w świecie automatyzacji? Co zrobić, aby w przepalonym przez algorytm świecie dobrze się ustawić finansowo? Jeśli jesteś po trzydziestce, będzie ci trudniej. Jeśli jednak jesteś licealistą i masz dach nad głową oraz możliwość nauki, ciągle możesz wybierać, czym chcesz się zająć w życiu. Z pewnością twoją pierwszą profesją będzie „uczeń”. To jest wymóg ery cyfrowej: nieustanne uczenie się. Niezależnie od tego, czy będziesz lekarzem czy analitykiem biznesu, musisz się przygotować na konieczność codziennej nauki, która nie ustanie właściwie do śmierci. W ciągu twojego życia wielokrotnie będą zmieniać się warunki gospodarcze, a technologie, które trzeba opanować, będą się pojawiać, znikać, a potem będą pojawiać się nowsze. Alvin Toffler słusznie zauważył, że bez pogodnego, pozytywnego podejścia do nieustannej konieczności nauki staniesz się nowym analfabetą. Aby tego uniknąć, musisz umieć się uczyć, potem zapominać, a potem uczyć się od nowaA. Toffler, „Future Shock”, New York 1990.[31].

Nieustanna aktualizacja i otwarcie na palący płomień algorytmu to zatem konieczność. Niezależnie od branży, w której będziesz chcieć działać. Rozważmy choćby niektóre.

Psychologia? Dobry wybór, bo zrozumienie ludzkiej psychiki długo jeszcze nie uda się algorytmom, więc nie będziesz musiał z nimi rywalizować. Ale żeby jeszcze lepiej „łapać” trendy, zawsze możesz zacząć uczyć się narzędzi do automatycznej analizy stanów emocjonalnych pacjenta na podstawie danych, które zostawia w social mediach. Albo możesz zainteresować się psychoinformatyką, która tworzy informatyczne modele osobowości na potrzeby robotyki i wirtualnych interfejsów.

Może socjologia? Oczywiście, ale zastanów się, jak połączyć ją z narzędziami informatycznymi, aby jeszcze lepiej przeczesywać oceany danych o człowieku. Może modelowanie wieloagentowe (agent-based modeling) i obliczeniowe nauki społeczne?

Bankowość, marketing? Dobry wybór, zwłaszcza jeśli samodzielnie opracujesz algorytm inwestycyjny lub algorytm do wymyślania haseł reklamowych, opierając się na profilu grupy docelowej. W ten sposób algorytmy będą pracować na ciebie, a ty otrzymasz dochód pasywny. Taki dochód to Święty Graal ery cyfrowej.

Medycyna? Wybór idealny, bo lekarze i piekarze zawsze będą potrzebni w społeczeństwach przyszłości. Ale jeśli wybierzesz na przykład radiologię, to zastanów się, jakie narzędzia wspomagania analizy obrazu będą tymi, w których się wyspecjalizujesz.

Prawo? Też dobrze. Prawników potrzeba tak samo jak lekarzy i piekarzy. Ale w ramach swoich specjalizacji możesz zainteresować się własnością intelektualną, prawem do prywatności danych lub prawami bytów cyfrowych.

Informatyka? Wybór także idealny, bo koderów potrzeba dziś już tak samo jak piekarzy. Ale w tym przypadku musisz zadbać o zainteresowania pozatechniczne, aby zanurzenie w świecie kodu nie doprowadziło twojego człowieczeństwa do stanu wyczerpania (brak interakcji z człowiekiem czy praca wyłącznie z domu może skutkować depresją i utratą chęci do życia). Ciekawą specjalizacją dla informatyka w tym kontekście jest na przykład doradca ds. prywatności, który pomaga kontrolować ślady cyfrowe, jakie zostawia w świecie powszechnej inwigilacji klient.

A może sztuka, muzyka, aktorstwo? Dlaczego nie, ale to czerwony szlak. Z jednej strony w epoce YouTube masz nieskończone możliwości dotarcia do ludzi. Ale z drugiej strony takie możliwości ma każdy. Z tego względu na przykład działający kiedyś lokalnie muzycy wraz z nadejściem Spotify i innych globalnych platform nagle rywalizują już nie tylko z kolegami po fachu w swoim mieście, ale z całym światemP. Arak, „Podsiadło i ekonomia. Ile wydajemy pieniędzy, by posłuchać muzyki?”, „Dziennik Gazeta Prawna” 27.08.2019, https://www.gazetaprawna.pl/amp/1427350,podsiadlo-i-ekonomia-ile-wydajemy-pieniedzy-by-posluchac-muzyki.html, [dostęp: 20.06.2020].[32]. W tej rywalizacji nie liczy się formalna edukacja, ale kreatywność i łączenie form. Dlatego będąc muzykiem, warto na przykład inwestować w narzędzia cyfrowej produkcji dźwięków, a w dziedzinie sztuk wizualnych adoptować cyfrowe narzędzia odkrywające coraz to nowe pola rzeczywistości wirtualnej. Dobrym przykładem jest na przykład Dorota Kobiela i ożywanie prac van Gogha czy Chełmońskiego oraz produkcja filmów na tej podstawie (Twój Vincent, Chłopi)Informacja prasowa, „Tak powstają „Chłopi” twórców „Twojego Vincenta”. 50 malarzy, 72 tys. klatek i opowieść o sile kobiet” [WIDEO], „Gazeta Wyborcza” 04.04.2020, https://kultura.gazeta.pl/kultura/7,114438,26181785,tworcy-twojego-vincenta-robia-chlopow.html, [dostęp: 20.06.2020].[33].

Niezależnie od tego, jaką karierę wybierzesz, pamiętaj o gorejącym algorytmie, który nie przestanie palić, i nie bój się zmieniać życia pod kątem trendów cywilizacji cyfrowej. Co jakiś czas wpisuj też w Google zapytanie o „zawody przyszłości”. Po co? Bo lista zmienia się w czasie rzeczywistym.

Jeśli kopiujesz fragment, wklej poniższy tekst:
Źródło tekstu: Grzegorz Lewicki, Cyfrowa lekkość bytu. Jak się dobrze ustawić w świecie algorytmów, „Nowy Napis Co Tydzień”, 2021, nr 88

Przypisy

    Powiązane artykuły