Nowy Napis Co Tydzień #088 / Sztuczna inteligencja – ludzka, arcyludzka?

O ambiwalentnej naturze układów zaprojektowanychPor. „Dyskusje dotyczące sztucznej inteligencji (SI) przywodzą na myśl lata 50. i najwyższy czas, abyśmy ostatecznie zrezygnowali z posługiwania się słowem »sztuczna« w tym kontekście. Tak naprawdę chodzi nam o »zaprojektowaną inteligencję« (designed intelligence, DI). W języku potocznym słowa takie jak sztuczny i maszyna są przeciwieństwem tego, co naturalne i przywołują skojarzenia z połyskującymi metalicznie robotami, obwodami elektronicznymi i komputerami w odróżnieniu od żywych, pulsujących i myślących organizmów żywych. Wyobrażenie wykonanej z metalu maszyny z wnętrzem wypełnionym plątaniną przewodów, posiadającej swoje przywileje lub występującej przeciwko ludzkim prawom, jest nie tylko niepokojące – jest całkowicie absurdalne. To jednak zdecydowanie nie jest kierunek rozwoju DI. Już wkrótce granica między tym, co sztuczne, a tym, co naturalne, całkowicie się zatrze”. P. Davies, „Zaprojektowana inteligencja” [w:] „A ty co sądzisz o myślących maszynach? Wizje przyszłości wybitnych umysłów ery sztucznej inteligencji”, red. J. Brockman, tłum. K. Kubala, Warszawa 2020, s. 46. Uznając trafność konstatacji Daviesa, posługuję się tradycyjnym terminem ze względu na jego powszechność i poręczność.[1]

Nie wierzę w to, że myślące maszyny istnieją albo że jest szansa na to,
by zaczęły istnieć w przewidywalnej przyszłości. Jeśli się mylę, co często się zdarza,
wszelkie moje refleksje na ten temat stają się nieistotne.
Jeżeli zaś mam rację, to nieistotne jest pytanie o te maszynyF. Dyson, „Mogę się mylić” [w:] tamże, s. 96.[2].

Freeman Dyson

Wszyscy jesteśmy myślącymi maszynami –
a dokonywanie rozróżnień na różne ich typy zubaża [dyskusję]S. Carroll, „Wszyscy jesteśmy maszynami myślącymi” [w:] tamże, s. 73.[3].

Sean Carroll

Jeśli ego nie uobecnia się w naszej percepcjiPor. „Złudzenie kartezjańskie […], iż doświadczamy nieodpartej intuicji jaźni, zostało skutecznie odsłonięte (Husserl, James) jako abstrakt wniesiony do doświadczenia. Percepcja nie zawiera ego”. L. Kołakowski, „Obecność mitu”, Warszawa 2003, s. 21. Zob. też: A.R. Damasio, „Błąd Kartezjusza. Emocje, rozum i ludzki mózg”, tłum. M. Karpiński, Poznań 1999; K. Devlin, „Żegnaj Kartezjuszu. Rozstanie z logiką w poszukiwaniu nowej kosmologii umysłu”, tłum. B. Stanosz, Warszawa 1999.[4] i nieodparta intuicja jaźni jest abstraktem wprowadzanym do doświadczenia, można zapytać, czy tak zwane wyznaczniki człowieczeństwa – świadomość, myślenie, inteligencja moralna i emocjonalna oraz twórczość artystyczna – które tradycyjnie uchodzą za przejawy aktywności jaźni, są rzeczywiście fenomenami swoiście ludzkimi czy też zjawiskami, które mogłyby się pojawiać bez naszego udziału?

W związku z tym, czy „sztuczna inteligencja"Zob. na przykład: „A ty co sądzisz o myślących maszynach? Wizje przyszłości wybitnych umysłów ery sztucznej inteligencji”, red. J. Brockman, tłum. K. Kubala, Warszawa 2020; N. Bostrom, „Superinteligencja. Scenariusze, strategie, zagrożenia”, tłum. D. Konowrocka-Sawa, Gliwice 2016; „Człowiek na rozdrożu. Sztuczna inteligencja – 25 punktów widzenia”, red. J. Brockman, tłum. M. Machnik, Gliwice 2020; J. Kaplan, „Sztuczna inteligencja. Co każdy powinien wiedzieć”, tłum. S. Szymański, Warszawa 2019; R. Kurzweil, „The Age of Spiritual Machines: When Computers Exceed Human Intelligence”, New York, NY 2000; R. Kurzweil, „Nadchodzi osobliwość. Kiedy człowiek przekroczy granice biologii”, tłum. E. Chodkowska, A. Nowosielska, Warszawa 2016; T. Walsh, „To żyje! Sztuczna inteligencja. Od logicznego fortepianu po zabójcze roboty”, tłum. W. Sikorski, Warszawa 2018.[5]– bezbłędnie i sprawnie wykonująca czynności tradycyjnie uchodzące za „ludzkie” – jest sztuczna? Jeśli tak – w jakim sensie i w jakim stopniu? W jakim kontekście należałoby rozpatrywać ową „sztuczność”?

By nie szukać daleko, przyjmijmy na użytek tego opracowania, że najbardziej naturalnym układem odniesienia jest współcześnie sztuczność rozumiana zwykle jako nie-naturalność czy po prostu – nienaturalność. Przy takim postawieniu kwestii badanie ewentualnej „sztuczności” owego tworu – bynajmniej nieoczywistej, jak się dalej wyjaśni – wypadnie zacząć od bliższego przyjrzenia się jej antonimicznemu korelatowi – „naturalności”. Leksykalnie czy semantycznie – „naturalny” – to niewiele więcej niż „zgodny z naturą” – niewiele więcej, bo w grę wchodzą tu również konotacje związane z uwarunkowanymi kontekstowo i sytuacyjnie użyciami tego wyrażenia. Kontrowersje zaczynają się przy ustalaniu, czym miałaby być owa „natura” uprawomocniająca mówienie o „naturalności”.

Nie/naturalnie

Przyjrzawszy się różnym definicjom kultury, natury i człowieczeństwa proponowanym przez filozofów, antropologów, psychologów, socjologów i kulturoznawców, nietrudno zauważyć, że nie są one samodzielnymi wyjaśnieniami dotyczącymi owych zjawisk, lecz elementami konkretnych paradygmatów naukowych oraz teorii i programów badawczych będących częścią różnorodnych nurtów uwikłanych w zależności historyczne, kulturowe i społeczne. Posługując się owymi wyjaśnieniami i definicjami, warto zatem pamiętać, że są one nie tylko przejawem rozumienia konkretnych zjawisk przez badacza wspartego siłą naukowego instrumentarium, lecz również konsekwencją licznych wyborów dotyczących ważnych dla niego samego wartości, którymi kierował się, konstruując owe wyjaśnienia. Wyborów tych zaś dokonuje się w sposób tyleż konwencjonalny – w sensie, jaki nadaje temu pojęciu nauka – ileż wartościujący, a ich skutkiem bywa zwykle normalizacja, jeśli nie normatywizacja odnośnych dyskursów. Ponadto wspomniane uwarunkowania sprawiają, że decyzje dotyczące już nie tylko prawdziwości konkurencyjnych koncepcji, lecz również ich ewentualnej przydatności jako oręża w którejś z obecnie toczonych „wojen kulturowych” są często obciążone – jeśli nie skażone – pierwotnym zaangażowaniem o charakterze ideologicznym, co dyskwalifikuje podmioty szermujące stworzonymi przez siebie „prawdami” jako uczestników racjonalnej debaty naukowej.

Zróżnicowanego historycznie i kulturowo materiału do studiów porównawczych dostarcza antropologia badająca zależności między szeroko pojętą naturą, kulturą, cywilizacją i społeczeństwem oraz uwikłanym w nie człowiekiem. Jej interdyscyplinarny charakter, empiryczna orientacja oraz nieufne podejście do apriorycznego wyrokowania o tak zwanej „naturze” człowieczeństwaPor. „Dzięki temu, że kilkakrotnie w swej historii była kuszona, wyjąwszy kilka jej izolowanych przylądków, dzisiejsza antropologia nie aspiruje do ścisłości i władzy nauki. Woli być »wiedzą« – archiwum przejawów natury ludzkiej, zbiorem przykładów, z którego człowiek poszukujący mądrości, a nie tylko samozadowolenia, mógłby dopiero sam wyciągnąć naukę. Woli być »przekazywaniem mądrości«. Przekazywaniem, a więc, jak to kiedyś ujął Sławomir Mrożek, nie wypinaniem się, krygowaniem, robieniem min przez aktora celem zwrócenia na siebie uwagi. Tylko czymś w rodzaju: »Byłem tam i tam. Doświadczyłem, sam, osobiście. Tam dobrze, bo… Idź w tamtą stronę... Tam źle, bo… Nie idź tamtędy, przyjacielu«”. J. Tokarska-Bakir, „Repetytorium z człowieka” [wstęp do:] A. Barnard, „Antropologia. Zarys teorii i historii”, tłum. S. Szymański, Warszawa 2006, s. 25.[6] sprawiają, że ta dziedzina nauki – jako swoiste „repetytorium z człowieka”J. Tokarska-Bakir, „Repetytorium z człowieka” [w:] dz. cyt., s. 9–25.[7] w jego różnorodnych, poświadczonych historycznie postaciach istnienia – wydaje się lepszym przewodnikiem po świecie ludzi i tego, co w nich i dla nich „naturalne”, niż inne dyscyplinyDość wspomnieć tu choćby o nieporównawczo i monokulturowo uprawianej „tradycyjnej” psychologii bądź filozofii z ich ahistorycznym uniwersalizmem i ontologicznym esencjalizmem w definiowaniu „istoty” człowieka oraz rozstrzyganiu kwestii udziału „natury” i „kultury” w jego rozwoju i stawaniu się tym, kim lub czym miałby się on stać ze względu na ową „istotę”.[8].

Zarazem, jako swoiście pojęta „wiedza” o przedstawicielach różnych ras, epok, kultur i społeczeństw – „archiwum przejawów natury ludzkiej, zbiór przykładów, z którego człowiek poszukujący mądrości, a nie tylko samozadowolenia, mógłby dopiero sam wyciągnąć naukę”J. Tokarska-Bakir, „Repetytorium z człowieka”, dz. cyt., s. 25.[9] – jest ona mniej skłonna ulegać pokusie wspierania swoim autorytetem którejś z „wizji” natury ludzkiej podnoszącej do rangi niezmienników cechy charakterystyczne określonych typów ludzkich uchodzących w danej kulturze czy społeczności za godny naśladowania „wzór” bądź „standard”Por. różne rodzaje człowieczeństwa, jakie ucieleśnili z jednej strony Budda, Laozi, Konfucjusz, Sokrates, Jezus czy św. Franciszek z Asyżu, z drugiej zaś – starożytni despoci i tyrani, średniowieczni krzyżowcy i inkwizytorzy, konkwistadorzy Nowego Świata, dwudziestowieczni przywódcy reżimów totalitarnych, strażnicy nazistowskich obozów zagłady, „lekarze” i żołnierze japońskiej jednostki 731 etc.[10].

Wspomniane zależności dogodnie będzie pokazać, przywołując E.T. Halla koncepcję ekstensji. Według badacza:

Człowiek to twór z zadziwiającą i niezwykłą przeszłością. Od innych zwierząt oddzielił się, wypracowując to, co nazywam ekstensjami (przedłużeniami, odnogami) organizmu. Wciąż rozwijając owe ekstensje, zdołał udoskonalić i wyspecjalizować rozmaite swoje funkcje. Komputer jest ekstensją pewnego fragmentu mózgu, telefon – głosu, a koło zwiększa zasięg ludzkich rąk i nóg. Język rozszerza doświadczenia w czasie i przestrzeni, a pismo z kolei rozszerza język. Owe ekstensje wykształciliśmy w sobie do tego stopnia, że często zapominamy o tym, iż w naszym człowieczeństwie głęboko tkwi natura zwierzęcaE.T. Hall, „Ukryty wymiar”, tłum. T. Hołówka, Warszawa 2001, s. 12.[11].

W interpretacji Halla owe ekstensje bądź przedłużenia dotyczą tyleż konkretów funkcjonowania ludzkiego organizmu i jego zmysłów, ileż abstrakcyjnie pojmowanych ludzkich zdolności poznawczych i działaniowych wraz z ich kulturowymi i społecznymi przedłużeniami w postaci odnośnych instytucjiJ.R. Searle, „Umysł, język, społeczeństwo. Filozofia i rzeczywistość”, tłum. D. Cieśla, Warszawa 1999.[12] – organizacji, prawa, rodziny, systemów wymiany ekonomicznej etc. Tak pojęte innowacje pojawiają się choćby jako przedłużenia organizmu zwiększające jego możliwości motoryczne (środki lokomocji) i „wyostrzające” zmysły (mikroskop i teleskop) czy też jako „technologie intelektu”Zob. M. Marody, „Technologie intelektu. Językowe determinanty wiedzy potocznej i ludzkiego działania”, Warszawa 1987.[13] (język, pismo, systemy obliczeniowe wraz z ich notacjami etc.) zwielokrotniające siłę ludzkiego umysłu. Ich zasadniczą funkcją jest nie tylko aktualizacja potencjału tego, co „przedłużane”, lecz również otwarcie nowych możliwości rozwojowychZgodnie z takim podejściem, kultura to ekstensja mózgu i umysłu, którą tworzy kontinuum dostępnych człowiekowi symbolicznych, instytucjonalnych, technicznych i cywilizacyjnych innowacji wzmacniających jego potencjał ewolucyjny oraz przyspieszających jego rozwój. Zob. E.T. Hall, „Poza kulturą”, tłum. E. Goździak, Warszawa 1984, s. 64–80, 214–260.[14]. W wypadku człowieka mamy do czynienia z wszechstronnym wykorzystaniem owej prawidłowości i zarazem z przekształceniem jej w narzędzie ewolucji przez przeniesienie ciężaru przemian z ciała i umysłu na ich społeczne, kulturowe i cywilizacyjne ekstensjeSpektakularnym przykładem takich procesów może być zmniejszenie wagi szkieletu ludzkiego spowodowane wprowadzeniem transportu kołowego czy upośledzenie zdolności zapamiętywania dużej liczby informacji jako skutek wynalezienia technik zewnętrznego utrwalania treści (pismo, druk, cyfrowe nośniki danych) etc.[15].

Między „naturą” ludzką i jej kulturowymi oraz cywilizacyjnymi ekstensjami, a niekiedy także i protezami, zachodzi sprzężenie zwrotnePor. „Antropolodzy od dawna wiedzą, że wszystkie aspekty kultury są wewnętrznie ze sobą powiązane; […] wszystko jest powiązane, splecione, wszystko odbija się we wszystkim, podczas gdy jawna kultura jest ekstensją zarówno umysłu, jak i mózgu. Zinternalizowana kultura to umysł”. E.T. Hall, „Poza kulturą”, dz. cyt., s. 243.[16]. Dzięki wykorzystaniu ekstensji jako swoistych „dźwigni” czy „przekładni” procesów ewolucyjnych, to, co kulturowe, staje się częścią natury ludzkiej, a niegdysiejsze „przedłużenia” cielesne i umysłowe – zwykłym, dostępnym dla każdego elementem człowieczeństwaNastępstwem owych procesów jest swoista koewolucja genowo-kulturowa lub biologiczno-symboliczno-technologiczna uruchamiająca spiralę rozwoju, w której wypadku synergiczne współdziałanie elementów o różnorodnej proweniencji skutkuje pojawianiem się własności emergentnych – niedających się wywieść z charakterystyki ich składników, a więc trudno przewidywalnych.[17]. Przy takim postawieniu kwestii, rozróżnienie na naturę i kulturę pojmowane jako dwie wzajemnie od siebie niezależne sfery traci rację bytu – obie te kategorie stają się podatne na interpretacje, a ich sens jest doprecyzowywany w ramach wspomnianych struktur teoretycznych czy ideologicznych.

Wydaje się, że w takiej sytuacji najbardziej obiecującą opcją jest przesunięcie akcentów – z „tradycyjnego” podkreślania różnic między tym, co w człowieku naturalne, i tym, co kulturowe – na dowartościowywanie wzajemnej zależności między obiema sferami. Opcją – bowiem wybór między traktowaniem natury i kultury bądź jako wzajemnie się wykluczających realności bądź też jako wzajemnie się dopełniających kategorii jest nie tyle rezultatem odkrycia jakichś rzeczywistych, empirycznie uchwytnych różnic między nimi, ile raczej kwestią decyzji, by wspomnianą zależność interpretować w któryś ze wskazanych sposobów.

Jeśli więc w dyskusjach nad „naturą” człowieczeństwa zaniechałoby się wprowadzania radykalnych podziałów na „dane” czy „zastane” (natura) oraz na „wytworzone” bądź „wynalezione” (kultura), łatwiej byłoby dostrzec, że w wypadku człowieka – ujętego gatunkowo – częścią jego natury jest bycie istotą kulturową i kulturotwórczą, rozwijającą się dzięki inicjowanym przez siebie zmianom. Konsekwentnie – człowiek widziany z takiej perspektywy jest współtwórcą siebie, w jednej z wersji człowieczeństwa możliwych do urzeczywistnienia na danym etapie rozwoju kulturowego i cywilizacyjnegoPor. „Wielu z nas lubi rozmyślać o tym, jak ludzie połączą się z maszynami i staną się nowymi typami stworzeń – cyborgami z bijącym sercem. […] W rzeczywistości jednak my już jesteśmy transludźmi. Definiujemy siebie poprzez nasze technologiczne gadżety, tworzymy fikcyjne postaci o dziwnych nazwach, obrabiamy zdjęcia, by wyglądać lepiej lub choćby wyróżniać się czymś na stronach Facebooka, tworzymy innych siebie na potrzeby relacji z ludźmi. Funkcjonujemy w informatycznej chmurze, ucyfrowieni, podłączeni zdalnie, wszechobecni. Nosimy tytanowe implanty w stawach, rozruszniki serca i aparaty słuchowe – urządzenia, które definiują na nowo i stanowią przedłużenie naszych umysłów i ciał. […] Tempo postępu naukowego rośnie wraz z zacieśnianiem się naszych więzi z maszynami cyfrowymi. Wymyślamy dziś na nowo rasę ludzką”. M. Gleiser, „Witajcie w waszym transhumanistycznym »ja«” [w:] „A ty co sądzisz…”, dz. cyt., s. 71–72.[18].

Wracając do interesującego nas tu zagadnienia „sztuczności” sztucznej inteligencji – jest ona ekstensją w rozumieniu koncepcji Halla, w związku z czym można do niej odnieść przywołane wcześniej uwagi badacza dotyczące tego fenomenu ewolucyjno-kulturowego. Jako algorytmiczno- -maszynowe zwielokrotnienie możliwości ludzkiego intelektu, ludzkiej inteligencji oraz po ludzku interpretowanych zdolności twórczych, tyleż wzmacnia ona możliwości człowieka w tych sferach, ileż wyznacza nowe standardy w tym zakresie, redefiniując zarazem człowieczeństwo i przesuwając jego granice poza współczesne aktualizacje jego potencjałuPor. „Istnieją chemiczne i metaboliczne granice rozwoju wielkości i prędkości przetwarzania organicznego (»mokrego«) mózgu. Być może zbliżamy się już do tych granic. Nie dotyczą one jednak opartych na krzemie komputerów (wśród których wciąż mniej jest komputerów kwantowych): dla nich potencjał dalszego rozwoju jest porównywalny do tego, który organizmom jednokomórkowym stworzyła ewolucja (prowadząca do powstania człowieka). Tak więc, niezależnie od definicji myślenia, ilość danych możliwa do przeprocesowania przez mózg organiczny rodzaju ludzkiego nijak się będzie miała do możliwości umysłowych sztucznej inteligencji. […] Myślenie abstrakcyjne rozwinięte przez mózgi biologiczne umożliwiło narodziny kultury i nauki. Jednak aktywności te – realizowane na przestrzeni dziesiątków stuleci – będą stanowić zaledwie krótkotrwały początek nieograniczonego rozwoju intelektów ery postludzkiej. […] Zatem to nie umysły ludzi, ale mózgi należące do maszyn w najpełniejszy sposób zrozumieją świat. I to działania autonomicznych maszyn w najbardziej radykalny sposób zmienią oblicze świata – i być może tego, co leży poza nim”. M. Rees, „W dłuższej perspektywie organiczna inteligencja nie ma przyszłości” [w:] „A ty co sądzisz…”, dz. cyt., s. 27. Por. alternatywny punkt widzenia: „Wymyślamy dziś na nowo rasę ludzką. W ujęciu tradycyjnym wyścig po sztuczną inteligencję opiera się wyłącznie na koncepcji maszyn, które odtworzą – a przynajmniej tego się po nich oczekuje – niepowtarzalnie ludzką zdolność rozumowania. Rozmawiamy o elektronicznych mózgach, które w krótkim czasie mają prześcignąć umysły ludzi, czyniąc nas zbędnymi. […] A co, jeśli te założenia są całkowicie błędne? Co, jeśli przyszłość inteligencji znajduje się wewnątrz ludzkiego mózgu, a nie na zewnątrz? Wyobrażam sobie zupełnie inny zestaw wartych rozważenia kwestii, wyłaniający się w związku z wizją, w której to my możemy stać się superinteligentni poprzez rozszerzenie mocy naszego mózgu za pomocą technologii cyfrowej i innych – sztucznie zwiększonej inteligencji, wzmacniającej znaczenie człowieczeństwa. Wciąż będziemy mieć bijące serca i pulsującą w naczyniach krew. Jednocześnie jednak poprzez nasze cyfrowe obwody będą przemieszczać się elektrony. Przyszłość SI polega na rozciąganiu naszych zdolności na nowe dziedziny. Polega na wykorzystywaniu technologii do rośnięcia w siłę jako gatunek – coraz inteligentniejszy i, oby, coraz mądrzejszy”. M. Gleiser, „Witajcie w waszym transhumanistycznym »ja«” [w:] „A ty co sądzisz…”, dz. cyt., s. 72.[19].

Sztuczna inteligencja jest więc zarazem „sztuczna” i „naturalna” – w rozszerzonym sensie „naturalności” uwzględniającym przeniesienie procesów ewolucyjnych z ich „podłoża” czy „substratu” na ekstensje, czego skutkiem początkowo nie-naturalne, „sztuczne” innowacje symboliczne, technologiczne i instytucjonalne zwielokrotniające możliwości ludzkiego ciała oraz umysłu i będące jego „przedłużeniami” czy „protezami” stają się tak „poręczne”, że ostatecznie przestaje się o nich myśleć jako o czymś obcym i zaczyna je traktować jak naturalny i niezbywalny składnik prawdziwie ludzkiej „natury”.

Jeśli więc abstrahować od wiązania owej „natury” z DNA, świadomością oraz przeżyciami „duchowymi” i uznać za wyznaczniki człowieczeństwa: 1) swobodne kierowanie uwagi ku wybranym obiektom konkretnym i abstrakcyjnym; 2) myślenie symboliczne wykorzystujące różnorodne kody i języki; 3) inwencję i wytwarzanie narzędzi zwielokrotniających możliwości ludzkiego ciała i umysłu oraz 4) posługiwanie się wyobraźnią kulminujące w twórczości artystycznej, okaże się, że rezultaty aktywności współczesnych układów „sztucznointeligentnych”, 1) rozwiązujących skomplikowane problemy poznawcze; 2) projektujących zaawansowane technologicznie obiekty i urządzenia lub 3) generujących dzieła sztuki o wysokiej jakości estetycznej, mogłyby przemawiać na rzecz tezy, że we wspomnianych przypadkach mamy do czynienia z aktywnością będącą przejawem inteligencji bliskiej ludzkiej lub co najmniej spójnej z ludzkim doświadczeniem.

Bez/wiednie

Rozważając kwestię podobieństwa czy ewentualnej tożsamości dwóch typów inteligencji i myślenia – ludzkiego oraz algorytmiczno-maszynowego – warto pamiętać, że w pracach nad układami pojętnymi, których urzeczywistnieniem jest sztuczna inteligencja, „myślenie” będące formą aktywności owych układów jest traktowane jak fenomen niekoniecznie związany z jaźnią i dość odległy od tego, co tradycyjnie uchodzi za wyznacznik człowieczeństwa rozumianego jako istnienie urzeczywistniające się w myśleniu i poprzez nie.

Funkcjonalne modelowanie czynności i procesów poznawczych, z jakim mamy do czynienia w pracach nad owymi systemami, dotyczy bowiem nie ogółu uznawanych za przejawy „myślenia” fenomenów psychicznych składających się na „życie umysłu” ludzkiego, lecz stosunkowo wąskiej klasy zjawisk i zdarzeń najczęściej konceptualizowanych jako wykonywanie operacji poznawczych towarzyszących rozwiązywaniu konkretnych problemów, jakie stawia się przed projektowanymi i doskonalonymi układami.

Ze względu na ich specyfikę oraz zainteresowania samych badaczy są to przede wszystkim:

– zadania wymagające rozpoznawania wzorców;
– rozwiązywanie problemów logicznych i matematycznych;
– automatyczne dowodzenie twierdzeń logicznych i matematycznych;
– gra w szachy, warcaby oraz go;
– maszynowy przekład wypowiedzi i tekstów pisanych;
– rozpoznawanie żywej mowy i generowanie jej;
– analizowanie danych ekonomicznych, finansowych, medycznych etc.;
– doradztwo eksperckie w powyższym zakresie;
– analizowanie bardzo dużych zbiorów danych (big data);
– indeksowanie stron www i wyszukiwanie informacji w sieci Internet etc.

Jak widać, symulowane są tu głównie operacje, czynności i procesy poznawcze, które da się zalgorytmizować czy zautomatyzować i których wykonanie zajęłoby ludziom zbyt wiele czasu, by było to opłacalne. Szybkość i efektywność działania maszyn w tym zakresie wielokrotnie przekraczają możliwości ludzkiego mózgu i systemu nerwowego. Współczesne, działające „inteligentnie” układy rejestrują w bankach pamięci o współdzielonym dostępie miliardy danych i odnajdują je niemal natychmiast, poddając odpowiednie ich „porcje” wymaganej „obróbce” z dokładnością równą tej, z jaką są one przywoływane. Ponadto, raz opanowawszy wzorce owych działań, maszyny mogą je wielokrotnie powtarzać, wymieniając się przy tym uzyskaną informacją z innymi układami, z prędkością przewyższającą komunikację za pomocą dostępnych człowiekowi kodów i języków, co znacznie zwiększa ich możliwości operacyjne.

Osobną kwestią jest, czy rezultaty uzyskane w badaniach nad funkcjonowaniem takich systemów, rzeczywiście dają wgląd w myślenie w jego wzorcowej dla nas, ludzkiej postaci, obejmującej nie tylko różnorodne procesy „obliczalne”, lecz także kontemplację, medytację i modlitwę, by wspomnieć choćby o nich. Abstrahujące od złożoności, subtelności i głębi ludzkiego myślenia, stechnicyzowane ujęcie tego fenomenu czyni wprawdzie zadość standardom racjonalności spragmatyzowanej, z trudnością jednak radzi sobie z takimi choćby przejawami ludzkiej inteligencji i ludzkiego myślenia, jak: 1) wykorzystywanie twórczej mocy wyobraźni do tworzenia mentalnych modeli rzeczywistości; 2) przeprowadzanie eksperymentów myślowych uwzględniających możliwy rozwój wydarzeń; 3) podtrzymywanie paradoksalnych przekonań do czasu znalezienia rozwiązania godzącego pozorne sprzeczności czy też 4) snucie wielowątkowych opowieści i rozumienie ich sensu, zwłaszcza alegorycznego. Nadal też nie widać – przynajmniej w aktywnych obecnie programach badań nad układami pojętnymi – możliwości wymodelowania dotychczas dostępnymi metodami i technikami kluczowej dla ludzkiego umysłu zdolności inteligentnego radzenia sobie z moralnymi i emocjonalnymi aspektami egzystencji.

Zasadnicza trudność z jednoznacznym rozstrzygnięciem kwestii odpowiedniości myślenia maszynowego i ludzkiego – z czym wiąże się także problematyczność wyjaśnień dotyczących „natury” człowieczeństwa, którego wyznacznikiem miałoby być właśnie owo „myślenie” – jest pochodną funkcjonalnegoIstotą owych modeli jest tworzenie reprezentacji działania obiektów bezpośrednio nieobserwowalnych – w interesującym nas tu przypadku hipotetycznych, „wewnętrznych mechanizmów umysłowych”, których przejawem miałyby być myślenie, inteligencja, twórczość oraz inne wspomniane wcześniej fenomeny. Ponieważ ze względów oczywistych do „wnętrza” umysłu i jego domniemanych „mechanizmów” zajrzeć nie sposób, konstruuje się jego funkcjonalny odpowiednik – „maszynę logiczną” – urządzenie zwane niekiedy w cybernetycznej nomenklaturze „czarną skrzynką”, zdolne przetwarzać otrzymywane „na wejściu” dane w pojawiającą się na wyjściu informację, w sposób równoważny działaniu badanego układu. Uzyskawszy taki rezultat, przyjmuje się – w zgodzie z metodologicznymi kanonami odnośnych dyscyplin – iż analogiczność działania obu układów jest przejawem funkcjonalnej odpowiedniości ich wewnętrznych mechanizmów, co z kolei pozwala odnieść do badanego obiektu niedostępnego obserwacji wszelkie prawa wyprowadzone dla opracowanego w ten sposób modelu jego działania.[20] modelowania aktywności poznawczej ludzi za pomocą współcześnie dostępnych technik obliczeniowych.

Czym innym jest bowiem stworzenie na uprzednio przyjętej podstawie teoretycznej modelu symulującego działanie obiektu niedostępnego bezpośredniej obserwacji oraz postawienie tezy o wzajemnej odpowiedniości wewnętrznych mechanizmów modelu i tego, czego jest on odpowiednikiem, czym innym zaś przedstawienie opisu budowy i działania obiektu wyjściowego wolne od teoretycznomodelowych zapośredniczeń. W związku z tym należy stwierdzić, że w odniesieniu do prac nad sztuczną inteligencją standardowo posługujących się modelami wskazanego typu, skuteczność symulowania relatywnie niewielkiej klasy wyspecjalizowanych operacji poznawczych nie przekłada się, jak dotąd, na wiedzę dotyczącą rzeczywistych procesów myślowych ludzi w stopniu umożliwiającym przełom w tym zakresie.

Jest tak zwłaszcza w wypadku zaawansowanych technik modelowania korzystających z sieci neuronowych i algorytmów głębokiego uczenia sięZob. na przykład: M. Flasiński, „Wstęp do sztucznej inteligencji”, Warszawa 2020; T.J. Sejnowski, „Deep Learning. Głęboka rewolucja. Kiedy sztuczna inteligencja spotyka się z ludzką”, tłum. P. Cypryański, Warszawa 2019.[21], z powodzeniem wykonujących wielorakie zadania wymagające „inteligencji”, jednak czyniących to w sposób uniemożliwiający badaczom wgląd zarówno w to, co przyswoiła sobie dana sieć, jak i w to, dzięki jakim strategiom i procesom uzyskała ów rezultat. W konsekwencji, „sztucznointeligentne” procedury symulujące obecnie dość udatnie niektóre aspekty ludzkiego myślenia są od tego myślenia dość odległe – co najmniej tak odległe, jak reguły ludzkich zachowań – które „nie zostały wymyślone, ale ukształtowały się organicznie, w seriach powtórzeń wielokrotnie przekraczających nasze wyobrażenia o serii powtórzeń”J. Tokarska-Bakir, dz. cyt., s. 25.[22] – odległe są od maszynowych schematów działania wypracowanych przez nie same w cyklach uczenia się zaprogramowanych przez ich ludzkich konstruktorów i operatorów.

Ostatecznie więc – tak, jak znak nie stanie się przedmiotem oznaczanym, tak też reprezentacja nie urzeczywistni tego, co reprezentowane. W odniesieniu do interesującej nas tu kwestii – reprezentacja myślenia nie jest myśleniem, lecz co najwyżej jego arcydzielnym naśladowaniem bądź odwzorowaniemTa logiczno-semiotyczna konkluzja nie wyklucza, rzecz prosta, istnienia „myślących” bytów nie-ludzkich (w szczególności maszyn) ani też nie przesądza o „naturze” czy „istocie” myślenia jako fenomenu „mechanicznego”, „organicznego” czy jakiegokolwiek innego. Poprawne postawienie tej kwestii, nie mówiąc o jej rozstrzygnięciu, wymagałoby uściśleń, na które nie ma miejsca w tym opracowaniu.[23].

Nie/estetycznie

Zagadnieniem równie interesującym jak poprzednie jest, czy rezultaty aktywności współczesnych algorytmów, generujących twory o dużych walorach estetycznych, które ze względu na odnośne standardy bylibyśmy skłonni uznać – choćby na próbę – za dzieła sztuki, są rzeczywiście godne tego miana? Nie wikłając się w kontrowersje dotyczące „natury” czy „istoty” twórczości artystycznej, od których wcześniejszego rozstrzygnięcia będzie zależała odpowiedź na to pytanie, można wszakże przyjrzeć się bliżej kwestii ogólniejszej – możliwościom zautomatyzowania twórczości artystycznej oraz wyborów estetycznych dzięki zastosowaniu „sztucznointeligentnych” programów komputerowych.

W jednej ze swoich ostatnich publikacjiL. Manovich, „AI Aesthetics” Moscow 2018. Zob. także: tegoż, „Software Takes Command”, New York–London 2013.[24] Lev Manovich porządkuje przykłady zastosowania sztucznej inteligencji w fotografii, wprowadzając dwie kategorie, które przywołuję tu w postaci nieco zmodyfikowanej: wybieranie lub wspomaganie wyboru obiektów o zadanych parametrach z ich określonego zbioru oraz wspomagane lub autonomiczne tworzenie bądź modyfikowanie obiektów estetycznych. Wspomniane typy aktywności mających konsekwencje estetyczne służą następnie badaczowi do zaproponowania „jednej z możliwych systematyk rozmaitych odmian kulturowej SI, które dzisiaj daje się zaobserwować”L. Manovich, „Estetyka SI”, tłum. S. Królak, „Dialog” maj 2020, nr 5 (762), s. 54.[25] – jej elementami są:

1. Dobór treści z obszernych kolekcji: wyszukiwanie, odkrywanie, przechowywanie, opracowywanie, rekomendowanie i filtrowanie.
2. Kierowanie treści do określonego odbiorcy (na przykład personalizacja, targetowanie behawioralne i segmentowanie rynku).
3. Wspomaganie w tworzeniu / edytowaniu nowych treści. (Jeśli pomyśleć o SI jako inteligentnej w sensie biologicznym, możemy to nazwać „uczestnictwem” w tworzeniu treści).
4. W pełni autonomiczne tworzenie (na przykład SI komponująca utwory muzyczne w określonym stylu, pisanie artykułów biznesowych i redagowanie wiadomości sportowych, tworzenie wizualizacji na podstawie danych z określonego zestawu, projektowanie stron internetowych, generowanie odpowiedzi mailowych etc.)Tamże.[26].

Manovich, komentując wymienione zjawiska, uznaje je za przejaw trendu – stopniowej automatyzacji aktywności estetycznej oraz decyzji mających konsekwencje w tej sferze – zwracając przy tym uwagę, iż na ową automatyzację podatny jest każdy obszar produkcji kulturalnej rządzącej się wyraźnymi zasadami odnoszącymi się do systematycznego stosowania wzorców. W związku z tym aktualne stają się pytania o możliwe konsekwencje i zasięg takiej „sztucznointeligentnej” automatyzacji. Manovich stawia kwestię tak:

Czy sztuczna inteligencja zastąpi profesjonalnych twórców kultury – projektantów mediów, przemysłu i mody, fotografów i filmowców, architektów, urbanistów etc? […] Już dzisiaj SI daje nam możliwość zautomatyzowania (dzięki silnikom rekomendacyjnym) naszych wyborów estetycznych, pomaga w niektórych obszarach produkcji estetycznej, takich jak fotografia konsumencka, i automatyzuje inne jeszcze doświadczenia kulturowe […]. Ale w przyszłości będzie odgrywać jeszcze większą rolę w dziedzinie profesjonalnej produkcji kulturalnej. Jej wykorzystanie w projektowaniu mody, znaków firmowych, muzyki, reklam telewizyjnych i prac w innych obszarach kultury upowszechnia się już teraz. Nadal jednak to ludzie w roli ekspertów podejmują zwykle ostateczne decyzje i na podstawie pomysłów i z użyciem środków wyrazu generowanych przez SI zajmują się faktycznym ich wykonaniem. […] Tworzenie zadowalających estetycznie i semantycznie wiarygodnych artefaktów medialnych o ludziach i ich świecie może stać się możliwe dopiero po osiągnięciu wystarczającego postępu w dziedzinie „ogólnej sztucznej inteligencji” (OSI, zwanej również „silną sztuczną inteligencją”, SSI). Innymi słowy, komputer musiałby zostać wyposażony w przybliżeniu w taką samą wiedzę o świecie, jaką dysponuje dorosły człowiekTamże, s. 59–61.[27].

Istotnie, wydaje się, że tworzenie artefaktów wyposażonych w wartości estetycznie doniosłe jest i nadal będzie dla sztucznej inteligencji jednym z najtrudniejszych sprawdzianów. W wypadku takich tworów chodzi bowiem nie tylko o ich zgodność z odnośnymi kanonami estetycznymi pozwalającą uznać owe dzieła za obiekty artystyczne, lecz również o domniemanie – i oczekiwanie, któremu sztuczna inteligencja musiałaby sprostać – że są one wyrazem ludzkich doświadczeń, z którymi obcowanie za pośrednictwem wytworów owej twórczości jest dla innych ludzi wartościowe poznawczo i emocjonalnie. Przeżycia towarzyszące takiemu obcowaniu znoszą bowiem lub zawieszają czasowo odczucie obojętności nie-ludzkiego świata, projektując zamiast niego mityczną wspólnotę związków osobowych, w której uczestnictwo umożliwia usensownienie rzeczywistości i indywidualnej egzystencji podmiotu. Jak zauważa Leszek Kołakowski:

W spotkaniach z ludźmi, gdzie udaje się nam rozluźnić reguły rzeczowej wymiany i dopuścić do głosu obustronnie pulsującą spontaniczność, wartością swoiście ludzką jest dla nas niemożność przewidywania, a także jego niepotrzebność; przewidywalność innego człowieka jest cechą rzeczowych między nami więzi; wszelka spontaniczność jest twórcza, wybiega więc poza oczekiwane jakości ludzkich związków. Dlatego zastraszeni zrazu nieprzewidywalnością fizycznego bytu, w której doświadczamy jego obojętności, odkrywamy później, w miarę zwycięstw nad jego kaprysami, tę samą albo bardziej dotkliwą obojętność w świecie sprowadzonym do przewidywalności doskonałej, w świecie rzeczy ujarzmionych, lecz nieoswojonych nigdy. Świat nieznajomy może być źródłem trwogi, ale również świat ponad miarę znajomy, o dobrze wiadomym, bo przez nas samych zaplanowanym biegu. Nasze lamenty nad „zdehumanizowaną” planetą wypełnioną przez maszyny, nasze żałosne ucieczki w malejące schroniska dzikości są wyrazem porażki, którą ponosi projekt metafizyczny, utajony w technologicznej ekspansji ludzkości – projekt oswojenia materiiL. Kołakowski, „Obecność mitu”, Warszawa 2003, s. 79–80.[28].

Trans/humanistycznie

Obecnie jedną z najbardziej zaawansowanych form już nie tylko oswajania materii, lecz także ostatecznego zapanowania nad nią, są próby poddania owej materii władzy niebiologicznej, technologicznie standaryzowanej inteligencji, która miałaby w przyszłości kształtować wspomnianą materię w sposób trudno dziś wyobrażalny. Ów metafizyczny z ducha projekt – gdyby przyjąć optykę Kołakowskiego – odwołuje się do pojęć i kategorii funkcjonujących na prawach mitycznychPrzywołuję tu Leszka Kołakowskiego koncepcję mitu, zgodnie z którą: „[zakres wyrazu „mit” – KK] ogarnia część […] mitów religijnych, […] nadto pewne konstrukcje, obecne (w utajeniu lub explicite) w naszym życiu intelektualnym i afektywnym, te mianowicie, które pozwalają nam warunkowe i zmienne składniki doświadczenia wiązać teleologicznie przez odwołanie się do realności bezwarunkowych (takich jak «byt», «prawda», «wartość»)”. L. Kołakowski, dz. cyt., s. 8–10.[29] fikcji, organizujących pole zbiorowych wyobrażeń – również naukowych – dotyczących ludzkich możliwości i ograniczeń. Jest to szczególnie dobrze widoczne w charakterystycznym dla prac nad sztuczną inteligencją konceptualizowaniu istoty człowieczeństwa opartym na micie odcieleśnionego rozumuPor. następujący passus: „Prawda jako wartość różna od skutecznej stosowalności jest tedy częścią mitu, który warunkowe realności empirii odnosi do niewarunkowego świata. Jest częścią mitologii Rozumu, która ustanawia nieciągłość między Rozumem i biologiczną asymilacją świata, która więc nie chce uznać Rozumu za organ ciała. Jeśli mózg jest częścią ciała, a rozum częścią zachowań mózgu, wartościowanie epistemologiczne nie może być ocalone; nie może być ocalona prawda – jakość wiedzy różna od stosowalności technologicznej; ani reguły logiki jako kodeks przez myślącego zastany w naturze myśli. Mit Rozumu potrzebny jest, aby obecna była wiara, iż logika nasza nie jest tylko savoir-vivre'em zbiorowości współpracujących w myśleniu, ani tylko faktyczną jakością naszego cielesnego ustroju lub naszego sposobu mówienia. Mit Rozumu nie jest prawdziwy ani fałszywy, ponieważ żaden mit nie podlega dychotomii prawdy i fałszu. Ale coś może być prawdziwe lub fałszywe tylko dzięki mitowi Rozumu. […] Wiara w Rozum jest opcją mityczną, wykracza tedy poza uprawnienia Rozumu. Jest potrzebna, by człowieczeństwo mogło się ukonstytuować jako obecność Rozumu w świecie nierozumnym. Jest potrzebna dla samokonstytucji człowieczeństwa, dla samoidentyfikacji, dla radykalnej samowiedzy bycia czym innym niż plazmą o wrażliwości bardziej zróżnicowanej. Mit Rozumu ma przeciwdziałać rozpaczliwej zgodzie człowieka na własną przypadkowość”. L. Kołakowski, dz. cyt., s. 48–49.[30], intelektu czy inteligencji. Sankcjonuje on kształtowanie (się) typu człowieka ekspansywnego, nie tylko podporządkowującego sobie świat i inicjującego procesy mogące ostatecznie wymknąć się spod jego kontroli, lecz również – zdaniem niektórych – wywłaszczającego samego siebie z tego, co dlań najistotniejsze. Możliwe skutki takiego przedsięwzięcia przedstawia Kołakowski tak oto:

Próbujemy pokonać obojętność świata przez technologiczne przywłaszczanie rzeczy, dzięki czemu rzeczy stają się nam posłuszne. Satysfakcja doświadczana z tego posłuszeństwa polega na tym, iż w coraz większym stopniu obracamy się w środowisku przez nas samych urządzonym, w coraz większym stopniu tedy wolno nam sobie przypisywać bogopodobne uzdolnienia twórcze. Świat przestał być nie obrobioną naturą, przygniatającą swoją nieczułością; stał się niemal emanacją naszych projektów, ogromne jego obszary, coraz bardziej rozległe, słuchają naszego głosu; stał się wrażliwy na nasze pragnienia. Mamy nadzieję, że uwrażliwienie to będzie się doskonalić, snujemy zawrotne plany mocarstwa technologicznego, zdanego na nasze rozkazy. […] Tryumfy technologiczne oddają nam byt fizyczny w pełni upokorzony. Ale oto spoza sukcesów władzy nad rzeczami wyziera nieustannie zgryzota niezaspokojenia. Kultura technologiczna pozwala nam świat zagarniać w formie łupu, nie znosi jednak prawdziwie jego obojętności; oswojenie rzeczy jest pozorne, poczucie spotkania z naturą we wzajemności jest iluzoryczne niczym miłość nekrofilityka. Natura jest posłuszna nie we wzajemności, lecz właśnie przez obojętność. Świat całkowicie wypełniony śladami naszych zabiegów technologicznych, a więc świat pozornie uczłowieczony, naznaczony we wszystkich szczegółach intensywnością naszych interwencji, znów zaczyna zdawać się koszmarem. […] W istocie, próba technologicznego przymusu, który by wydarł świat fizyczny z jego obojętności, kończy się porażką; nie z tej racji, iż niepodobieństwem jest absolutne władanie naturą nie skończoną, ale z tej, że na każdym poziomie technologicznego sukcesu rzeczy są naszym łupem, nie zaś owocem przyjacielskiego spoufalenia; przywłaszczamy je sobie wiedząc, że są nam posłuszne dzięki temu, iż nic nie znaczą, nie mają żadnego sensu zastanego, wcześniejszego od naszych projektówTamże, s. 77–79.[31].

Zgodnie z diagnozą Kołakowskiego, „próba technologicznego przymusu, który by wydarł świat fizyczny z jego obojętności, kończy się porażką […] z tej [racji], że na każdym poziomie technologicznego sukcesu rzeczy są naszym łupem, nie zaś owocem przyjacielskiego spoufalenia”Tamże, s. 79.[32]. Formy czasu teraźniejszego niedokonanego sugerują uniwersalną ważność tej konstatacji – jednak w tym wypadku to zaledwie retoryczna iluzja zamykająca czytelnika w mitycznym kręgu wyobrażeń Kołakowskiego z czasu, w którym powstawał przywołany tekstPor. „Pisałem tę rozprawkę w 1966 i na początku 1967 zwróciłem się do wydawnictwa Czytelnik w Warszawie z propozycją jej wydania. Zabiegi wydawnictwa o zezwolenie na publikację trwały lat pięć i pół i spełzły na niczym”. Tamże, s. 7.[33]. Jego obserwacje dotyczą etapu rozwoju człowieka – pojętego gatunkowo – którego próby przeciwstawienia się fenomenowi obojętności świata i przypadkowości ludzkiej egzystencji przez uczestnictwo w mitycznej wspólnocie wartości i relacji osobowych poniosły fiasko. Zarazem badacz antycypuje skutki aktywności techno- i kulturotwórczej mającej wyzwolić człowieka z jego ograniczeń. Jego myśl biegnie od antropocentrycznie i humanistycznie zorientowanego typu człowieczeństwa ku prognozowanemu, transhumanistycznemu – jak byśmy to nazwali zgodnie ze współczesnymi standardami – programowi zwielokrotnienia ludzkich możliwości. Analizując ową sytuację i odwołując się do własnych, dodatkowych założeń, wyprowadza badacz konkluzje o nieuchronności przewidywanych przez siebie konsekwencji takich poczynań.

Jednak przywołane w tym tekście dane otwierają możliwość odmiennej interpretacji wspomnianych zależności. Można z nich bowiem wywnioskować, iż pojmowany gatunkowo człowiek jest istotą ewoluującą, zatem transgresyjną, przekraczającą ograniczenia własnych, kolejno przez siebie odkrywanych „natur”. Przyjęcie takiego punktu widzenia odsłania ograniczony charakter „tradycyjnych” koncepcji człowieczeństwa, z ich esencjalistycznym i uniwersalistycznym antropocentryzmem podporządkowującym człowiekowi inne formy istnienia oraz skłania do zgodnego ze współczesnym stanem wiedzy rozpoznania człowieczeństwa jako punktu przecięcia sił biologiczno-kulturowo-technologicznych.

Ujęty z takiej perspektywy człowiek jawi się jako istota inherentnie czy nieusuwalnie relacyjna, której charakterystyka zależy od związków i zależności z innymi ludzkimi i nie-ludzkimi podmiotami towarzyszącymi jej w rozwoju. Jeśli to rozpoznanie jest trafne, los takiej hybrydycznej, a ostatecznie także transludzkiej istoty, zależy więc nie tyle od tego, czy będzie ona panować nad innymi formami istnienia, czy też będzie zmuszona sama poddać się ich władzy, ile raczej od tego, czy zdoła ułożyć sobie stosunki z innymi podmiotami – „naturalnymi” bądź „zaprojektowanymi” – tak, by potrafiły one i zechciały się rozpoznać jako jej równorzędni partnerzyPor. „Kiedy mówimy »maszyny myślące«, tak naprawdę chodzi nam o »maszyny myślące jak ludzie«. […] Prawdziwe pytanie brzmi, czy maszyny mogą myśleć tak jak ludzie. […] Niektórzy guru nauki obawiają się nadejścia świata kontrolowanego przez maszyny myślące. Nie jestem pewien, czy jest to strach uzasadniony. Bardziej martwi mnie świat, którym rządzą ludzie myślący jak maszyny – to istotny trend, coraz bardziej widoczny w naszym cyfrowym społeczeństwie. […] Nasze ludzkie społeczeństwo w szybkim tempie zmierza ku zasadom, przepisom, prawu, instrumentom inwestycyjnym, politycznemu dogmatowi i wzorcom zachowania podporządkowanym ścisłej logice – nawet jeśli opierają się one na fałszywych przesłankach lub w oczywisty sposób przeczą zdrowemu rozsądkowi. […] Niestety, luka pomiędzy myślącymi maszynami i myślącymi ludźmi może zostać zasypana na dwa sposoby. Kiedy ludzie zaczną myśleć niczym maszyny, niejako automatycznie osiągniemy cel, który definiujemy jako istnienie »maszyn myślących jak ludzie« – z tym, że do zrównania dojdzie w odwrotny sposób niż planowano. Bystra osoba, potrafiąca w ułamku sekundy, pomiędzy tuzinami e-maili, wiadomości tekstowych i tweetów (nie mówiąc już o innych cyfrowych rozpraszaczach) wysnuwać wnioski na podstawie jednej linii danych, nie jest wcale lepsza od umiarkowanie inteligentnej maszyny, która analizuje wielkie ilości informacji na dany temat, zanim przeskoczy do wstępnych wniosków lub podpisze się pod petycją dotyczącą tematu, z którym nie jest zaznajomiona. […] Zamiast powoli i spokojnie uczyć nasze maszyny czerpania korzyści ze zdrowego rozsądku i zdolności umysłowvch, pozwalamy, by myślenie algorytmiczne, zwięzłość przekazu i dominacja czystej logiki kierowały nas ku myśleniu maszynowemu. Odwrócenie tego trendu byłoby istotnym zwrotem w ewolucji cyfrowej człowieka”. H. Harari, „Rozmyślajac o ludziach, którzy myślą jak maszyny” [w:] „A ty co sądzisz…”, dz. cyt., s. 450–452.[34].