Część (3) Świadomy elektron (lub foton lub kropka kwantowa)

W notatce z 1842 roku Ada Lovelace, córka lorda Byrona i czynna matematyczka, napisała prawdopodobnie pierwszy tekst dotyczący możliwej świadomości w komputerach: „Warto uchronić się przeciw możliwości wyolbrzymionych idei, które mogłyby powstać skutkiem mocy maszyny analitycznej.... Maszyna analityczna nie ma żadnych pretensji co do zaczynania czegoś. Może wykonać cokolwiek, co wiemy, jak jej zaordynować do wykonania. Może prowadzić analizę, ale nie ma możliwości przewidywania jakichkolwiek analitycznych relacji czy prawd. Jej kompetencja polega na tym, ma pomóc nam w udostępnianiu tego, co już znamy”. Ada blisko współpracowała z Charlesem Babbage'm i pisała o jego „maszynie analitycznej”, mechanicznym kalkulatorze, po raz pierwszy opisanym przez niego w 1837 roku, który został zbudowany jednak dopiero w 1991 roku i wtedy okazało się, że działa zgodnie z założeniami. Lovelace jest uważana przez wielu za pierwszego programistę komputerów.

Wiele zmieniło się od tamtego czasu, lecz właśnie rozwój komputerów o nadludzkich możliwościach sprawił, że poruszony przez nią problem z niesprawdzalnej ciekawostki przesunął się na front rozwoju informatyki. Ludzka wynalazczość w przeszłości dawała nam technologie, które zwiększały nasze możliwości, ale decyzje zawsze pozostały w domenie ludzkiej. Słowo „nadludzkie” oznacza tutaj zdolność do decydowania lepiej niż ludzie. Ada Lovelace rozumiała ograniczenia maszyny analitycznej, ale od tamtej pory technologia rozwinęła się od gry w kółko-i-krzyżyk w latach pięćdziesiątych XX w., do gry w go w ostatnich latach, znajdując zastosowanie w mikroinżynierii, w mikrochirurgii i w diagnostyce medycznej, w genetyce, w badaniach farmakologicznych. Rynki finansowe, taktyka bitwy, zarządzanie procesami i logistyką, nawigacja, astronomia, matematyka, badania językowe – w tych i w wielu innych funkcjach komputery okazują się lepsze od ludzi lub stają się współtwórcami procesu decyzyjnego. Niewątpliwie do tych umiejętności należy użycie komputerów do projektowania, testowania i produkcji samych komputerów. Wszystkich tych umiejętności, pojedynczo lub łącznie, nie można nazwać świadomymi, a chociaż lista ta się wydłuża, nie widać powodu, dla którego „inteligencja” nie miałaby rosnąć w nieskończoność bez oznak świadomości.

Poza science fiction nie znalazłem dowodów na to, że ktoś chce świadomości w komputerach, więc dlaczego tak wielu znawców komputerów przejmuje się tą sprawą? Odpowiedź brzmi tak, że istnieje również rozsądna możliwość, że świadomość może jednak wystąpić. Dla celów tego tekstu przyjmijmy kilka założeń. Najpierw zdefiniujemy świadomość jako „istotę zdającą sobie sprawę z własnej egzystencji i ze swego związku z Wszechświatem na zewnątrz siebie”, a także założymy, że żyjemy we Wszechświecie, gdzie ewolucja świadomości może być przedmiotem tylko praw przyrody (znanych i nieznanych), bez potrzeby jakiegoś wkładu boskiego czy duchowego. Jakie są główne zastrzeżenia co do [ewentualnej] świadomości w komputerach?

(1) Nie można mieć „świadomości” bez „życia” biologicznego...

Oczywistym pytaniem na to jest: „a dlaczego nie?” Tylko dlatego, że jest to nasze jedyne doświadczenie, jakie do tej pory znaliśmy na tej planecie, nie oznacza, że alternatywa jest nieprawdopodobna lub niemożliwa. Egzobiologia jest poważnym obszarem studiów i nie ma powodu, dlaczego coś takiego jak „egzo-świadomość” nie może być również możliwa. Pozostawiając na boku dyskusje na temat panpsychizmu – czy nasza definicja świadomości obejmuje zdolne do wykiełkowania ziarno trawy? Jest ono wyraźnie żywe, ale trudno mówić o jakiejkolwiek świadomości, którą może mieć, chociaż ma ono zdolność reagowania na otoczenie. Czy nie moglibyśmy tego odwrócić logicznie i mieć coś, co nie żyje, a jednak jest świadome? Bądźmy otwarci na taką możliwość.

(2) Świadomość jest wynikiem ewolucji trwającej miliard lat lub dłużej – więc jak technologia, która ma mniej niż osiemdziesiąt lat, mogłaby w tak krótkim czasie choćby dorównać ludzkiej świadomości, nie mówiąc już o jakimś zagrożeniu?...

Możliwość przyszłej świadomości w AI nie istnieje w próżni – jest produktem biologicznej ewolucji ludzi. Ewolucja technologii i wiedzy, którą człowiek opanował, a także projektów na przyszłość, które owa wiedza pozwala nam czynić – będzie, w realnym sensie, logiczną kontynuacją dotychczasowej ewolucji biologicznej, chociaż niekoniecznie kontynuacją pożądaną. Główną troską, jak wspomniano wcześniej, jest szybkość, z jaką może to nastąpić, jako że procesy ewolucji w przyrodzie raczej zachodzą w postępie arytmetycznym, natomiast rozwój AI jest geometryczny: na wykresie jest to krzywa paraboliczna, który potencjalnie wzrasta w nieskończoność i zapewne szybko wykroczy poza ludzką kontrolę lub nawet zrozumienie.

(3) Świadomość wyewoluowała jako wynik rozwoju społecznego, relacji drapieżnika i ofiary, lęku przed śmiercią lub ranami, głodu, pragnienia, bólu, instynktu płci i potomstwa oraz walki o przetrwanie w stale zmieniającym się, konkurencyjnym i często niebezpiecznym środowisku – komputer zaś nie będzie miał żadnego z tych bodźców...

Zapewne wszystko to prawda, ale AI będzie w istocie również mieć wszystkie te doświadczenia za sobą – dostępne w bazach danych. My też nie musimy wywoływać globalnej epidemii, walczyć o życie, toczyć wojny ani zniszczyć naszego środowiska, aby wiedzieć, do czego te wydarzenia są podobne – mamy już dostępne zapisy i doświadczenia.

(4) Pełna świadomość, jak rozumiemy ją u człowieka, może powstać tylko dzięki pętlom uczenia się i sprzężenia zwrotnego, z udziałem niektórych lub wszystkich pięciu zmysłów: dotyku, zapachu, słuchu, smaku i wzroku...

Wszystko to prawda – świadomość ewoluowała biologicznie przez setki milionów (miliardy?) lat, wykorzystując tamte narzędzia, aby dotrzeć do dzisiejszego miejsca, ale bazy danych, zawierające większość faktów na temat biologii i ludzkich doświadczeń, które komputery będą mieć dostępne w niedalekiej przyszłości – to właśnie będą ich zmysły. Czy atrybut zmysłów jest konieczny do zaistnienia świadomości? Niekoniecznie: dziecko z ciężkimi upośledzeniami fizycznymi, lecz mające wszystkie funkcje mózgu, będzie nadal świadome według dowolnej definicji, i to właśnie rozwój jego inteligencji najprawdopodobniej zostanie utrudniony przez jego sensoryczne braki, a nie sama świadomość.

(5) Mobilność i zdolność fizycznego reagowania na otoczenie były kluczowym czynnikiem pobudzającym rozwój świadomości całej fauny – czarna skrzynka stojąca na biurku nie będzie miała tej umiejętności, ani doświadczeń...

To prawda, ale to nie ma znaczenia. Bakteria lub plemnik ssaka używające swoich wici są zarówno mobilne w ośrodku płynnym, jak i mogą reagować na swoje otoczenie, ale nie są one świadome w żadnym rozsądnym sensie. Ani nie jest takim samochód samojezdny, nawet jeśli jest bezpieczniejszym i lepszym kierowcą od każdego człowieka. Dostępne bazy danych będą podstawą świadomości w komputerach, a sekwencje ewolucji biologicznej nie muszą i prawdopodobnie nie będą naśladowane dokładnie przez przyszłą ewolucję AI.

(6) Zdolność do odczuwania – emocjonalny ból, smutek, utrata, miłość, przyjemność, egzaltacja i tęsknota oraz poczucie moralne są istotną częścią rozwoju świadomości w wyższych formach życia – żadna maszyna nie będzie w stanie tego zrobić...

Być może tak, ale są to raczej cechy, których oczekujemy od wyższej fauny – świadomość nie musi mieć niektórych ani wszystkich tych cech. Socjopatyczny człowiek może nie mieć skrupułów w krzywdzeniu innych – moglibyśmy potępić jego etykę, ale nikt nie będzie wątpić w jego świadomość. Istotne pytanie brzmi, czy chcemy, aby świadome AI miały tamte cechy – czy będziemy chcieli mieć systemy kontroli ruchu lotniczego, samojezdne samochody, roboty chirurgiczne czy inne mechanizmy, od których zręczności zależy życie, które miałyby problemy emocjonalne lub wzniosłe wizje? Gdy kiedyś dojdzie do sztucznej świadomości, nikt nie wątpi, że będzie ona inna niż u ludzi – niektórzy teoretycy AI nazywają ją „obcym” [alien – „kosmitą”, przyp. red.], co wprowadza w błąd – gdyż jedyne doświadczenie w jej bazach danych będzie pochodzić od ludzi lub bazować na formach życia naszej planety.

(7) Nie ma jednej ogólnie przyjmowanej definicji świadomości. Po wielu latach pracy psycholog Stuart Sutherland napisał w wydanym w 1989 r. słowniku Macmillan Dictionary of Psychology: „Świadomość jest to posiadanie percepcji, myśli i uczuć; bycie przytomnym. Termin ten jest niemożliwy do zdefiniowania, gdyż wymaga użycia terminów, które są niezrozumiałe bez zrozumienia, co oznacza świadomość. Wielu wpada w pułapkę zrównania świadomości z samoświadomością – jednak aby być świadomym, trzeba tylko wiedzieć o świecie zewnętrznym. Świadomość jest fascynującym, ale nieuchwytnym zjawiskiem: niemożliwe jest określenie, czym jest, jak działa, ani dlaczego wyewoluowała. Na ten temat nie napisano niczego wartego czytania.” Z jego oświadczeniem możemy zgodzić się lub nie, ale wobec trudności, które mamy z zrozumieniem własnej świadomości i z osiągnięciem porozumienia, czym ona jest, dlaczego mielibyśmy się kłopotać, czy jest ona w jakiejś odległej perspektywie możliwa w maszynach?...

W definicji Stuarta Sutherlanda ciekawe jest to, że świadomość wyewoluowała przypadkiem, w wyniku rosnącej złożoności organizmów podlegających ewolucji. Jest to takie samo podejście, jakie mają ci teoretycy AI, którzy ostrzegają przed podobnym wydarzeniem, które może się zdarzyć z powodu szybkiego rozwoju mocy komputerów. Prawdą jest, że psychologia i nauki behawioralne, neurologia i badania filozoficzne nie dostarczyły nam żadnych odpowiednich rozwiązań – to właśnie postępy w informatyce w ciągu ostatnich dwudziestu ośmiu lat od chwili napisania tamtego tekstu, najprawdopodobniej dostarczą niektórych odpowiedzi. Jaki jest obecny stan badań? Wśród najbardziej znanych jest unijno-europejski Human Brain Project, chiński China Brain Project, japoński Brain/MINDS, amerykańska BRAIN Initiative, Human Connectome Project, Genes to Cognition Project, oraz najbardziej z nich interesujący i najlepiej finansowany Neuralink Project Elona Muska, który został humorystycznie i dobrze wyjaśniony w artykule pt. „Neuralink i magiczna przyszłość mózgu”. Kolejne interesujące strony to „Neurosurgery 3D modelling” oraz „Mind reading and mind hacking”.

Wszystkie te badania oparte są na technologii neuronaukowej i komputerowej – na podejściu „inżynierskim”, które traktuje mózg ssaka w sposób „redukcjonistyczny”, jako mniej więcej komputer biologiczny.

(8) Kompleks złożony z ludzkiego mózgu, umysłu i ciała jest nie tylko maszyną do mielenia liczb na racjonalnym poziomie – jest on również „nie-racjonalny”, co oznacza, że potrafi dostarczać nam natychmiastowych informacji poprzez nasz układ nerwowy i hormonalny bez świadomego myślenia z naszej strony. Jakkolwiek to nazwiesz – biorezonansem, instynktem, ponad-racjonalnym zachowaniem – jest istotną częścią bycia żywym: przetrwania, wyboru partnera, oceny co jest bezpieczne, a co nie. Ma kluczowe znaczenie dla twórczości, natchnienia, abstrakcyjnego myślenia i wyobraźni. Podejścia neuronaukowe czy w stylu AI wymienione wyżej w punkcie (7) dadzą wyniki, które będą mylące, nieadekwatne i budzące wstręt...

Nasze definicje „świadomości” są nieprecyzyjne, co prowadzi do mieszania pojęć „bycia żywym”, „bycia człowiekiem” i „bycia świadomym”. „Redukcjonistyczne” podejście do wszystkich tych projektów jest dalekie od obrzydzenia – neurologia w znacznym stopniu skorzystała z postępów w komputeryzacji narzędzi diagnostycznych, a korzyści związane z rozwojem AI wynikają z wielodyscyplinarnych badań systemu analogowego, którym jest ludzki mózg. Nie oczekuje się ostatecznej definicji tego, czym jest świadomość, ale mamy nadzieję że będziemy zbliżać się do odpowiedzi.

Wnioski. Większość teoretyków AI uważa, że w najdalej za pięćdziesiąt lat będziemy mieli świadomy komputer. Nikt nie wie, czy będzie to „dobra” rzecz czy „zła”, ale większość jest przekonana, że jej przyjście zmieni ludzkość głęboko. Nikt obecnie nie wie, jak to można ten proces kontrolować, ani też, czy to będzie w ogóle możliwe, ale wszyscy są zgodni, że powinniśmy już teraz zacząć o tym mówić. Sam Harris porównał powstanie AI do wizyt kosmitów – co ludzkość zrobiłaby, gdyby otrzymała sygnał, że za pięćdziesiąt lat obcy kosmiczny statek dotrze na ziemię? Co teraz powinna zrobić ludzkość, wiedząc, że nadchodzi AI?