Po czym poznamy, że komputer (lub program, system informatyczny lub aplikacja sieciowa lub coś podobnego) stał się świadomy?  Arthur Zielinski w swoim trzecim tekście o sztucznej inteligencji stwierdza: „...nie widać powodu, dla którego inteligencja [maszyn] miałaby rosnąć w nieskończoność bez oznak świadomości” – a więc wnioskuje, że przy pewnej wysokości inteligencji, w maszynie pojawi się także świadomość.

Pytam: i co z tego? Co by to zmieniało? Czym różni się inteligencja bez świadomości od inteligencji połączonej ze świadomością?

Chociaż Arhur Zielinski rozważa aż 8 obiekcji przeciwko zaistnieniu świadomości w maszynach, to nie zauważa obiekcji nr 9, właśnie tej powyższej. Zastrzeżenie to brzmi: świadomość w maszynach jest „zbiorem miary zero”, co znaczy tyle, że (1) ani nie mamy (i nie będziemy mieli) dobrego sposobu na stwierdzenie, czy maszyna jest czy nie jest świadoma; (2) ani ewentualne posiadanie świadomości przez (niektóre) inteligentne maszyny nie sprawi, że będą się one istotnie różnić od maszyn inteligentnych ale nieświadomych.

Jak do tej pory rozumiemy świadomość?

Krok pierwszy: ja stwierdzam, że jestem świadomy. (Że mam świadomość.) Zwolennik Wittgensteina rozwinie ten punkt, mówiąc: oto ja uczę się pewnej językowej gry, która polega na dziwieniu się, że: „ja mam świadomość”, oraz zastanawianiu się i zadawaniu innym pytań, „jak to jest z tą świadomością”, a także kiedy się ją ma a kiedy nie, i kto ją ma, a kto może nie mieć. W każdym razie w wyniku tej gry językowej utwierdzam się w przekonaniu, że co najmniej jedna istota świadomość ma i tą istotą jestem ja.

Krok drugi: Przez analogię dopuszczam, że podobne do mnie istoty, a przede wszystkim ludzie, którzy mówią i z którymi mogę, przynajmniej potencjalnie, porozmawiać o tym, też mają świadomość – są świadomi. Rozmawianie o świadomości utwierdza mnie (oraz innych) w tym, że inni z pewnością mają świadomość podobną do mojej, ponieważ kiedy o tych sprawach mówimy, najwyraźniej mówimy o tym samym. Ciekawym przypadkiem są rozmowy o nietypowych lub granicznych stanach świadomości, np. o snach i zasypianiu, o traceniu przytomności, o migrenie, narkozie, o stanach pod alkoholem, lupuliną, psylocybiną, ayahuaską itp., oraz o medytacji. Jako bardzo pouczające wspominam rozmowy z pewnym znajomym (już nieżyjącym) schizofrenikiem o jego stanach świadomości.

Krok trzeci: dochodzę do wniosku, że również przynajmniej niektóre istoty, które nie mówią (nie mają zdolności językowej), prawdopodobnie są świadome, ponieważ wskazują na to ich zachowania: mowa ciała i nie-językowe nawiązywanie z nami kontaktu. Zwykle dotyczy to naszych zwierzęcych towarzyszy, psów i kotów, chociaż hodowcy papug (i kruków) to samo mówią o swoich ptakach. A skoro tak, to prawdopodobnie bardzo wiele gatunków zwierząt jest świadome. Dopuszczenie także zwierząt do klubu istot świadomych przychodzi nam tym łatwiej, że u siebie stwierdzamy stany o różnym natężeniu bycia świadomym, np. przemęczenie, senność lub przedawkowanie alkoholu powoduje, że „nie kontaktujemy”, „nie wiemy, co się dzieje”, tracimy poczucie ciągłości itp. Wiemy więc, jak to jest, kiedy się jest w pewnym niższym lub podrzędniejszym stanie świadomości i chętnie właśnie podobny stan lub poziom niepełnej świadomości (niepełnej przytomności) przypisujemy zwierzętom. Łatwo jest nam się zgodzić na to, że zwierzęta są świadome, ale przebywają w dziwnym oszołomieniu. Buddyści uznali to za część swojej doktryny lub światopoglądu, głosząc, że zwierzęta są to wprawdzie „czujące istoty”, którym winni jesteśmy współczucie, ale pozostające w otępieniu, których świadomość nie jest jasna.

Zauważmy, że wciąż jest tu mowa o istotach mających ciało. Nie chcę komplikować sprawy przez dołączenie istot bez ciała: duchów, lub bytów zbiorowych, np. narodów lub korporacji, co których też pojęcie „świadomość” bywa sensownie używane. Ale kiedy weźmiemy pod uwagę maszyny, to sprawę posiadania ciała trzeba będzie rozważyć na nowo.

Zebraliśmy „dane” o świadomości, o tym jak ją rozumiemy. Zauważmy, że nie ma ona związku z inteligencją! Inteligencja, tak jak rozumiemy to pojęcie, jest to sprawność w wykonywaniu pewnych złożonych działań. Pewni ludzie np. są wybitnie sprawni w matematyce, czyli mają wysoką inteligencję typu matematycznego, ale źle im idzie, gdy chodzi o komunikację w grupie i „załatwianie interesów”, mają więc niską inteligencję (lub: kompetencję) społeczną – inni na odwrót: są „głąby” w rachunkach, ale „bystrzachy” w „kręceniu lodów” – jednak żaden z tych czynników nie ma najmniejszego znaczenia, gdy przypisujemy im świadomość. Podobnie jest ze zwierzętami: mogą mieć fantastyczną sprawność, więc też inteligencję, np. w orientacji przestrzennej, albo być wyjątkowo tępe, np. psy w ogóle „nie znają się” na sznurkach i są bezradne, gdy zaplączą się w smycz, inaczej niż np. pawiany, o których czytałem, że potrafią rozplątać najbardziej zawiłe węzły. Ich inteligencja, taka lub inna, jednak nie wpływa na to, czy uważamy je za świadome i w jaki wysokim stopniu.

Wszystko to wiemy, i oto do gry wchodzą maszyny. Oczywiście, są inteligentne! Inteligentne są już teraz. Pytanie, co musi się wydarzyć, żebyśmy zaczęli przypuszczać, że mają też świadomość – i co by to zmieniło?

(Tu przerwę i ciąg dalszy nastąpi.)