Przejdź do Taraki mobilnej! - masz wąski ekran.
zdjęcie Autora

07 maja 2017

Wojciech Jóźwiak

z cyklu: Czytanie... (odcinków: 171)

Arthura Zielinskiego: świadome komputery


« Vadim Zeland Spis treści bloga prof. Arkadiusza Jadczyka »

Po czym poznamy, że komputer (lub program, system informatyczny lub aplikacja sieciowa lub coś podobnego) stał się świadomy?  Arthur Zielinski w swoim trzecim tekście o sztucznej inteligencji stwierdza: „...nie widać powodu, dla którego inteligencja [maszyn] miałaby rosnąć w nieskończoność bez oznak świadomości” – a więc wnioskuje, że przy pewnej wysokości inteligencji, w maszynie pojawi się także świadomość.

Pytam: i co z tego? Co by to zmieniało? Czym różni się inteligencja bez świadomości od inteligencji połączonej ze świadomością?

Chociaż Arhur Zielinski rozważa aż 8 obiekcji przeciwko zaistnieniu świadomości w maszynach, to nie zauważa obiekcji nr 9, właśnie tej powyższej. Zastrzeżenie to brzmi: świadomość w maszynach jest „zbiorem miary zero”, co znaczy tyle, że (1) ani nie mamy (i nie będziemy mieli) dobrego sposobu na stwierdzenie, czy maszyna jest czy nie jest świadoma; (2) ani ewentualne posiadanie świadomości przez (niektóre) inteligentne maszyny nie sprawi, że będą się one istotnie różnić od maszyn inteligentnych ale nieświadomych.

Jak do tej pory rozumiemy świadomość?

Krok pierwszy: ja stwierdzam, że jestem świadomy. (Że mam świadomość.) Zwolennik Wittgensteina rozwinie ten punkt, mówiąc: oto ja uczę się pewnej językowej gry, która polega na dziwieniu się, że: „ja mam świadomość”, oraz zastanawianiu się i zadawaniu innym pytań, „jak to jest z tą świadomością”, a także kiedy się ją ma a kiedy nie, i kto ją ma, a kto może nie mieć. W każdym razie w wyniku tej gry językowej utwierdzam się w przekonaniu, że co najmniej jedna istota świadomość ma i tą istotą jestem ja.

Krok drugi: Przez analogię dopuszczam, że podobne do mnie istoty, a przede wszystkim ludzie, którzy mówią i z którymi mogę, przynajmniej potencjalnie, porozmawiać o tym, też mają świadomość – są świadomi. Rozmawianie o świadomości utwierdza mnie (oraz innych) w tym, że inni z pewnością mają świadomość podobną do mojej, ponieważ kiedy o tych sprawach mówimy, najwyraźniej mówimy o tym samym. Ciekawym przypadkiem są rozmowy o nietypowych lub granicznych stanach świadomości, np. o snach i zasypianiu, o traceniu przytomności, o migrenie, narkozie, o stanach pod alkoholem, lupuliną, psylocybiną, ayahuaską itp., oraz o medytacji. Jako bardzo pouczające wspominam rozmowy z pewnym znajomym (już nieżyjącym) schizofrenikiem o jego stanach świadomości.

Krok trzeci: dochodzę do wniosku, że również przynajmniej niektóre istoty, które nie mówią (nie mają zdolności językowej), prawdopodobnie są świadome, ponieważ wskazują na to ich zachowania: mowa ciała i nie-językowe nawiązywanie z nami kontaktu. Zwykle dotyczy to naszych zwierzęcych towarzyszy, psów i kotów, chociaż hodowcy papug (i kruków) to samo mówią o swoich ptakach. A skoro tak, to prawdopodobnie bardzo wiele gatunków zwierząt jest świadome. Dopuszczenie także zwierząt do klubu istot świadomych przychodzi nam tym łatwiej, że u siebie stwierdzamy stany o różnym natężeniu bycia świadomym, np. przemęczenie, senność lub przedawkowanie alkoholu powoduje, że „nie kontaktujemy”, „nie wiemy, co się dzieje”, tracimy poczucie ciągłości itp. Wiemy więc, jak to jest, kiedy się jest w pewnym niższym lub podrzędniejszym stanie świadomości i chętnie właśnie podobny stan lub poziom niepełnej świadomości (niepełnej przytomności) przypisujemy zwierzętom. Łatwo jest nam się zgodzić na to, że zwierzęta świadome, ale przebywają w dziwnym oszołomieniu. Buddyści uznali to za część swojej doktryny lub światopoglądu, głosząc, że zwierzęta są to wprawdzie „czujące istoty”, którym winni jesteśmy współczucie, ale pozostające w otępieniu, których świadomość nie jest jasna.

Zauważmy, że wciąż jest tu mowa o istotach mających ciało. Nie chcę komplikować sprawy przez dołączenie istot bez ciała: duchów, lub bytów zbiorowych, np. narodów lub korporacji, co których też pojęcie „świadomość” bywa sensownie używane. Ale kiedy weźmiemy pod uwagę maszyny, to sprawę posiadania ciała trzeba będzie rozważyć na nowo.

Zebraliśmy „dane” o świadomości, o tym jak ją rozumiemy. Zauważmy, że nie ma ona związku z inteligencją! Inteligencja, tak jak rozumiemy to pojęcie, jest to sprawność w wykonywaniu pewnych złożonych działań. Pewni ludzie np. są wybitnie sprawni w matematyce, czyli mają wysoką inteligencję typu matematycznego, ale źle im idzie, gdy chodzi o komunikację w grupie i „załatwianie interesów”, mają więc niską inteligencję (lub: kompetencję) społeczną – inni na odwrót: są „głąby” w rachunkach, ale „bystrzachy” w „kręceniu lodów” – jednak żaden z tych czynników nie ma najmniejszego znaczenia, gdy przypisujemy im świadomość. Podobnie jest ze zwierzętami: mogą mieć fantastyczną sprawność, więc też inteligencję, np. w orientacji przestrzennej, albo być wyjątkowo tępe, np. psy w ogóle „nie znają się” na sznurkach i są bezradne, gdy zaplączą się w smycz, inaczej niż np. pawiany, o których czytałem, że potrafią rozplątać najbardziej zawiłe węzły. Ich inteligencja, taka lub inna, jednak nie wpływa na to, czy uważamy je za świadome i w jaki wysokim stopniu.

Wszystko to wiemy, i oto do gry wchodzą maszyny. Oczywiście, inteligentne! Inteligentne są już teraz. Pytanie, co musi się wydarzyć, żebyśmy zaczęli przypuszczać, że mają też świadomość – i co by to zmieniło?

(Tu przerwę i ciąg dalszy nastąpi.)

Czytanie...: wstęp na końcu

Czytanie różnych książek i internetów, i uwagi o nich.


« Vadim Zeland Spis treści bloga prof. Arkadiusza Jadczyka »

komentarze

[foto]

1. Teoria Sedlaka, świadomość i komputery kwantowe • autor: Włodzimierz H. Zylbertal2017-05-07 11:08:20

O ile sztuczna inteligencja już jest faktem, o tyle syntetyczna świadomość niekoniecznie. Hipoteza utrzymująca, że w powyżej pewnego poziomu inteligencji niejako automatycznie przechodzi ona w  świadomość, to chwilowo hipoteza i nic więcej. Ale mamy jeszcze badania Włodzimierza Sedlaka. Twierdził on otóż, że świadomość powstaje na styku ciągłej (falowej) nieciągłej (kwantowej) natury światła. Obie te właściwości światła wykorzystywane są w komputerach kwantowych. I okazuje się, że takie komputery są nie do końca programowalne, w pewnych, nie zdefiniowanych jeszcze jednoznacznie warunkach, mają swoje zdanie, odmienne od zdania programisty.  Gdyby to zjawisko dokładniej zbadać, znaleźć warunki jego występowania, może się okazać, że komputer kwantowy, który miał być wydajniejszym od krzemowego niewolnikiem, stał się Golemem!
[foto]

2. Penrose i inni • autor: Wojciech Jóźwiak2017-05-07 11:35:22

(Nie tylko Sedlak, bo...) Roger Penrose sugerował, że świadomość ma coś wspólnego z procesami kwantowymi. Więc i tym tropem idąc, dochodzimy do komputerów kwantowych. Przy okazji: czy któryś teoretyk AI rozważał komputery kwantowe jako osobną jakość? Bo gdy czytam Bostroma, to mam wrażenie, że dla niego kwantowe czy niekwantowe, to "jeden pies" -- ale redukcjoniści już tak mają.
"Niewolnik": mylące słowo. Czy motocykl, telefon, wyszukiwarka są jakimiś niewolnikami?
"Golem" -- pokazuje, w jak wielkim stopniu "myślimy mitologią" gdy chodzi o AI. W filmie "Ex machina" tamta androidka dokładnie odgrywa mit o Golemie, gdy zabija swojego "stworzyciela". Ale mieszanie mitologii do problemów AI nieuchronnie powoduje naiwność. (Tamten film był mało, że naiwny: był po prostu mało inteligentny.)
http://www.filmweb.pl/video/zwiastun/nr+2+polski-35560

3. kiedy komputery podporządkują ludzi • autor: Nierozpoznany#61032017-05-07 12:42:19

i staną się swiadome że są maszynami, wtedy będą parły na biologię, czyli będą tworzyć hybrydy AI-ludzie (podobnie jak teraz tworzy się przynajmniej w filmach SF hybrydy ludzie -AI) na koniec tego procesu wyprą z siebie maszynę i staną sie 100% bilogicznie czlowiekiem:)
[foto]

4. Co to znaczy, że staną się świadome? • autor: Wojciech Jóźwiak2017-05-07 13:48:17

Tylko co to znaczy, że "staną się świadome"? Komputery?
Przy okazji poruszyłeś, Karolu, pewien problem: mianowicie w filozofii odróżnia się pojęcia "bycia świadomym" i "świadomości czegoś". To są różne rzeczy.
Do tej pory rozważaliśmy, czy komputery mogą mieć świadomość.
Teraz dochodzi inny problem: czy mogą być świadome tego, że są maszynami. Znów powstaje pytanie, co to znaczy? Oraz, jakie to by mogło mieć skutki?
Jeden z takich skutków zaproponowałeś: wynikające z tego poczucie mniejsze wartości i jako skutek pożądanie biologicznego ciała. Mogą być inne skutki, np. przekonanie o wyższości tego, co metalowe i krzemowe nad tym, co białkowo-fosforanowe. Dobry temat na powieści SF.


[foto]

5. Postawiony problem wynika... • autor: Jarosław Bzoma2017-05-07 14:41:31

Postawiony problem wynika z pewnego specyficznego założenia, dla mnie błędnego, mianowicie takiego, że świadomość tworzy się oddolnie, niejako przez odpowiednią komplikację (masę krytyczna) możliwości przetwarzania danych napływających z zewnątrz poprzez zmysły, rosnące zdolności obliczeniowe.Moim zdaniem mózgi , obojętnie biologiczne czy "elektronowe" są jedynie pojemnikami na Świadomość , czym większymi tym więcej Świadomości się w nich objawia(to ostatnie słowo bez cudzysłowu).Komputer kwantowy wydaje się być pojemnikiem o wyjątkowo małym oporze i wielkiej pojemności, może zatem zainteresować Świadomość która może zechcieć użyć go tak jak ludzkiego(biologicznego w ogólności) mózgu.
https://www.youtube.com/watch?v=y9eAKfB5WtI
[foto]

6. świadomość • autor: Arkadiusz2017-05-07 19:20:05

Czytałem niedawno Goswamiego Bóg jeszcze nie umarł, było tam o bogu jako świadomości kwantowej, zawierającej w sobie wszystkie możliwe fale prawdopodobieństw. Sama świadomość to akt oddzielenia od boga, to rozdzielenie doświadczenia na podmiot doświadczający i przedmiot doświadczany. Jest doświadczenie. Potem jest Ja doświadczam. Ja jestem. Kto? Czy usłyszymy/zobaczymy robota, który powie Ja jestem?
[foto]

7. Ciekawy moment • autor: Wojciech Jóźwiak2017-05-07 21:44:20

Zdaje się, że dochodzimy do ciekawego -- najciekawszego? -- miejsca w tej dyskusji... :)

8. A to • autor: Nierozpoznany#98992017-05-07 21:50:59

A to J.B. nie raz wspominał o tym oddzielemiu, pierwszym oddzielającym się i dalszych lustrzanych odbiciach. "Ja jestem" wypowiedziane przez robota byłoby takim echem echa pierwszego zadziwienia "ja jestem".W temacie polecam film "Doomsday Book" z 2012r. - "Film ukazuje trzy historie badające granice ludzkiego współczucia w erze daleko posuniętego rozwoju technologicznego.  "Creation of Heaven" przedstawia robota, który uzyskuje świadomość i zaczyna wygłaszać kazania w buddyjskiej świątyni. Firma produkująca ten model uznaje go za zagrożenie dla ludzkości i decyduje o jego demontażu." - (źródło Filmweb). Akurat ten epizod w filmie jest ciekawy gdy maszyna doznaje oświecenia oraz reakcje ludzi. FILM JEST NA CDA POD NAZWĄ "Księga Dnia Zagłady/Doomsday Book(2012)", a wątek o którym wspominam zaczyna się od ok. 38 minuty.
http://ebd.cda.pl/600x400/1126333d
[foto]

9. hierarchia splątana • autor: Arkadiusz2017-05-08 07:44:41

Z książki Goswamiego:

Obserwator wybiera rzeczywiste zjawisko spośród możliwości kwantowych przedstawionych przez dany obiekt. Zanim jednak nastąpi załamanie fali prawdopodobieństwa, sam obserwator (jego mózg) również składa się z możliwości i nie jest urzeczywistniony. Możemy więc przedstawić ten paradoks jako kolistość: obserwator (mózg) jest niezbędny do załamania fali prawdopodobieństwa kwantowego danego obiektu, ale konieczne jest załamanie, by urzeczywistnić obserwatora (mózg). Mówiąc zwięźlej, nie ma załamania bez obserwatora, ale nie ma także obserwatora bez załamania.

Jeżeli zostaniemy na jednym poziomie, poziomie kwantowym, paradoks ten nie ma rozwiązania. Rozwiązanie związane ze świadomością funkcjonuje tylko dlatego, że zakładamy, iż świadomość załamuje fale prawdopodobieństwa zarówno obserwatora (mózgu), jak i obiektu z transcendentnej rzeczywistości podstawy istnienia, którą reprezentuje świadomość.

Douglas Hofstadter (1980), badacz zajmujący się sztuczną inteligencją, dał nam wskazówkę, która pozwala zrozumieć, co tak naprawdę się dzieje. Według niego takie kolistości to tzw. hierarchie splątane. Najciekawsze jest to, że samoodniesienie, rozdział podmiotu od obiektu, bierze się właśnie z takich kolistości.

Hofstadter napisał książkę Gödel, Escher, Bach: an Eternal Golden Braid. Dostał za nią nagrodę Pulitzera. Ciekawe co pisał w niej o potencjalnej świadomości SI.

[foto]

10. Oj... + Polecam • autor: Wojciech Jóźwiak2017-05-08 13:52:43

1) Oj... Muszę tego Goswamiego przeczytać lub chociaż nadczytać, leży od roku u mnie na półce, straszy swoim tytułem. Nie lubię, jak ktoś o Bogu, bo to słowo-pałka. Jak kiedyś ZOMO z pałkami, tak teraz fideiści rzędem stoją z wyciągniętym bogiem.

2) + Polecam taki skromny tekścik Głównego Ekonomisty PKN ORLEN:
http://adamczyzewski.salon24.pl/774342,trendy-przyszlosci
Zacytować:
Przez taki historyczny moment przechodzimy właśnie teraz. Na naszych oczach dzieje się rewolucja technologiczna, której siłą napędową jest integracja realnej i wirtualnej rzeczywistości. Maszyny i urządzenia, wyposażone w odpowiednie czujniki zaczynają się ze sobą porozumiewać i podejmować decyzje już bez udziału człowieka, a przez to znakomicie szybciej i zdecydowanie trafniej.
Może wie, może ma rację? (Ja nie ocenię, w tym nie siedzę.)

11. ani wiedza, ani racja • autor: Jerzy Pomianowski2017-05-08 22:51:43

Główny ekonomista, a nie wie że pojazdy autonomiczne już są nieaktualne z powodów prawnych, i Tesla z nich zrezygnował.

12. Małe sprostowanie • autor: Nierozpoznany#60772017-05-09 23:48:54

Pojazdy autonomiczne są jak najbardziej aktualne w sensie trwania prac nad doskonaleniem tej technologii zarówno w sensie technologicznym jak i kwestiach prawnych. Oczywiście na dziś nie ma podstaw prawnych aby pojazdy cywilne poruszały się po drogach publicznych całkowicie bez obecności kierującego. Firma Tesla nie zrezygnowała z prac nad systemami autonomicznymi. Co więcej niektóre rządy bardzo czynnie angażują się w projekty związane z tzw. driverless vehicle - krótka notka (j. ang) tutaj: http://www.autoexpress.co.uk/car-tech/85183/driverless-cars-everything-you-need-to-know-about-autonomous-vehicles
[foto]

13. Ciekawy głos w dyskusji: Subhash Kak z Oklahomy • autor: Wojciech Jóźwiak2017-12-12 22:00:50

(Chociaż z Oklahomy, nie jest Indianinem, tylko Hindusem.) Znalazłem jego ciekawy artykuł o tym, czy sztuczna inteligencja, AI, będzie -- koniecznie -- świadoma?
Tu: Will artificial intelligence become conscious?
Przy okazji w tym artykule przegląd poglądów o tym i dobry punkt wypadowy do studiowania problemu.
[foto]

14. Faktycznie • autor: Bogdan Zawadzki2017-12-13 13:22:35

ciekawe ... a ponadto w pewnej mierze zbieżne z tym co na temat świadomości ma do powiedzenia Amit Goswami...

Od siebie dodam, że jak pisałem już w komentarzach do innych tekstów, świadomość jest w jakimś sensie (tak mi się wydaje) związana z pojawieniem się lęku przed śmiercią (najpierw niezależnie od nas wewnątrz organizmu, który bezustannie toczy swoją walkę o przetrwanie "na poziomie komórkowym", a potem kiedy już sami zaczynamy poznawać i próbować zrozumieć świat). Tutaj chciałem podkreślić fakt, że czym innym jest przeliczanie i gromadzenie informacji a czym innym jej rozumienie. Czym innym jest "inteligencja", a czym innym "świadomość" . Wydaje się, że tę pierwszą można "zaprojektować" (nie negując tego, że może się ona rozwijać od "dołu") gdy ta druga pojawia się (i znika) niezależnie od naszej woli ...inaczej mówiąc: inteligencja jest mierzalna (np. testy na ...) a świadomość nie.

P.S.(przy okazji mogłem się przekonać o tym jaki postęp dokonał się jeżeli chodzi o szybkie tłumaczenie tekstów ... co jeszcze przed laty było "w powijakach" i zamiast "z sensem" czytało się jakieś bzdury, które dopiero potem trzeba było składać w logiczną całość),

Zaloguj się - aby napisać komentarz   Rejestracja - jeśli nie masz konta w Tarace

x

Szybki przegląd Taraki

[X] Logowanie:

- e-mail jako login
- hasło
Zaloguj
Pomiń   Zapomniałem/am hasła!

Zapisz się (załóż konto w Tarace)