09 kwietnia 2017

Wojciech Jóźwiak

Serial: Czytanie...
Bostroma, dalej; kasty sztucznych inteligencji: Wyrocznie, Dżiny, Suwereni, Narzędzia

Kategoria: Futurologia i współczesność
Tematy/tagi: Bostrom • futurologia • sztuczna inteligencja (AI)

◀ Nicka Bostroma o sztucznej superinteligencji ◀ ► Sam Harris, i jak wygrać z fanatykami ►

Najpierw wynik kwerendy w Googlach za polskimi reakcjami na książkę i idee Nicka Bostroma; wpisałem „Nick Bostrom Superinteligencja” i przejrzałem aż do 7 i ostatniej odsłony:

Zrobiłem ten wyciąg też dlatego, żeby sprawdzić, kto przeczytał tę książkę (pierwszą i jedyną dotąd Bostroma po polsku) i czy wywołała w polonosferze jakieś echa – bo podejrzewałem, że żadnych lub małe, skoro ja sam tę książkę i postać jej autora przegapiłem i gdyby nie nadający ze strefy angielskiej Arthur Zielinski, byłbym jej i jego nie zauważył.

Jednocześnie zachęcam do czytania i żeby czytelnicy Taraki mieli wgląd w poglądy innych, a nie tylko opierali się na własnych domysłach i zdrowym rozsądku, który często polega na jakichś dawnych mentalnych wdrukach.

Wracając do książki „Superinteligencja” Bostroma, wylicza on tam cztery kasty możliwych (super)inteligentnych systemów (maszyn?): tytułowe Wyrocznie, Dżiny, Suwereni, Narzędzia. Wyrocznie to systemy odpowiadające na pytania. Zaczątkiem Wyroczni (to moja interpolacja, Bostrom tego nie pisze) jest Google. Wyobraź sobie, że Google zostaje udoskonalone tak, że nie tylko wyszukuje strony zawierające podane słowa jako hasła, w izolacji, ale „rozumie” sens zdania-pytania i na nie odpowiada. Dalej, nie ogranicza się do wskazania stron z pytanymi informacjami, ale samo (to Googlę!) sporządza wyciąg ze stron będących na dany temat. Kiedy ja-pytający chcę się dowiedzieć czegoś bardziej szczegółowo, pytam dalej, np. żądam rozwinięcia pewnego zdania z tamtego wyciągu. I tak dalej. Bostrom twierdzi, że system odpowiadający na pytania zadawane w naturalnym języku (ang., pol. …) byłby już inteligentny! Dalej wyobraź sobie, że owo Wielkie Góglę nie tylko relacjonuje stan wiedzy wyczytany z Internetu, ale samo podejmuje badania w celu odpowiedzi, np. próbuje wykonać dowody twierdzeń matematycznych, które do tej pory są hipotezami. Albo wysyła odpowiednie zamówienia pod adresem instytutów badawczych. W jakim stopniu będą one zrobotyzowane, a w jakim ludzkie, to ma już mniejsze znaczenie. Łatwo zauważyć, że taka wyrocznia wpływałaby na decyzje i postępowanie całkiem „możnych” instytucji ludzkich, od czego mały krok, żeby przejęła władzę/kontrolę na światem i dlatego Bostrom radzi ją trzymać w zamknięciu, co szczegółowo i dowcipnie opisuje w książce.

Dżin (inaczej niż wyrocznia) jest systemem, który wykonuje polecenia. Dostaje rozkazy, wykonuje je, po czym przerywa działanie oczekując następnego polecenia. Te polecenia autor traktuje nadzwyczaj ogólnie, ale domyślamy się, że chodzi o dostarczanie towarów i usług. Czyli taki bardzo rozwinięty handlowy dom wysyłkowy, jakieś mega-Amazon połączone z mega-Uberem. Bostrom zauważa, że dżin nie miałby zalety wyroczni: nie można byłoby go zamknąć w klatce bezpieczeństwa. Miałby efektory!

Suweren to wyższe piętro dżina: to system, który już nie wykonuje polecenia, ale zgaduje, jakie polecenia najchętniej zlecilibyśmy dżinom. Czyli działa nie jak fabrykant, który produkuje towary, które są poszukiwane przez klientów, tylko studiuje możliwości, aby wyjść naprzeciw potrzebom klientów.

Narzędzia – tę kastę SI/AI autor opisuje w ramach polemiki z tymi, którzy radziliby – wobec zagrożenia niebezpiecznymi wyroczniami, jeszcze bardziej niebezpiecznymi dżinami i jeszcze bardziej niebezpiecznymi suwerenami – po prostu budować systemy, które „robią to, do czego zostały zaprogramowane” i nie mają niczego, co by przypominało „własną wolę”. I pokazuje, że na wysokim poziomie złożoności coraz trudniej jest osiągnąć to, żeby system „po prostu wykonywał swój program”, ponieważ m.in. będą się przydarzać inteligentne błędy. Oraz, w coraz większym zakresie programiści będą przerzucać swoje zadania na programy piszące programy, przez co działanie tworzonych programów będą rozumieć coraz bardziej „z grubsza”. Takich słabych punktów w myśleniu zwolenników poglądu „programy niech tylko liczą!” wymienionych jest więcej – książka jest gruba!

Czym podsumować? Idee Bostroma nie są intelektualną igraszką. Do znanych zagrożeń (religijny fundamentalizm, wojna jądrowa, zagłada ekosystemów czyli Szóste Wielkie Wymieranie, globalne ocieplenie...) dochodzi zagrożenie wyhodowaniem sobie elektronicznej konkurencji dla naszego gatunku.

Pytanie, jak zadziała na nas kombinacja wszystkich. Bo nie będą działać każde z osobna.

Czytanie różnych książek i internetów, i uwagi o nich.

Wojciech Jóźwiak

◀ Nicka Bostroma o sztucznej superinteligencji ◀ ► Sam Harris, i jak wygrać z fanatykami ►

Komentarze

1. Bardzo to inspirujące... • Jarosław Bzoma • 2017-04-09

Bardzo to inspirujące ale , w swoich podróżach śniłem już o przyszłości gatunku ludzkiego i właśnie tam ujrzałem to co Bostrom pisze.On opisuje to z punktu widzenia programisty - twórcy SI, ja podróżnika Świadomości.W snach wygląda to jak wspólny poziom wyobrażeniowo-emocjonalny(3) w który wszyscy jesteśmy włączenie.Porozumiewanie się werbalne(indywidualne) jest obłożone tabu podobnie jak dzisiaj koprofagia.Bostrom jednak , przynajmniej z tego co piszesz, nie opisał cui bono, czyli kto tym wszystkim zarządza i czerpie profit .W snach widziałem tę elitę, oni mieli całą resztę która w emocjonalnej wyobrażni tłumu się już nie mieściła :) Nie oszukujmy się sztuczna ,czyli dająca się sterować , świadomość powstanie do kontrolowania ludzi a nie dla samego piękna swojej struktury.Tyle że sterowanie to będzie się odbywało na poziomie ludzkiej nieświadomości.Nie będzie to jednak inteligencja samoświadoma.

2. Cui bono and self-awareness • Arthur Zielinski • 2017-04-09

Jarosław - Cui bono? According to Sam Harris even a six month lead in making a superintelligent agent will give the maker and his creation control of most of the World. Whilst I respect your lucid dreams they are the product of the Universe of your mind, which doesn’t necessarily match the objective Universe OUTSIDE of your mind, or the minds of others. The future is potentially infinite so a categorical statement that AI will not be self-aware will be true only until, one day, it is not.

3. Ulegamy tej iluzji... • Jarosław Bzoma • 2017-04-09

Ulegamy tej iluzji od czasów oświecenia. "Nauka kiedyś wszystko rozwiąże". To dogmat religijny...... nauki.Tak naprawdę wszystko co nauka będzie w stanie odkryć już znamy , jest nam to dostępne w formie otaczających nas zdarzeń i naszego sposobu ich postrzegania, emocji jakie w nas wzbudzają i struktury naszej wyobrażni.Tu tkwi prawdziwa przyszłość i wiedza o niej.Właśnie do tego żródła odwołujemy się śniąc.Wszelkie wynalazki i nowe idee czerpią stamtąd.Tajemnica poznania nie polega na dosłownym poznaniu przedmiotowym i w wyniku tego wymyśleniu, wynalezieniu nowego przedmiotu, odkryciu mechanizmu, to tylko zewnętrzna postać poznania. Prawdziwe poznanie polega na reakcji psychicznej na wynalazek i to jakie reakcje będzie wzbudzał w przyszłych użytkownikach. A to jak wiemy jest nam doświadczenie dane od zawsze i znane z pobudzeń poprzez stare wynalazki, tyle że wciąż indukowane na nowo poprzez kolejne wynalazki materialne. Nauka wydaje się zatem stawiać wóz przed koniem.

4. YouTube ze zjazdu wszystkich tytanów od superinteligencji • Wojciech Jóźwiak • 2017-04-09

January 30, 2017. Panel discussion moderated by Max Tegmark, including Elon Musk, Stuart Russell, Bart Selman, Ray Kurzweil, David Chalmers, Nick Bostrom, Demis Hassabis, Sam Harris, and Jaan Tallinn.

5. Chcieliby ludziska zrobić... • Jarosław Bzoma • 2017-04-09

Chcieliby ludziska zrobić sobie Boga którego mogliby kontrolować, tylko boją się co będzie jeżeli się ten Golem(!) nie podda kontroli :) Kolejny problem, skąd przypuszczenie, że superinteligencja cokolwiek będzie chciała i czy wogóle będzie mogła. Jeżeli to ci panowie mają stworzyć tę superinteligencję to jestem pewien, że im się to nie uda :)Nie mają pojęcia o przeszkodach poza mentalnych które spowodują zablokowanie całego projektu na poziomie powyżej przyczynowo- skutkowego.W tradycji biblijnej określono analogiczny projekt budowania superinteligencji Wieżą Babel. Jak odbywa się wyłączenie ludzkiej woli wystarczy zerknąć na dawny eksperyment piszącego te słowa; http://www.taraka.pl/czy_moglbym_zrobic_to
Bardzo przepraszam, że po polsku :)

6. Podrozy Nocne - Nighttime Journeys • Arthur Zielinski • 2017-04-10

Jarosław - thank you for inviting me into your Universe - it is a world of rich experiences and symbols. No-one wants to create God, a Golem or a Demon, least of all the talkers in Wojciech’s video - they are men who are talking about their life’s work, and what they want to achieve. Neither am I full of hurrah-optimism about the future of AI, but I see what I see in what I call the real world, and I describe it the best that I can, the same as they do. Perhaps it will become a dystopia, but I think it will rather become a heterotopia, neither good nor bad, just very different from what it is to-day. I envy your skill at lucid dreaming, but it is a path closed to me - mine is different. Science is not a religion - it is only a method of observation, experiment, and reaching an understanding of the truth around us, that is all. The future is an unknown quantity, and no true scientist will say "this will be so" or "this won’t happen". Long-dead shamans in a Mohican holy place once told me to go away, that I was not welcome there, and I left, sad, but not deterred. My path was my own, and I try to keep to it.

7. Czy powstanie AI ogólna? • Wojciech Jóźwiak • 2017-04-10

W rozważaniach Nicka Bostroma jest po pierwsze superinteligencja, czyli super-AI, sztuczna int. o sprawności przewyższającej ludzką (i to bardzo) -- oraz jako warunek tamtej, sztuczna inteligencja ogólna, czyli niewyspecjalizowana jako inteligencja "szachowa" albo "wyszukarkowa" albo "tłumacząca" itd.
Teraz gdy rekapituluję książkę Bostroma, to widzę, że nie jest jasne, jak i po co ludzcy konstruktorzy mieliby zbudować ogólną AI, albo jak ogólna AI mogłaby powstać przy okazji innych prac i procesów.
Może coś u Bostroma przeoczyłem.

8. Dziękuję wszystkim tu piszącym... • Roman Kam • 2017-04-10

...za rzetelny wkład w tę inspirującą dla mnie dyskusję. Miałem się nie odzywać, co byłoby lepsze, ale licho kusi ;)
Żywe jest zbudowane z martwego, nic innego w nim do tej pory nie znaleziono. To nawet dziwne, spodziewałbym się jakiegoś pierwiastka życia, superbaterii napędowej nieobecnej w świecie nieożywionym, a tu nic. Standardowe elementy tyle, że złożone w sposób zapewniający przenoszenie informacji. Koncepcja, że informacja (Słowo) poprzedza samoświadomą materię jest założeniem, religijnym, bo inaczej się nie da (teorie o kosmitach itp. dodają tylko kolejnych barwnych i sympatycznych przyjaciół do dywagacji o istocie i pochodzeniu życia). Przenosząc ten pogląd na tę dyskusję, okazuje się, że Bostrom i jego zwolennicy są skłonni wierzyć, że można podobnie poukładać informację, żeby "ożyła". Tak pojawi się Mesjasz Zbawiciel i Sędzia, który spełni to, co konieczne z jego punktu d a l e k o s i ę ż n e g o widzenia. Wygubi "złych", a pozostawi "dobrych", ponieważ coś z zewnątrz zdaje się, musi wyregulować człowieka, gdyż on sam w wersji "złej" przejawia skłonności autodestrukcyjne.
Dla mnie to jednak mało realne. Gdyby wziąć za punkt odniesienia ewolucjonizm, to "czysta" informacja w sposób ciągły, już od dawna sama by się replikowała i doskonaliła, co nie zachodzi. Gdyby iść za kreacjonizmem, to kolejny, konkurencyjny bóg, stworzony naszymi rękoma, nie wydaje się Bogu potrzebny. Podoba mi się stanowisko Jarka wyrażone w komentarzu nr 3, że cokolwiek ma sens, tylko w odniesieniu do człowieka.
Nie przeskoczymy człowieka, to m y jesteśmy o s o b l i w o ś c i ą wszechświata.

9. @Roman • Arkadiusz • 2017-04-10

"Żywe jest zbudowane z martwego, nic innego w nim do tej pory nie znaleziono."
Materializm jest teorią filozoficzną, obowiązującą wciąż religią Oświecenia, zakłada że wszystko jest materią. Posługując się obrazkami Wilbera można stwierdzić, że materializm operuje po prawej stronie obu poniższych obrazków.

Stosując narzędzia prawej strony (ręki) współczesna nauka chce znaleźć przejawy z lewej strony (ręki), czyli przejawy świadomości. Rozłączając naukę od religii/wiary w czasie Oświecenia materializm zgubił łącznik między tymi wszystkimi ćwiartkami na obrazkach, którym jest właśnie świadomość, przejawiająca się jednocześnie we wszystkich ćwiartkach. W zależności od jej złożoności Wilber stworzył hierarchię holonów czyli holarchię. Każdy holon przejawia się jednocześnie we wszystkich ćwiartkach. SI byłaby sztucznym elementem po prawej stronie. Ja nie wiem jak miałaby się przejawić sztuczna świadomość po lewej stronie.

10. Google to nie wyrocznia • NN#9847 • 2017-04-10

Szanowny Panie, publicznie dostępny Google nie jest i nie będzie (pełnoprawną) wyrocznią z powodów politycznych. Tego typu narzędzia są pilnie poszukiwane przez rząd federalny USA, dlatego też represjonowano (bezprawne więziono przez lata) twórcę prawdziwej wyroczni Sokratesa. Jest ona dostępna odpłatnie na stronie twórcy Martina Armstronga. Od ponad dekady udowadnia jej bezbłędne przewidywania (upadek euro czy polityczna rewolucja w Polsce z 2015). Serdecznie polecam zagłębienie tematu bo nie wiadomo jak długo jeszcze będzie można śledzić tego człowieka, cenzura internetu postępuje.

11. Żywe z martwego? • Wojciech Jóźwiak • 2017-04-10

Nick Bostrom jest twardym redukcjonistą. W jego książce jest obszerny wątek (o którym dotąd w ogóle nie wspomniałem) o tym, że ludzi (czyli ludzkie mózgi) będzie się wskrzeszać cyfrowo -- Bostrom takie cyfrowe inteligencje podebrane z mózgów umarłych nazywa standardowo "emulacjami". (Cyfrowe ale nie całkiem sztuczne, bo będą kontynuacjami umysłów konkretnych ludzi.) Coś o czym St. Lem pisał wiele razy, już w 1956 w "Dialogach". Ale Bostrom Lema nie czytał, nie zna, a przynajmniej nie wymienia w bibliografii.
Ten punkt wydaje mi się słaby-słabiutki. Za to prawdopodobne wydaje mi się, że ciągłość osobowości polega na ciągłości pewnego procesu kwantowego, jakiejś funkcji falowej. Która w trakcie zamrożenia i zeskanowania mózgu byłaby niszczona, ulegałaby dekoherencji.
Dla mnie (zastrzegam mój subiektywny punkt widzenia!) życie i świadomość mają coś wspólnego z procesami kwantowymi. Dekoherencja stanów kwantowych kasuje zarówno życie (komórki, tkanki, organizmu) jak i jego szczególny przejaw: świadomość. Wspiera mój pogląd to, że tak samo myślał i hipotezy stawiał Roger Penrose ok. 1986 r.
Bostrom ani razu w swojej książce nie wspomina o kwantach. Nie ma u niego związku między informacją a kwantami.

12. Z Wilberem byłbym ostrożny • Wojciech Jóźwiak • 2017-04-10

To co on pisze-odkrywa-przestawia, brzmi mi bardzo w stylu produkcji, jaką wykonywałaby AI na swoim wczesnym etapie rozwoju. :)

13. Słusznie ;-) • Arkadiusz • 2017-04-10

Ale z każdą teorią trzeba być ostrożnym. Każdy pisze, tylko i aż, swoją opowieść. Racjonalizuje zaledwie to, w co i tak wierzy.

14. Wyrocznia Martina Armstronga • Wojciech Jóźwiak • 2017-04-10

Znalazłem:
https://www.ask-socrates.com/
Ale ponieważ przy rejestracji wymagają podania nr telefonu komórkowego, to ja sorry, nie zapisuje się. Płacić ok mogę, ale za dużo danych nie dam.

15. Nudziłem się dzisiaj... • Jarosław Bzoma • 2017-04-10

Nudziłem się dzisiaj w pracy i w związku z tym wysmażyłem elaboracik, nieco przydługi na komentarz więc go wkleiłem powyżej.

16. Sami mężczyźni • Wojciech Jóźwiak • 2017-04-11

Ciekawe, że w tej dyskusji panelowej na YouTube, której wejściówkę zamieściłem w kom. #4, brali udział sami mężczyźni i w ogóle wśród transhumanistów nie widzę kobiet.
Ciekawy przyczynek do tego, że pewne dziedziny są kobietom obce, nie interesują je, one tam nie wchodzą.
Transhumanizm i futurologia nie mają swojej Marii Curie.

17. Barbara Marx Hubbard • NN#9890 • 2017-04-11

http://barbaramarxhubbard.com/global-communication-hub/#wcc

http://www.thrivemovement.com/dialogue-transhumanism-chu-and-hubbard-respond.blog

18. Wieża Babel • Krzysztof Wirpsza • 2017-04-12

Umysł jaki mamy, to nie jest jakieś "coś", to już jest "wszystko". Cała reszta jest pewnego rodzaju ściemnieniem, "że nie". Dlatego podrobić umysł to bez sensu - to tak jakby "podrobić wszystko". Kto miałby to robić? Po co?
Natomiast można podrobić jakieś mniej lub bardziej wyrafinowane iluzje. Przyjdzie "taki ktoś" i zdefiniuje "takie coś", i to potem się odtworzy "to" wg tej definicji. Ale tam nie będzie JA. JA pisze (czyta) ten wpis, po tym poznać. Nie ma innego JA niż to teraz :) JA jest sensem wszystkiego, jak to można podrobić? :)
Jarku, coraz częściej wiem o czym piszesz, na przykład z tą Wieżą Babel ;)

uszanowanie dla dawnego Grona

19. Mind is everything • Arthur Zielinski • 2017-04-13

This is exactly what this discussion is about. To date, mind is everything, but we are approaching a point where there will be mind plus...what? We don’t know, so we’re trying to figure it all out. Who will do this? We will. Why? For the simplest human reason, because we think we can, and there is no greater spur to human ingenuity than that - apart from the fact that whoever gets there first will become wealthy beyond the dreams of avarice. I have always enjoyed the occasions whenever there begins to be a consensus that something cannot or will not happen in science combined with technological advance, because that is the precise time to start the countdown to when it actually will occur.

20. Komentarz do filmu z postu no.4 • NN#6077 • 2017-04-13

Po oglądnięciu relacji z panelu dotyczącego superinteligencji, naszła mnie myśl, że być może temat sztucznej inteligencji - wywołującej rozbieżne emocje - jest szansą, "zmuszającą" część ludzkości jeśli nie do zrewidowania to przynajmniej ponownego przyjrzenia się mającym głębokie koleiny utrwalonym pokoleniowo społeczno-moralno-kulturowym "normom". Piszę specjalnie używając cudzysłów aby zwrócić uwagę, że "normy" przynajmniej w moim postrzeganiu wobec dzisiejszej świadomości przestają być normalne, są wręcz czasem nienormalne, a pomimo to są "normami" milcząco akceptowanymi przez większość. Podobne momenty występowały już wcześniej w naszej historii. Należy tylko z niej wyciągnąć lekcje i skierować energię na konstruktywny aspekt tego "przyglądania się". Sztuczna inteligencja może być fantastycznym zapalnikiem szerszej debaty filozoficzno-moralnej, której tak bardzo dziś potrzebujemy. Mam również wrażenie, że nie dotyczy to wszystkich grup wiekowych, coś mi mówi, że jest to szansa i wyzwanie szczególnie dla ludzi z przedziału wiekowego 35+ (mniej więcej).

21. Sztuczna inteligencja jeszcze jedno przemyślenie ... • NN#6077 • 2017-04-13

Widzę - przynajmniej na teraz, bardzo ogólnie rzecz ujmując - dwa obszary na których toczy się dyskusja dotycząca sztucznej inteligencji. Jeden, co do którego nie mam obaw na dalszy rozwój - to obszar szybkości, na przykład zbierania i przetwarzania informacji, analizy i podejmowania na jej podstawie decyzji - najprostszy przykład - przewidywanie zmian warunków pogodowych, czy występowania zagrażających ludzkiemu życiu lub zdrowiu gwałtownych zjawisk naturalnych typu huragany, trzęsienia ziemi, wybuchy wulkanów itp. Drugi obszar jest związany z "jakością" samych algorytmów. I tutaj pojawia się filozoficzno-etyczno-moralny aspekt, który być może jak padło to na wcześniej cytowanym filmie z postu no.4 powinien być spowolniony, wyhamowany w celu uwzględnienia najlepiej wszystkich wpływających na wynik zmiennych. Przy czym postęp w pierwszym obszarze a więc szybkości może być bardzo pomocny dla postępu drugiego obszaru (powinien mu służyć), ale nie powinien go "pospieszać".

Aby komentować Zaloguj się lub Zarejestruj w Tarace.

09 kwietnia 2017

Wojciech Jóźwiak

Serial: Czytanie... Bostroma, dalej; kasty sztucznych inteligencji: Wyrocznie, Dżiny, Suwereni, Narzędzia

Komentarze

Serial: Czytanie...
Bostroma, dalej; kasty sztucznych inteligencji: Wyrocznie, Dżiny, Suwereni, Narzędzia