Arthur Zielinski w swoim szkicu o sztucznej inteligencji wymienił Nicka Bostroma: pobiegłem (Googlami!) za tym śladem i znalazłem nie tylko autora, ale i jego książki, w tym jedną pt. „Superinteligencja. Scenariusze, strategie, zagrożenia” – po polsku, wydaną przez Helion, zwykle wydający podręczniki dla programistów. Ciekawe, kto odkrył tę książkę dla polonosfery i spowodował jej wydanie? Kupiłem natychmiast i żeby nie tracić czasu, jako ebook na kindla. (Ebooki są lekkie, nie trzeba dźwigać papieru, ale wadę mają taką, że trudniej uświadomić sobie, co się czyta, tytuł i autora, i w którym miejscu książki o czym jest.)

Bostrom jest rewelacyjny! Czyta się, jakby Lem redivivus erat: jest wrażenie, że po 40 latach szwedzki autor podnosi i kontynuuje wątki i pomysły, o których Lem pisał w czasach jego narodzin (1973), a potem zaprzestał, gdy świat wybuchając rozwojowo go przerósł. Nie stroni od dowcipów, też lemowskich z ducha:

Główna jak dotąd teza Bostroma jest taka, że wkrótce (chociaż nie podaje dokładniejszych przedziałów czasu) ludzie zbudują SI (Sztuczną Inteligencję), dokładniej: tak zwaną sztuczna inteligencję ogólną, czyli niewyspecjalizowaną np. do szachów, streszczeń tekstów lub podejmowania optymalnych decyzji na polu walki, więc taką, która będzie umiała działać w dowolnych tematach. Bostrom słusznie twierdzi, że nie ma żadnego powodu, aby budowa takiej inteligencji zatrzymała się na poziomie ludzkim (na ludzkim IQ) – przeciwnie, te same środki, które pozwolą osiągnąć poziom ludzki, natychmiast rozwiną tę SI na poziom ponad-ludzki i wtedy tamten system stanie się superinteligencją. Bostrom radzi by porównując tę super-SI do inteligencji ludzkiej nie brać za wzór różnicy między ludźmi genialnymi a głupimi, raczej będzie to różnica w poziomach między inteligencją człowieka a „dżdżownicy lub żuka” lub inteligencja taka, jaką miałby osobnik z IQ równym nie 200, a „6455 punktów” (gdyby oczywiście dało się to sensownie zmierzyć).

Bostrom rozważa proces „odejścia”, mianowicie odejścia SI ponad poziom ludzki i jednocześnie zerwania z ludzkim nadzorem i zależnością od ludzi. Za najmniej prawdopodobne uważa „odchodzenie powolne”, które by trwało lata lub dekady, podczas których ludzkość poprzez swoje rządy i międzynarodowe agendy miałaby czas na tę nowinę się przygotować. Prawdopodobniejsze wydaje mu się „odejście szybkie” trwające godziny albo nawet minuty. Superinteligencja zapala się i natychmiast widząc co się dzieje przechwytuje cały Internet, moce podłączonych doń komputerów i powiększa się tak, jak dostępna moc obliczeniowa pozwala, po czym przystępuje do rozbudowy tej mocy.

Na 26 procencie objętości książki (dotąd doczytałem) Bostrom zestawia w tabelce możliwe supermoce, jakie posiadłaby superinteligencja:

To tyle na razie, idę czytać dalej.