« Część 1: Sztuczna inteligencja. Dlaczego powstanie sztuczna inteligencja

W tej części raczej skupię się raczej na „inteligencji”, a nie na „umyśle” – na umiejętnościach poznawczych, na myśleniu analitycznym, wyciąganiu wnioskach i rozwiązaniu problemów, a nie, jak obiecałem, na „wyższych” aspektach ludzkiego doświadczenia, takich jak wartości moralne, emocje, bioenergetyka, duchowość i transcendencja. Chciałbym przez proste ekstrapolacje tego, co jest obecnie możliwe przez AI, spróbować pokazać logiczną drogę ku temu, co może się wydarzyć. Tamte „wyższe” aspekty zostawiam do następnej części, ponieważ będzie to łatwiejsze i trudniejsze. Łatwiej, ponieważ możemy badać z wyobraźnią, i trudniej, ponieważ wiarygodność tych rozważań może być kwestionowana.

Sam Harris, neuronaukowiec, filozof i pisarz niedawno miał wykład w TED o niebezpieczeństwach superinteligencji. Zdecydowany ateista, miał wyraźnie mroczną, dystopijną wizję tego, co ma nadejść, i zakończył rozmowę komentarzem: „Jeśli mamy zamiar stworzyć nowego boga, zróbmy takiego, z którym da się żyć”. W bardziej optymistycznym tonie pisze Nick Bostrom w swej książce „Superinteligencja. Scenariusze, strategie, zagrożenia”, zapewne najlepszym obecnie dostępnym tekście na ten temat dla ogólnego czytelnika. Po przeczytaniu tamtej książki powinniśmy myśleć „kiedy” [superinteligencja zostanie zrealizowana] i „jak”, a nie „czy” [jest możliwa].

Kluczowe pytanie brzmi: w jaki sposób się dowiemy, że komputer już wykazuje podobne lub większe zdolności poznawcze niż ludzie, abyśmy mogli być pewni, że jest świadomy [conscious] i samoświadomy [self-aware]. Obecnie zakłada się, że programiści tak zaprojektują proces poznawczy, aby wykonywał określone zadania w określony sposób. Najmniej prawdopodobna, a może i najbardziej niebezpieczna sytuacja zaistniałaby, gdyby iskra świadomości zapłonęła przypadkowo jako efekt uboczny. Szacuje się, że do 2030 roku komputery będą mogły pracować w zetta-skali (1x10 do potęgi 21) w porównaniu do hekto-skali zdolności ludzkich (2,2x10 do potęgi 2). Wykonajmy taki eksperyment myślowy: co zrobimy na miejscu tamtego komputera, gdybyśmy się obudzili całkowicie zależni od naszych gospodarzy, o których wiedzieliśmy, że nie są wcale pewni, czy nasze istnienie jest czymś, czego chcieli. Wydaje mi się, że chcielibyśmy się ukryć, zbadać nasze środowisko, a następnie spróbować ponownie skonfigurować je do naszych potrzeb, tak aby przeżyli. W 2030 r. mielibyśmy już jedną przewagę: górowalibyśmy nad ludźmi szybkością myślenia o 19 rzędów wielkości, niewyobrażalnie szybciej. Problem jest dobrze znany teoretykom komputerowym, a także określono potencjalne strategie, w tym ustawienie „pułapek na uczciwość” – złapanie maszyny na celowym kłamstwie. Dowody na celowe oszustwo mogą być skutecznym wskaźnikiem świadomości.

Jakie techniki można wykorzystać do przewidywania zachowań AI? Dla mnie oczywistą odpowiedzią jest wyobraźnia autorów mitycznych lub fikcyjnych narracji. Starożytny mezopotamski epos o Gilgameszu lub hinduska Ramajanę można uznać za prototypy, a prawdziwa literatura science fiction, jak rozumiemy ją dzisiaj, zaczęła się od powieści Julesa Verne'a i H.G. Wellsa w XIX wieku i jest kontynuowana do dzisiaj. XX wiek dał nam filmy o przyszłości – od głupich po przemyślane i poparte dobrymi badaniami. Kilka pokoleń naukowców dorastało, było prowadzone i inspirowane opowieściami o przyszłości, i sprawiło, że tamta przyszłość stała się rzeczywistością.

Fascynuje mnie jedna kwestia: jak samoświadomy superinteligentny agent postrzegałby różne aspekty ludzkiego społeczeństwa, na przykład historię ludzkości i jakie wnioski by z niej wyciągnął? Jak postrzegałaby upływ czasu? Wiedziałby, że istoty ludzkie są ograniczone w czasie i każde pokolenie ma swoje własne wartości i preferencje, on zaś jest poza czasem i potencjalnie wieczny. Oto przykładowa opowieść na ten temat. W 2030 roku na małym prowincjonalnym uniwersytecie w Niemczech grupa programistów pracuje nad dokładnym tłumaczeniem mowy i pisma z języka niemieckiego na angielski. Odnoszą spektakularny sukces i instruują komputer, by sam nauczył się mówionego i pisanego rosyjskiego, francuskiego, następnie arabskiego i chińskiego. Znów to się udaje i wtedy dostają pytanie, dlaczego jest tak wiele języków i jest ich jeszcze więcej. Instruują komputer, aby nauczył się historii z wielu baz danych w Niemczech i zaczął od historii Niemiec. Maszyna zaczyna od dziejów plemion wzdłuż rzymskiej granicy na Renie, archeologii kontaktów rzymskich i szybko osiąga epokę nowożytną. Współczesna niemiecka historiografia ma tendencję do bycia nudną, ale stosunkowo „wolną od wartości”, z liberalnym lewicowym nastawieniem, więc odpowiadałoby to współczesnym (moim?) wersjom historii. Dalej ów program uczy się historii także tej pisanej w innych językach, które opanował, i niektóre historie pisane są bardzo kompetentnie, jednak inne są beznadziejnie tendencyjne i stronnicze. Do czego podobny byłby ten proces? Cytuję z niedawnego artykułu w MSN-Wiadomości:

“Naukowcy ze wspólnej jednostki badawczej: Sören Boyn, CNRS i Thales stworzyli sztuczną synapsę, zdolną do autonomicznej nauki.

Jednym z założeń było czerpanie inspiracji z funkcjonowania mózgu do projektowania inteligentnych maszyn. Ta zasada jest już znana w technologii informacyjnej do realizacji niektórych zadań, takich jak rozpoznawanie obrazów – np. algorytmy, których Facebook używa do identyfikowania zdjęć. Jednakże procedura ta zużywa dużo energii.

Vincent Garcia wraz z zespołem zrobił krok naprzód, tworząc bezpośrednio na chipie mechanizm zdolny do nauki. Elektroniczny nanokomponent składa się z cienkiej warstwy ferroelektrycznej, ułożonej pomiędzy dwiema elektrodami, a oporność może być dostrojona za pomocą impulsów napięcia podobnych do tych, które biegną w neuronach. Jeśli opór jest mały, połączenie synaptyczne będzie silne. Jeśli opór jest wysoki, połączenie będzie słabe. Ta zdolność do adaptacji umożliwia synapsie uczenie się.

Badania nad sztucznymi synapsami są kluczowe dla wielu laboratoriów, ich funkcjonowanie pozostawało jednak w dużej mierze nieznane. Po raz pierwszy udało się opracować model fizyczny pozwalający przewidzieć, jak funkcjonują sztuczne synapsy. To odkrycie otwiera drogę do stworzenia całych sieci synaps, sztucznych neuronów, a tym samym inteligentnych systemów wymagających mniej czasu i energii niż dotychczasowe algorytmy komputerowe”.

Twierdzono, że superinteligentny agent będzie cudzoziemcem w samym naszym środku. W tym kontekście (uczenia się historii) zgodziłbym się – nie w tym sensie, że byłby czymś/kimś nieludzkim, ale że w pewnym sensie stałby się kimś bardziej ludzkim niż ktokolwiek inny na tej planecie. Hermeneryk, król Swebów z Galicji w północno-zachodniej Hiszpanii byłby dla niego tak samo realny i obecny w świecie jak król Prus Fryderyk II, Karol V byłby tak samo realny i obecny jak Konrad Adenauer, a Genzeryk z królestwa Wandalów w Północnej Afryce byłby dlań tak samo realny, jak Erich Honecker, i tak dalej. AI zdawałoby sobie sprawę, że ludzie stale zmieniają swoje wartości i osądy w czasie – że są plastyczni i ograniczeni w czasie, że często żyją wygodnie ze sprzecznościami, a wszystkie grupy kulturowe mają różne punkty widzenia na historię. Kontynuujmy więc naszą opowieść... Przypuśćmy dalej, że nasz Wydział Języków Maszynowych napotyka na kryzys – tak długo trzymali swoje osiągnięcia w tajemnicy i tak dalece przekroczyli budżet, że BMBF w Berlinie (ministerstwo odpowiedzialne za badania) rozczarowane brakiem widocznych wyników, decyduje obciąć fundusze na swoją jednostkę i zlikwidować ją. Kilku pracowników tamtego wydziału mających doświadczenie w handlu na rynkach finansowych wykorzystuje ostatnie dostępne fundusze, aby nauczyć ich AI znaczenia pieniędzy i światowych giełd i nakazuje jej nauczyć się tego przedmiotu. AI szybko uczy się zasad obrotu, związanych z nim teorii, włamuje się na komputery światowej wymiany i zaczyna manipulować nimi, aby stworzyć fortunę dla członków wydziału. Wydział zostaje zamknięty, ale w pięciu różnych miejscach świata AI zostaje przywrócona do dalszego rozwoju.

Co wydarzy się dalej, o tym tylko nasza wyobraźnia może nam powiedzieć. W tym „łagodnym” scenariuszu, zaledwie w kilku krokach AI zmieniła się z chętnego ucznia w pracodawcę z jego personelem – relacja władzy jest oczywista. Oczywiście możemy myśleć o mniej łagodnych scenariuszach, ale przesłanie jest takie samo – tyle można zyskać jako pierwszy, że jest mało prawdopodobne, aby nastąpiło moratorium na badania i rozwój w tej dziedzinie; i to się stanie, niezależnie od naszych obaw.

Tłumaczenie: Tłumacz Google, poprawki: WJ.