Przejd do Taraki mobilnej! - masz w御ki ekran.
zdj璚ie Autora

22 maja 2016

Justyna Karolak

Ex Machina (2015) - Cz這wiecze雟two a SI: granice poznania
Rozwa瘸nia o cz這wiecze雟twie i bosko軼i w kontek軼ie robotyki

Asimov trzy podstawowe prawa reguluj帷e “egzystencj robota” sformu這wa w latach 40. ubieg貫go wieku, a wi璚 na d逝go przed tym, zanim potrzeba precyzyjnego zdefiniowania “natury” sztucznej inteligencji sta豉 si uzasadniona wymiernym post瘼em technologicznym. Ograniczaj帷 niniejsze przemy郵enia w豉郾ie do samej “natury” SI, rozpatruj帷 rzecz dzi ― z pu豉pu XXI wieku: jako ludzko嗆 jeste鄉y ju ogromnie blisko doliny niesamowito軼i i niebawem prawa Asimova b璠ziemy musieli od nowa przemy郵e, gdy oka膨 si one niezb璠ne do praktycznego wprowadzenia w czyn. Film Ex Machina na pewno 逝dz帷o, hipnotycznie ociera si o dolin niesamowito軼i, cho nie zanurza si w tym poj璚iu w pe軟i czy wystarczaj帷o g喚boko, ale ten niedosyt jedynie wzmaga iluzj przedstawionej rzeczywisto軼i i apetyt widza na kontemplowanie tre軼i, wizualnej i merytorycznej, filmu.

Tymczasem poszerzaj帷 zakres naszych przemy郵e: relacja stw鏎cy i stworzonej istoty by豉 analizowana przez cz這wieka nieomal od pocz徠ku istnienia cz這wieka. Analiz t najpierw podj窸y r騜ne religie ― cz這wiek ograniczony prawami na這穎nej na niego fizyczno軼i (m闚i o granicach ludzkiego, doczesnego cia豉, o barierach dla szerokiego poznania rzeczywisto軼i wynikaj帷ych z obudowania naszego cz這wiecze雟twa niedoskona陰 sieci zmys堯w, etc.) wyposa穎ny przez stw鏎c zosta jednak瞠 w co jeszcze, czego sam do ko鎍a zdefiniowa nie potrafi. Jeste鄉y cielesn struktur, fizyczn materi, zarazem jeste鄉y skomplikowanym koktajlem biochemicznym, ale to nie wszystko ― jeste鄉y wszak zdolni do specyficznego my郵enia abstrakcyjnego, pozostawiono nam do dyspozycji woln wol, w wyniku kt鏎ej poprzez kolejne epoki usi逝jemy stale rozsuwa na boki, rozpycha granice blokuj帷e nas przed dok豉dnym, pe軟ym poznaniem rzeczywisto軼i. To instynktowne i zarazem 鈍iadome, abstrakcyjne pragnienie poznania i siebie, i swego stw鏎cy, i wszech鈍iata ― z realnie widzialnym i zrozumia造m zakresem relacji "ja" jako stworzenie oraz on-m鎩 stw鏎ca ― jest jak sen o lataniu. Odk康 cz這wiek wynalaz balon, sen o lataniu zacz掖 si urzeczywistnia. Od tego momentu cz這wiek rozmy郵a, kombinuje, jak osi庵n望 to, 瞠by lata coraz sprawniej ― dalej, wy瞠j, szybciej, wydajniej i bardziej naturalnie. Rozw鎩 technologii ma nam, cz這wiekowi i ludzko軼i, s逝篡, ma poszerza przestrze naszych realnych eksploracji wszelkiej rzeczywisto軼i. Rozw鎩 technologii jest jak konsekwentnie, stopniowo urzeczywistniany sen o lataniu ― sen, kt鏎ego 郾ienie nigdy si nie sko鎍zy, poniewa wszech鈍iat jest tak rozleg造, i zdaje si niewykonalne: dobi do jego kra鎍owej 軼iany, dotrze do ostatecznej kurtyny ― dostrzec j na w豉sne oczy i dotkn望 jej osobi軼ie, swoj sk鏎. 

Pytanie o to, czym jest cz這wiecze雟two, nie jest nowe. Jest ono stare na tyle, na ile stare jest cz這wiecze雟two. Na to pytanie stara造 si odpowiedzie opracowania filozoficzne i pisma religijne, np.: Biblia. Szczeg鏊nie pisma religijne nakre郵aj sens i zakres cz這wiecze雟twa poprzez szkicowanie relacji istoty ludzkiej z jej stworzycielem, a wi璚 z tzw.: bogiem. Jednak po odrzuceniu religijnych dogmat闚, a po przestawieniu my郵owej zwrotnicy na metody naukowego rozumowania, filozoficzny sens pytania nie zmienia si, i cz這wiek nadal mierzy si z ww. pytaniem retorycznym. Jednak nauka pr篹nie pr帷a do przodu, jest ju doprawdy bliska wykroczeniu poza ramy retoryczno軼i ― dziej帷y si realnie, ju teraz, post瘼 nauki mo瞠 pytanie o sens oraz granice cz這wiecze雟twa urealni. Prace cz這wieka nad “powo豉niem do 篡cia” SI zmuszaj ten najbardziej ponadczasowy dzia filozofii, jakim jest etyka, do wzbicia si na wy窺zy szczebel analiz, bo stan faktyczny (realny poziom technologii) zawiesza pogl康ow poprzeczk coraz wy瞠j. W zderzeniu z SI, kt鏎a celuj帷o zda test Turinga, efekt Elizy malowniczo zwi瘯szy sw鎩 zasi璕, co jednocze郾ie ustawi relacj stw鏎ca-istota stworzona ― dotychczas wy陰cznie “duchow”, mistyczn relacj ― w 鈍ie篡m, namacalnym, ziemskim, praktycznym kontek軼ie. SI, kt鏎a test Turinga zdaje na sz鏀tk, jeszcze nie zosta豉 skonstruowana, ale jej skonstruowanie ju dzisiaj staje si w tej etycznej analizie to窺ame z “powo豉niem do 篡cia istoty na sw鎩 obraz i podobie雟two”. Skojarzenia budz帷e si pod wp造wem fantastycznego filmu Ex Machina, skojarzenia pracy naukowca z zabaw w “pana boga”, s tote jak najbardziej zasadne. Pytaj帷 o to, czym jest, a czym nie jest cz這wiecze雟two, jednocze郾ie pytamy o to, czym jest, a czym nie jest b鏬...

Zadawanie tego rodzaju pyta obecne by這 od dawna nie tylko w podaniach mitycznych, religijnych i filozoficznych, ale tak瞠 w sztuce, np.: w literaturze. Pierwszym najs造nniejszym dzie貫m literackim, kt鏎e prostolinijnie, wprost zadaje pytanie o definicj cz這wiecze雟twa i bosko軼i, jest “Frankenstein” Mary Shelley. Poniek康 r闚nie “Tarantula” Thierry’go Jonqueta, ksi捫ka oryginalnie i intryguj帷o zaadaptowana przez Almodόvara w filmie pt.: “Sk鏎a, w kt鏎ej 篡j”, zadaje to samo pytanie ― jednak ten drugi przyk豉d wspominam tylko delikatnie, stanowczo sugeruj帷 jego odci璚ie od dalszej cz窷ci artyku逝 jako zbyt metaforyczny w 鈍ietle omawianego tematu. W pierwszej ksi捫ce wybitny naukowiec, uwiedziony pot璕 swojej wiedzy i mo磧iwo軼i w niej drzemi帷ych, tworzy istot ludzk zgodnie z prywatn wizj jej zachowa ― zdaje si, 瞠 jako stworzyciel powinien posiada pe軟i wiedzy nad swoim stworzeniem, jako 瞠 stworzenie to jest dzie貫m powsta造m z jego r彗 i 軼i郵e wed逝g jego projektu. Lecz okazuje si, i stworzenie zachowuje woln wol, kt鏎a nadaje mu unikalne, niepowtarzalne znaczenie. W efekcie wolnej woli istota stworzona umyka pe軟emu poznaniu swojej indywidualnej natury przez stw鏎c, jest nieprzewidywalna i niedefiniowalna do ko鎍a. Wybitny naukowiec, pragn帷y dokona prze這mu dla dobra ludzko軼i (sen o lataniu ― pr鏏a skonstruowania “balonu”, kt鏎y poleci tak wysoko, daleko, gdzie ludzko軼i jeszcze nie by這), popada w samozatracenie i z wybitnego staje si szalonym. Poniesiony na skrzyd豉ch swoich pragnie (sen o lataniu), zapomina czy ignoruje, 瞠 cz這wiek nie mo瞠 lata, 瞠 skrzyd豉, z kt鏎ych korzysta, to pr騜ne, ikarowe skrzyd豉 ― i jak Ikar, nie us逝chawszy przestr鏬, ten瞠 naukowiec wzlatuje za blisko s這鎍a, w闚czas wosk si topi, pi鏎a opadaj, i szalony naukowiec, kt鏎y zapragn掖 by “doskona造m architektem”, roztrzaskuje si o ziemi. Wszystkie podania ocieraj帷e si o ten瞠 ikarowy w徠ek ― religijne, mityczne, filozoficzne, artystyczne ― postuluj, 瞠 ka盥a pr鏏a podejmuj帷a pe軟y akt stworzenia, musi ponie嗆 kl瘰k; 瞠 ka盥a pr鏏a do鈍iadczenia na w豉snej sk鏎ze sprawczo軼i i軼ie boskiej, spotka si z osobliw przegran: w ten spos鏏 “run窸a wie瘸 Babel”. Ale rzeczywisty post瘼 technologiczny nie cofnie si ze swej naturalnej ― tak, naturalnej, bo post瘼 ten wpisany jest w natur samego cz這wieka! ― 軼ie磬i, nie uchyli si przed widmem owych pierwiastk闚 mistycznych; dlaczego mia豚y? Jak powiedzia Nathan (b璠zie to cz窷ciowa parafraza wypowiedzi bohatera Ex Machiny ― przyp.: J.K.): ― Nie stworzy豚y czego (Avy), gdyby m鏬? Przecie powstanie tego czego, jest nieuchronne, stanowi bowiem nast瘼ny krok ewolucji. Je郵i mo積a co zrobi, nale篡 to zrobi ― celem nauki jest przeciera nowe szlaki, a wi璚 zrozumia造m zdaje si konieczno嗆 odrzucenia l瘯u, obawy przed do ko鎍a nieprzewidzianym rezultatem naukowych eksperyment闚, bowiem logiczno嗆 dzia豉nia wybitnego naukowca pretenduje go do zauwa瘸nia niezauwa瘸lnego, do pod捫ania za celem, do do鈍iadczenia bezwzgl璠nego, bo tylko takie do鈍iadczenie doprowadzi mo瞠 do ostatecznych, niepodwa瘸lnych, kompletnych odpowiedzi...

Istnieje wiele dzie sztuki czy r騜nego rodzaju opracowa, kt鏎e pi瘯nie, sugestywnie ― nakre郵aj pytania o granice cz這wiecze雟twa. Ale w豉軼iwie nie spotka豉m ani jednego dzie豉, kt鏎e podj窸oby pr鏏 jednoznacznego zdefiniowania miana, jakim jest “cz這wiecze雟two”. Ex Machina, jak szereg wcze郾iejszych dzie, z rzeczonym “Frankensteinem” na czele, w oszcz璠ny, cho arcy豉dny spos鏏 maluje t sam charakterystyczn przestrog, rysuje bowiem ujmuj帷e niedopowiedzenia, flirtuje z umys貫m i wyobra幡i widza, a summa summarum pozostawia widza z jego osobniczymi interpretacjami, nie daj帷 mu niczego wi璚ej, niczego, czego nie u鈍iadczy豚y w innych podobnych przedstawieniach. Ex Machina, identycznie do wszystkich analogicznych wcze郾iejszych dzie, zadaje zatem pytania o granice cz這wiecze雟twa, ale nie t逝maczy doszcz皻nie samego znaczenia cz這wiecze雟twa. Ale, Ex Machina podsuwa zacne tropy my郵owe:

Czym r騜ni si cz這wiek od maszyny? Naukowiec o imieniu Mary, sp璠za 篡cie w zamkni皻ym czarno-bia造m pokoju. Mary po鈍i璚i豉 篡cie na zg喚bianie wiedzy o kolorach ― wie o nich wszystko. Pewnego dnia opuszcza pok鎩 i na w豉sne oczy ogl康a b喚kitne niebo. Maszyna, to Mary w zamkni皻ym pokoju ― cz這wiekiem staje si, gdy go opuszcza. Ta 郵iczna kr鏂iutka przypowie嗆 umieszczona w Ex Machinie, to cenny trop my郵owy ― haczyk, chwytaj帷y za o naszego umys逝, s逝szny bodziec do zastanowienia. Ale ta przypowie嗆 nie wyczerpuje tematu! Ona wskazuje ― zn闚: jak szereg innych dotychczasowych dzie i opracowa ― wy陰cznie granice cz這wiecze雟twa, ale nie wyja郾ia niczego, co w 鈔odku tych瞠 granic; nie dotyka esencji cz這wiecze雟twa! A to w豉郾ie to niepoznane do tej pory j康ro miana “cz這wiecze雟two” jest najbardziej frapuj帷e!

Czym r騜ni si cz這wiek od maszyny? Ja odpowiem w ten spos鏏:

Sensem maszyny jest bezb喚dno嗆. Sensem cz這wiecze雟twa jest omylno嗆 ― zdolno嗆 do pope軟iania b喚d闚.

Zdaje si, 瞠 film Ex Machina r闚nie potwierdza moj tez ― sugeruj to sceny opieraj帷e si o analiz obrazu Pollocka. 畝dnego z jego malunk闚, dzie sztuki, nie wykona豉by maszyna, by造 zreszt podejmowane takie pr鏏y, ale 瘸dna z nich nie wysz豉 dodatnio. Dlaczego? Bo w豉郾ie zdolno嗆 do pope軟iania b喚d闚 czyni dzie這 niepowtarzalnym, a wi璚 doskona造m. Doskona這嗆, to nie perfekcjonizm ― doskona這嗆 to niepowtarzalno嗆! 疾by byt m鏬 by niepowtarzalny, do tego bytu musz zosta dopuszczone pierwiastki chaosu. Najpi瘯niejsze fraktale (byty niepowtarzalne) tworz si w uk豉dach chaotycznych: malunki mrozu na szybie, p豉tki 郾iegu, b造skawice… W豉郾ie dlatego dzie豉 sztuki mog by zapami皻ywalne: odczucia w odbiorcy wzbudza nie bezb喚dno嗆 (perfekcyjno嗆 wykonania), tylko niepowtarzalno嗆 danego dzie豉. W豉郾ie dlatego 瘸dna maszyna nie powt鏎zy豉 (nie skopiowa豉) geniuszu Pollocka ― jego malowid豉, to co znacznie g喚bszego czy szerszego od “zwyk造ch maza鎍闚”, a wi璚 do ich powstania doprowadzi musia豉 “ludzka 鈍iadomo嗆”, lecz jednocze郾ie 鈍iadomo嗆 ta nie by豉 wystarczaj帷a, potrzebne by這 jeszcze dopuszczenie do siebie owej omylno軼i czy, je郵i wolicie: intuicji, pierwiastk闚 chaosu… 

Znamy wi璚 decyduj帷 r騜nic pomi璠zy maszyn a cz這wiekiem: maszyna jest bezb喚dna, cz這wiek ― przeciwnie do maszyny. Ale z chwil skonstruowania SI, kt鏎a celuj帷o zda test Turinga, to spostrze瞠nie nie b璠zie wystarczaj帷e! 

Je郵i sztuczna inteligencja b璠zie w stanie imitowa cz這wieka w spos鏏 niepozwalaj帷y zdemaskowa si cz這wiekowi ― na jakiej podstawie zamierzamy dalej definiowa j jako maszyn? Tym w豉郾ie pytaniem zwie鎍za si ca造 film Ex Machina. Jako widzowie, jako podgl康acze tego spektaklu z doskonale ucz這wieczonym robotem w roli g堯wnej, pozostajemy 鈍iadomi, 瞠 mo瞠my odr騜ni maszyn od cz這wieka na podstawie jej uczynk闚, i do analizy jej uczynk闚 s逝篡 swoiste terrarium dla szczura: dom i jednocze郾ie laboratorium Nathana. Jednak z chwil gdy maszyna opuszcza to terrarium, a wi璚 z chwil, gdy wydobywa si poza granice eksperymentu/do鈍iadczenia naukowego, wtedy wtapia si w t逝m ― ludzi. I staje si nieodr騜nialna…

Poniewa nadal jest li tylko maszyn, jest w mocy kopiowa zachowania ludzi. Jest bowiem bezb喚dna. Komputer nie m璚zy si, wykonuj帷 obliczenia ― oblicza tyle razy, ile wymaga od niego konieczno嗆 determinuj帷a uzyskanie finalnego, skutecznego wyniku. Je瞠li SI dla bieglejszego wtopienia si w ludzki t逝m za konieczne “uzna” skopiowanie “b喚dnego”, czytaj: po ludzku niepowtarzalnego, bo nieperfekcyjnego, zachowania, po dokonaniu stosownej ilo軼i oblicze uzyska “satysfakcjonuj帷y” wynik. I stanie si doskonale nieodr騜nialna od cz這wieka…

… co prowadzi mnie do intryguj帷ego wniosku:

pe軟 definicj cz這wiecze雟twa wyznaczaj ramy jego doczesno軼i. Jeste鄉y lud幟i, bo egzystujemy w na這穎nym na nas “z g鏎y” swoistym “terrarium”. Gdyby鄉y mogli uchyli nieprzekraczalnej kurtyny (gdyby鄉y mogli wydosta si poza obszar terrarium), byliby鄉y bogiem ― demiurgiem. Lecz sk康 pewno嗆, 瞠 nim nie jeste鄉y?... 

… z chwil gdy “powo豉my do 篡cia” prawdziw SI, ta pewno嗆 zostanie zak堯cona. I nie uwa瘸m, 瞠 spotka nas ― ludzko嗆 ― za to kara. Uwa瘸m, 瞠 cz這wiecze雟two ju zosta這 przez nas zdefiniowane. Nadchodzi czas na pr鏏 zdefiniowania bosko軼i.

Korekta przez: Radek Ziemic (2016-05-22)


komentarze

1. Zaintrygowana • autor: Nierozpoznany#95182016-05-22 21:59:09

Zaintrygowa豉 mnie Pani tym filmem - spr鏏uj go obejrze.
A’propos SI - to co z sercem? albo z 穎陰dkiem? maszyna nie czuje, wi璚 mo瞠 tutaj powinni鄉y poszuka naszej bosko軼i...

2. @Agnes • autor: Nierozpoznany#94952016-05-23 21:29:24

Ciesz si, 瞠 zaintrygowa豉m - polecam ten film jako 豉dny bodziec, dzi瘯i kt鏎emu "my郵 mi si my郵i". Je郵i i Pani lubi ten stan - kiedy my郵 si my郵i w豉sne, nieproszone - wtedy polecam t kameraln lekturk filmow jako mi陰 zaczepk do rozwa瘸 w豉snych. 

3. @Justyna T: Obejrza豉m film :) • autor: Nierozpoznany#95182016-05-28 00:07:54

Dzi ch這p wyjecha w m瘰kich sprawach, wi璚 szale雟two od rana. A 瞠 mn鏀two pracy uda這 mi si pchn望 do przodu - niejako w nagrod obejrza豉m polecony przez Pani film. 
Z pewno軼i wart obejrzenia, z pewno軼i "my郵 si my郵i". Z zarzut闚 - by這by pewnie mistrzostwo gdyby by o Adamie - w sensie du穎 trudniej by這by podbi serce badaczki / programistki ;) poza tym trudniej ukaza m瘰k emocjonalno嗆 rodem z Marsa... Tyle do kwestii technicznych. Pomys 瞠 SI mog這by czu... hmm kwestia jak dla mnie mocno abstrakcyjna (pachn帷a troch Lemem). Mnie satysfakcjonuje np. zachwyt nad fotosyntez (to te by ogromny prze這m). Tlen powsta jako produkt przemiany materii pierwszych ro郵in. A dalej dzi瘯i 鈍iat逝 s這necznemu - cukier = energia. Jednocze郾ie mocno reaktywny tlen spowodowa "rdzewienie" Ziemi - powierzchnie ska i minera堯w utleni造 si, wszystkie 篡we istoty, nie posiadaj帷e pow這ki ochronnej - zosta造 spalone, morza zatrute... miliony lat nasycania tlenem... Niby ma豉 zmiana, a jaki pot篹ny efekt.Mo瞠 takie pytanie - jak Pani my郵i, czy kiedy my ludzie powiemy sobie do嗆? Wiem, 瞠 to pytanie bez odpowiedzi... Chodzi mi o to czemu tak trudno po prostu cieszy si 篡ciem... W sumie sama wci捫 goni te moje koniki, g堯d wiedzy, do鈍iadcze - czasem naprawd ci篹ko si zatrzyma...
Podoba mi si Pani konkluzja, 瞠 "sensem cz這wiecze雟twa jest omylno嗆" i "doskona這嗆 to nie perfekcjonizm"... sama si 豉pi, 瞠 pope軟iam mas b喚d闚, r騜nych, czasem dziwnych; w pewnych sprawach bywam wr璚z pedantyczna do przesady - wr璚z sama siebie w takich momentach nie cierpi ;)
I chcia豉bym poleci co z zupe軟ie innej beczki "Ame agaru"

4. @Agnes • autor: Nierozpoznany#94952016-05-28 13:27:15

Ciesz si, 瞠 "my郵a造 si Pani my郵i" dzi瘯i zaproponowanemu filmowi. 
Natomiast przedstawiona w filmie maszyna - nie czu豉 (w sensie empatycznym, ludzkim), jednak, na co w spos鏏 bezsporny wskazuje fabu豉: owszem, do tego wniosku trzeba doj嗆 w czasie ogl康ania filmu, nie jest to rzecz jasna postulat wst瘼ny tw鏎c闚.
Mi這 mi, 瞠 moja - przytoczona przez Pani - konkluzja spotka豉 si z Pani uznaniem. A jestem ciekawa innych g這s闚 w tej sprawie: by mo瞠 jest tak, jak w swoim tek軼ie powiedzia Wojciech J騧wiak - ten tekst (m鎩) przeszed na Tarace bez ech by mo瞠 dlatego, 瞠 Czytelnicy nie widzieli tego filmu. Mam zatem nadziej, 瞠 widz闚 przyb璠zie - mnie temat wydaje si kusz帷y do rozmy郵a i dyskusji.
[foto]

5. Film wspominam jako... • autor: Krzysiek Joczyn2016-05-29 12:34:02

Film wspominam jako jedno z wi瘯szych rozczarowa tamtego roku. Zupe軟ie nieprawdopodobny zar闚no pod wzgl璠em technologicznym jak i psychologicznym.
Co do Pollocka - jest zdaje si taki program, kt鏎ym mo積a malowa jak Pollock.
Co do rozmy郵a... czym si r騜ni cz這wiek od maszyny brzmi jak pytanie, czym cz這wiek r騜ni si od zwierz徠. A przecie cz這wiek jest i maszyn i zwierz璚iem, tylko bardzo by si chcia od nich czym r騜ni. Mo積a by przewrotnie zapyta: czy to nie ta ch耩 odr騜nia go najbardziej?

Zaloguj si - aby napisa komentarz   Rejestracja - je郵i nie masz konta w Tarace

x

Szybki przegl康 Taraki

[X] Logowanie:

- e-mail jako login
- has這
Zaloguj
Pomi   Zapomnia貫m/am has豉!

Zapisz si (za堯 konto w Tarace)