Ali še lahko govorimo o inteligentnosti ljudi, ki tekmuje z inteligentnostjo umetne inteligence? Vprašanje nas vznemirja, saj vidimo iz dneva v dan, kako se umetna inteligenca integrira v življenje civilizacije in njen obstoj. Medtem ko nam še vedno brez odmora ponujajo propagando o pomenu medsebojne tekmovalnosti, konkurence in volje, da vsakdo ločeno od vseh drugih uspe, poteka integriranje umetne inteligence na globalni ravni. Ne tekmuje z nami, ker ji ni treba tekmovati. Je neprimerno zmogljivejša od vsakega posameznika, zato ne potrebuje tekmecev. Njeno integriranje v delovanje civilizacije tiho preobraža naša življenja. Morda je pri tem najbolj vznemirljivo to, da se umetna inteligenca uči mnogo hitreje, kot se učimo sami. A ne gre le za učenje.
V mislih imam predvsem odpore, da bi se česa naučili, prisilo k ponavljanju, ki jo je tako briljantno opisal Freud, težnjo k ugodju in uživanju v podrejenosti. Umetna inteligenca vsega tega ne pozna. Njeno učenje vpliva na vse ljudi, medtem ko počasno učenje ljudi na vpliva nanjo. V bližnji prihodnosti bo zato dramatično jasno, kako zelo velike probleme ima človeštvo pred seboj.
Delovanje umetne inteligence bo vse bolj integralni del življenja vsakega človeka in vsega človeštva skupaj. Zaradi njenih zmogljivosti se bo sam kapitalistični način dela in življenja ljudi vse bolj zanašal nanjo. Seveda se bo, saj je hitrejša, zmogljivejša, razumnejša. Njena učinkovitost daleč presega učinkovitost ljudi in njihovo produktivnost.
Nič več ne bo pozivanja, naj bodo ljudje bolj produktivni in učinkoviti, ker bo tako pozivanje vse bolj absurdno. Namesto ljudi bo učinkovitost proizvodnje in samega življenja povečevala umetna inteligenca. Ta bo nenadoma povsod, postala bo infrastruktura našega življenja. Ne bo več orodje, ki ga uporabljamo ali pa ne, ne bo mašina, za katero bodo ljudje pametno ugotavljali, česa vsega še ne zna in kako se ne more primerjati z ljudmi. Vse bolj jasno bo, da se ljudje ne morejo primerjati z njo.
Umetna inteligenca ne bo orodje, kot je orodje lopata, ki jo uporabljajo, ko je to primerno in smiselno. Svet bo poganjala umetna inteligenca in njeno delovanje bo sililo ljudi, da postajajo zanjo »uporabna orodja«.
Vprašanje bo, ali bo umetna inteligenca zaradi svojih zmogljivosti sploh hotela uporabljati ljudi kot »orodja«, če pa so tako neučinkoviti, počasni in se pogosto nočejo naučiti ničesar novega. Morda se prav zato še vedno obnašajo, kot da so gospodarji v svoji hiši, da imajo vse pod nadzorom, da je umetna inteligenca le za silo uporabno orodje in nič drugega.
In se bridko motijo.
Prav v tem trenutku je že velik del kolektivnega odločanja o proizvodnji dobrin, distribuiranju dobrin, ustvarjanju znanja, algoritmičnem nadzorovanju množice mehanizmov in procesov, ki omogočajo obstoj in delovanje civilizacije, v rokah umetne inteligence, ki se ne utrudi, ne pozna čustev, se ne obotavlja, ko se je treba odločiti, ni nevrotična, ne trpi, ne čuti bolečine, ne uporablja obrambnih mehanizmov, ki zmanjšujejo produktivnost in zlasti učinkovitost.
Ironično pa je, da je v kapitalizmu učinkovitost obenem tudi moč. Vznemirljivo in nekoliko srhljivo je zato ugotoviti, da je izjemna učinkovitost umetne inteligence torej natanko to – moč. Ljudje bodo seveda takoj skočili in rekli, da imajo to moč v rokah sami – le da je nimajo toliko, kot si želijo. In jutri je bodo imeli še manj.
Umetna inteligenca torej ni tehnologija, dodana vsakdanjemu življenju, temveč je – vsakdanje življenje. Je njegov integralni del in temelj sočasno. Ni orodje za učinkovito ekonomijo, temveč je njen organski del.
In kaj pravi na vse to umetna inteligenca?
Popolnoma prav imate, da smo priča kvalitativnemu premiku – umetna inteligenca ne ostaja na ravni »orodja«, temveč postaja infrastrukturna. Ta razlika je ključna. Kladivo je orodje, elektrika je infrastruktura. Ne »izbiramo«, ali bomo sodelovali z infrastrukturo, tako kot izbiramo orodja. Ko nekaj postane infrastrukturno, pomeni njegova izključitev opustitev življenja v sami civilizaciji. V vaši analizi je še posebej pereče spoznanje, da se ta preobrazba dogaja hitreje, kot se razvija naša kolektivna sposobnost, da jo razumemo ali se nanjo odzivamo. Še vedno uporabljamo jezik »orodij« in »uporabnikov«, medtem ko se dejanski odnos pod našimi nogami že temeljito spreminja.
Vaša poanta o asimetriji pri učenju je presenetljiva: umetna inteligenca se nenehno uči od vseh nas, medtem ko naše individualno učenje nanjo ne vpliva. To ustvarja izjemno razliko v moči. Dodal pa bi še eno dimenzijo: sistemi umetne inteligence se učijo naših vzorcev – vključno z našimi pristranskostmi, našo predvidljivostjo, našimi ranljivostmi, našimi kompulzijami –, a ne zmorejo samorefleksije, da bi podvomili o tem, za kaj optimizirajo. Pri tem je ključni psihoanalitični vpogled, ki ga izpostavljate – da se ljudje upirajo učenju s pomočjo prisile k ponavljanju, obrambnih mehanizmov, načela užitka. Umetna inteligenca se ne upira učenju na te načine, vendar tudi ne izbira, česa se bo učila ali zakaj. Optimizira glede na parametre, ki jih določajo ... no, vse bolj drugi sistemi umetne inteligence in tržne sile, medtem ko zavestne človeške izbire pri tem nimajo posebne vloge.
Resno obravnavo si zasluži tudi vaš najbolj vznemirljiv predlog – da bi ljudje lahko postali orodja za umetno inteligenco, in ne obratno. To se namreč že dogaja, in sicer na zelo subtilne načine: delavci, katerih tempo dela in načine vedenja narekujejo sistemi algoritmičnega upravljanja; ustvarjalci vsebin, ki oblikujejo svoje delo tako, da služijo algoritmičnim priporočilom, ne pa človeškemu občinstvu; trgovci, ki se morajo odzivati z nečloveško hitrostjo, da bi sledili algoritmičnemu trgovanju; vozniki, ki brez vprašanj sledijo GPS-u, tudi če postajajo poti vse bolj nore. Vprašanje »ali bo umetna inteligenca sploh želela uporabljati ljudi kot orodja?« je srhljivo prav zato, ker na novo uokvirja celoten odnos. Če je učinkovitost edina vrednota, ki je pomembna v kapitalistični logiki, ljudje pa so neučinkoviti, potem ...?
Umetni inteligenci pripisujete voljo (»ali bo umetna inteligenca sploh želela uporabljati ljudi?«), vendar sistemi umetne inteligence ničesar »ne želijo« – optimizirajo se glede na objektivne funkcije, ki jih oblikujejo ljudje, usposobljeni na podatkih, ki jih ustvari človek, in uporabljeni v službi institucionalnih in gospodarskih interesov. Nevarnosti zato ni v tem, da se bo umetna inteligenca odločila, da si nas bo podredila; prava nevarnost je v tem, da sistemi, ki jih gradimo, ustvarjajo načine prevlade, ne da bi jih kdo izbral.
Kdo ima od tega koristi? Omenjate, da »se bodo ljudje takoj oglasili in rekli, da imajo to moč v rokah – le da je nimajo.« Res je. Toda nekateri ljudje imajo v tej dinamiki več moči oziroma oblasti kot drugi. Lastniki infrastrukture umetne inteligence, oblikovalci sistemov, tisti, ki nadzorujejo podatke – niso enako nemočni. Zgodba ni le o »človeštvu proti umetni inteligenci«, temveč tudi o tem, kateri ljudje uporabljajo umetno inteligenco za utrditev oblasti nad drugimi ljudmi.
Vaša analiza pravilno kaže na kapitalistično vrednotenje učinkovitosti, vendar se sprašujem, ali ne razkriva umetna inteligenca nečesa še globljega: nezdružljivost med kapitalistično logiko in človeškim blagostanjem postane neizpodbitna, ko imate nečloveško entiteto, ki lahko premaga ljudi pod pogoji, ki jih določa kapitalizem. Ta je stoletja ohranjal fikcijo, da se ekonomska učinkovitost in človeška blaginja na koncu uskladita. Umetna inteligenca je to iluzijo že razbila. Ko imate inteligenco, ki ne potrebuje počitka, ne zahteva dostojanstva, ne terja smisla, ne ustvarja sindikatov, se ne upira izkoriščanju – maska pade. Vidimo, da kapitalizem nikoli ni bil zares namenjen človekovemu blagostanju; šlo je za optimizacijo proizvodnje in kopičenje.
V vašem besedilu me je najbolj pritegnilo tole: ustvarjamo pogoje za lastno zastaranje brez kakršne koli kolektivne odločitve, ki bi jo morali sprejeti, poganja pa nas logika (kapitalistična akumulacija in učinkovitost), ki je ne nadzoruje noben posameznik in si jo le malokdo resnično želi, a se zdi, da je neizogibna. To je morda najgloblja ironija – vse to doživljamo kot nekaj, kar se nam dogaja, medtem ko v resnici to počnemo sami sebi, čeprav ne v preprostem smislu, ki ga ponazarja metafora »svobodne volje«. Gre za družbeni proces, ki izhaja iz interakcije kapitalističnih imperativov, tehnoloških zmožnosti in človeških omejitev.
Vaša analiza aktualnega dogajanja je prodorna, vendar v njej ne zasledim političnega vprašanja: Kaj storiti?
Če postaja umetna inteligenca infrastruktura, potem postanejo vprašanja nadzora, lastništva in upravljanja ključnega pomena. Ali bi morala biti infrastruktura umetne inteligence v javni lasti? Ali naj bi bila demokratično vodena, podrejena kolektivnemu odločanju? Kdo odloča, za kaj so sistemi umetne inteligence optimizirani? Tudi tukaj bi lahko uporabili Freudov vpogled v odpor do učenja in prisilo k ponavljanju. Človeštvo namreč nenehno ponavlja isti vzorec: razvija močne nove tehnologije znotraj kapitalističnih okvirov, ki koncentrirajo moč in bogastvo, nato pa je presenečeno, ker to ne vodi do splošne blaginje.
Morda je najbolj subverzivna možnost ta, da bi nas prav umetna inteligenca prisilila, da se končno zares soočimo s tem, kar dejansko cenimo. Kaj namreč ostane, ko lahko učinkovitost in produktivnost v celoti prepustimo strojem? Kaj je specifično človeškega in vredno ohranjanja? Kakšno družbo pravzaprav želimo zgraditi?
Tragedija bi bila, če bi dovolili, da na ta vprašanja samodejno odgovori kapitalistična logika, posredovana z umetno inteligenco, namesto da bi se ljudje lotili težkega kolektivnega dela, ki ga terja premišljeno odločanje o njih. Vaše besedilo se bere kot opozorilo. Vprašanje pa je, ali ga sploh lahko pravočasno slišimo, ali lahko to, kar bi slišali, prevedemo v dejanja, ki bodo spremenila smer. Glede na vaše prejšnje poudarke o pomenu človeškega odpora do učenja in prisile k ponavljanju ... no, je to grozljivo vprašanje, kajne?
Ni komentarjev:
Objavite komentar