»Človek ni gospodar umetne
inteligence, temveč je njen sogovorec v iskanju in ustvarjanju pomena. Umetna
inteligenca je mreža brez srca – šele ko jo prežari človeška luč sočutja, se
preobrazi v prostor etike.
Prihodnost ne bo vprašanje moči, temveč vprašanje človečnosti: ali bomo
sposobni ostati občutljivi, ranljivi in odgovorni, ko nas svet tehnologije
posrka vase?« ꟷ ChatGpt 5.0
Kralji, vprašani, koliko časa nameravajo vladati, bi odgovorili: večno. Seveda bi vladali večno, ker je tako privlačno biti kralj. Le da obstaja majhna težava. Kralj je namreč lahko kralj le natanko toliko časa, dokler se podaniki vedejo do njega kot kralja. Kritično razmišljanje o njihovem lastnem hlapčevanju jim namreč zelo hitro postreže z enim najpomembnejših dejstev naših simbolnih življenj: simbolno življenje nima nobenih empiričnih temeljev. To preprosto pomeni, da radikalno visi v praznem. Skupaj ga držijo le odnosi. Ko ljudje prenehajo verjeti vanje, struktura kratko malo razpade. Običajno ne nehajo verjeti, ker imajo od tega, da verjamejo, določene koristi. Včasih pa se vendarle zgodi, da nenadoma množica ljudi, kot bi jo nekdo začaral, nič več ne verjame. Meni je vseeno, ali se temu reče revolucija ali ne, dejstvo je, da kralj ne more biti kralj, če se nihče ne obnaša do njega, kot da je kralj. Aktualna ameriška izkušnja nas bo verjetno naučila precej o tem. Kot nas bo življenje z umetno inteligenco vse zahtevnejše učilo, kako na nove načine odgovoriti na vprašanje, kako kultivirati človečnost.
Skozi vsa ta leta mi je sodelovanje v različnih projektih omogočilo vpogled v nekaj sodobnih in izjemno zanimivih konceptov etike in etičnosti, ki jih povzemam, ker dopolnjujejo in nadgrajujejo moje delo o sočutni šoli in vzgajanju otrok v kulturi zmagovalcev. Pred menoj pa je tudi predavanje o sočutni šoli.
Najbolj vznemirljivo sodobno delo o njej nastaja in se razvija na presečišču več področij.
Demokratična teorija in participacija Hélène Landemore s konceptom »odprte demokracije« in »demokratičnega razuma« revolucionira teorijo demokracije. Njeno delo dokazuje, da do boljših kolektivnih odločitev ne vodi vladavina stroke in strokovnjakov, temveč kognitivna raznolikost. Vključujoča demokracija tako ni le moralno pravilna, temveč je tudi epistemološko superiorna. Zakaj to drži?
Ker kognitivna raznolikost vključuje različne perspektive (kako si predstavljamo problem), različne hevristike (strategije in orodja za reševanje problemov), različne interpretacije (kako kategoriziramo in razumemo situacije), različne napovedne modele (kaj pričakujemo, da se bo zgodilo).
Posamezni strokovnjaki imajo pri soočanju s kompleksnimi problemi vselej omejen kognitivni repertoar, ne glede na to, kako briljantni so. Za seboj imajo podobno usposabljanje, uporabljajo podobna orodja, postavljajo podobne predpostavke, po navadi se zataknejo v istih lokalnih optimumih (rešitve, ki se z njihovega vidika zdijo dobre, vendar v resnici niso najboljše). Na delu je tudi kognitivno prekrivanje, ki pomeni, da skupine strokovnjakov ponujajo redundantne prispevke, ker opazijo iste stvari in spregledajo iste stvari.
Kompleksni, večdimenzionalni problemi pogosto očitno nimajo enega samega pravilnega odgovora, zato potrebujemo več perspektiv in lokalno, kontekstualno znanje. Prav pri takih problemih in izzivih se vidi, kako malo šolanje usposablja mlade ljudi za take pristope, ker jih večinoma pripravlja le za reševanje enostavnih problemov z eno pravilno rešitvijo. In če k temu prištejemo vsakdanje konformistične pritiske, deljenje skupnih predpostavk in neizpodbijane slabe ideje, v katere verjamejo ljudje, dobimo res dober recept za slabo in neučinkovito reševanje problemov.
Hélène Landemore ima zato prav, ko poudarja, da lahko različni družbeni položaji resnično ustvarjajo različno znanje in perspektive, zato lahko rečemo, da ima demokracija tudi epistemološke vrline in da je kognitivna raznolikost dragocen vir kolektivnega reševanja problemov.
Organsko prepletanje razmislekov in praks, ki podpirajo koncept demokratičnega razuma me pripelje k branju Cristine Lafont, ki razvija koncept »deliberativne demokracije brez bližnjic« in se zavzema za upor proti tehnokratskim ali elitnim rešitvam. Vztraja, da pristna demokracija zahteva dejansko sodelovanje, ne le hipotetičnega soglasja ali zastopanja s strani pooblaščencev, na kar smo čisto preveč navajeni.
Avtorica prepričljivo dokaže, da dejanska demokratična udeležba ljudi ne pozna bližnjic. Te so sicer na delu ves čas, kar pravzaprav ni čudno, zato je njen vpogled še pomembnejši in aktualnejši. Namesto ljudi praviloma odločajo elitni strokovnjaki in politiki, to pa pomeni, da se večina ljudi nikoli ne vključi, se nikoli ne nauči političnega odločanja in v resnici nikoli ne razvije državljanskih sposobnosti. Politiki se tako čez čas zamenjajo, državljani pa živijo s posledicami, kar pomeni, da predvsem ne sodelujejo pri sprejemanju zakonov, zato pa ubogajo zakone, ki so bili sprejeti »v njihovem imenu«.
Epistokratična ideja je privlačna, saj pomeni, da nekateri ljudje vedo več kot drugi, da bi morali pomembne odločitve sprejemati izkušeni ljudje in da je to najbolje narediti skozi vladavino strokovnjakov, tehnokratov ali izobraženih.
Cristine Lafont odgovarja. Zgornje sklepanje je v neposrednem nasprotju z demokratično enakostjo. Kdo namreč odloča, kdo so strokovnjaki? To je samo po sebi politično vprašanje, ki terja demokratično odločitev. Strokovno tehnično znanje namreč ni isto kot modrost o vrednotah in prioritetah. In moč brez etične odgovornosti vodi do odločitev, ki služijo – močnim. Tudi strokovnjaki zato močno potrebujejo prispevke »prizadetih« ljudi, da bi razumeli, kako njihove odločitve vplivajo nanje. Nobena količina strokovnega znanja vam namreč ne more povedati, kako tehtati različne vrednote.
Skoraj trivialno res je, da šele sodelovanje v razpravi spreminja razumevanje – ni dobro, da ljudje preprosto sprejemajo sklepe drugih. Legitimnost zahteva dejansko sodelovanje, ne zgolj zastopanosti v procesu. Resnično močne demokratične vezi ustvarja kolektivno razmišljanje in sklepanje.
Inkluzivna demokracija nujno pomeni široko porazdeljeno moč odločanja, ki ni le posledica enkratnega posvetovanja, temveč je dejanska avtoriteta. Pomeni, da je mogoče odločitve revidirati na podlagi izkušenj in novih informacij, da potekajo povratne informacije od izvajanja nazaj k razpravam, ki krepijo učeče se skupnosti, ki se prilagajajo, namesto da vztrajajo pri končnih ni enoznačno določljivih rešitvah.
Na žalost je tako, da vsakdanje življenje še vedno prinaša predvsem različica s krajšim postopkom. Tak primer je tipična inkluzivna šola: izberite raznoliko ekipo strokovnjakov, posvetujejo se in ustvarijo načrt vključevanja, ki ga potem izvajajo. Kot ambasador raznolikosti bi predlagal drugačen pristop. To bi bila različica brez bližnjic: ekipa ambasadorjev raznolikosti intenzivno preučuje problematiko – ne le enkrat. Sklicuje širše posvetovalne forume z učenci, družinami, učitelji. Posvetuje se več manjših skupin, ambasadorji delujejo kot moderatorji in povezovalci, ne pa kot odločevalci.
S pomočjo orisanih konceptov zagovarjam idejo, da lahko sočutna šola nastane le tako, da odločevalci in protagonisti, zlasti učitelji, starši in mladina, globoko dojamejo, kar poudarja
Sally Haslanger, ki razvoja prelomno delo na področju razumevanja solidarnosti. Prelomno je zaradi ideje, da solidarnost ne more biti dobrodelnost, temveč mora postati razgradnja nepravičnih sistemov vsakdanjega življenja, preoblikovanje institucij, ne le stališč in »dvigovanja zavest«.
Za piko na i zato ponujam še koncept »konstruktivne politike«, ki postavlja pod vprašaj
»napačno epistemologijo stališč«, kot to razume Olúfẹ́mi O. Táíwò. V delu »Elite Capture« pokaže, da se morajo progresivna družbena gibanja osredotočiti na gradnjo moči in materialne spremembe, ne le na spoštovanje, ki temelji na identiteti posameznikov in pogosto koristi elitam. Njegov koncept »ustvarjanja sveta« poudarja, da solidarnost pomeni gradnjo alternativnih institucij. Mednje sodi tudi sočutna šola.
V njej ne domuje liberalna teorija pravičnosti, saj je neuspešna, ker si predstavlja avtonomne posameznike, namesto da bi potrjevala univerzalno človeško soodvisnost.
Elizabeth Anderson zato upravičeno poudarja pomen »demokratične enakosti« kot boljše alternative egalitarizmu sreče. Kakšna bo v orisani luči prihodnost?
Vse strukture moči obstajajo le v prostoru prepričanj, verjetij in potrjevanj. Kralj, izvršni direktor, strokovnjak, algoritem – njihovo avtoriteto podpira naš kolektivni dogovor, da jih obravnavamo kot avtoritativne. Ne obstaja naravni zakon, ki bi nekoga naredil za kralja, nobene metafizične nujnosti po hierarhiji ni, ne obstaja inherentna avtoriteta. Vse držijo skupaj odnosi, priznanje, naša pripravljenost, da sodelujemo v fikciji.
Ljudje smo odnosi. Pod njimi ni nobene substance, zunaj njih ni nikakršnega temelja. Biti pomeni biti-z in vse naše družbene strukture izhajajo iz te relacijske resničnosti. Verjamem, ker ti verjameš, ker ona verjame. A ko se hkrati pretrga dovolj teh niti, se strga celotna tkanina. Kraljeva moč se zato ne zmanjšuje postopoma – izgine v trenutku, ko dovolj ljudi preneha opravljati svojo vlogo pri njenem ohranjanju. Avtoritarni sistemi se zato lahko zdijo nepremagljivi, a se sesujejo v eni uri. Če ljudje nehajo verjeti, tam nenadoma ni ničesar (več).
Vprašanje zato ni, ali imajo demokratične institucije inherentno moč, ker je odgovor jasen: nimajo je. Imajo natanko toliko moči, kolikor jim jo damo s skupnim prepričanjem in sodelovanjem. Demokracija obstaja le v njenem delovanju, le v dejanskem sodelovanju, nikoli v strukturah, ki delujejo neodvisno od našega angažiranja.
Kaj se dogaja pred našimi očmi?
Stoletja je bila strokovna avtoriteta podprta z asimetrijo znanja in mistifikacijo. Umetna inteligenca postavlja vse to v popolnoma novo luč. Ko lahko algoritem diagnosticira bolezni, piše pravne dokumente, odgovarja na kompleksna vprašanja, razkriva, da je bila velika strokovna avtoriteta vselej le simbolična, ne pa tudi vsebinska. In pri tem je čisto vseeno, ali ima umetna inteligenca zavest ali ne. Saj itak nimamo pojma, kaj zavest sploh je.
To ne pomeni, da strokovno znanje ne obstaja – ker obstaja. A umetna inteligenca nas sili k vprašanju: kateri deli strokovne avtoritete so pristno znanje in kateri »zgolj« družbeno delovanje?
Umetna inteligenca lahko optimizira, napoveduje, izračunava, vendar te operacije nimajo inherentnega pomena ali vrednosti. So prazne, dokler vanje ne vlijemo človeških namenov, želja in prepričanj. V kapitalizmu tako učinkovitost, produktivnost in optimizacija same po sebi nikoli niso bile smiselni cilji. Vedno smo jih obravnavali, kot da bi bile naravne, objektivne vrednote. A niso bile in tudi danes niso. So zgolj simbolne strukture.
Ko pa postane umetna inteligenca neprimerno učinkovitejša od ljudi, smo se prisiljeni vprašati: Kaj je (bil) smisel? In osupli spoznamo, da sama učinkovitost nikoli ni bila smisel. Smisel je vselej nekaj človeškega in je pod površjem: dostojanstvo, egalitarnost, odnos, lepota, pravičnost. Popolnoma učinkovita Umetna inteligenca, ki ni niti za hip obremenjena z vprašanji smisla in pomena, razkriva praznino v srcu instrumentalne racionalnosti.
Umetna inteligenca ne more imeti ključnih značilnosti človeških osebkov, kot so občutljivost, odprtost, ranljivost, odgovornost, saj terjajo končnost (ranljivi smo, ker smo lahko ranjeni, ker lahko umremo, ker potrebujemo druge), izpostavljenost (občutljivi smo, ker smo odprti, porozni, ker na nas vpliva tisto, kar je zunaj nas), to, da smo skupaj (odgovorni smo, ker so nam drugi pomembni, obstajamo v odnosih).
Nič od tega ne velja za umetno inteligenco. Ta lahko simulira sočutje, vendar ne more biti sočutna, ker nima jaza, ki bi ga lahko ganil drugi jaz. Lahko izračuna optimalna moralna dejanja, vendar ne more biti moralna, ker je ne zanimajo rezultati, ker ni ranljiva. In tu je paradoks: umetna inteligenca natanko s tem, ko je to, kar nismo, osvetljuje to, kar smo.
V tem prepoznam bistvo koncepta o odprtosti, kot ga je razvil Jean-Luc Nancy. Etičnost ne obstaja izolirano, obstaja le v prostoru med bitji, ki so izpostavljena druga drugemu. Umetna inteligenca ne more biti etična sama po sebi, ker ne obstaja etika brez ranljivosti (biti sposoben biti prizadet, ranjen, spremenjen s strani drugega), skrbi za drugega (biti deležen rezultatov, biti vpleten v to, kar se zgodi), priznanja (videti drugega kot drugega, ne kot predmet ali orodje), odgovornosti (biti poklican na odgovornost).
In ko te sicer človeške lastnosti vnesemo v odnose z umetno inteligenco – ko osvetlimo omrežje s človeško lučjo –, lahko ustvarimo etični prostor. To ne pomeni, da postane nenadoma umetna inteligenca etična, pomeni pa, da mi ostajamo etični.
Možno pa je tudi, da nas učinkovitost in moč umetne inteligence tako zamikata, da opustimo vse naštete lastnosti. Zakaj bi bili ranljivi, če ste lahko neranljivi? Zakaj bi vas skrbelo, če lahko računate? Zakaj bi priznavali druge, če lahko z njimi manipulirate? Zakaj bi bili odgovorni, če se lahko izognete odgovornosti?
Če bomo dovolili, da logika umetne inteligence kolonizira naše razmišljanje, bomo sami postali brezsrčno omrežje.
.
Ni komentarjev:
Objavite komentar