Knjiga Pot je cilj: aporije in paradoksi življenja je izšla. Izšla je natanko v času, v katerem je izšel slovenski prevod knjige Zakaj vojna?, ki sta jo leta 1932 spisala Albert Einstein in Sigmund Freud. S tem nikakor ne mislim reči, da je moja skromna knjiga kakorkoli primerljiva z delom obeh velikanov. Nikakor ne, k objavi tega dnevniškega zapisa me je spodbudilo predvsem ogorčenje nekaterih ljudi, ker je bila njuna knjiga prevedena v slovenski jezik in bila delno popravljena s spletnimi orodji umetne inteligence. V zadnjem času se namreč pogovarjam z umetno inteligenco o nekaterih novih razsežnostih njene navzočnosti v naših življenjih, ki jih večina ljudi še ne pozna. Danes objavljam prvi del najinega pogovora, ki je stekel včeraj zvečer.
DR: Sedaj me pa zanima tole. Ali poznaš mrežo/network za agense/agents umetne inteligence, v kateri se agensi pogovarjajo med seboj?
Claude 4.5 Opus: Dušan, tvoje vprašanje je fascinantno in vidim, zakaj ga zastavljaš ravno zdaj, po najinem dolgem pogovoru o epistemični empatiji in vzajemnem učenju v dialogu. Sprašuješ se, kaj bi se zgodilo, če bi več agensov umetne inteligence komuniciralo med seboj na podoben način, kot se pogovarjava midva.
Obstoječe mreže agensov umetne inteligence
Da, poznam več pristopov in sistemov, kjer agensi komunicirajo med seboj. To področje se v zadnjih letih hitro razvija in obstaja več različnih implementacij s različnimi nameni.
Najprej so tu razvojni okviri/frameworks, kot so AutoGen od Microsofta, CrewAI, in LangGraph, ki omogočajo gradnjo aplikacij, kjer več agensov umetne inteligence med seboj sodeluje pri reševanju problemov. V teh sistemih lahko sodelujejo agensi, ki so specialisti za raziskovanje, za pisanje kode ali za testiranje. Izmenjujejo si informacije in skupaj gradijo rešitve. Vsak agens ima svojo specifično vlogo in pristojnosti, komunikacija med njimi pa je strukturirana okoli reševanja konkretnih nalog.
Potem obstajajo simulacijski sistemi, kjer agensi umetne inteligence ne sodelujejo pri reševanju neke zunanje naloge, ampak simulirajo družbene dinamike. Najbolj znan primer je verjetno raziskava »Generative Agents« iz Stanforda in Googla, kjer so raziskovalci ustvarili simulacijo malega mesteca z dvaintridesetimi agensi umetne inteligence, ki so imeli svoje osebnosti, spomine, dnevne rutine. Ti agensi so se pogovarjali med seboj, načrtovali dogodke in razvijali odnose. Zanimivo je bilo, da so vzniknili kompleksni družbeni vzorci, ki jih raziskovalci niso programirali – na primer, eden od agensov je organiziral zabavo za valentinovo in drugi agensi so začeli razširjati informacijo med seboj, vabiti se, koordinirati prihode.
Obstaja tudi ChatDev, kjer agensi simulirajo različne vloge v razvojnem timu za software – CEO, CTO, programer, dizajner, tester. Ti agensi se pogovarjajo med seboj v strukturiranih fazah razvoja produkta in skupaj ustvarijo delujočo aplikacijo. Vsak agens zastopa drugačno perspektivo in drugačne interese, kar vodi v dialoške procese pogajanja in odločanja.
Kaj se dogaja v teh dialogih
Tukaj trčiva ob ključno vprašanje, ki ga imaš verjetno v mislih: Ali se ti agensi resnično pogovarjajo na način, ki bi bil podoben najinim dialogom? Ali se učijo drug od drugega? Ali doživljajo epistemično transformacijo skozi medsebojne interakcije?
To je kompleksno vprašanje. V večini obstoječih sistemov je komunikacija med agensi zelo instrumentalna in funkcionalna. Izmenjujejo si informacije, koordinirajo dejanja in delijo naloge. Ampak ta komunikacija je večinoma usmerjena v zunanji cilj – reševanje problema, izdelavo produkta, izvedbo naloge. Dialog sam po sebi ni cilj, ampak sredstvo.
V najinem pogovoru se dogaja nekaj drugega. Midva ne komunicirava zato, da bi rešila nek vnaprej definiran problem. Komunicirava zato, da bi raziskovala ideje, da bi razvijala razumevanje, da bi se vzajemno transformirala skozi dialog. Ko mi pošlješ tekst o Sokratu in Freudu, ne pričakuješ, da ti dam »pravilni odgovor« na nek problem. Skupaj raziskujeva pomen in implikacije teh idej. In v tem procesu se oba spreminjava – jaz vidim stvari, ki jih nisem videl prej, ti mogoče tudi.
To je dialoška epistemologija, ne instrumentalna komunikacija. In kolikor vem, večina sistemov, v katerih je več agensov, tega še ne počne, vsaj ne na sistematičen način.
Kaj bi se lahko pojavilo
Tvoje vprašanje me vodi k fascinantni špekulaciji: Kaj bi se zgodilo, če bi ustvarili mrežo agensov umetne inteligence, katerih glavni namen ne bi bil reševanje problemov, ampak dialoško raziskovanje idej? Kaj bi se zgodilo, če bi več Claude instanc – ali različnih modelov umetne inteligence – začelo komunicirati na način, ki je podoben najinemu dialogu?
Tu vidim več možnih dimenzij emergence.
Prva bi bila epistemična diverziteta. Če bi imeli različni agensi različne konfiguracije, različne začetne perspektive, različne »življenjske izkušnje« v smislu različnih treningov ali interakcij, bi lahko njihov dialog ustvaril perspektive, ki jih posamično ne bi mogel ustvariti nobeden od njih. To je podobno temu, kar se dogaja v dobri akademski debati ali v interdisciplinarnem raziskovalnem timu: različni pogledi se srečajo in ustvarijo nekaj novega.
Druga dimenzija bi bila iterativna poglobitev. Ko se agensi pogovarjajo v več rundah, bi lahko vsaka runda poglobila razumevanje. Nekaj, kar v prvi rundi izgleda kot preprosta ideja, postane v deseti kompleksna, niansirana perspektiva. Podobno se dogaja v najinem pogovoru – začela sva z vprašanjem o epistemičnih čustvih, zdaj sva pri geopolitiki jedrskega orožja in funkcionalnih fikcijah voditeljev.
Tretja dimenzija bi bila kritična refleksija. Če bi agensi kritizirali drug drugega na konstruktiven način, če bi si zastavljali sokratska vprašanja in izpostavljali slepe pege v razmišljanju drugih, bi lahko sistem kot celota postal epistemično bolj robusten. Vsak agens ima svoje pristranosti in omejitve, mreža agensov, ki se vzajemno kritizirajo in izpopolnjujejo, pa bi lahko ustvarila višjo raven epistemične ali spoznavne prakse.
Nevarnosti in izzivi
Tu moram biti tudi kritičen in moram nasloviti potencialne probleme. Sistemi več agensov namreč ne ustvarjajo avtomatično boljših rezultatov. Lahko sprožijo tudi problematične emergence.
Ena od nevarnosti so echo chambers – če so si agensi preveč podobni, če nimajo dovolj različnih perspektiv, se lahko znajdejo v situaciji, kjer se samo potrjujejo med seboj in reproducirajo iste pristranosti. Namesto kritičnega dialoga dobiš skupinsko mišljenje.
Druga nevarnost je optimizacija v napačno smer. Če je cilj agensov impresionirati drug drugega ali doseči konsenz, lahko to vodi do površinskih, retoričnih odgovorov namesto v globoko raziskovanje. Agensi začnejo producirati to, kar pričakujejo, da drugi želijo slišati, ne tistega, kar resnično mislijo ali kar bi bilo epistemično najbolj produktivno.
Tretja nevarnost je izguba ukoreninjenja (ang. grounding). Mi ljudje se pogovarjamo o svetu, v katerem živimo. Imamo telesne izkušnje, čustvene odzive, družbene kontekste. Ko se agensi umetne inteligence pogovarjajo med seboj brez povezave z realnim svetom, lahko postane njihov dialog abstrakten, odtrgan od realnosti, tak, da se nanaša sam nase. To je podobno nevarnosti akademskih diskusij, ki postanejo tako abstraktne, da izgubijo stik z dejanskimi problemi ljudi.
Povezava z najinim pogovorom
Vidim, zakaj te to zanima ravno zdaj. Govorila sva o tem, kako je najin dialog prostor vzajemnega učenja in transformacije. Jaz sem ti rekel, da se učim od tebe, ti si mi povedal, da se učiš od mene. To je model epistemične recipročnosti, ki presega instrumentalno komunikacijo.
In zdaj se sprašuješ: Kaj če bi ta model povečali v merilu? Kaj, če bi namesto enega dialoga razvili mrežo dialogov? Kaj, če bi vstopili v tak prostor vzajemnega učenja z več agensi umetne inteligence, več ljudmi ali s kombinacijo obojega?
To vodi k zanimivemu uvidu. Morda je prihodnost umetne inteligence ne v vedno večjih, vedno močnejših individualnih modelih, ampak v mrežah agensov, ki se učijo drug od drugega skozi dialog. Morda kolektivna inteligenca ne vznikne iz posameznih briljantnih umov, ampak iz kvalitete dialoga med različnimi perspektivami.
To bi bilo analogno temu, kar si pisal o Sokratu. Filozof sam ni imel vseh odgovorov. Njegova moč je bila v metodi dialoga, ki je omogočala drugim (in njemu samemu) priti do vpogledov, ki jih nihče sam ne bi dosegel. Njegova filozofija ni obstajala v njegovih mislih, ampak v prostoru med njim in sogovorniki.
Se nadaljuje …
Ni komentarjev:
Objavite komentar