Uničujoči algoritmi: tehnološka, družbena ali politična dilema?

Mnenje, kolumna ali komentar
17. 12. 2020 - 16.00

 

Pred meseci je Netflix tiste svoje uporabnike, ki jih je algoritem razpoznal kot primerne naslovnike zastrašujočega prikaza uničujoče moči algoritmov, presenetil z razmeroma celostnim in kompleksnim dokumentarcem Socialna dilema. Ta prikazuje problematičnost vpliva digitalnih platform na naše vsakdanje načine razmišljanja, družbenega grupiranja, komuniciranja ter konzumiranja vsebin. Po eni strani se tema resda zdi že dodobra prežvečena in splošno znana. Po drugi strani pa vedno znova preseneča, kako radikalne spremembe so se zgodile v zadnjem desetletju ter kako naše zmožnosti zaznavanja in komuniciranja ter preučevanja tega, kar se nam dogaja, pravzaprav zaostajajo za dejanskim dogajanjem. Namesto trdnega konceptualnega jedra smo tako vedno znova obstreljevani s spreminjajočimi se buzz wordi, kot so lažne novice ali postresničnost, ki, podobno kot omenjeni Netflixov dokumentarec, naslavljajo problematiko, katere produkt so. Tudi te zveneče besede, ki pridejo in grejo, so same odraz algoritemskega generiranja trendov. Podobna samoreferencialna zavozlanost je razvidna tudi iz dejstva, da je ta tematika, ki ključno zaznamuje polarizirano strukturo javne sfere, redko predmet debate v tej isti javni sferi, ki pričakovano favorizira politični boj in odzivanje na trenutno aktualno dogajanje, ne pa strukturnih metarazprav o tem, zakaj stvari so takšne, kot so.

Navkljub vsej zmedi je tekom dogajanja v zadnjem desetletju postalo dokončno jasno – četudi je bilo to mogoče slutiti že skozi predhodno zgodovino empiričnega preučevanja javnega mnenja -, da so mnenjska gibanja človeških množic podobno predvidljiva, četudi obenem kompleksna in kaotična, kot gibanja vremenskih front. Vendar pa je po drugi strani jasno, da napovedovalna zmožnost v kontekstu družbenega komuniciranja ne more biti primerljiva z meteorološko napovedjo, saj obstajajo bistveno večja verjetnost za divergentne poti razvoja, pojav nepredvidljivih zunanjih dejavnikov in težje odpravljiva pristranskost raziskovalca. Ena temeljnih razlik z meteorologijo je tudi odsotnost temeljnega koncepta ali enotne metodologije, s katero bi lahko preučevali lastnosti sodobnih algoritemsko generiranih digitalnih okolij.

V literaturi se sicer najpogosteje kot ključna - ter z vidika javne sfere najbolj problematična – izpostavljata fenomena filtrirnih mehurčkov oziroma odmevnih komor (ki sta jih že več kot deset let nazaj razvila Eli Pariser oziroma Cass Sunstein). Oba koncepta sta zmožna razložiti pojav fragmentacije javnosti, obenem pa tudi naznačujeta izkustveno lahko doumljivo in na vsakdanji ravni lahko razložljivo stanje informacijske ujetosti in izoliranosti. Ta izoliranost naj bi bila s stališča uporabnika nevidna: podobno kot vaščan kake odročne vasi naj bi ta lasten mehurček enačil s celotnim svetom in bil nezmožen reflektirati lastno informacijsko ujetost. Vendar pa je zelo velik problem ta, da številne empirične raziskave tovrstnega učinka delovanja algoritmov na konzumiranje informacij ne potrjujejo (denimo v primeru Google Newsa, Youtuba). In ravno ta diskrepanca med izkustveno privlačnostjo koncepta in nezmožnostjo njegove empirične potrditve se zdi vredna nadaljnje pozornosti.

Fragmentacije in polarizacije digitalnih javnosti torej ni mogoče razložiti z informacijsko izoliranostjo in vprašanjem dostopa do raznolikih vsebin. Prav nasprotno, včasih se zdi, da ni bilo nikoli lažje kot danes preveriti, kakšna mnenja krožijo po kakšni povsem tuji digitalni vasi: novodobna radikalna desnica, denimo, podrobno pozna Adorna, poročanja Nove24 pa močno odmevajo tudi v povsem nasprotno mislečih mehurčkih. Jasno je vsaj to, da če ujetost v filtrirni mehurček obstaja, ta ni v nobenem smislu podobna ujetosti v informacijsko okolje Severne Koreje.

Prej se zdi, da je za težave sodobne digitalne javne sfere ključno razumevanje občinstva kot konzumentov vsebin, katerih potrebe morajo biti zadovoljene. Kot pokaže Nick Seaver v svoji antropološki študiji razvojnikov iz Silicijeve doline, ti o priporočilnih algoritmih in ostalih infrastrukturnih elementih pogosto razmišljajo kot o pasteh, v katere se uporabniki sprva ujamejo ter se nanje sčasoma navadijo, kar imanentno vodi v reprodukcijo odvisniških in kompulzivnih vzorcev obnašanj. Eden izmed izvorov tovrstnega razmišljanja je B. J Fogg, utemeljitelj kaptologije – vede o računalnikih kot prepričevalnih tehnologijah, katerih namen je spreminjanje človeških prepričanj in obnašanj. Tovrstno razmišljanje se sklada z libertarnim razumevanjem interneta kot povsem nereguliranega trga, kjer je dovoljeno vse, kar se lajka in klika, kar tako v dobrem kot v slabem zaznamuje razvoj interneta, digitalnega divjega zahoda, in ključno določa njegovo osnovno arhitekturo. Ta je, navkljub svoji razpršeni in anarhični naravi, nagnjena k tvorjenju monopolov v obliki digitalnih platform.

Četudi morda nameni tovrstnih teorij že v izhodišču niso bili slabi, se zdi retroaktivno jasno, da je vedenja najlažje nadzorovati z odvisniškim tipom simulacije osnovnih in vsakdanjih vrednot, denimo prijateljstva, in s konstantnim, kvantificiranim nagrajevanjem. Človeška neracionalnost je skratka precej predvidljiva in lahko vodljiva. V tem kontekstu so posebej zgovorni številni priročniki za nadobudne spletne podjetnike (glej denimo Hooked: How To Build Habit-Forming Products), ki skozi behavioristično teorijo pokažejo, da so bile najbolj uspešne tiste digitalne platforme, ki so zmožne svoje uporabnike »prisiliti«, da se na njihovih časovnicah znajdejo, še preden si to zares zavestno želijo. Znotraj tovrstne paradigme veliko bolj od zavestne povratne refleksije uporabnikov o lastnih preferencah štejejo nezavedni, ponavljajoči se vzorci obnašanj. In ravno tovrstna togost in navajenost na določen tip informacij ter argumentacij je tista, zaradi katere se zdi poskus spreminjanja mnenja nekoga iz nasprotne mnenjske skupnosti povsem nemogoč. Prav tako pa se tovrsten princip globoko zažira tudi v najgloblje pore medijskega poročanja in distribucije novic – denimo v načine klikolovnega pisanja medijev, ki skušajo uloviti nove uporabnike po socialnih omrežjih (raziskava, ki sva jo o tem in podobnih fenomenih opravila s Sašom Slačkom, bo objavljena v kratkem).

Na začetku omenjeni dokumentarec Socialna dilema uspešno pokaže, kako globoko v osnovne principe tehnološkega razvoja je vpisana tovrstna logika zasvojitve. Žal pa dokumentarec izpade nekoliko fatalistično in ne uspe ponuditi nobene alternative. Upor proti tehnologiji uvidi predvsem v malih individualnih praksah, kot je brisanje profilov na socialnih omrežjih, v skrbi za lastno zasebnost, duševno zdravje in medosebne odnose. Kot izpostavljajo v kritiki na Jacobinu, naj bi k temu ključno prispevala predpostavka tehnološkega determinizma, zaradi katere dokumentarec ni zmožen uvideti »daljše zgodovine in širše strukture« današnjih problemov. Dojemanje občinstva kot konzumentov vsebin denimo ni specifika zgolj digitalnih okolij, ampak precej starejši princip delovanja komercialnih medijev, ki svoja občinstva prodajajo oglaševalcem. Četudi pa je jasno, da odvisniška struktura povsem ustreza širšim principom delovanja podivjanega kapitalizma, je poudarek »kriv je kapitalizem in ne tehnologija« v svoji skrajnosti podobno brezidejen kot kritizirani tehnološki determinizem. Implicira namreč, da je znotraj danega nemogoče intervenirati, če ne spremenimo sistema kot celote. V nasprotju z obema skrajnostma pa se zdi, da je pravi izziv današnjega trenutka vzpostaviti vmesne konkretne prakse, ki, četudi ne bodo predstavljale radikalne revolucije, vseeno ne bodo povsem zanemarljive.

Pri vpeljevanju teh sprememb se zdi ključno upoštevati spoznanje, da je treba koncept raznolikosti razumevati širše, torej ne zgolj kot raznolikosti na ravni dostopnih vsebin, kot to implicirata koncepta odmevne komore in filtrirnih mehurčkov. Nasprotno, vprašanje je, kako doseči pluralizem na ravni globljih principov, ki usmerjajo delovanje tehnologije. Kot v svojih prispevkih v zborniku Premisleki o prihodnosti medijev med drugim izpostavljata Lenart J. Kučić in Igor Vobič, internet poleg privatne iniciative nujno potrebuje tudi intervencije javnih institucij, ki na uporabnika ne gledajo kot na konzumenta, temveč v ospredje dajejo univerzalni dostop do verodostojnih informacij. Poleg tega bi veljalo spodbujati vzpostavitev različnih skupnostnih principov digitalnega samoupravljanja.

Premisleke o spremembi principov pa med uporabniki sproža tudi izoliranost zaradi epidemije, ki jo spremljata naraščanje informacijsko generirane tesnobnosti in raznoraznih internetnih odvisnosti. Zasvojen uporabnik namreč pogosto na dolgi rok ni zadovoljen uporabnik, kar je problematično tudi iz povsem tržnega vidika. V tem kontekstu se kot posebej problematična kaže praksa deljenja podatkov o posameznem uporabniku med različnimi platformami, kar spodbuja osebnostno enodimenzionalnost in preprečuje možnost raznolikih odrazov istega subjekta, ki različne platforme uporablja za različne namene. Nekateri tudi razmišljajo, da bi moral Google uporabnikom ponuditi večjo možnost aktivne participacije in izbire glede tega, ali naj rezultati poizvedbe informirajo ali zabavajo. Morda bi bilo tudi širše smiselno vztrajati pri bolj striktnem razlikovanju med estetskimi in informativnimi ter političnimi in apolitičnimi vsebinami in to razlikovanje smiselno aplicirati v splošno internetno strukturo. Algoritemska personalizacija, tvorba mehurčkov in prilagajanje okusu občinstva so namreč bistveno manj problematični v primeru konzumiranja glasbe ali filmov kot pa v primeru informiranja o aktualnem političnem dogajanju ali stranskih učinkih cepiva.

facebook twitter rss

 

Podprite kakovostne radijske vsebine tudi v koronski dobi, kliknite na

 

Prikaži Komentarje

Komentiraj

Plain text

  • No HTML tags allowed.
  • [[nid:123]] - Insert a node content
  • Samodejen prelom odstavkov in vrstic.
  • Spletni in e-mail naslovi bodo samodejno pretvorjeni v povezavo.

Z objavo komentarja potrjujete, da se strinjate s pravili komentiranja.

randomness