Ar pasitikite skaitmeniniais antrininkais? (I)

Kažin ar šiandien ką nors nustebintume pareiškimu, jog kasdieniame gyvenime mus supa kūno funkcijas pratęsiantys automatai arba asmens tapatybę analizuojančios „protingosios programėlės“. Įvairiausi skaitmeniniai padėjėjai kartais būna gana aktyvūs, netgi įkyriai besibraunantys į dėmesio lauką. Kai kurie mūsų įprato prie vadinamųjų asmeninių, nuolat besimokančių, asistentų. Unifikuotuose institucijų puslapiuose dažnai užduodamų klausimų ir atsakymų skiltis savo ruožtu papildo automatizuotas kontaktas su sistema realiuoju laiku. Iki normalaus bendravimo čia dar toli. Vis dėlto esama kompanijų, jau siūlančių kur kas artimesnį ryšį su nematomu skaitmeniniu Kitu (pavadinkime tai dirbtiniu intelektu, DI), – tokių siūlymų pagausėjo nuo pat pandemijos pradžios. Kai kuriose šalyse reklamuojami ne vien skaitmeniniai kompanionai ar ramintojai, bet netgi esą rimti psichologai – per krizę išaugus eilėms prie terapeutų kabinetų tai tapo ypač aktualu. Tačiau išsyk verta pabrėžti, jog šis skverbimasis į žmogaus psichiką yra gana kontroversiška, ne veltui medikų priekaištų sulaukianti sritis.

Neapibrėžtuose hibridiniuose komunikacijos kanaluose, žinia, slypi savi pavojai. Pavyzdžiui, policija perspėja, jog itin išmanūs tampa telefoniniai sukčiai. Tik Lietuvoje paprastai sukčiauja kaliniai ir nebūtinai subtilių technologinių gebėjimų turintys asmenys, o platesniame pasaulyje jau būta atvejų, kai didelės pinigų sumos buvo išviliotos kažkam klausantis nurodymų darbiniu telefonu. Vienos bendrovės darbuotojas tiesiog pasikliovė gerai pažįstamu viršininko balsu ir intonacijomis, tačiau vėliau paaiškėjo, jog žmogų skaudžiai apsirikti privertė gerai sufabrikuota sintetinė balso klastotė.

Džiaugiuosi, kad Lietuvoje net ir paprasti automatizuoti skambučiai dar nėra tokie įkyrūs kaip kitur, ir tikiuosi, jog jie vis dar dažniau atlieka pagalbines, nei vien reklamines, funkcijas (dėl visas ribas peržengiančio brovimosi į asmeninę erdvę JAV automatinius telefoninės rinkodaros skambučius 2020 m. siekta apskritai uždrausti). Iš tiesų, juk nieko blogo, jei kartais telefonu patrukdo oficialioms institucijoms atstovaujantys vadinamieji garsiniai vedliai. Štai anądien atsiliepus vyriškas balsas pranešė apie šildymo sezono pradžią mano rajone, nė neklausiamas patarė, kaip elgtis namo gyventojams, jei radiatoriai nešyla (manau, tai buvo iš anksto įrašytos, o ne susintetintos frazės). Mėginant gauti kai kurias paslaugas, taip pat atliekant apklausas, panašiai aktyvuojami ir malonūs moteriški, ne tik vyriški, balsai.

Tačiau „koliažinėje“ komunikacinių santykių srityje visu aštrumu iškyla dažnai netikėti manipuliacijų klausimai. Juolab kad į dėmesio lauką nuolat braunasi tiek balsai, tiek vaizdai. 2021 m. Nidos fotografų seminare skaitydama pranešimą apie DI suklastotus veidus akcentavau pasaulyje išaugusią baimę dėl politinių manipuliacijų prieš svarbius rinkimus. Po tų pat metų pradžioje vykusių audringų grumtynių su Donaldo Trumpo šalininkais Joe Bidenas jau buvo negrįžtamai įsitvirtinęs JAV prezidento poste. Bet žiniasklaidos forumuose toliau skambėjo nuogąstavimai dėl vadinamųjų deepfake’ų (sintetinių klastočių) galimybių, aiškintasi, kiek galima padaryti žalos įvairių šalių visuomenėms pasitelkiant vadinamuosius mašininio mokymosi įrankius. Anuomet taip pat pastebėjau, jog depfake’inės manipuliacijos ne visuomet reiškia sąmoningą siekį apgauti meluojant. Vis dėlto būtent piktavalių intencijos maždaug nuo 2018 m. viešumoje linksniuotos dažniausiai. Į tai atsižvelgiant įvairiose šalyse jau kuriami piktybinį elgesį internete užkardantys įstatymai, o teisininkai, aktyvistai, skaitmeninio raštingumo ekspertai dalinasi ne vien nuogąstavimais, bet ir racionaliais patarimais. Deja, melas, propaganda, kaip ir patyčios, persekiojimas ar buvusių asmeninio gyvenimo partnerių šantažas – visi tie tamsiuose interneto užkaboriuose glūdintys šlykštūs keršto pornografijos (revenge porn) lygiai, – taip pat nepažįstamų žmonių skaitmeninės tapatybės grobimo, šantažo ir reputacijos griovimo intencijos niekur nedingo.

Siaubingi asmens sužlugdymo atvejai (nuo Azijos iki Amerikos žemynų) glumina dar ir tuo, jog internete teisės sritis nėra tokia stipri kaip „žemiškajame“ pasaulyje, o atsakomybė už manipuliavimą kai kuriose pilkosiose zonose sunkiai apibrėžiama. Tam tikros (nebūtinai juodžiausios) situacijos formuojasi ir dėl pačių vartotojų nenuovokumo. Iš pažiūros nekaltas pavyzdys – daugybė socialinių tinklų vartotojų visiškai nesivaržydami „atiduoda“ savo veidų fotografijas algoritminio valdymo ir manipuliavimo programoms, atliekančioms smagias satyrines funkcijas. Kai kurios žaismingos telefoninės programėlės ir veidus ekrane  „pagražinantys“ laisvai prieinami įrankiai leidžia džiaugtis karikatūromis bei naujais emotikonais. Šis „tiktokinio“ jaunimo neretai mėgstamas maivymasis taip pat pagreitina vartotojams nematomą itin spartų biometrinių ir kitokių duomenų rinkimą algoritmų savininkų naudai.

Žinia, egzistuoja ir sutartimis apibrėžti būdai užsidirbti. Kai kurios šiuolaikine rinkodara užsiimančios kompanijos legaliai perka įrašytus veidus ar balsus – pastaruosius naudoja reklamai ir panašiems tikslams. O biologiniai pirmavaizdžiai – eiliniai žmonės – randa progą nedaug, tačiau lengvai užsidirbti. Naujai susintetinti balsai, veidai ir kūnai vėliau atlieka pačias įvairiausias funkcijas – jie naudojami mokomiesiems filmams, garsinėms reklamoms užsienio kalbomis, taip pat naujų kalbų mokymui, tampa orų pranešėjais ir pan. Šie įvairaus plauko klonai atveria naujas identiteto vientisumą sutrikdančias erdves, kartu randasi specifinės grėsmės.

Didaktikos besiimantys menininkai

Į grėsmes stengėsi atkreipti dėmesį kai kurie menininkai, technologijų aktyvistai, teisininkai, netgi aktoriai, atradę naujas profesinių gebėjimų panaudojimo galimybes – tapti savotiška „užkadrine medžiaga“ arba tiesiog žaliava DI kūriniams. Maždaug 2018–2019 m. kai kurios kompanijos ir kūrėjų kolektyvai panoro supažindinti interneto vartotojus su naujų sintetinių klastočių galimybėmis bei pavojais ir ėmėsi sąmoningų provokacijų padirbdami žymių politikų – Barako Obamos, Vladimiro Putino, Kim Jong Uno ar reputaciją prarandančių Big Tech vadovų, tokių kaip Markas Zuckerbergas, vaizdo įrašus ir pasisakymus. Į politines ir istorines dezinformacijos galimybes naudojant pomirtinį deepfake’ą atkreipė dėmesį, tarkime, Francesca Panetta ir Halsey Burgundas, su akademinių tyrėjų komanda 2019 m. sukūrę gana sudėtingą instaliaciją „Nelaimingo nusileidimo Mėnulyje atvejui“. Seno televizoriaus ekrane čia rodomas neva istorinis JAV prezidento Richardo Nixono kalbos reportažas, skirtas 1969 m. „Apollo 11“ astronautų misijai. Tais metais iš tiesų buvo parengta (nors realiai niekad viešai neperskaityta) prezidento kalba, kurioje apgailestaujama dėl (tariamos) astronautų žūties. Kitaip tariant, kadaise egzistavo atsarginis žiniasklaidai iš anksto parengtas naratyvas galimos nelaimės atvejui. Rimtu balsu kalbantis susirūpinęs Nixonas šiandien atrodo tikroviškai ir taip atlieka savo „pomirtinę misiją“, perspėdamas žiūrovus apie realų istorijos iškraipymo pavojų. O aptariant minėtą kūrinį diskutuojama ne tik apie galimus suvokimo klystkelius, bet ir apie mašininio mokymo algoritmų specifiką bei šiai specialiai progai pasamdytų su Nixono veidu ir balsu „sumiksuotų“ gyvų aktorių pastangas.

Dinamiškoje žmogaus ir jį / ją neva vis „pralenkti“ mėginančių, greit tobulėjančių technologinių įrankių istorijoje intriguoja ir gana specifinė, laikui bėgant vis pasikartojanti pasipiktinimo emocija. Juk retai kam patinka būti „išdurtam“. Šios besipinančios reakcijos – viena vertus, sutrikimas neatpažinus skaitmeninės klastotės, kita vertus, nepagrįstų lūkesčių išprovokuotas susierzinimas, nepasitenkinimas arba nepasitikėjimas – tvyrojo ir kai kurių šių metų „Sirenų“ teatro festivalio spektaklių paraštėse. Kai kuriuos pasirodymus juk taip pat nesunku buvo sieti su didaktinėmis intencijomis (galiu kalbėti tik apie savo pačios matytuosius: Stefano Kaegi režisuotą „Nejaukos slėnį“ ir Simono Senno kūrinius – „Būti Ariele F“ bei jo kartu su Tammara Leites atliktą performatyvią paskaitą „dSimon“). Visus spektaklius jau aptarė Lietuvos teatro kritikai, o man šiuo atveju įdomūs ne tiek patys kūriniai, kiek tam tikros prielaidos, paskatinusios kūrėjus imtis naujos skaitmeninės būtybės simuliavimo.

„Menų spaustuvėje“ šveicaras Sennas – vizualiųjų menų kūrėjas ir personažas viename asmenyje – demonstravo savojo dublio gebėjimus. Siekė suintriguoti žiūrovus jam pačiam netikėtais naujai sukonstruoto ir „dSimonu“ pasivadinusio dirbtinio intelekto siūlymais. Šie buvo tiek pat įžūlūs, kiek ir absurdiški. Kitame spektaklyje Sennas matavosi (gana tiesiogine prasme) internete įsigytą nuskenuotą anoniminės merginos 3D kūną. Šis prisijungus prie savojo biologinio kūno specialius jutiklius atgijo ekrane, o Sennas pasakojo, kaip ilgainiui pažeidė anonimiškumo principą ir susipažino su pirmavaizdžiu – tikra Londone studijuojančia Ariele (kuri kažkada pardavė savo atvaizdą www.3dscanstore.com kompanijai). Už 12 dolerių egzotišką prekę įsigijęs menininkas nesitikėjo, kad taip įsijaus, netgi savotiškai įsimylės moters apvalkalą (ne Arielę). Todėl tolesnės pusiau skaitmeninio gyvenimo ne savame kūne galimybės jį trikdė, mat kilo klausimas – kiek toli su šiuo įsijautimu galima nueiti?

Sunkiai atsakomi klausimai kirbėjo ir klausant bei ekrane matant surašytus ekspertų ir teisininkų aiškinimus apie (ne)tinkamą produkto naudojimą. Viena vertus, skaitmeniniais kūnais prekiaujančios kompanijos atstovai teigė, jog su įsigytomis prekėmis vartotojai gali elgtis kaip tinkami. Kita vertus, teigta, jog skenų negalima viešai naudoti kuriant seksualiai atvirą turinį (t.y. pornografiją). Bet sutarties ir joje esančių nuorodų smulkiu šriftu juk nematėme, nenuostabu, jog ir naujasis produkto savininkas negalėjo žinoti, kada „licencijuotos“ prekės naudojimas jau peržengia kažkokias ribas arba kaip garantuoti, jog, tarkime, privačiai su erotine intencija įsigytas kažkieno atvaizdas ilgainiui netaps nežinia kam prieinamu „pornografiniu turiniu“.

Tokie klausimai pakimba ore, mat teisė vienprasmiškų atsakymų į juos kol kas neturi (tą iliustruoja ir kai kurios tamsiojo interneto užkaboriuose plintančios minėtos piktnaudžiavimo galimybės). O jei kas nors vis dar mano, kad su kokia nors bendrove pasirašyta sutartis aiškiai įvardija visas sąlygas ir saugo jo(s) skaitmeninį atvaizdą ateityje, linkiu sėkmės aiškinantis kada nors iškilusius nesklandumus kokioje nors atokioje užsienio šalyje. Apskritai, nepatogūs klausimai, kurie vertė ir tebeverčia sutrikti, čia ir buvo labiausiai intriguojantys dalykai, plačiau aprašyti ir festivalio spektaklių Viktorijos Sinicynos recenzijoje (O jei iš jūsų atvaizdo pagamintų virtualų kūną? 7md, Nr. 33).

B. d.