Ar pasitikite skaitmeniniais antrininkais? (II)

Balsai ir žvilgsniai iš anapus

Skverbimasis ne tik į dabartį, bet ir į mirusiųjų pasaulį, prisipažinsiu, glumina, nepaisant žinojimo, jog prie ekscentriškų įrankių greit priprantame. Pavyzdžiui, 2021 m. pradžioje ne vienas džiaugėsi ką tik pasirodžiusiu įmonės „MyHeritage“ pasiūlytu „Deep Nostalgia“ produktu. Čia demonstruojami žinomų istorinių asmenybių veidai sumirkčioja, nusišypso, galima stebėti ir subtiliai besikeičiančią niekada gyvai nefilmuoto žmogaus mimiką. Mat senovines fotografijas bendrovės puslapyje koregavo neuroninių tinklų programa, „atgaivinanti“ pasirinktą veidą trumpame vaizdo įraše. Greičiausiai norėdama užkardyti neetiškus veiksmus, „MyHeritage“ uždraudė paprastiems vartotojams naudoti programą su gyvų asmenų arba svetimų žmonių fotografijomis. Taip tarsi siekiama „užsitikrinti“ legalų mirusio žmogaus vaizdo panaudojimą, t.y. gaunamas šeimos sutikimas. Tačiau paties mirusiojo apie tokį sutikimą paklausti nebeįmanoma, o juk negalime būti tikri, jog iškeliavusieji anapilin su viskuo sutiktų. Kad ir kaip žiūrėsim, nėra akivaizdu, kad mirusiųjų tapatybė turėtų tapti viešąja gėrybe, kuria galėtų laisvai manipuliuoti ateities kartos.

Priešingai nei organų donorystės atveju, svarstant, ką ateityje galėtų „nuveikti“ kažkieno skaitmeninių duomenų sankaupos, ilgainiui iškyla ir daugiau neaiškumų. Mat gerėjant balso sintetinimo ir generavimo technologijoms kai kurios kompanijos pasiūlė vartotojams nors ir netobulą, bet jau pakankamai išplėtotą bendravimą su mirusių artimųjų balsais. Gyvų žmonių balso įrašus po jų mirties apdorojanti programa, tarkime, leidžia „prakalbinti“ mirusius tėvus. Tačiau ilgi pokalbiai gali gerokai sutrikdyti gyvų žmonių psichikai būtiną gedėjimo procesą, gal netgi visai rimtai pažeisti jų būklę. Šiuos produktus jau išbandžiusieji toliau spėlioja, jog ilgainiui daug kas priklausys nuo komunikacijos paveikumo ateityje bei gyvo žmogaus įsijautimo kalbant su kažkuo, kas tėra skaitmeniniai mirusiojo praeities likučiai.

Tas pats galioja ir dabarčiai. Sunerimęs dėl pernelyg didelio įsijautimo į nepažįstamos moters kūną, per pasirodymą Vilniuje Sennas pasakojo pradėjęs lankytis pas psichologę (ši, beje, paaiškino, jog nuogąstauti menininkui kol kas nėra dėl ko). Variacijų čia gali būti įvairių, tačiau nesunku nuspėti, jog po žmogaus mirties pernelyg aktyviai į mūsų gyvenimą sugrįžę jo(s) antrininkai gali ne tik pradžiuginti, bet ir griauti reputaciją, pažeisti vienprasmiškai vis dar neapibrėžiamas teises į privatumą. Distopinės ateities scenarijus bendraujant su „iš anapus“ grįžusių žmonių pavidalais prieš keletą metų, beje, puikiai išplėtotas kai kuriose garsiojo Charlie Brookerio prodiusuoto serialo „Juodasis veidrodis“ serijose.

Apžvalgininkų ir kritikų reakcijos į naujuosius produktus, natūralu, nevienprasmiškos. Kai 2021 m. vasarą pasirodė dokumentinis filmas apie garsųjį virtuvės šefą Anthony Bourdainą, kilo diskusijos dėl filmo kūrėjų etikos, nes atkuriant herojaus balsą pasinaudota DI galimybėmis. Iš autentiškos archyvinės medžiagos susintetintas kalbėjimas perteikė trumpas 2018 m. mirusio Bourdaino rašinių ištraukas, ir tai buvo įvardinta kaip moderni pasakojimo technika. Vis dėlto filme skamba kai kurios kažkada tik užrašytos, bet ne gyvai ištartos frazės, dėl to kino kūrėjai kaltinti nejautrumu, klaidinimu. O jau 2022 m. „Netlix“ platformoje paleistas serialas „Andy Warholo dienoraščiai“, kuriame taip pat naudojamas dažnai skambantis popkultūros ikonos balsas, rodos, nelabai ką bepiktina (menininko už kadro skaitomi dienoraščiai seriale taip pat perskaitomi sumanios balso generavimo programos, kuri pasinaudojo kai kuriais senais garso įrašais ir kito gyvo aktoriaus balsu). Taigi gana jautrų istorinį naratyvą čia sustiprina kalbėsenos, tarsenos, tembro autentiškumo įspūdis.

Šis gyvųjų ir mirusiųjų (arba savimi jau nebegalinčių pasirūpinti žmonių) miksavimas ne vien aktualizuoja autentiškumo ir pasitikėjimo klausimus, bet ir iš tiesų atveria „nejaukos tarpeklius“ informacijos perviršiaus nuvargintose smegenyse. Nors ir nebūtinai tiksliai taip pat kaip japonų robotikos profesoriaus Masahiro Mori 1970 m. permąstytoje „nejaukos slėnio“ koncepcijoje. Štai visai neseniai žinomas tinklalaidžių kūrėjas Joe Roganas pakalbino kitą įžymybę – „Apple“ įkūrėją Steve’ą Jobsą, o dinamišką pokalbį iš abiejų balsų sukūrė balso generatorius „Play.ht“. Daugeliui ne paslaptis, jog Roganas yra ne tik vis dar gyvas, bet ir itin aktyvus socialinių tinklų veikėjas, nuolatos paliekantis internete daugybę įrašų, taigi ir laidos vedėjo ištarmės sugeneruotos greičiau. O 2011 m. mirusio Jobso viešai prieinamų garso įrašų repertuaras skurdesnis, todėl vedėjui sukurpti naują pašnekovą nebuvo taip lengva. Dabarties temomis samprotaujantis balsas skambėjo kiek mažiau įtikinamai, tačiau tinklalaidėje informacinių technologijų guru vis tiek reiškė savo nuomonę apie kitas Big Tech kompanijas, religiją, psichodelinius narkotikus ir XXI a. darbo etiką. Šią apgavystę kūrusi bendrovė tiesiai šviesiai deklaravo, jog netrukus internete viską darys DI, o žmogus tiesiog taps savotišku kuratoriumi – žinos, ko nori, ir gebės suformuluoti tinkamas užduotis mašinai. 

Bruce’as Willisas ir kiti pažeidžiamieji

Nauja galimybė modeliams, aktoriams (ir ne tik) tapti grynąja DI kūrybinio proceso žaliava, tarkime, savotišku „užkadriniu“ pamatu generuojant kitokią ateitį, galbūt ir taps įprasta taikomąja profesija. Vis dėlto tikslinga atkreipti dėmesį ir į mažiau nekaltai atrodančius žvaigždžių karjeros vingius. Itin iškalbingas, pavyzdžiui, Bruce’o Williso klastotės atvejis. Šiuo metu aktyvią karjerą nutraukęs aktorius kenčia dėl afazijos (kalbos sutrikimo), tačiau to nežinančiuosius rusiškame reklaminiame videoklipe dalyvaujanti Holivudo įžymybė gali ne juokais sugluminti. Virtualų Willisą pagamino startuolio „Deepcake“ atstovai, kurie panaudojo aktoriaus veidą kurdami veiksmo filmą imituojančią sceną su kitais (gyvais) aktoriais. Teigta, kad kompanija prekiavo deepfake produkcija reklamoms legaliai, tačiau žiniasklaidos pakalbinti Holivudo legendos atstovai vėliau tvirtino, jog viskas vyko nei aktoriui, nei jo atstovams nieko nenutuokiant. Mobiliųjų telefonų operatoriaus reklamoje nebuvo netgi perspėjimo, kad audringo siužeto vaizde rodomas visiškai naujai susintetintas rusišku akcentu kalbantis žinomų filmų personažas (startuolio įkūrėja taip pat paliudijo, jog 80 proc. reklamą mačiusių žmonių buvo įsitikinę, kad joje vaidina gyvas aktorius).

Manipuliatoriai teisinosi papildomai neperspėję žiūrovų kaip tik todėl, kad iš interneto platybėse randamų daugybės minėto aktoriaus vaizdų „skolinosi“ ne dabartinio žmogaus veidą, o gerokai ankstesnių metų portretus. Jie tiesiog nutarė, jog viešai prieinamos gerai atrodančio jaunesnio Williso fotografijos nebėra „tikros“, todėl niekam nebepriklauso ir jas galima naudoti kaip patinka.

Ir iš tiesų, ko gero, egzistuoja begalės pusiau (ne)teisėtų būdų iš teisiškai (pusiau) nereguliuojamos erdvės resursų nugvelbti tai, ką pavadinčiau tapatybių nuotrupomis. Žiniasklaida nuolatos primena ir apie neįtikėtinai įžūlias vagystes bei populiarėjančius įsilaužimus į sistemas. Net ir visuomenių pasitikėjimo dar nepraradusios kai kurios galingiausios didžiosios kompanijos suklumpa saugodamos privatumą. Todėl pasaulyje vis plačiau rūpinamasi skaitmeninės tapatybės teise, įvairiose diskusijose aiškinamasi, kas ir kaip gali valdyti mus supančios informacijos spiečius. Pažangūs politikai kalba apie didesnį, nei iki šiol, žmogaus įgalinimą valdyti savo asmeninius duomenis ir tuo pačiu metu – iš tokių duomenų įvairių bendrovių sukurptus matematinius šešėlius. Tikiuosi, jog panašių diskusijų kontekste dėmesio sulauks ne tik europinė teisė „būti pamirštam“, bet ir įvairios savojo „aš“ dalinio užtemdymo internetinės paieškos sistemose galimybės.

Holivudo aktorių atveju nauji sintetiniai portretai, beje, yra mažiausiai kontroversiški vien todėl, kad kino industrijoje jau senokai plačiai naudojami skaitmeniniai personažai. Veidui, judesiui, balsui įgyjant komercinę vertę automatizuotų atvaizdų pramonės sraute kai kurie gamintojai nori netgi atsisakyti neigiamą reikšmę turinčio deepfake termino, siūlydami pagaliau reabilituoti su mašininiu mokymu siejamą technologiją, kuri savaime nėra kalta dėl to, jog maždaug prieš penkerius metus buvo pradėta naudoti gaminant pornografinius filmukus su falsifikuotais pasaulyje žinomų aktorių moterų veidais. Plintant kompiuteriu kuriamiems filmams, žaidimams, garsinėms knygoms ir t.t. „skaitmeniniai dubleriai“ esą nebeturėtų būti traktuojami kaip problema. Tačiau pasigirsta nuogąstavimų dėl gyvų žmonių – juk parduodant savo veidą ar balsą naujų esybių generavimui gali tekti sudaryti itin painias ir mažiau žinomiems arba jauniems aktoriams nepalankias sutartis. O jei teisė į tapatybę bus pradėta pardavinėti karjeros pradžioje, naujieji tokios teisės valdytojai gali ilgainiui gvieštis biometrinių duomenų kuo didesne apimtimi, t.y. neapsiribojant vienkartine licencija. 

Sennas šių temų savo pasirodymuose lyg ir negvildeno, tačiau kai kuriuos aspektus šiek tiek palietė ekrane pasirodžius Arielei, kurios skaitmeninė antrininkė gyvens ir ateityje, kai biologinis pirmavaizdis pasens ir numirs. Kilo klausimas – kam šis skaitmeninis kiautas, o gal ir daugybė naujų skaitmeninių arielių priklausys? Panašių reiškinių tyrėjai ne veltui retoriškai klausia, ar blogesnę derybinę poziciją užimantys individai apskritai ilgainiui nepraras teisės į parduotą atvaizdą. Išties, visi distopiniai scenarijai taps įmanomi, jei tik skaitmeninis dublis įgis solidžią komercinę vertę: augančias rinkas, kaip visuomet, ilgainiui siekia užvaldyti galingiausios kompanijos.

Beje, šio pobūdžio nuogąstavimai netgi nėra nauji – jau kadaise kai kurios JAV kino studijos su savo teisininkais siekė kontroliuoti ne tik žinomų aktorių dalyvavimo konkrečiame filme sąlygas ar tolesnę franšizių produkciją, bet ir vėlesnius tų pačių aktorių pasirodymus su filmais nesusijusių produktų reklamoje. Todėl teisės teoretikai ne veltui perspėja, jog verta išmokti saugoti skaitmeninės tapatybės teises, jei vėliau nenori atsidurti vaidmenyse, kurių nesitikėjai.

Ar žinote, kieno balsą kitą sykį išgirsite telefone?

Didelė dalis interneto vartotojų, kurie savanoriškai, tiesiog žaisdami, atidavė savo veidus, balsus ar kitus biometrinius duomenis į kompanijų algoritmų malonę, savotiškai primena universalias arieles, niekaip negalinčias atspėti, kas, kada ir kokiam tikslui visa tai panaudos. O juk Senno pasirodyme realiuoju laiku prisijungianti jauna mergina nebuvo paika ir neatsakinga. Ji teisėtu būdu rado progą papildomai užsidirbti, tiesiog ilgainiui kilo logiškų, nors ir sunkiai atsakomų klausimų. Kita vertus, DI neuroniniams tinklams ateityje galbūt netgi visai nebereikės gausybės arielių, (vis dar gyvo) Bruce’o Williso ar kitų įžymybių. Prigeneravę aibes anoniminių veidų, balsų ir išmokę atkurti legendinių atlikėjų ar aktorių tarseną, išvaizdą ar netgi pakartoti specifinius kūno judesius kokiame tik nori amžiaus tarpsnyje, ateities algoritmai galbūt gebės kurti turinį taip, kad žmogaus smegenys gerokai primirš, kas yra „gyvai filmuotas“ vaizdas ir garsas.

O tuo metu pačiais įvairiausiais pavidalais egzistuojantys skaitmeniniai antrininkai, gimę iš atliekų, nuotrupų, socialinių tinklų gijų ar specialiai naujos esybės gamybai panaudotų laiškų, gali įgauti netikėtus pavidalus. „Menų spaustuvėje“ vaidinusi programa „dSimon“ buvo sukurpta programuotojai Tammarai Leites pagaminus menininko antrininką iš jo susirašinėjimų ir „primaitinus“ algoritmą tam tikro turinio. Duomenų sankaupos taip pat gali regresuoti (taip nutiko ir „dSimon“ atveju), įgauti makabriškus pavidalus ar netgi visai išnykti ištrynus kokius nors saugykloje sudėtus failus. Ne pati technologija, o tik ja besinaudojantys žmonės lems, ar tapatybės duomenys nebus panaudoti vulgariai reklamai, melui arba bjauriems nusikaltimams.

Bet neišvengiamai tenka diskutuoti ir apie kai kurių didžiųjų kompanijų bei jų galingų algoritmų akivaizdaus „degradavimo“ procesus. Juk kažkada plačiai deklaruoti ir pasaulį žavėję kilnūs Big Tech tikslai, tokie kaip didėjantis žmonių atvirumas ir „viso pasaulio apjungimas“ pernelyg dažnai virsta automatizuotais botų karais ir itin kenksmingų procesų paūmėjimu komunikacijai skirtuose kanaluose. Juk kai kurių didžiausių socialinių tinklų varikliai tiesiog „pasimetė“ socialinėje mūsų realybėje. Todėl pasitikėjimo nekelia ir raginimai kuo greičiau mums visiems susijungti metavisatose, pasinaudojant korporacijų siūlomais virtualiosios realybės avatarais. 

Šiandieninės išmaniausios pokalbių programos kartais imamos traktuoti kaip protingi pašnekovai: tarkime, kai kurie biologinio kūno neturintys, tačiau sekėjų gausa galintys pasigirti aktyvūs suskaitmeninti influenceriai, panašiai kaip „socialiniai botai“, daro nematomą įtaką jaunų žmonių pasirinkimams subtiliai manipuliuodami. O štai vienas „Google“ kompanijos inžinierius šią vasarą staiga pareiškė, jog pradėjo bendrauti su sąmonę įgavusia mašina. Vis dėlto tokias technologijas kuriantys kompiuterių mokslininkai paprastai mieliau kalba apie naujus sudėtingus didžiuosius kalbos modelius, o ne magiškąjį žiniasklaidos išpopuliarintą dirbtinį intelektą. „Menų spaustuvės“ kontekste naujoji pokalbių programėlė tapo meno kūriniu. Kur kas didesnės asmeninės informacijos sankaupos gali būti panaudotos kuriant ir gerokai kompleksiškesnes komercines bendravimo su hipotetiniais gyvais (ar net mirusiais) žmonėmis platformas. Vis labiau įtikinami garsiniai ir vaizdiniai visiems prieinami universalūs automatiniai pagalbininkai taip pat jau kurį laiką paslaugiai vedžioja žmogaus pirštus po klaviatūrą, gaudo žvilgsnį ekrane, o kartais tiesiog kviečia pasikliauti sistemomis ir atsipalaiduoti. Ko gero, belieka spėlioti, kaip reaguos hibridinės komunikacijos kanaluose įstrigęs ir su savo pagerintu skaitmeniniu „aš“ netikėtai susitikęs asmuo, nenutuokiantis, kieno balsą ką tik išgirdo telefone.