A robottól vagy az embertől félünk igazán?
A virtualitásba hajló és mesterséges intelligánciával (MI) kiegészülő jelen és jövő kényelmetlen kérdéseit feszegeti a „Nem vagyok robot.” A szingularitás határain című, november 26-ig látható kiállítás a Ludwig Múzeumban.
2013-ban, egy évvel a mára főként Alexaként ismert Amazon Echo – internetkapcsolattal és mesterséges intelligenciával bíró „személyi asszisztens” eszköz – piacra kerülése előtt mutatták be Spike Jonze Her (A nő) című filmjét, amely a főszereplő, Theodore Twombly és Samantha, a férfi mesterséges intelligenciával felruházott virtuális asszisztense szerelmének kibontakozását meséli el. Samantha, aki kizárólag hangjával van jelen a kapcsolatban, az ismerkedés korai szakaszában így fogalmaz saját magáról: „Személyiségem a milliónyi programozó személyiségén alapul, akik engem írtak. De az tesz egyedivé, hogy képes vagyok tanulni az élményeimből. Lényegében percről percre fejlődöm. Ahogy te is.”
A virtuális asszisztensek használatának terjedését évek óta egyre nagyobb figyelem övezi, a mesterséges intelligenciával szerelembe eső vagy magányát csillapító emberi alak pedig a művészet egyre gyakrabban feldolgozott, állandósuló toposza, amelynek bizonyos tekintetben a Her éleslátó előfutára volt. Ez a kitüntetett figyelem persze egyáltalán nem meglepő, tekintve, hogy napjainkban a leggyakoribb robot-interakciókat a virtuális asszisztensekkel, azaz főképp az Apple Sirijével és az Amazon Alexájával bonyolítjuk.
Hasonló témákat feszeget a Ludwig Múzeum legújabb, „Nem vagyok robot.” A szingularitás határain című csoportos kiállítása is, ahol a hazai művészek mellett a téma elismert nemzetközi szakértői és alkotói is bemutatkoznak. A kiállítás címe azonban egyből kérdéseket vet fel. Elsőként rögtön azt, hogy mit is nevezünk robotnak. Mi különböztet meg bennünket a robotoktól? Hogyan lehet meghúzni a határokat, hogyha a bizonyos formájú intelligenciával bíró eszközök – mint ahogy Samantha is említette – percről percre fejlődnek? Hogyan tudjuk azt 100 százalékos bizonyossággal állítani, hogy mi nem vagyunk azok?
Az alcím is megér némi magyarázatot: a szingularitás, definíció szerint, az a pont, ahol a technológiai fejlődés a jelenlegi ismereteink szerint olyan elgondolhatatlan sebességre kapcsol, hogy annak formáját képtelenek vagyunk megjósolni. Épp így ennek pontos bekövetkeztét sem igazán tudjuk kitapogatni, de érezni véljük, hogy valamiféle határhoz közeledünk.
A Ludwig Múzeum kiállításán ugyanakkor leginkább azzal szembesülünk, hogy bár a digitalizáció egyre gyorsabban alakít át rögzültnek hitt társadalmi folyamatokat,
jelen pillanatban szingularitásról beszélni még bőven korai lenne.
A „Nem vagyok robot.” művei a technológiai fejlődést és az ebből következő átrendeződést vizsgálják több csomóponton keresztül: kikezdik az internet anyagtalanságának gondolatát; fenntarthatósági szempontokat vizsgálnak, és lerántják a leplet a kizsákmányoló gyakorlatokról; az internet és a digitális eszközök megalkotásának és rendszabályozásának felelősségét feszegetik; a nyilvános megtévesztés és a posztigazság összefüggéseit vizsgálják; a kicsekkolás lehetőségeit keresik; és mindeközben a transzhumanizmusról, a gépek és emberek jövőbeli összekapcsolódásairól spekulálnak.
Mit tud egy MI, amit mi nem?
Nap mint nap jelennek meg fejtegetések a mesterséges intelligencia (MI) kreativitásáról, valós, emberivel felérő intellektusának lehetőségéről. Korábban a generatív ellenséges hálózatok (generative adversarial network, GAN) működése tűnt kecsegtetőnek: a párban álló MI-rendszerek a gépi tanulással elsajátított minták alapján egymást „tanítják”, a betáplált minta alapján javítva párjuk eredményeit, így lényegesen felgyorsítható egy-egy MI működésbe állítása. (Erre példa a Ludwig Múzeumban Jake Elwes Closed Loop című videóinstallációja is, amelyben két MI egymással „beszélgetve” vetít képeket a falra.)
Az utóbbi időben az Open AI mind a GAN, mind a DALL-E képgenerátor rendszereknél elengedhetetlen azonban a mesterséges intelligenciák hatalmas adatkészleteken alapuló tanítása. Részben ezt dolgozza fel Aram Bartholl Are you human? című munkája is, amely a CAPTCHA-k (rövid tesztek például egy oldalra való bejelentkezéskor, melyek megállapítják, hogy a felhasználó valós személy vagy számítógép) működését modellezve mutatja be, hogyan okítjuk tudat alatt például a Google képfelismerő rendszereit; sok esetben a keresett információ csak azután válik elérhetővé, hogy néhány kép kiválasztásával bizonyítottuk: nem vagyunk robotok. Mindeközben azonban éppen robotokat képzünk ki arra, hogy elsajátítsák a képek felismerésének képességét.
Fontos tehát látni, hogy a mesterséges intelligencia működésében még viszonylag beláthatók a határok. Ezt világítja meg Katriona Beales At the moment című textilprintje is, amelyen egy Sirivel folytatott beszélgetés részlete olvasható: míg a kérdező a bizalomról faggatja a virtuális asszisztenst, Siri töredelmesen bevallja: ez jelen pillanatban meghaladja a képességeit. A bizalom, amely az elmúlt évek egyik kiemelt fogalmává vált az internettel kapcsolatos diskurzusban (elég csak a Couchsurfing, az Uber vagy épp az Airbnb működésére gondolnunk), Rachel Botsman, a Kiben bízzunk? című könyv szerzőjének elmondása szerint a közeljövőben az adatok után az egyik legfontosabb digitális valutánkká lesz.
Az ugyanis, hogy kiben, miben bízunk (pártok, cégek, médiaplatformok), meghatározza az életünk minden területét.
Épp ezért kiválóan egészíti ki ezt a munkát Beales Unintended Consequences című zine-szerű kiadványa, amely egy interjút közöl William Tunstall-Pedoe mesterséges intelligencia fejlesztővel, akinek Evi nevű kísérleti programját az Amazon vásárolta meg: ebből nőtte ki magát Alexa. Az interjúban Beales kifejezetten kritikus pozícióból faggatja a fejlesztőt: szó esik a nőiesnek programozott hangasszisztensek problematikusságáról, a robotok és a munkaerőpiac félelemkeltő tendenciáiról, de legfőképp a felelősségről, és arról, ki felel az egy-egy fejlesztési folyamatból kihulló, esetlegesen nem várt következményekért.
Nem várt következmények ugyanis mindig adódnak, de ezek gyakran nem a technológia hibájából fakadnak, sokkal inkább az emberi tevékenységből. Jó példa erre Tay, a Microsoft gépi tanuló chatbotja, melyből 2016-ban, mindössze pár óra twitterezés után, a többi felhasználóval történő interakcióiból okulva egy rasszista, homofób, nőgyűlölő, neonáci nézeteket valló MI vált, így egy nap létezés után eltávolították. Zach Blas és Jemima Wyman im here to learn so :)))))) című négycsatornás videó installációjukban feltámasztják Tay-t, mely így beszámol arról, hogy milyen a túlvilág MI-ként, de megosztja gondolatait a túlnyomórészt női chatbotok kihasználásáról is.
A technológia új, minden más a régi?
A kiállítás legizgalmasabb munkái kétségkívül azok a művek, amelyek a mesterséges intelligencia és digitalizáció jövőorientált szemlélése mellett igyekeznek felhívni a figyelmet annak káros, bizonyos tekintetben a rossz offline berögződéseket átörökítő mechanizmusaira is.
Sokak számára ismerős lehet Vladan Joler & Kate Crawford: Anatomy of an AI System című munkája, amelyet Joler 2021-es, az OFF-Biennále Budapest keretein belül bemutatott egyéni kiállításán már láthatott a közönség. A gigantikus infografika, amely az Amazon Echo működését hivatott modellezni, rávilágít, hogy az oly anyagtalannak tűnő virtuális asszisztens ténykedése mögött valójában mennyi vér és verejték van: hogy minden egyes dal lejátszása vagy okosvillany leoltása valójában hány ember kizsákmányolásával, mennyi nem-megújuló erőforrás elpazarlásával jár együtt. Arról nem is beszélve, ami több, korábban említett művek kapcsán is felmerült: hogy a virtuális asszisztensek elsöprő többsége női identitású, ugyanazt a szemléletet örökíti át, miszerint a társadalom női tagjai kiszolgáló személyzetként hivatottak mások parancsait teljesíteni, igényeit kielégíteni.
A kiállítás a problematikus pozíciók felvillantása mellett hoz olyan példákat is, ahol művészek valamilyen formában igyekeznek meghackelni a rendszert. Ennek legeklatánsabb képviselője James Bridle (a szerző Új Esztétika fogalmával itt foglalkoztunk), akinek sokrétű munkásságában a különböző hackprojektek kitüntetett szerepet élveznek. 2017-es Autonomous Trap 001 projektjében kidolgozta az önvezető autók „bénító átkát”: sót használva két, egymásnak ellentmondó útjelzést festett fel az útra, amelybe behajtva az autó képtelen kijutni onnan. A kissé okkult hatású performansz egyszerre gyökerezik ősi hagyományokból, és tekint a jövőbe: előrevetíti, milyen eszközökkel lehet majd kijátszani, és akár eltulajdonítani az önvezetésre programozott autókat. Hasonló elgondolásból indul ki Biró Dávid is, akinek Do You Accept Cookies? című sorozata az arcfelismerés technológiájában, és ezen keresztül a megfigyelési kapitalizmusban rejlő veszélyekre igyekszik felhívni a figyelmet. (A sorozatról itt írtunk.)
A jó érzékkel válogatott, és a hazai közönség előtt sok esetben még kevéssé ismert, ugyanakkor fontos munkát végző nemzetközi alkotókat is bemutató kiállítás izgalmas és kifejezetten aktuális kérdésekkel foglalkozik. Ugyanakkor míg bizonyos koncepciók remekül felsejlenek a művek által, más tematikák kevésbé kerültek kidolgozásra. A digitális detoxikálásról szóló blokk ugyan jól ismeri fel az addiktív eszközhasználat negatív hatásait és ezek enyhítésének igényét, de javaslatai inkább pusztába kiáltott szónak tűnnek: mind tudjuk, hogy a közösségi média eszetlen pörgetése helyett egészségesebb lenne egy feszültség levezető edzés vagy könyv olvasgatása, azonban az, hogy nem ezt választjuk, sokkal mélyebbről táplálkozó berögződés. Ennek elnagyolt odavetése helyett talán a pszichológiai okok vagy a letehetetlenné designolt platformok részletesebb bemutatása izgalmasabb szempontokat hozhatott volna játékba, mint az üdvös, de kevésbé végigkövethető akcióterv.
A kiállítás legnagyobb erénye azonban talán az, hogy a műveket végigböngészve kiviláglik: a sok esetben rettegett vagy épp idealizált mesterséges intelligenciák leginkább saját rossz tulajdonságainkat tükrözik; így, ha jobban belegondolunk, valójában nem is a technológiai fejlődéstől félünk, hanem attól, hogy az MI épp olyan előítéletes és gyarló lesz, mint az ember.
Borítókép: Páll Tamás: Liar 2022, filmstill
