Eugenia Kuyda, rosyjska informatyczka, w 2015 roku była w wielkiej żałobie.
Jej przyjaciel Roman Mazurenko zginął w wypadku samochodowym. Nie mogąc pogodzić się z nagłym rozstaniem, Eugenia postanowiła przezwyciężyć niemożliwą do zaakceptowania nieobecność Romana dzięki technologii. Po trzech miesiącach od śmierci Mazurenki w Internecie pojawił się bot, który komunikował się w jego imieniu.
W jego imieniu?
Technicznie było to możliwe, dlatego że przed tragicznym wypadkiem Roman i Eugenia spędzali ze sobą bardzo dużo czasu online, wymieniając dziesiątki wiadomości. Bot Romana Mazurenki korzystał więc z tzw. silnika biograficznego – bazy wspomnień i informacji, które zostały zaimplementowane do systemu ze wszystkich miejsc, gdzie w czasie swojego życia Roman zostawiał cyfrowe ślady: wiadomości na komunikatorach, zdjęcia, posty w social mediach. Aplikację "Roman Mazurenko" nadal można znaleźć w sieci.
Dwa lata później James Vlahos bardzo tęskni za ojcem.
I powołuje do życia bota imitującego jego zachowanie o nazwie Dadbot, czyli Tatobot. W tym przypadku historia jest nieco inna. U ojca Vlahosa zdiagnozowano nieuleczalną chorobę, więc do jego śmierci rodzina mogła spróbować się przygotować. I właśnie próbą oswojenia tego doświadczenia było nagrywanie przez Jamesa juniora wywiadów z ojcem, które następnie zostały wykorzystane do stworzenia Dadbota. Dadbot opowiada historie z życia Jamesa seniora, śpiewa piosenki, próbuje nawet żartować. Z technologii, jak przekonywał w wywiadach Vlahos syn, (przynajmniej na początku) chętnie korzystała rodzina i przyjaciele.
Rozumiem ich. W rozdzierającej tęsknocie szukamy różnych form ukojenia. Temat komplikuje się, gdy w grę wchodzą – jak zawsze – wielkie korporacje.
Rzeczywiście, Dadbot i bot Romana Mazurenki są przykładami inicjatywy oddolnej, za którą nie stoi żadna duża korporacja. To trochę jakby DIY (ang. do it yourself – zrób to sam) cyfrowej nieśmiertelności. Ale cyfrowy przemysł pośmiertny (ang. digital afterlife industry) kwitnie i coraz więcej podmiotów ma ambicje, by dostarczać usługi „unieśmiertelniania" odpłatnie. Swego czasu głośno było w mediach o start-upie Eterni.me, ale to jest także np. Eter9 czy Project December. Warto wspomnieć też o patencie na tworzenie pośmiertnych botów. Niedawno uzyskał go Microsoft.
Im więcej możliwości, tym więcej ryzyka?
Jeżeli griefboty mają powstawać na masową skalę, to tutaj otwiera się prawdziwa puszka Pandory. Mamy problemy natury etycznej, prawnej, społecznej, kulturowej, a nawet związanej ze środowiskiem. Pojawia się np. pytanie, czyją własnością jest bot. Kto ma prawo nim zarządzać i w jakim zakresie? Jakie będą koszty środowiskowe utrzymywania w dłuższej perspektywie pośmiertnych awatarów? Zapala się czerwona lampka, wiele czerwonych lampek.
Przed czym one ostrzegają?
Chociażby przed lokowaniem produktów. Wyobraźmy sobie następujący scenariusz: wnuczka wykorzystuje cyfrowe dane swojej babci i po latach chce ją przywrócić w formie bota. Bardzo jest ciekawa różnych historii z przeszłości, ale też podpytuje babcię-bota np. o przepis na placek drożdżowy. Babcia-bot prezentuje przepis na najlepsze ciasto według rodzinnej receptury, a przy okazji reklamuje odpowiednie produkty, mówiąc np.: a mąkę, droga wnuczko, to najlepiej kupić tu i tu, a blender jest teraz w promocji pod tym linkiem. Jeśli usługodawca będzie miał możliwość zwiększyć swoje przychody, prawdopodobnie to zrobi.
Oprócz etyki jest również problem żałoby jako procesu emocjonalnego, angażującego cały organizm.
Człowiek w cierpieniu po stracie jest delikatnym bytem. Musimy brać pod uwagę mnóstwo czynników i patrzeć na griefboty holistycznie. Czas żałoby to moment wyjątkowej wrażliwości i podatności emocjonalnej. A my bardzo niewiele wiemy dziś o wpływie takich rozwiązań na naszą psychikę. Nie znamy więc odpowiedzi na kluczowe pytania, jak np. to, czy interakcje z griefbotem w dłuższej perspektywie pomagają, czy szkodzą w przepracowywaniu straty.
Tworząc przy okazji iluzję życia bez strat, bez pożegnań?
Musimy pamiętać, że griefbot tworzy "portret" osoby na podstawie jej śladów cyfrowych, czyli pewnego wizerunku. Dodatkowo jest to wersja tego wizerunku zinterpretowana przez algorytm. Czyli to, co powstaje, jest zaledwie wirtualną wersją wirtualnej wersji zmarłej osoby. Mamy do czynienia więc z reprezentacją reprezentacji człowieka. Powiedzieć więc, że rozmawiam ze zmarłym ojcem, gdy używam Dadbota, jest moim zdaniem nadużyciem. Rozmawiam z czymś, co zostało wypreparowane na podstawie jego cyfrowej aktywności. Ale to nie oznacza, że ja nawiązuję kontakt z tą osobą. To jest iluzja. Dlatego powinniśmy dbać o to, żeby te systemy były transparentne i podsuwały użytkownikowi ostrzeżenia. Ludzie, którzy korzystaliby z tej technologii, są w różnym stanie psychicznym, ale też w różnym wieku. Ważne jest, żeby przez cały czas przypominać, że rozmawiasz z technologią, a nie z ojcem. To nie jest twój bliski.
Powinniśmy regulować takie ostrzeżenia i inne kwestie bezpieczeństwa prawnie?
Unia Europejska właśnie proceduje pierwszą ramę regulacyjną dla AI. Propozycja jest tam taka, aby klasyfikować odpowiednie technologie na skali ryzyka, jakie wnosi konkretne jej zastosowanie. Na szczycie listy jest kategoria "nieakceptowalnego ryzyka", czyli rozwiązania, które bezwarunkowo nie mogą nigdy wejść na rynek. W tej grupie są wszelkie narzędzia, które mogą wpływać na procesy poznawcze, na zachowanie (np. zabawki nawołujące do przemocy). Druga w kolejności kategoria to "wysokie ryzyko", czyli technologie, które nie muszą zostać całkowicie zakazane, ale powinny spełniać szereg ścisłych standardów bezpieczeństwa. Niedawno razem z dr. Tomaszem Hollankiem z Leverhulme Centre for the Future of Intelligence zaczęliśmy zajmować się tym tematem. W artykule, nad którym pracujemy, przedstawiamy trzy hipotetyczne, ale prawdopodobne scenariusze rozwoju firm komercyjnych, sugerując, że cyfrowy przemysł pośmiertny powinien zostać objęty właśnie kategorią "wysokie ryzyko".
Te wszystkie ślady, które po nas zostaną w chmurze, to tzw. digital remains – cyfrowe szczątki?
Tak, "cyfrowe szczątki" to pojęcie wprowadzone przez Jesse Lingel i chętnie używane przez badaczy zajmujących się tematem śmierci w świecie cyfrowym. Ciekawym pojęciem uzupełniającym jest też informational body, czyli "ciało informacyjne", zaproponowane przez profesora etyki Lingela Luciano Floridiego z Uniwersytetu w Oksfordzie. Floridi zajmuje dość radykalne stanowisko, proponując, aby o danych cyfrowych, które wytwarzamy w trakcie życia, myśleć w kategoriach "ja", a nie "moja własność". Sugeruje, że dane cyfrowe powinny być traktowane jak nasza nerka, a nie np. nasz samochód. Różnica jest ogromna, podobnie jak konsekwencje prawno-etyczne. Okazuje się nagle, że np. "ciału informacyjnemu", które po śmierci człowieka przeistacza się w "cyfrowe szczątki", należy się szacunek.
Zmiana w języku powoduje zmianę w sposobie myślenia?
Szacunek wobec szczątków ludzkich reguluje prawo – nie wolno ich bezcześcić, należy im zapewnić właściwy pochówek. To samo powinno dotyczyć cyfrowych szczątków (jeśli przyjmiemy propozycję Floridiego). Formą bezczeszczenia szczątków cyfrowych mogą być np. wszelkie deep fake, oszustwa czy wyłudzenia z wykorzystaniem cyfrowych danych zmarłego. Szczątki cyfrowe to wrażliwe informacje przynależne konkretnej osobie i ciągle brakuje nam ram regulujących, co wolno, a czego nie wolno z nimi robić.
Ten problem jest teoretyczny czy powszechny?
W 2019 roku dwóch badaczy z Oksfordu – wspominany Luciano Floridi i Carl Öhman – przeprowadziło badanie na dużą skalę, modelując na bazie obecnych danych i trendów rozwoju Facebooka, ilu profili zmarłych osób możemy spodziewać się w przyszłości. Wniosek był taki: jeśli utrzyma się obecny trend rozwoju Facebooka, to do końca stulecia liczba kont osób zmarłych przewyższy liczbę użytkowników żywych. Będziemy mieć do czynienia z platformą, na której częściej można znaleźć wirtualne nagrobki niż aktywne profile. To pokazuje skalę problemu. I otwiera kolejną puszkę Pandory. Czy Facebook powinien być jedynym dysponentem tak olbrzymiej ilości danych? Co się stanie, jeśli firma zbankrutuje?
Facebook zareagował na te prognozy?
Firma stosunkowo szybko zauważyła problem i próbuje sobie jakoś z tym radzić. Najpierw, w 2007 roku, Facebook wprowadził opcję "in memoriam", czyli możliwość oznaczenia konta zmarłej osoby jako konto wspomnienie. A w 2015 roku została wprowadzona nowa funkcja: tzw. legacy contact, czyli opiekun konta – osoba wskazana przed śmiercią właściciela konta do sprawowania opieki nad jej/jego profilem po śmierci. Opiekun konta otrzymuje dostęp do profilu zmarłego w pewnym zakresie: może np. pisać i wyświetlać posty, usuwać wspomnienia, aktualizować zdjęcia profilowe, ale nie może już np. zalogować się na konto zmarłego, czytać jego wiadomości czy usuwać znajomych. To rozwiązanie nie jest pozbawione wad, ale jest ważnym gestem w stronę uporządkowania tej sytuacji.
Mam konto od 2013 roku i pierwszy raz słyszę o tej opcji…
Wcale mnie to nie dziwi. Badania pokazują, że 85 proc. użytkowników Facebooka nigdy o tej funkcji nie słyszało.
Dlaczego?
Powodów może być wiele, ale wydaje mi się, że najważniejszy jest taki: mało kto chce rozmawiać o śmierci. Żeby wyznaczyć opiekuna swojego konta, trzeba najpierw skonfrontować się z myślą o własnej śmierci, co już samo w sobie jest trudne. Ale to nie wszystko: bo trzeba jeszcze zaprosić wybraną przez siebie bliską osobę do rozmowy o tej śmierci. Facebook co prawda podsuwa gotową wiadomość, którą można wysłać do osoby, którą wyznaczasz na opiekuna konta, ale przecież taka wiadomość nie może zostać wysłana tak po prostu, w dowolnym momencie, w środku dnia, bez kontekstu. Przekazanie tej informacji wymaga rozmowy.
Nawet chcąc przeprowadzić taką rozmowę, nie wiedziałabym chyba, jak się do niej przygotować.
Mamy w kulturze współczesnej ogromny problem z mówieniem o trudnych rzeczach, więc na wszelki wypadek nie mówimy. Nie mówimy też o śmierci, bo nie umiemy. Żyjemy dziś w kulturze, która trenuje nas do myślenia, że ze wszystkim sobie poradzimy, że na każdy nasz problem znajdziemy jakieś remedium, że jeśli wystarczająco mocno się postaramy, to ze wszystkim damy radę. Trafnie pisze o tym m.in. Tomasz Stawiszyński w swojej "Ucieczce od bezradności". Oczywiście, powinniśmy się starać, motywować się do działania, wzrastać, ale przy tym również trenować „mięsień" rezyliencji, który pomaga konfrontować się z nieuchronnymi w życiu doświadczeniami, takimi jak przegrana, strata, smutek czy wreszcie śmierć. Równanie jest więc całkiem proste: jeśli nie ćwiczymy się w rozmowie o małych porażkach i stratach, tym trudniej mówić nam o śmierci i odchodzeniu.
A social media dodatkowo mnożą sytuacje, w których nie wiadomo, jak się zachować, np. jak reagować na post z informacją o czyjejś śmierci? Lajkować, komentować, podawać dalej? Pisać pożegnalny wpis, oznaczając w nim zmarłą osobę?
Prof. Carla Sofka, socjolożka ze Sienna College w Stanach Zjednoczonych, kilka lat temu w reakcji na podobne dylematy opublikowała w sieci manifest. Zwróciła w nim uwagę, że o ile nieźle radzimy sobie w sferze fizycznej z przeżywaniem żałoby, sytuacji pogrzebu, kondolencji – bo mamy kulturowe normy, mamy praktyki, w które się łatwo wpisujemy, począwszy od stroju, przez słowa, które wypowiadamy – o tyle przestrzeń cyfrowa jest przestrzenią wielkiego społecznego eksperymentu, w którym nie do końca wiemy, co jest właściwe, a co nie. I właśnie w tym dokumencie Sofka zebrała kilka wskazówek, które mogą pomóc odnaleźć się w sytuacji cyfrowych kondolencji, pożegnań. Główne przesłanie Carli Sofki jest takie: jeśli nie wiesz, co zrobić, rób mniej. Po pierwsze, nie antycypuj woli zmarłego, nie wyobrażaj sobie, że wiesz, czego ta osoba chciałaby, żebyś ty zrobił. Po drugie, zastanów się, czy na pewno historia śmierci tej osoby to jest historia, którą ty masz opowiedzieć. Czy jesteś w gronie najbliższych zmarłego, czy jesteś osobą, która powinna komentować, wdawać się w dyskusje, udostępniać, która powinna informować kogoś o śmierci danej osoby, bo raz wpuszczona do sieci informacja wymyka się spod naszej kontroli i nie można już później zapanować nad tym, w jakim kontekście, w jakich okolicznościach do kogoś ona dotrze.
To są ryzyka. A czy media społecznościowe mogą odegrać jakąś rolę w przełamywaniu tabu wokół śmierci?
Okazuje się, że tak. Media społecznościowe – jak pokazują badania Carli Sofki, ale też np. Ellein Kasket – to nowe miejsce wspólnotowego przeżywania żałoby. W ostatnich dziesięcioleciach niemal całkowicie wypchnęliśmy temat śmierci i żałoby z naszej codziennej przestrzeni, z pracy, z domów. Kiedy świat pędzi naprzód, a w pracy nie bardzo wypada „epatować" swoim smutkiem, to właśnie takie wirtualne miejsce może być bardzo pomocne w procesie przepracowywania straty. Okazuje się wtedy, że potrafimy nawet dzielić bardzo intymne doświadczenia z zupełnie obcymi sobie ludźmi. I ostatecznie nie ma w tym nic złego. To dobrze, że jest taka przestrzeń, w której możemy mieć taki wentyl bezpieczeństwa, i ostatecznie próbujemy przywracać te wątki do obiegu społecznego.
Pojawiają się też twórcy i twórczynie, którzy opowiadają o żałobie i śmierci, gromadząc wokół swoich kont społeczności ludzi, którym te treści są potrzebne.
Niedawno na Konferencji Opieki Paliatywnej „Odchodzić bez bólu" poznałam Kasię Kałduńską, pielęgniarkę paliatywną, która na TikToku nagrywa filmiki na temat swojej pracy. Dzieli się rzetelną wiedzą, ale w takiej typowo tiktokowej formie. W komentarzach pod jej filmami widać duże emocje i wdzięczność ze strony osób, którym te nagrania pomagają. Drugą taką osobą jest Paulina Jagoda, która prowadzi na Instagramie projekt "Kolory Żałoby". Dzieli się z obserwującymi swoją historią, opowiada o stracie córki i przy okazji tworzy przestrzeń dla innych osób w żałobie. To tylko dwa przykłady spośród wielu takich inicjatyw. Poza indywidualnymi twórcami pojawiają się grupy wsparcia na Facebooku dla osób po stracie, o których wspomniałam wcześniej.
Czy wraz z nowym medium zmienia się sposób przeżywania żałoby?
Z pewnością. Sposób przeżywania straty i żałoby się zmienia m.in. dlatego, że zaciera się różnica między tym, co prywatne, a tym, co publiczne. Proszę zauważyć, że przez lata, kiedy umierał ktoś bliski, to w dość ograniczonym kręgu przeżywaliśmy tę śmierć: uczestniczyliśmy w pogrzebie, dzwoniliśmy do tych dalszych krewnych, znajomych, przyjaciół. Natomiast dzisiaj jest tak, że informacja o czyjejś śmierci – jeśli zdecydujemy się opublikować ją np. w mediach społecznościowych – bardzo szybko staje się publiczna. To z kolei oznacza, że grono żałobników się poszerza i zupełnie obcy ludzie mogą uczestniczyć w procesie pożegnania, choć wcale nie znali zmarłego.
Ale nie chodzi tylko o przeniesienie tradycji żałobnych jeden do jednego z przestrzeni fizycznej do cyfrowej? Pojawia się również potrzeba wykształcenia nowych rytuałów i praktyk, uwzględniających pożegnanie z cyfrowymi szczątkami bliskich.
Potrzebę nowych rytuałów wyraźnie widać na przykładzie wspomnianych griefbotów. Proszę wyobrazić sobie następującą sytuację: korzystam z griefbota, który odzwierciedla mojego bliskiego przyjaciela, trwa to przez rok, ale z czasem czuję, że mam coraz mniejszą gotowość, by utrzymywać tę relację. I co robię? Czy usuwam takiego griefbota, jak usuwa się spam ze swojej skrzynki odbiorczej? Z całą pewnością nie! To wszystko jest bardzo delikatna materia, dlatego uważam, że powinniśmy pomyśleć również o nowych standardach pożegnania z griefbotami. Albo bardziej aktualny problem: czy usunę profil mojego przyjaciela tak po prostu na Facebooku? To są trudne decyzje. Tu wracamy do kwestii szacunku wobec cyfrowych szczątków i pytania o ich godny "pochówek". Prof. Jed Brubaker, współtwórca rozwiązania legacy contact na Facebooku, sugeruje np., że powinniśmy się zastanawiać nad wspólnotowymi rytuałami, które pozwolą nam w sposób znaczący pożegnać się z cyfrowymi szczątkami. I to jest bardzo ciekawa i ważna propozycja. Wyobraźmy sobie, że spotykamy się w ramach jakiegoś nowego rytuału, w którym żegnamy się z griefbotem i usuwamy konto zmarłego.
Czy to nie jest obciążanie bliskich w żałobie dodatkowymi bolesnymi obowiązkami?
Myślę, że takie rytuały mogą okazać się pomocne dla rodzin pozostających w żałobie. Ale jest też dodatkowy aspekt, związany z odpowiedzialnością środowiskową. Podobnie jak nasza planeta przestrzeń cyfrowa też może zostać przeludniona. Na razie nie mamy tego problemu, ale z pewnością trzeba go mieć z tyłu głowy, bo cyfrowej chmury nie da się rozciągać bez granic, co sugerują w swoich badaniach Carl Öhman i David Watson.
Pochówek ciała powierza się osobom, które zajmują się tym zawodowo. A pożegnanie z ciałem cyfrowym?
Obszar cyfrowej śmierci/nieśmiertelności będzie się w najbliższych latach z całą pewnością profesjonalizował. Jedna nowa profesja już istnieje, głównie w krajach anglojęzycznych, i jest to konsultant cyfrowej żałoby, osoba, która wspiera rodziny po stracie i doradza, jak sobie radzić z pozostałymi po zmarłym informacjami itd. W środowisku zaczyna się też mówić o zawodzie "menedżera cyfrowej śmierci" (ang. digital death manager), czyli osobie, która łączyłaby kompetencje psychologiczne i prawne i byłaby w stanie przeprowadzić rodzinę emocjonalnie przez proces żałoby, a jednocześnie wspierać w różnych dylematach prawno-etycznych.
Zmarły może sam wskazać w testamencie, co chciałby, aby stało się z jego cyfrowymi szczątkami po śmierci. Ale jak mówiłyśmy wcześniej, nikt nie chce myśleć ani rozmawiać o śmierci.
Kilka lat temu Michael Hebb przeprowadził badanie, które pokazało, że większość Amerykanów w ogóle nie rozmawia o śmierci. Wynikiem tego są sytuacje, że rodzina bywa bezradna w momencie śmierci bliskiego i próbuje domyślać się, czego życzyłaby sobie ta osoba. I chodzi tu o bardzo praktyczne kwestie, np. czy decydować się na pochówek, czy kremację? Czy organizować pożegnalną kolację? Co zrobić z rzeczami bliskiej osoby? I wtedy właśnie Hebb wpadł na pomysł, by zacząć organizować spotkania – przy winie, przy dobrym jedzeniu – podczas których znajomi i nieznajomi siadaliby i rozmawiali o śmierci. Ten ruch nazywa się "Death Over Dinner", czyli "Śmierć przy kolacji". Michael Hebb napisał książkę pod tym samym tytułem, w której proponuje gotowy scenariusz rozmowy w ramach takiej kolacji. Takie spotkania odbywają się już na całym świecie.
W Polsce też?
Też! Organizuje je m.in. Instytut Dobrej Śmierci. Oprócz "Śmierci przy kolacji" są też spotkania "Death Cafe". Obie inicjatywy wpisują się zresztą w szerszy międzynarodowy trend pod nazwą "Death Positive Movement". Ruch "śmierciopozytywności" zakłada mówienie o śmierci, przemijaniu naturalnie i otwarcie.
Pomysł wzbudza ciekawość?
Relacje osób, które się na to zdecydowały, są zazwyczaj bardzo pozytywne. Mówią, że nie ma nic bardziej uwalniającego niż możliwość opowiedzenia o swoich oczekiwaniach, uczuciach, obawach. Rozmowa o śmierci okazuje się często tak naprawdę rozmową o życiu.
Jak to?
Może to być zaskakujące, ale rozmawiając o śmierci, tak naprawdę dość szybko docieramy do punktu, w którym zaczynamy mówić o tym, co jest dla nas ważne w życiu właśnie – jakie rzeczy, relacje, jakie sprawy itd. To są zazwyczaj dość emocjonalne, ale jednocześnie wyzwalające rozmowy. Wiem, bo sama odbyłam taką rozmowę z moim mężem. Jak siada się z najbliższą osobą w przestrzeni miłości, zaufania i akceptacji i mówi się: "Jak umrę, to chciałabym, żebyś…", to łzy same napływają do oczu, nawet osobie, która śmiercią zajmuje się zawodowo. Co więcej, takie rozmowy – jeśli obie strony są na nie gotowe – mają szansę pogłębić relację, otworzyć w niej jakiś zupełnie nowy wymiar, ale też – jak mówiłam wcześniej – uzbrajają w bardzo praktyczną wiedzę dotyczącą tego, czego dana osoba oczekuje u kresu życia. Chyba właśnie tak wyobrażam sobie dobrą śmierć.
Dr Katarzyna Nowaczyk-Basińska. Research Fellow w Leverhulme Centre for the Future of Intelligence na Uniwersytecie Cambridge. W swojej pracy naukowej bada, jak nowe technologie kształtują nasz sposób rozumienia i doświadczania śmierci, żałoby i pośmiertnego trwania. Autorka bloga "Ćwiczenia z (nie)śmiertelności".
Katarzyna Siekańska. Finalistka I edycji Polska Stories. Pisze o relacjach i codzienności.
