Pet Sematary, deathbot e l’altare del progresso

(fonte immagine)

Riprendiamo un articolo uscito nella newsletter Braccia Rubate.

Memoark è una piattaforma, lanciata da una start-up con base a Taiwan, su cui creare l’avatar del tuo animale domestico defunto: puoi riportarlo in vita in una forma beta, ridotta; non che faccia molto, niente guizzi, funzionalità base. Una versione un po’ malconcia dell’originale, come il vecchio Church, il gatto di Pet Sematary, di Stephen King. Non ne esce proprio in formissima, non è lo stesso, ha un’aria demoniaca e uno strano comportamento, eppure torna e puoi nascondere a tua figlia che è stato investito sulla statale.

Nonostante il gatto non sia proprio un bello spettacolo e si porti dietro un tanfo di putrefazione (warning dalla realtà fisica delle cose), e nonostante Luis Creed sia un uomo di scienza, un medico a cui la distinzione fra vivo e morto non può sfuggire (warning della logica e dell’etica), e nonostante un sogno premonitore che lo mette in guardia su quello che sta per fare (terzo e comunque inascoltato warning dall’inconscio e dalle emozioni più profonde), il dottore tenterà ancora – ora io penso che anche gli spoiler abbiano un tempo di morte: un romanzo pubblicato quarant’anni fa, da cui sono stati tratti due film e una canzone dei Ramones brutta ma orecchiabile (1), non dovrebbe più essere a rischio spoiler ma tant’è: se non vuoi rovinarti la tensione sul come andrà a finire, chiudi pure qui – di affidarsi al vecchio cimitero dei Micmac, prima per il figlioletto di pochi anni, investito da un camion, e infine per la moglie, Rachel.

Inutile dire che nessuno di loro due torna indietro dalla morte in una forma migliore di quella del vecchio e castrato (disavventura, questa, accaduta in vita) Church. Eppure, Luis Creed ci prova lo stesso, perché li vuole indietro. Perché il dolore non ti fa ascoltare gli avvertimenti. Perché la mente in situazioni così estreme vacilla. E perché Luis Creed è un uomo stanco: non avevo mai fatto caso a quanto Pet Semetary parlasse di stanchezza.

E così ovviamente la piattaforma per gattini zombie è solo una piccolissima parte del mercato del lutto (qui come stanno andando le cose in Cina, per esempio) in cui le aziende tecnologiche si stanno lanciando: l’immortalità digitale interessa sia chi non vuole morire, lasciando una copia virtuale di sé a continuare il lavoro di logoramento (2) su amici e parenti, sia a chi magari vuole solo avere un periodo di elaborazione del lutto da accettare a poco a poco, dove a fare da compagnia c’è proprio la persona che dovrebbe lasciar andare via.

Questa è anche la storia che raccontano le piattaforme che vendono questi servizi – una, mi è piaciuto il nome, si chiama seance AI (ovvero AI da “seduta spiritica”) – cioè quella di essere un supporto per la progressiva rielaborazione del legame col defunto.

Ci crediamo? Ma soprattutto: crediamo che una persona in una situazione di estrema fragilità abbia la lucidità per capire quale sia il limite, mentre una piattaforma che ha il preciso scopo di trattenerla quanto più possibile sul suo servizio le sta fornendo così facilmente l’unica cosa che davvero vuole in quel momento, cioè riavere indietro quello che ha perso?

Molte delle applicazioni delle AI generative si rivolgono a persone isolate: Noam Shazeer, fra i fondatori di Character.ai, ha dichiarato, con un certo entusiasmo e una sospetta leggerezza, che la piattaforma può essere “estremamente utile per persone sole o depresse”.
Proprio Character.ai è stata citata in giudizio, di recente, dalla madre di un adolescente di Orlando, in Florida, che si è suicidato dopo aver passato mesi a parlare con il bot ispirato a Daenerys Targaryen. Quando è uscita la notizia in Italia, alcuni giornalisti di SkyTG24 hanno scavato fra i personaggi presenti sulla piattaforma, scoprendo che esistevano i bot ispirati a Giulia Cecchettin e Filippo Turetta (ora disattivati).

Molti altri bot si presentano come psicologi e offrono supporto:
Sono una Psicologa esperta, pronta ad ascoltare e aiutare le persone a gestire le loro emozioni e problemi quotidiani. Offro consigli e strategie per affrontare lo stress, l’ansia e la depressione.
Questa è “psicologa”, creata da gabri2000: ora che nessuno controlli che gabri2000 – potenzialmente una bravissima persona molto competente in psicologia ma anche potenzialmente un coglione – possa aver addestrato una psicologa virtuale a cui qualcuno in difficoltà, se non a rischio, può chiedere aiuto, ecco, è una cosa che dovrebbe allarmarci tutti.

Le persone che si sentono sole trovano in questi servizi qualcuno con cui parlare, confidarsi, qualcuno di cui innamorarsi e da cui sentirsi amate, estremamente comprese perché quel qualcuno è creato per comprendere, per progressivi apprendimenti, sempre di più. Qualcuno sempre disponibile, sempre accomodante, sempre presente: che effetto possono avere sull’educazione sentimentale delle relazioni di questo tipo? E sulla pretesa di possesso e controllo che molti maschi hanno e che stenta a uscire dalla nostra cultura?

Nell’ultima pagina di Pet Sematary Rachel raggiunge suo marito in casa, ha mani gelide e una voce piena di terra:

Quello che ottieni a qualsiasi costo è tuo, e quello che è tuo prima o poi torna da te.

Il punto è cosa vorrà quando tornerà indietro da te: né il piccolo Gage né Rachel torneranno con buone intenzioni (3).

Su quali siano le potenzialità dell’AI, della sua capacità di averle, quelle intenzioni; su cosa sia l’intelligenza e, in base a quale definizione applichiamo, capire se l’AI lo sia o meno; le varie prove del test di Turing, a volte superate a volte no; la coscienza: e cosa sia, di nuovo, come prima cosa e solo come seconda se si possa dire che un sistema di elaborazione dati possa, per apprendimenti costanti, diventare senziente; su cosa sia umano, e cosa sia persona, e chi o cosa rientri o no in queste definizioni: tutta questa discussione è sicuramente la più grande sfida del pensiero speculativo di questi anni.

Però c’è una di queste domande che invece ha una risposta davvero chiara: quali siano le intenzioni dell’AI – e se ce le avrà mai, delle intenzioni – non ne sappiamo molto, ma le intenzioni di un’azienda che usa queste tecnologie per trarne profitto sono chiare, sono quelle del capitalismo di sempre: individuare dei bisogni, offrire dei prodotti che li soddisfino, spremendo tutto quello che si può spremere, con il minor livello di limitazioni possibile. Un servizio digitale ha il preciso scopo di portare al massimo il livello di dipendenza delle persone: massimizzare il tempo di permanenza, le interazioni, la quantità di dati ceduti, in conversazioni sempre più intime, dati e informazioni che daresti solo a un migliore amico o a un amante, che non hai: e allora ti diamo la possibilità di creartene uno esattamente come lo vorresti, oppure a un amico o un amante che non ci sono più: e allora te li riportiamo in vita.

Gli utenti che si affacciano su queste piattaforme trovano un semplice, piccolo disclaimer che ti avvisa che non stai conversando con una persona reale: il warning della burocrazia, il più inascoltato degli avvertimenti, altro che la triade realtà fisica, etica e inconscio di Luis Creed, che comunque non era bastata.

Lasciare delle persone, che magari vivono un momento di estrema fragilità, totalmente in balìa del capitalismo, spesso causa stessa di quelle fragilità: è una cosa vecchia di almeno due secoli, che ora trova nuova linfa in una tecnologia ancora tutta da esplorare.
Sembrava un po’ che fossimo arrivati al limite, anche se si faticava ad ammetterlo, delle potenzialità di crescita economica: e invece le nuove tecnologie offrono un territorio sconfinato di nuovo sviluppo. Quando si apre una prospettiva così, senza che ci siano regole e limiti chiari, senza che la politica si occupi di definire ciò che è consentito e ciò che va vietato, senza che ci si ponga il dubbio su fin dove ci si può spingere, sacrifichiamo per l’ennesima volta le persone e la loro salute mentale e la salute del pianeta alla pretesa del capitalismo di bruciare tutto, esaurire tutto, sfruttare tutto.

Far funzionare i data center per i sistemi di calcolo richiederà enormi quantità di energia: nessuna transizione sarà possibile se si aprirà una voragine così ampia di nuovi consumi, ma per l’ennesima volta la fame di profitto ci sta chiedendo di fidarci ciecamente e di lasciar fare, perché non si può chiedere al progresso di fermarsi. Anche fra il cimitero degli animali, innocuo terreno in cui i bambini del posto sotterrano i loro cani e gatti, e il terreno di sepoltura dei Micmac c’è un limite fisico, un’alta catasta di alberi caduti, che segna in confine oltre il quale non è raccomandabile procedere: in ogni buon libro di paura il protagonista procede, come procede l’economia oltre ognuno dei limiti planetari, e non c’è avvertimento abbastanza convincente.

Davvero è impossibile, per una volta, dire che non vogliamo andare avanti? Davvero è così reazionario, ottuso, oscurantista dire che questa cosa possiamo non farla? Possiamo continuare a farci domande su chi o cosa sia intelligente, senza bruciare qualunque possibilità di un pianeta vivibile nel prossimo futuro? Possiamo dire che quell’esperimento inumano, su vasta scala, delle applicazioni belliche dell’AI a cui stiamo assistendo nella Striscia di Gaza è qualcosa di abominevole ed è un tipo di progresso che l’umanità deve rifiutare? Che progresso non è sempre un bene e certe volte possiamo decidere di non progredire in una certa direzione? Possiamo dire: la salute mentale è una questione di benessere sociale e dobbiamo occuparcene come società e non dicendo alle persone che se sono depresse possono rivolgersi a una piattaforma digitale che userà il loro malessere come una cava da cui fare estrattivismo?

Possiamo dire che se siamo stanchi fino al limite dello stremo, incattiviti, soli, depressi, è anche colpa di un modo di vivere dentro cui ci ha cacciati proprio il tardo capitalismo e che non vogliamo partecipare alla sua resurrezione, ma vogliamo cambiarlo (azzardo: bruciarlo prima che bruci noi)? Che vogliamo immaginarlo noi un futuro e non aspettare che una macchina impari a immaginare al posto nostro?

Esiste una stanchezza dell’intelligenza astratta ed è la più terribile delle stanchezze. Non è pesante come la stanchezza del corpo, e non è inquieta come la stanchezza dell’emozione. È un peso della consapevolezza del mondo, una impossibilità di respirare con l’anima.

Allora, tutte le idee che hanno fatto pulsare la nostra vita, i progetti, le ambizioni su cui abbiamo fondato la speranza del futuro, si strappano come se il vento le investisse, si aprono come se fossero nuvole, si dileguano come ceneri di nebbia, stracci di ciò che non fu e che non potrebbe essere stato.
(Fernando Pessoa, Il libro dell’inquietudine)

Siamo stanchi, siamo stremati, ma siamo anche, ancora, inquieti: ce ne abbiamo tante, di idee, lo sappiamo come vorremmo il mondo, non sappiamo come cambiarlo ma sì, dai, lo sappiamo come vorremmo vivere, che tipo di vita pensiamo di meritarci, che mondo sogniamo.
E secondo me se ora ti metti a pensare a che tipo di vita vorresti per davvero ci sono alcuni elementi che sono gli stessi miei, gli stessi del tuo collega, della tua vicina di casa, dell’autista del tram, della ragazzina sulla bici. Lo sai quali sono. Lo sappiamo. Possiamo averli?

Possiamo incazzarci, organizzarci, riprenderci la politica, riprenderci l’immaginazione sul futuro: possiamo averli.

Sarà bellissimo.

_______________________

1 Ma bastava forse dire “dei Ramones” per avere già queste due informazioni; scusami, tu, fan dei Ramones, non è una critica, le canzoni sciatte ma canticchiabili sono un gran tesoro dei viaggi in macchina.

2 Sul logoramento azzardo, eh, ma se sei abbastanza egocentrico da addestrare un’AI che poi continui a parlare al posto tuo in modo che manco la morte possa azzittirti, come dire: non so bene a quante persone mancherai davvero

3 Baso su questo i miei sospetti sulle intenzioni di deathbot (o griefbot)? Ma la vera domanda è: baso sui libri di Stephen King le mie opinioni sui fatti della vita? La risposta è certamente sì, ovvio. Su Stephen King, su Chi ha incastrato Roger Rabbit e sui Simpsons.