Solo una di esse dovrebbe essere Sua.

Questo mese il Wall Street Journal ha pubblicato un articolo con un titolo che dice già quasi tutto: “AI Knows What You Did Online. Now Your Employer Does, Too.” Il resoconto è peggiore del titolo. I datori di lavoro stanno ingaggiando società di IA per rastrellare le impronte digitali dei candidati. Non una rapida ricerca del Suo nome, ma un’analisi in profondità di post di anni fa, account su forum dimenticati, il commento che ha lasciato alle 2 di notte nel 2014. Alcune società offrono monitoraggio continuo del personale già in forza. Alcune usano il riconoscimento facciale per abbinare il volto su un account anonimo al volto sul Suo badge, così anche le opinioni che aveva avuto cura di lasciare non firmate finiscono archiviate sotto il Suo nome.

A leggerlo con attenzione ci si accorge che la storia non parla davvero di sorveglianza. La sorveglianza è guardare. Questa è un’altra cosa: è memoria. Un archivio permanente di Lei, assemblato a Sua insaputa, indicizzato sotto il Suo nome, e consultato esattamente nei momenti che contano di più per Lei (un’offerta di lavoro, una promozione, un controllo dei precedenti), da persone i cui interessi non sono i Suoi.

E i selezionatori dei datori di lavoro sono solo i membri più recenti di un club molto antico. Le piattaforme pubblicitarie tengono una memoria di Lei da vent’anni; è così che sanno di doverLe mostrare per sempre quelle scarpe che ha guardato una volta. Ogni servizio con un login ne conserva una. Ogni prodotto “gratuito” è finanziato da una. Ci sono, proprio adesso, decine di memorie istituzionali di Lei nel mondo. Dettagliate, durature, leggibili dalle macchine. E non una sola di esse è per Lei. La legge dice che può chiederne una copia, e perfino chiederne la rettifica. Quello che arriva è un export che non può leggere, in una forma che non può usare, congelato nel momento in cui lascia i loro server. Il diritto è reale. La memoria continua a non essere Sua.

Il caso dall’interno

All’inizio di questo mese Mira Murati ha pubblicato un saggio su Thinking Machines Lab intitolato “The future worth building is human.” In quanto CTO di OpenAI, ha guidato la sala macchine del progetto di IA più centralizzato al mondo, quindi vale la pena leggere ciò che sostiene adesso. In sintesi: l’IA che vale la pena costruire dovrebbe estendere la volontà e il giudizio umani anziché sostituirli; il futuro che merita di esistere è un’IA distribuita e personalizzabile, plasmata dalle persone che serve, non modelli centralizzati che impongono un unico insieme di valori a tutti; e le persone dovrebbero possedere e coltivare la propria conoscenza anziché affittarne l’accesso.

Si può essere cinici sulle narrazioni di conversione. Ma quando qualcuno che ha contribuito a costruire la cosa centralizzata scrive che il futuro è distribuito e di proprietà degli utenti, vale la pena raddrizzare la schiena. Non sta descrivendo un chatbot più simpatico. Sta descrivendo un cambio di proprietà.

Una memoria utile conserva molto più di ciò che porta in superficie

Una memoria davvero utile deve conservare molto più di quanto Le mostrerà mai.

A giugno non sa mai quale momento Le servirà a novembre. La battuta buttata lì che si rivela l’inizio di un’azienda. Il nome della persona incontrata una volta a un convegno che, diciotto mesi più tardi, è esattamente chi Le serve chiamare. Il ristorante che la Sua amica aveva detto di adorare, prima di ammalarsi, quando sta cercando un posto per il suo compleanno. Nessuna di queste cose sembrava importante al momento. Una memoria che tenesse solo ciò che appariva significativo sul momento sarebbe un diario dell’ovvio, e inutile per l’unica cosa a cui serve davvero la memoria: essere sorpresi da ciò che si rivela contare.

Quindi ogni memoria reale iper-conserva. Radicalmente. E quella proprietà, ritenzione totale e indiscriminata, è esattamente ciò che rende mostruosa la storia del WSJ e liberatoria una memoria personale. Iper-conservare su di Lei, tenuto da qualcun altro, è un archivio carico: tutto ciò che ha mai fatto, recuperabile da persone che hanno potere su di Lei, secondo i loro tempi, per i loro scopi. Iper-conservare da parte Sua, tenuto sulla Sua macchina, è semplicemente ricordare. È ciò che fa il Suo stesso cervello, meno il decadimento.

Stesso meccanismo. Opposto in ogni aspetto che conta. L’unica variabile che ribalta la cosa è chi la detiene. La sovranità non è una funzione “bella da avere” di una memoria etica. È ciò che rende la memoria etica in assoluto.

Lo standard di riferimento esiste già

Se vuole la prova che il mondo della privacy lo sa già, guardi l’unica categoria in cui la posta in gioco ha smesso di essere ipotetica. Quando i ricercatori di Mozilla nella rubrica Privacy Not Included hanno passato in rassegna le app per tracciare il ciclo (dati che, dopo la sentenza Dobbs, possono finire in un’aula di tribunale), l’unica app che avrebbero approvato senza riserve era Euki. La sua caratteristica distintiva è quasi comicamente semplice: tutto rimane sul dispositivo. Nulla da citare in giudizio da un server, nulla da violare, nulla da vendere di nascosto.

La lezione si generalizza, ed è più brutale della maggior parte dei dibattiti sulle privacy policy: quando i dati sono davvero intimi, la responsabilità non sta nel condividerli. La responsabilità sta nel fatto stesso che li detenga qualcun altro. Nessuna policy, nessuna cifratura in transito, nessun DPA firmato con la mano sul cuore lo risolve. Solo l’architettura lo fa.

Una memoria di tutta una vita, costruita a partire dalle Sue conversazioni, dalle Sue riunioni, dai Suoi appunti e dalle Sue letture, è il caso limite del dato intimo. Va tenuta allo standard del caso limite.

Perché lo abbiamo costruito così

Ostler non è nato come prodotto per la privacy. È nato perché prendere appunti rovina il momento. Sedersi di fronte a qualcuno che vuole davvero ascoltare, essere presenti a metà, trascrivendo invece di pensare. È uno scambio pessimo, e chiunque l’abbia fatto lo sa. La promessa originaria di Ostler era piccola e umana: stia nella conversazione. Ricorderà Lui per Lei.

Tutto ciò che è venuto dopo è stato mettere a fuoco ciò che quella promessa richiede. Tre cose, si scopre.

Deve permetterLe di essere presente. Una cattura che funziona senza che Lei debba recitare per essa, così il ricordare accade e Lei non deve.

Deve essere ancorata a tutta la Sua vita, non a una fetta di una sola app. Una memoria costruita solo dal Suo calendario sa quando ha incontrato qualcuno; una memoria costruita dalle Sue riunioni, messaggi, appunti e letture insieme sa chi quella persona è per Lei. Ostler compila tutto questo in un wiki privato della Sua vita, sul Suo Mac.

E deve essere Sua da usare. La memoria di Ostler è fatta di semplici file markdown sulla Sua macchina. Li apra in Obsidian. Li cerchi. Li corregga. Li copi. Li cancelli. Non c’è un gemello lato server, non c’è un pulsante di esportazione che si frappone tra Lei e il Suo stesso passato, non ci sono termini di servizio che possano cambiare ciò che alla Sua memoria è permesso di essere. Non è un account. È un bene.

Le memorie istituzionali di Lei non spariranno. I selezionatori, le piattaforme, i broker. Terranno i loro archivi, e Lei non potrà mai leggerli. L’unica risposta che regge su scala è avere una memoria migliore, propria: più piena, più equa, dalla Sua parte e sulla Sua macchina.

Tutti stanno costruendo una memoria di Lei.

Solo una di esse dovrebbe essere Sua.