La settimana scorsa un ricercatore di sicurezza si è accorto che le conversazioni condivise di Claude di Anthropic venivano indicizzate da Google. Una query di ricerca specifica ne tirava fuori a migliaia. Chat personali, brainstorming di lavoro, qualche ansia medica sparsa. Anthropic ha risolto l'indicizzazione in fretta. Le persone già indicizzate non hanno ricevuto un pulsante di annullamento.
Due giorni dopo ZDNet ha pubblicato una guida passo passo alle impostazioni sulla privacy di ChatGPT, Gemini, Copilot e Claude. È un pezzo utile e vale la pena leggerlo. Quello che documenta senza volerlo è un'altra cosa. Ogni grande chatbot di IA esce con controlli sulla privacy che pretendono che sia il cliente a trovarli, a capirli e ad azionarli, uno alla volta, in fondo a tre menu. Chiamiamola la tassa sulla privacy da cinque interruttori.
Ecco che aspetto ha, messa in tabella.
| Servizio | Interruttori | Dove stanno | La trappola |
|---|---|---|---|
| ChatGPT | 3 | Impostazioni → Controlli dei dati; i tre puntini su ogni chat; icona in alto a destra | I link condivisi restano attivi per tutto il tempo in cui la chat esiste. |
| Gemini | 5 | Pagina Attività; Personal Intelligence; Impostazioni → Attività | Rinunciare all'addestramento uccide anche la cronologia delle tue chat. L'una è saldata all'altra. |
| Copilot | 5 | Impostazioni → Privacy; Impostazioni → Memoria; Impostazioni → Connettori | Due interruttori di addestramento separati (testo, voce) e un pannello Connettori per OneDrive, Gmail, Drive e compagnia. |
| Claude | 4 | Impostazioni → Privacy; Impostazioni → Memoria; l'icona del fantasmino | L'addestramento è disattivato per impostazione predefinita. La finestra di condivisione propone come predefinito il “link pubblico”. |
Fanno da tre a cinque atti deliberati, per servizio, per arrivare a una posizione difendibile. Nessuno di essi è ovvio. Diversi sono ostili. Quello di Gemini spicca: l'unico modo per impedire a Google di addestrare sulle tue conversazioni è impedire a Google di ricordare le tue conversazioni. Perdi la tua cronologia per proteggerla dalla loro. Non è un difetto nel design delle impostazioni. È il design delle impostazioni.
Lo schema sotto lo schema è semplice. Ogni impostazione predefinita in quella tabella è regolata sull'opzione che l'azienda vuole. Addestramento attivo, memoria attiva, condivisione pubblica, connettori spalancati, registrazioni vocali inviate ai revisori. La rinuncia esiste, ma è attrito, e l'attrito è il punto. La maggior parte delle persone non tocca mai un solo interruttore. È a questo che serve l'attrito.
Si capisce molto della reale postura sulla privacy di un'azienda da quante azioni servono per raggiungere uno stato privato.
Anthropic esce con l'addestramento disattivato. È un interruttore che non hai dovuto trovare. Google esce con la tua voce che va a revisori umani a meno che tu non sappia che quella frase contiene le parole “a meno che”. Microsoft esce con due interruttori di addestramento perché ha due percorsi di ingest. Ognuna di queste scelte è una decisione di business travestita da schermata di impostazioni.
La lezione di design
C'è una lezione di design qui per chiunque costruisca software di consumo: il numero di interruttori che un cliente deve azionare per proteggersi è il numero di decisioni che hai preso contro di lui.
La lezione di prodotto
Tutto questo è necessario solo perché la conversazione avviene sul computer di qualcun altro. Un assistente locale, che gira sul Mac del cliente stesso, non ha bisogno di un interruttore per l'addestramento perché non c'è nulla su cui addestrare. Non ha bisogno di un interruttore per la memoria perché la memoria appartiene al cliente. Non ha bisogno di una schermata “elimina link condiviso” perché il link non è mai uscito di casa.
Noi costruiamo quello. Si chiama Ostler. Niente in questo articolo è un rimedio alla tassa dei cinque interruttori. Il rimedio è non pagarla.
Riflessioni o correzioni – [email protected].
Per approfondire: Lance Whitney, How to keep your conversations with ChatGPT, Gemini, Copilot or Claude as private as possible, ZDNet.