Sam Altman, davanti a una sala di stagisti:
in the next 6 months, we’re close to a world where a descendant of ChatGPT can watch your screen, record every meeting and call, and have perfect context of your whole life.
Siamo, ha aggiunto, “only one model generation away from this being incredibly useful”.
È esattamente questo che abbiamo costruito. Non qualcosa di simile. Questo. Vale quindi la pena dire chiaramente dove sta la parte difficile, perché non è il modello, e nessuna generazione di modelli la sfiora.
La tua vita non è sul tuo schermo
“Contesto perfetto di tutta la tua vita” è un’affermazione sui dati, non sull’intelligenza. E la tua vita non è nella finestra che ti capita di avere aperta.
È in dieci anni di Mail. È in un database di Messages che risale al tuo primo iPhone. È in WhatsApp, che non ha alcuna esportazione supportata. È nel tuo calendario, nei tuoi contatti, nelle tue foto e in una cronologia di navigazione che registra in silenzio ciò che ti incuriosiva davvero all’una di notte.
Su un Mac ognuna di queste cose sta dietro una serratura. Mail, Messages, la cronologia di Safari e Time Machine sono protetti dall’accesso completo al disco. Contatti, Calendario, Promemoria e Foto richiedono ciascuno un permesso separato. Apple ha messo quelle serrature apposta, e non si aprono per un modello più intelligente.
Cosa raggiunge davvero ChatGPT oggi
Meglio essere precisi che retorici, quindi ecco il prodotto così come viene rilasciato. La funzione “Work with Apps” di ChatGPT legge i contenuti su macOS tramite l’API di accessibilità di macOS, e l’elenco supportato è pubblicato:
- Può leggere. Xcode, VS Code, JetBrains, Cursor, Terminal, iTerm, Warp, Prompt, Notes, TextEdit, Notion, Quip, BBEdit, Nova, TextMate, Raycast, Alfred.
- Non è nell’elenco. Mail, Messages, Calendario, Contatti, Foto, cronologia di navigazione, WhatsApp, tutto ciò che è archiviato.
Rileggi quell’elenco. Editor di codice, terminali e blocchi per appunti. E poiché funziona attraverso il livello di accessibilità, legge testo e solo testo: lo screen reader di Apple non può descrivergli né un’immagine né un layout.
La descrizione accurata di ciò che ChatGPT rilascia oggi è quindi questa. Può leggere il testo di una finestra che hai aperto, in un elenco di app consentite composto soprattutto da strumenti per sviluppatori.
È una funzione davvero utile. È anche molto specifica, e la specificità è la spia.
Un elenco di app consentite è una dichiarazione su per chi è pensato un prodotto, quindi contiamo. Undici delle diciassette app sono strumenti per sviluppatori. Altre due sono launcher per utenti esperti. Le restanti quattro sono blocchi per appunti. La madre di nessuno è in quell’elenco, perché niente in quell’elenco è il posto in cui la madre di qualcuno tiene la propria vita.
Il che va benissimo, è davvero utile ed è esattamente ciò che ti aspetti che un’azienda di ingegneri rilasci per prima: lo strumento che volevano per sé. Ma significa che la promessa e il prodotto parlano a persone diverse. “Contesto perfetto di tutta la tua vita” e “contesto perfetto della tua cartella di lavoro” non sono la stessa frase, e solo una delle due è stata rilasciata.
E la distanza tra quelle due frasi non è una generazione di modelli. È un’app nativa, una pila di permessi del sistema operativo, un installer firmato e notarizzato, e moltissimo parsing per niente glamour di formati che non erano mai stati pensati per essere letti da qualcun altro.
Lo sappiamo, perché è lì che va il nostro tempo. Quasi nessuno dei nostri sforzi di ingegneria va al modello. Va ad arrivare ai dati, e alla parte di cui nessuno scrive thread: farlo senza che i dati lascino mai la macchina.
Osservare e conoscere sono prodotti diversi
Osservare. Ti osserva di continuo. Vede ciò che hai davanti mentre accade. Non ha bisogno di nulla da te se non della tua presenza permanente. È relativamente economico da costruire, funziona uguale per tutti e porta con sé una proprietà inevitabile: l’unico modo per avere contesto è non smettere mai di guardare.
Conoscere. Concedi l’accesso una volta, all’archivio che già possiedi. Legge un decennio in un pomeriggio. E poi non ha alcun bisogno di osservarti.
Un prodotto che vive in una scheda del browser, o in un’app isolata che parla con un data center, realisticamente può costruire solo il primo. Non per mancanza di ambizione, ma perché il secondo richiede che gli venga affidato l’intero archivio, e questa è una conversazione molto diversa quando l’archivio deve uscire dall’edificio.
Ostler chiede più accesso, non meno
Ecco la parte che sarebbe disonesto tralasciare.
Ostler chiede l’accesso completo al disco. È una richiesta più ampia di quella che l’app Mac di ChatGPT fa oggi, e non siamo l’opzione più contenuta.
Ma guarda bene chi sta leggendo. L’app sul tuo Mac legge la tua Mail, i tuoi Messages, il tuo calendario e la tua cronologia di navigazione. Ne costruisce un grafo, sul tuo disco, e quel grafo sa moltissimo di te.
Noi non ne vediamo mai nulla. Non un messaggio, non un contatto, non una riga. Non esiste alcun server con una copia, nessun tuo account che possiamo aprire, nessun tubo di analytics, nessun tecnico dell’assistenza che possa guardare. Niente che possiamo vendere, farci sfuggire o essere costretti a consegnare, perché niente di tutto ciò è mai stato nelle nostre mani.
Il permesso che concedi è al tuo computer. Non è un permesso che concedi a noi, perché non c’è nessun noi nel circuito.
La differenza non è mai stata quanto vede. È che nessun altro lo vede.
Ed è esattamente lì che atterra la legge
Non è una posa di marketing. È la struttura del regolamento.
Il GDPR prevede un’esclusione all’articolo 2, paragrafo 2, lettera c), l’esenzione domestica: il regolamento non si applica ai trattamenti effettuati da una persona fisica per l’esercizio di attività a carattere esclusivamente personale o domestico. Che tu tenga traccia della tua famiglia, dei tuoi amici e della tua corrispondenza, per i tuoi scopi, non è ciò che il diritto sulla protezione dei dati intendeva sorvegliare.
Ma leggi con attenzione la parte successiva. L’esenzione copre te. Esplicitamente non copre un fornitore: titolari e responsabili del trattamento che forniscono i mezzi per quelle attività personali o domestiche restano pienamente nell’ambito di applicazione.
La stessa attività assume quindi due forme giuridiche completamente diverse a seconda di una sola decisione architetturale. Il tuo assistente costruisce un quadro della tua vita sulla tua macchina, e tu rientri in un’esclusione scritta esattamente per questo. Il tuo assistente manda lo stesso materiale ai server di un fornitore, e quel fornitore diventa un titolare che tratta dati personali su larga scala.
E non si tratta solo dei tuoi dati. È la parte più facile da non vedere, e un commentatore sotto l’annuncio di Altman l’ha detto meglio di noi: la tua vita quotidiana non è composta solo da te.
Un assistente che ricorda la tua vita ricorda la tua famiglia. La tua dottoressa. L’amica che ti ha confidato qualcosa su Messages sei anni fa. Qualcuno con cui hai smesso di parlare nel 2019. Nessuna di quelle persone si è iscritta a nulla. Non sono tuoi utenti. Finché quel materiale resta sulla tua macchina, fanno parte del tuo archivio domestico, che è esattamente ciò che l’esenzione esiste per proteggere. Quando va a un fornitore, quel fornitore detiene dati personali di persone con cui non ha alcun rapporto, che non hanno mai acconsentito e che nella maggior parte dei casi non lo sapranno mai.
Un’avvertenza onesta, ed è un limite reale più che una nota a piè di pagina: l’esenzione domestica è uno scudo per la vita personale, non una scappatoia per l’uso aziendale. Appoggiati a essa per giustificare il trattamento del tuo elenco clienti e decade. Chi ti dice il contrario ti sta vendendo qualcosa.
Quindi…?
Altman non sbaglia nel dire che questo sta arrivando. Sbaglia su cosa si frappone tra qui e lì, e sbaglia su quanto sia lontano.
Non sono sei mesi e una generazione di modelli. Non è affatto il modello, e non lo è da un pezzo. Sono permessi, tubature, formati e la questione di in quale edificio finiscono i dati.
A quell’ultima domanda abbiamo risposto per prima, e da lì abbiamo costruito a ritroso. Tutto il resto è stato parsing, e il parsing si è rivelato essere il prodotto.
Ecco perché non stiamo aspettando l’arrivo della prossima generazione di modelli. Non ci serviva. La cosa è costruita, ciò che resta è rifinitura, e la rifinitura si misura in settimane.
L’architettura è documentata qui. Domande, correzioni, obiezioni – [email protected].