Note dal laboratorio.
IA personale local-first, architettura e le mosse del settore che continuano a confermare la scommessa. Scritto a Hong Kong.
IA personale local-first, architettura e le mosse del settore che continuano a confermare la scommessa. Scritto a Hong Kong.
Jake Saper di Emergence Capital ha appena pubblicato un pezzo di tesi: il valore nell'IA aziendale sta migrando dal livello del modello verso i dati proprietari e i flussi di lavoro costruiti sopra. Sta descrivendo, per l'azienda, lo stesso cambiamento strutturale su cui Ostler è costruito per l'individuo. Il disaccoppiamento personale è il prossimo. Ecco come appare quando il valore nell'IA smette di stare dentro il modello e comincia a stare nella memoria di te.
Datori di lavoro, piattaforme pubblicitarie e broker di dati mantengono tutti una memoria duratura e leggibile da macchina di te, e nessuno di loro è per te. Una memoria davvero utile deve salvare più di quanto mostri, e questa stessa proprietà la rende mostruosa nelle mani di qualcun altro e liberatoria nelle tue. L'unica variabile che ribalta tutto è chi la detiene. Mira Murati ora sostiene la stessa tesi dall'interno.
Un laboratorio ben finanziato ha appena messo i nomi più credibili dell'IA dietro l'idea che i modelli debbano imparare dal tuo contesto. Siamo d'accordo. L'unica domanda rimasta è dove vive quella memoria e chi la controlla – e per una persona, la risposta onesta deve essere locale.
Due articoli indipendenti, uno da una newsletter sulla creator economy e uno da una pubblicazione per sviluppatori, arrivano alla stessa diagnosi. Nessuno ha vinto la corsa all'agente di IA personale. Il collo di bottiglia non è il modello e non è l'hardware; è se l'agente abbia accesso ai dati reali dell'operatore. È il problema attorno al quale Ostler è costruito.
“Local-first” è diventata una bugia educata nell'IA personale. La maggior parte dei prodotti commercializzati come local tiene in realtà il lavoro pesante nel cloud, con la cache sul tuo dispositivo. Ostler esegue ogni componente su una sola macchina Mac, quella che il cliente possiede già. Ecco come appare il local-first quando lo costruisci onestamente.
Kenan Saleh di a16z Speedrun delinea la prossima ondata dell'IA: agenti che monitorano costantemente il contesto, prevedono ciò che conta e agiscono prima ancora che glielo si chieda. Cita due prodotti che già lo fanno; entrambi sono nel cloud. Ecco come si presenta l'osservare-per-agire quando i dati non lasciano mai la macchina del cliente.
Il New York Times riferisce che gli avvocati d'impresa si trasformano in buttafuori durante le riunioni virtuali, espellendo gli assistenti di IA cloud per gli appunti. Il rischio per il segreto professionale è architetturale, non editoriale. Ecco cosa cambia quando l'assistente per gli appunti funziona sulla macchina del cliente, con trascrizione on-device WhisperKit e un registro dei consensi a prova di manomissione.
L'etichetta nutrizionale sulla privacy dell'App Store di Apple è l'unica superficie di divulgazione della privacy nel settore tech con applicazione strutturale. L'app iOS di Ostler dichiara zero tracciamento e nessun dato collegato, perché non esiste alcun server Ostler a cui collegare i dati. È l'architettura a scrivere l'etichetta, non l'avvocato.
Una class action depositata in California questo mese sostiene che le conversazioni con i chatbot siano state instradate attraverso tracker pubblicitari. L'argomento fa presa perché i chatbot sono ormai la tecnologia più intima che molte persone usano. La privacy per policy non può impedire questo tipo di fuga. Solo l'architettura può.
Tre punti di vista completamente diversi sono convergiti sulla stessa architettura per l'IA personale negli ultimi sei mesi. Il Ministro degli Esteri di Singapore che la usa ogni giorno su un Raspberry Pi. Andrej Karpathy che la descrive sul palco. Un fondatore che la consegna ai clienti. Non avevano motivo di essere d'accordo. Lo sono stati comunque.
Apple sta per concedere la categoria. Il fatto che l'azienda di tecnologia di consumo più ossessionata dalla privacy del pianeta non riesca a costruire un'IA personale in locale ti dice esattamente quanto è grande il mercato, e perché la scommessa local-first è l'operazione controcorrente ora richiesta.
Il 21 aprile 2026 OpenAI ha rilasciato Privacy Filter come open weights sotto Apache 2.0. Funziona in locale, rileva otto categorie di PII e si inserisce direttamente nella pipeline di ingest, diagnostica e pre-flight di Ostler. Ecco perché, e cosa segnala il rilascio.
Nel podcast di Dwarkesh Patel il 17 ottobre 2025, Andrej Karpathy ha sostenuto che un piccolo reasoner con memoria esterna batte un monolite da 1,8 trilioni di parametri. Questa è l'architettura che Ostler esegue da fine 2025. Ecco cosa significa per l'IA personale local-first.
Dopo vent'anni passati a dare i miei dati alle aziende tech, ho costruito un grafo di conoscenza personale che funziona interamente su un Mac Mini. Questa è la storia di come è arrivato qui, e perché conta che nulla esca di casa.