Note dal laboratorio.

IA personale local-first, architettura e le mosse del settore che continuano a confermare la scommessa. Scritto a Hong Kong.

La corsa all'IA personale è ancora aperta, e tutti gareggiano sulla pista sbagliata

Due articoli indipendenti, uno da una newsletter sulla creator economy e uno da una pubblicazione per sviluppatori, arrivano alla stessa diagnosi. Nessuno ha vinto la corsa all'agente di IA personale. Il collo di bottiglia non è il modello e non è l'hardware; è se l'agente abbia accesso ai dati reali dell'operatore. È il problema attorno al quale Ostler è costruito.

Single machine, single customer, single source of truth

“Local-first” has become a polite lie in personal AI. Most products marketed as local actually keep the heavy lifting in the cloud, with the cache on your device. Ostler runs every component on a single Mac, the one the customer already owns. This is what local-first looks like when you build it honestly.

La prossima tesi di a16z è ‘osservare per agire’. Noi l'abbiamo costruita local-first.

Kenan Saleh di a16z Speedrun delinea la prossima ondata dell'IA: agenti che monitorano costantemente il contesto, prevedono ciò che conta e agiscono prima ancora che glielo si chieda. Cita due prodotti che già lo fanno; entrambi sono nel cloud. Ecco come si presenta l'osservare-per-agire quando i dati non lasciano mai la macchina del cliente.

Gli assistenti di IA per gli appunti possono invalidare il segreto professionale fra avvocato e cliente. Il nostro no.

Il New York Times riferisce che gli avvocati d'impresa si trasformano in buttafuori durante le riunioni virtuali, espellendo gli assistenti di IA cloud per gli appunti. Il rischio per il segreto professionale è architetturale, non editoriale. Ecco cosa cambia quando l'assistente per gli appunti funziona sulla macchina del cliente, con trascrizione on-device WhisperKit e un registro dei consensi a prova di manomissione.

The privacy nutrition label is the only privacy story that survives a lawyer’s read

Apple’s App Store privacy nutrition label is the only privacy disclosure surface in tech with structural enforcement. The Ostler iOS app declares zero tracking and no linked data, because there is no Ostler server to link data to. The architecture writes the label, not the lawyer.

The most intimate technology of our era is a pipeline

A class action filed in California this month alleges that chatbot conversations have been routed through advertising trackers. The argument lands because chatbots are now the most intimate technology many people use. Privacy by policy cannot prevent this kind of leak. Only architecture can.

The diplomat, the researcher, and the founder: three independent verdicts on local-first personal AI

Three completely different vantage points have converged on the same architecture for personal AI over the past six months. Singapore's Foreign Minister using it daily on a Raspberry Pi. Andrej Karpathy describing it on stage. A founder shipping it to customers. They had no reason to agree. They did anyway.

When Apple ships Siri via Gemini, that is not a threat. It is validation.

Apple is about to concede the category. The fact that the most privacy-obsessed consumer-tech company on the planet cannot build a personal AI locally tells you exactly how large the market is, and why the local-first bet is the contrarian trade now being demanded.

OpenAI shipped an open-weight PII model. We are wiring it in.

On 21 April 2026, OpenAI released Privacy Filter as open weights under Apache 2.0. It runs locally, detects eight categories of PII, and slots directly into Ostler's ingest, diagnostic, and pre-flight pipeline. Here is why, and what the release signals.

Karpathy described the architecture. We already built it.

On Dwarkesh Patel's podcast on 17 October 2025, Andrej Karpathy argued that a small reasoner with external memory beats a 1.8-trillion-parameter monolith. That is the architecture Ostler has been running since late 2025. Here is what it means for local-first personal AI.

Why I built a personal AI that never touches the cloud

After twenty years of giving my data to tech companies, I built a personal knowledge graph that runs entirely on a Mac Mini. This is the story of how it got here, and why it matters that nothing leaves the house.

L'architettura è la policy.

Locale  ·  Verificabile  ·  Tuo