Ostler vs Zo Computer.

Ci piace sinceramente ciò che Ben e il team di Zo stanno facendo. L'idea di fondo – dare a ogni utente la propria VM cloud su cui può eseguire qualsiasi cosa, anziché un prodotto di chat blindato – è una delle risposte più ponderate al problema del controllo sull'IA cloud che abbiamo visto. Hanno cominciato a pensare all'importazione dei tuoi dati GDPR più o meno quando lo abbiamo fatto noi l'anno scorso, con un obiettivo diverso (dashboard, visualizzazioni, analisi retrospettive) rispetto al nostro (la memoria di lavoro dell'IA, interrogata a ogni interazione). Stesso istinto: che i tuoi dati debbano stare in un luogo che controlli. Meccanismo diverso. Rispettiamo la scelta.

Una VM cloud che controlli contro software in locale

Zo ti dà un computer cloud personale – una VM vera, non un'app in sandbox, su cui puoi installare cose e che puoi usare come ambiente generalista con IA inclusa. È un passo significativo oltre “un'interfaccia di chat che possiede tutti i tuoi dati”. Decidi tu cosa ci gira. Puoi cambiare i modelli. Puoi usare le tue chiavi API, così le tue query passano per provider presso cui hai un account anziché per l'inferenza inclusa di Zo. È più controllo di quello che offrono la maggior parte dei prodotti cloud, e ci piace.

Ostler segue una strada diversa per lo stesso istinto: invece di darti una VM che controlli sull'hardware di qualcun altro, ti diamo software che gira su hardware che possiedi già. Stesso obiettivo (dovresti sapere dove vivono i tuoi dati). Meccanismo diverso (il tuo Mac, non il loro data center).

Su dove risiedono i tuoi dati

Zo è trasparente sul modello di fiducia nella propria documentazione: in linea di principio, gli operatori del cloud sottostante hanno accesso all'hardware su cui gira la tua VM. È un'affermazione di fiducia, non una garanzia tecnica. Ed è vero anche per ogni provider cloud, quindi è una formulazione onesta più che una critica a Zo in particolare.

L'affermazione equivalente di Ostler è più breve: non c'è alcun cloud sottostante. I servizi girano sul tuo Mac, il modello di IA si carica nella RAM del tuo Mac, l'app iOS comunica con il tuo Mac direttamente sul tuo Wi-Fi di casa. Non ci serve un'affermazione di fiducia perché non c'è nulla a cui possiamo accedere.

Modelli di minaccia diversi. Quello di Zo è “il provider cloud è affidabile e controlli tu cosa ci gira”; il nostro è “i dati non lasciano mai il dispositivo, punto”. Entrambi legittimi, a seconda di ciò da cui ti stai proteggendo.

Sull'inferenza dell'IA

Zo offre due strade e riteniamo che la scelta tra le due sia il compromesso più interessante del loro prodotto. Puoi usare l'inferenza inclusa (coperta fino a un tetto per livello sui piani a pagamento, con un consumo che sale più rapidamente di quanto copra di solito il piano base da $18/mese se ti appoggi all'assistente per le attività quotidiane). Oppure puoi usare le tue chiavi API per OpenAI / Anthropic / ecc., nel qual caso Zo inoltra le tue query a provider presso cui hai un account e decidi tu dove vanno i dati. Potrebbero anche eseguire i propri modelli ospitati, il che è meno un problema di condivisione dati con terzi rispetto alla via dell'API inclusa, ma resta ospitato nel cloud – vale la pena verificare con loro direttamente lo stato attuale.

Ostler esegue il modello sul tuo Mac. Modello più piccolo, nessuna bolletta cloud, nessuna terza parte nel circuito, le query non lasciano il dispositivo. E l'inferenza è di fatto illimitata – puoi porre all'assistente mille domande al giorno, ogni giorno, per lo stesso abbonamento mensile fisso, perché il costo di calcolo è la tua bolletta elettrica anziché un addebito API a consumo per query. Non c'è tetto di token, nessuna pagina di limite, nessuna sorpresa “hai raggiunto il tuo utilizzo mensile”. Ecco il compromesso in parole semplici: Zo ti dà ragionamento di livello frontiera al costo del routing cloud e dell'utilizzo a consumo; Ostler ti dà un modello open-weight da 9 miliardi di parametri che gira in locale, non ha tetto di utilizzo e migliora ogni trimestre man mano che l'ecosistema open-weight progredisce.

Sull'importazione dei dati personali

Entrambi i prodotti hanno avuto lo stesso istinto sull'importazione dei dati GDPR l'anno scorso. L'angolazione di Zo è dashboard e visualizzazione retrospettiva – importa i tuoi dati, guarda com'è stato il tuo anno, ottieni analisi. L'angolazione di Ostler è l'uso continuativo – i tuoi dati sono la memoria di lavoro dell'IA, interrogata ogni volta che l'assistente risponde a una domanda sulla tua vita. Prodotti diversi, stessa fonte dati. Vale la pena saperlo se stai scegliendo fra i due.

Sul prezzo

Il piano gratuito di Zo ti dà un ambiente funzionante. I piani a pagamento vanno da $18 / $64 / $200 al mese a seconda del calcolo e dell'archiviazione. Se usi le tue chiavi, paghi anche il tuo provider di IA, oltre al piano di Zo.

Ostler costa $99 una tantum per l'Hub più $9.99/mese per Ostler Pro. Il calcolo gira su hardware che possiedi già, quindi il costo dell'IA non cresce con l'utilizzo. Puoi porre all'assistente mille domande al giorno e la spesa è la stessa che porne dieci.