Esta semana uno de los grupos más creíbles en IA – respaldado por General Catalyst, Kleiner Perkins y Sequoia, con Andrej Karpathy como asesor – ha puesto una suma de nueve cifras detrás de una sola idea: los modelos que usamos a diario no entienden realmente lo que hacemos, y la manera de arreglarlo es que aprendan de nuestro propio contexto en lugar de aprender del internet público.

No podríamos estar más de acuerdo. Como lo expresó uno de sus inversores, los modelos que usamos a diario son "extraños brillantes" – olvidan su mundo en cuanto termina una conversación, y lo reaprenden desde cero en la siguiente consulta. Esa es exactamente la brecha frente a la que se ha construido Ostler. Es, casi palabra por palabra, la apuesta que hicimos.

Así que esto no es una refutación. Es una bienvenida. Cuando una tesis que llevas dos años contemplando en silencio recibe el sello de las personas que definen el campo, la respuesta correcta no es titubear. Es decir: bien. Ahora hablemos de la parte que viene después.

El acuerdo, y luego la bifurcación

Aquí está donde casi todo el mundo coincide ahora: la frontera ya no es un modelo más grande entrenado con más contenido de internet. Esa carrera está tocando techo. El siguiente eje es su contexto – los proyectos, personas, decisiones e historia con los que ningún modelo público fue entrenado jamás. La memoria es el foso.

Una vez que uno acepta eso, queda exactamente una pregunta, y en ella se juega toda la partida: ¿dónde vive esa memoria y quién la controla?

Hay dos respuestas honestas.

Una – la respuesta empresarial – consiste en tomar los datos de una organización y entrenarlos dentro de un modelo. Meter los documentos de la empresa y el historial de conversaciones en los pesos, y reentrenar de forma continua para que el modelo se mantenga al día. Para un bufete de abogados o una gran empresa, eso resulta genuinamente potente. La firma quiere un modelo que haya interiorizado toda la firma. Bien.

La otra – la respuesta personal – es distinta en naturaleza, no en grado. Una persona no es una empresa. Su contexto no es un espacio de trabajo compartido de documentos aprobados. Son diez años de mensajes, fotos, correos y notas a medio terminar – el registro más íntimo que existe de su vida. Y la idea de que la manera de hacer que un asistente le entienda es subir todo eso a un laboratorio y entrenarlo dentro de unos pesos que usted nunca verá, en servidores que no le pertenecen, ajustados a una métrica que no es suya – eso no es un compañero. Es una grabación de usted, en manos de otro.

Hay evidencia detrás de esto, no solo principios. Cuando los investigadores compararon los dos enfoques cara a cara – ajustar nuevos hechos dentro de un modelo frente a recuperarlos hacia el contexto – la recuperación ganó por un margen amplio (Ovadia et al., "Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs", 2023: aproximadamente 0,87 frente a 0,50 en tareas de conocimiento nuevo). Los modelos simplemente son malos aprendiendo hechos nuevos al entrenarlos dentro, y corren el riesgo de olvidar lo que ya sabían. Para los hechos propios de una persona, la respuesta con forma de recuperación es también la mejor respaldada por la evidencia. Los métodos de entrenamiento más recientes buscan cerrar esa brecha, y quizá lo consigan; pero una arquitectura que mantiene su memoria legible, corregible y en su propia máquina no depende de ganar esa carrera.

Una memoria que no puede ver no es suya

Creemos que la respuesta personal tiene que ser local. No como eslogan, sino como arquitectura.

Ostler no entrena su vida dentro de un modelo en nuestra nube. No tenemos nube para sus datos. Ostler lee los repositorios que ya están en su Mac – Mensajes, Mail, Contactos, Calendario, sus notas – y construye un grafo de conocimiento personal que reside en su máquina. La memoria es una cosa que usted puede abrir, leer, corregir y borrar. Cuando el asistente le cuenta algo sobre su propia vida, está leyendo de un grafo que usted posee, no recordando algo disuelto en unos pesos que nadie puede inspeccionar.

Esa es la diferencia entre una memoria y un registro. Una memoria que usted guarda es suya. Una memoria en el servidor de otro, que usted no puede ver y no puede borrar, es un registro que ellos conservan sobre usted. Para una empresa, un registro podría ser aceptable. Para una persona, no debería serlo.

Por eso también "local-first" se está convirtiendo en un requisito básico y ya no es la historia completa. Muchos productos afirmarán ahora ser locales. La promesa más difícil y más honesta es la que viene por debajo: no solo que los datos son locales, sino que usted sostiene la costura – decide qué se conserva, qué sale a la superficie y qué se olvida. Ostler está construido para que pueda hacerlo. Niveles de privacidad en cada hecho. Un mecanismo de correcciones que le permite borrar, sustituir o añadir a lo que el sistema cree. Una wiki de su propia vida que usted puede explorar y auditar de verdad. El control es la funcionalidad, no la fricción.

La misma apuesta, llevada al rincón personal

Nada de esto nos pone en desacuerdo con los laboratorios que ahora vierten dinero en el contexto. Nos pone en el mismo mapa, en un lugar diferente. Ellos están construyendo la memoria de una organización, en la nube, para la empresa. Nosotros estamos construyendo la memoria de una persona, en su propia máquina, para ella.

Nos alegra que la categoría sea real. Lo hemos pensado durante mucho tiempo – el patrón de una base de conocimiento autocompilada, "mantenida como código", es uno que el propio Karpathy describió, y está presente hoy en nuestra arquitectura. La validación es bienvenida.

Simplemente hemos respondido a la pregunta que viene después del acuerdo. La memoria es el foso – sí. Y la memoria más personal del mundo debería vivir en exactamente un lugar: con la persona a la que pertenece. Eso es lo que estamos construyendo. Se ejecuta en su Mac. Las llaves nunca salen de sus manos.

Si ese es el futuro por el que quiere apostar, puede leer sobre la arquitectura aquí. Preguntas, correcciones, discrepancias – [email protected].