Sam Altman, ante una sala llena de becarios:
in the next 6 months, we’re close to a world where a descendant of ChatGPT can watch your screen, record every meeting and call, and have perfect context of your whole life.
Estamos, añadió, “only one model generation away from this being incredibly useful”.
Eso es justo lo que hemos construido. No algo parecido. Eso. Así que vale la pena decir con claridad dónde está la parte difícil de verdad, porque no es el modelo, y ninguna generación de modelos la toca.
Tu vida no está en tu pantalla
“Contexto perfecto de toda tu vida” es una afirmación sobre datos, no sobre inteligencia. Y tu vida no está en la ventana que tengas abierta por casualidad.
Está en diez años de Mail. Está en una base de datos de Messages que llega hasta tu primer iPhone. Está en WhatsApp, que no tiene ninguna exportación admitida. Está en tu calendario, tus contactos, tus fotos y un historial de navegación que registra en silencio lo que de verdad te dio curiosidad a la una de la madrugada.
En un Mac, cada una de esas cosas está detrás de un candado. Mail, Messages, el historial de Safari y Time Machine están protegidos por el acceso total al disco. Contactos, Calendario, Recordatorios y Fotos exigen cada uno su propio permiso. Apple puso esos candados a propósito, y no se abren ante un modelo más listo.
A qué llega ChatGPT realmente hoy
Mejor ser concretos que retóricos, así que aquí está el producto tal como se entrega. La función “Work with Apps” de ChatGPT lee contenido en macOS a través de la API de accesibilidad de macOS, y la lista admitida está publicada:
- Puede leer. Xcode, VS Code, JetBrains, Cursor, Terminal, iTerm, Warp, Prompt, Notes, TextEdit, Notion, Quip, BBEdit, Nova, TextMate, Raycast, Alfred.
- No está en la lista. Mail, Messages, Calendario, Contactos, Fotos, historial de navegación, WhatsApp, cualquier cosa archivada.
Vuelve a leer esa lista. Editores de código, terminales y blocs de notas. Y como funciona a través de la capa de accesibilidad, lee texto y solo texto: el lector de pantalla de Apple no puede describirle ni una imagen ni un diseño.
Así que la descripción exacta de lo que ChatGPT entrega hoy es esta. Puede leer el texto de una ventana que tengas abierta, dentro de una lista de aplicaciones permitidas formada sobre todo por herramientas de desarrollo.
Es una función realmente útil. También es muy específica, y esa especificidad es la pista.
Una lista de permitidos es una declaración sobre para quién es un producto, así que cuéntala. Once de las diecisiete aplicaciones son herramientas de desarrollo. Otras dos son lanzadores para usuarios avanzados. Las cuatro restantes son blocs de notas. La madre de nadie está en esa lista, porque nada de esa lista es donde la madre de nadie guarda su vida.
Lo cual está bien, es realmente útil y es exactamente lo que cabe esperar que entregue primero una empresa de ingenieros: la herramienta que querían para sí mismos. Pero significa que la promesa y el producto apuntan a personas distintas. “Contexto perfecto de toda tu vida” y “contexto perfecto de tu directorio de trabajo” no son la misma frase, y solo una de las dos se ha entregado.
Y la distancia entre esas dos frases no es una generación de modelos. Es una aplicación nativa, un montón de permisos del sistema operativo, un instalador firmado y notarizado, y muchísimo análisis nada glamuroso de formatos que nunca se pensaron para que los leyera nadie más.
Lo sabemos porque ahí es donde se va nuestro tiempo. Casi nada de nuestro esfuerzo de ingeniería va al modelo. Va a llegar a los datos siquiera, y a la parte sobre la que nadie escribe hilos: hacerlo sin que los datos salgan nunca de la máquina.
Observar y conocer son productos distintos
Observar. Te observa continuamente. Ve lo que tienes delante según ocurre. No necesita nada de ti salvo tu presencia permanente. Es comparativamente barato de construir, funciona igual para todo el mundo y trae una propiedad inevitable: la única forma de que tenga contexto es no dejar de mirar nunca.
Conocer. Concedes acceso una vez, al archivo que ya es tuyo. Lee una década en una tarde. Y después no necesita observarte en absoluto.
Un producto que vive en una pestaña del navegador, o en una aplicación aislada que habla con un centro de datos, en la práctica solo puede construir el primero. No por falta de ambición, sino porque el segundo exige que se le confíe el archivo entero, y esa es una conversación muy distinta cuando el archivo va a salir del edificio.
Ostler pide más acceso, no menos
Esta es la parte que sería deshonesto omitir.
Ostler pide acceso total al disco. Es una petición mayor que la que hace hoy la aplicación de Mac de ChatGPT, y no somos la opción más comedida.
Pero fíjate bien en quién está leyendo. La aplicación de tu Mac lee tu Mail, tus Messages, tu calendario y tu historial de navegación. Construye un grafo con todo eso, en tu propio disco, y ese grafo sabe muchísimo sobre ti.
Nosotros no vemos nada de eso. Ni un mensaje, ni un contacto, ni una sola línea. No hay ningún servidor con una copia, ninguna cuenta tuya que podamos abrir, ninguna tubería de analítica, ningún técnico de soporte que pueda mirar. Nada que podamos vender, filtrar o vernos obligados a entregar, porque nada de ello estuvo nunca en nuestras manos.
El permiso que concedes es a tu propio ordenador. No es un permiso que nos concedas a nosotros, porque no hay ningún nosotros en el circuito.
La diferencia nunca estuvo en cuánto ve. Está en que nadie más lo ve.
Y ahí es exactamente donde aterriza la ley
Esto no es una postura de marketing. Es la estructura del reglamento.
El RGPD contiene una excepción en el artículo 2, apartado 2, letra c), la excepción doméstica: el reglamento no se aplica al tratamiento efectuado por una persona física en el ejercicio de actividades exclusivamente personales o domésticas. Que lleves un registro de tu propia familia, tus amistades y tu correspondencia, para tus propios fines, no es lo que el derecho de protección de datos vino a vigilar.
Pero lee con atención lo que viene después. La excepción te cubre a ti. Explícitamente no cubre a un proveedor: los responsables y encargados del tratamiento que suministran los medios para esas actividades personales o domésticas siguen plenamente dentro del ámbito de aplicación.
Así que la misma actividad tiene dos formas jurídicas completamente distintas según una única decisión de arquitectura. Tu asistente construye una imagen de tu vida en tu propia máquina, y quedas dentro de una excepción escrita justo para eso. Tu asistente envía el mismo material a los servidores de un proveedor, y ese proveedor pasa a ser un responsable que trata datos personales a gran escala.
Y no son solo tus datos. Esta es la parte más fácil de pasar por alto, y un comentarista bajo el anuncio de Altman lo expresó mejor que nosotros: tu vida diaria no se compone solo de ti.
Un asistente que recuerda tu vida recuerda a tu familia. A tu médica. A la amiga que te contó algo en confianza por Messages hace seis años. A alguien con quien dejaste de hablar en 2019. Ninguna de esas personas se dio de alta en nada. No son tus usuarios. Mientras eso se queda en tu máquina, forman parte de tu registro doméstico, que es justo lo que la excepción existe para proteger. Cuando va a un proveedor, ese proveedor guarda datos personales de gente con la que no tiene ninguna relación, que nunca consintió y que en la mayoría de los casos nunca lo sabrá.
Una salvedad honesta, y es un límite real más que una nota al pie: la excepción doméstica es un escudo para la vida personal, no un resquicio para el uso empresarial. Apóyate en ella para justificar el tratamiento de tu cartera de clientes y se cae. Quien te diga lo contrario te está vendiendo algo.
¿Entonces…?
Altman no se equivoca al decir que esto llega. Se equivoca sobre qué se interpone entre aquí y allí, y se equivoca sobre lo lejos que está.
No son seis meses y una generación de modelos. No es el modelo en absoluto, y hace tiempo que no lo es. Son permisos, fontanería, formatos y la cuestión de en qué edificio acaban los datos.
Respondimos primero a esa última pregunta y construimos hacia atrás desde ahí. Todo lo demás ha sido análisis sintáctico, y ese análisis resultó ser el producto.
Por eso no estamos esperando a que llegue la próxima generación de modelos. No la necesitábamos. La cosa está construida, lo que queda es pulido, y el pulido se mide en semanas.
La arquitectura está documentada aquí. Preguntas, correcciones, desacuerdos – [email protected].