En resumen. En julio escribimos que la carta sobre pesos abiertos es el acuerdo de suministro de Ostler. Desde entonces le han pasado dos cosas a las capas de debajo. Un proveedor anónimo empezó a regalar inferencia de primer nivel en OpenRouter, con una ficha que dice que las instrucciones y las respuestas se conservan. Y Hugging Face, donde viven los modelos abiertos, busca comprador por unos 13.000 millones de dólares, según se informa. Ninguna de las dos es un escándalo. Ambas recuerdan que todo lo que está por encima de tu propio disco es la decisión comercial de alguien. Incluida una de las nuestras, que nombramos más abajo.

Hace un mes escribimos sobre la carta de los pesos abiertos y planteamos un argumento algo inusual: que un episodio de política sectorial era, para nosotros, un documento de aprovisionamiento. Ostler ejecuta modelos en tu Mac. Si dejan de publicarse los pesos, dejamos de tener producto.

Aquella entrada contenía una frase dicha de pasada: Hugging Face es donde viven los modelos abiertos. Esta semana le ha dado a esa frase una segunda lectura.

Inferencia gratis, de nadie en particular

La semana pasada apareció en OpenRouter un modelo llamado Ox Alpha, lanzamiento sigiloso de un proveedor externo anónimo. Gratuito, con una ventana de contexto de algo más de un millón de tokens. El agente de código abierto OpenCode dijo que el modelo sería gratis durante una semana con uso casi ilimitado, y que el proveedor tenía capacidad para cien billones de tokens al día. Los desarrolladores que lo probaron quedaron impresionados; el consejero delegado de Stripe entre ellos.

Nadie ha establecido en qué servidores se ejecuta. Las principales hipótesis apuntaron a un laboratorio chino que ya ha probado modelos de forma anónima, y a una gran empresa estadounidense, y para el fin de semana la confianza se había evaporado en ambos casos.

La identidad es la parte interesante de la historia. No es la parte importante. La parte importante está en la propia ficha de OpenRouter, que dice que las instrucciones y las respuestas las conserva el proveedor y no se usan para entrenamiento.

Vuelve a leer eso pensando en un proyecto de trabajo. Lo que envíes va a una empresa que no ha dicho quién es, y se lo queda. The Next Web, que lo cubrió bien, formuló la conclusión mejor de lo que podríamos nosotros: lo gratis aquí tiene un precio, y ese precio es información.

El argumento que sobrevive al anuncio

Sería fácil, y barato, escribir que anónimo significa siniestro. No vamos a hacerlo, porque probablemente no sea cierto. Ox Alpha bien podría resultar ser de un nombre conocido con una política de conservación de lo más corriente, y un lanzamiento sigiloso es una manera perfectamente legítima de evaluar un modelo antes de ponerle tu logotipo.

Pero fíjate en que eso no disuelve el problema, solo lo fecha. Si el proveedor se identifica el mes que viene, la conservación ya ocurrió, durante la ventana en la que nadie podía nombrar a la contraparte. No puedes consentir retroactivamente por los datos que ya enviaste.

Para una empresa europea esto deja de ser cuestión de gusto y pasa a ser papeleo que no se puede completar. La normativa de protección de datos exige un contrato con un encargado del tratamiento identificado y una evaluación de a dónde van los datos. Ninguna de las dos cosas es posible cuando la otra parte es anónima. Las obligaciones de transparencia del reglamento de IA se aplican desde el 2 de agosto, con sanciones de hasta 15 millones de euros o el 3 % de la facturación mundial según lo informado, en un régimen construido sobre saber qué proveedor responde de qué.

Así que la forma duradera del argumento no va de este modelo ni de este proveedor. Es simplemente: no puedes evaluar a una contraparte a la que no puedes nombrar. Esa frase es cierta sea quien sea el dueño de Ox Alpha, y sigue siendo cierta después de que nos lo digan.

Y luego el estante donde descansan los pesos

Dos días después, Business Insider informó de que Hugging Face está sondeando la idea de ser adquirida, trabajando con un banco, con una valoración de unos 13.000 millones de dólares. Aún no hay acuerdo. Como referencia, su última ronda anunciada la valoró en 2023 en 4.500 millones, y al parecer rechazó una oferta de Nvidia que la habría valorado en 7.000 millones.

Tampoco es una historia de catástrofe. Microsoft compró GitHub en 2018 por 7.500 millones de dólares y, según la mayoría de los criterios que importan a los desarrolladores, salió bien. Hugging Face ha sido un ciudadano inusualmente bueno de un ecosistema que ayudó a crear, y un dueño bien capitalizado podría ser justo lo que lo mantenga así.

Aun así, es un cambio de un tipo particular. Un bien común y un activo bien gestionado son arreglos distintos, aunque se comporten igual durante años. Uno de los dos tiene un consejo al que se le puede preguntar para qué sirve el repositorio.

Dónde nos deja eso, en concreto

Esta es la parte que, en nuestra opinión, se gana el derecho al resto de la entrada, porque sería muy fácil escribir todo lo anterior como si flotáramos por encima.

No es así. Esta es nuestra posición real, que conocemos porque llevamos una lista de cada destino con el que cualquier cosa en un Mac con Ostler puede hablar, y por qué, y qué lo cruza.

El modelo que responde a tus preguntas no viene de Hugging Face. Llega por el propio registro de Ollama y luego vive como un archivo en tu disco. Si Hugging Face cambiara de manos mañana, tu asistente no se enteraría.

Sí tenemos una dependencia de Hugging Face, y es una dependencia señalada. El filtro de privacidad, el componente que ayuda a decidir qué cuenta como sensible, descarga una revisión fijada de un modelo pequeño desde Hugging Face. Lo que sale de tu Mac para eso es un identificador de modelo y una revisión. Ningún dato de cliente, ningún contenido del grafo.

Fijar protege la integridad, no la disponibilidad. Como fijamos una revisión exacta, nadie puede cambiar en silencio el modelo que se ejecuta bajo tus pies: una revisión fijada lleva a los mismos pesos o no lleva a nada. Contra lo que fijar no protege es contra un cambio de alojamiento, de condiciones o de disponibilidad regional que haga que deje de resolverse para alguien. Eso es un problema de continuidad, y la respuesta a un problema de continuidad es un espejo, es decir, una tarde aburrida de ingeniería en lugar de una emergencia.

Preferimos contarte esa dependencia a que la descubras. Una empresa que afirma tener una frontera limpia y nunca ha enumerado la suya está haciendo una afirmación que no ha comprobado.

Dos preguntas que merece la pena hacerle a cualquier cosa

Ninguna de las dos es hostil, y muchos buenos productos tienen buenas respuestas a ambas. Lo importante es que las respuestas existan.

¿Quién ejecuta la inferencia, y puedes nombrarlo? No la aplicación que abriste. La empresa en cuyo hardware se procesan tus palabras, y cuya política de conservación se les aplica por tanto.

¿De dónde vienen los pesos, y qué te pasa si eso cambia de manos? Si la respuesta es que te enterarías por una nota de prensa, eso conviene saberlo antes de que convenga saberlo.

La posición que no depende del desenlace

No tenemos ni idea de quién es dueño de Ox Alpha, ni de quién será dueño de Hugging Face. Tú tampoco, y de eso se trata precisamente.

Existe exactamente un arreglo en el que esas dos preguntas no pueden volver a responderse sin que tú intervengas: los pesos son un archivo en tu disco y la inferencia ocurre en tu máquina. Bajo ese arreglo, la identidad de Ox Alpha es una anécdota y el nuevo dueño de Hugging Face es la nota de prensa de otro.

Eso no es afirmar que lo local siempre sea mejor. Es una afirmación mucho más estrecha, y la única que defenderíamos: lo local es el arreglo en el que las respuestas dejan de ser de otro para cambiarlas.

El sector va a seguir reorganizándose por encima de la capa del modelo, y en su mayor parte eso será bueno para todos, nosotros incluidos. Solo preferiríamos que la vida de nuestros clientes no estuviera almacenada en ningún sitio al que una reorganización pueda llegar.