Sam Altman, devant une salle de stagiaires :
in the next 6 months, we’re close to a world where a descendant of ChatGPT can watch your screen, record every meeting and call, and have perfect context of your whole life.
Nous ne sommes, a-t-il ajouté, “only one model generation away from this being incredibly useful”.
C’est exactement ce que nous avons construit. Pas quelque chose d’approchant. Cela. Il vaut donc la peine de dire clairement où se situe la vraie difficulté, car ce n’est pas le modèle, et aucune génération de modèle n’y touche.
Votre vie n’est pas sur votre écran
“Un contexte parfait de toute votre vie” est une affirmation sur les données, pas sur l’intelligence. Et votre vie ne se trouve pas dans la fenêtre que vous avez ouverte par hasard.
Elle se trouve dans dix ans de Mail. Dans une base Messages qui remonte à votre premier iPhone. Dans WhatsApp, qui ne propose aucun export pris en charge. Dans votre calendrier, vos contacts, vos photos, et un historique de navigation qui enregistre discrètement ce qui vous intriguait vraiment à une heure du matin.
Sur un Mac, chacun de ces éléments est derrière une serrure. Mail, Messages, l’historique Safari et Time Machine sont protégés par l’accès complet au disque. Contacts, Calendrier, Rappels et Photos exigent chacun leur propre autorisation. Apple a posé ces serrures délibérément, et elles ne s’ouvrent pas devant un modèle plus intelligent.
Ce que ChatGPT atteint réellement aujourd’hui
Soyons précis plutôt que rhétoriques : voici le produit tel qu’il est livré. La fonction “Work with Apps” de ChatGPT lit le contenu sous macOS via l’API d’accessibilité de macOS, et la liste prise en charge est publiée :
- Peut lire. Xcode, VS Code, JetBrains, Cursor, Terminal, iTerm, Warp, Prompt, Notes, TextEdit, Notion, Quip, BBEdit, Nova, TextMate, Raycast, Alfred.
- Absent de la liste. Mail, Messages, Calendrier, Contacts, Photos, historique de navigation, WhatsApp, tout ce qui est archivé.
Relisez cette liste. Des éditeurs de code, des terminaux et des blocs-notes. Et parce que tout passe par la couche d’accessibilité, cela lit du texte et rien que du texte : le lecteur d’écran d’Apple ne peut lui décrire ni une image ni une mise en page.
La description exacte de ce que ChatGPT livre aujourd’hui est donc celle-ci. Il peut lire le texte d’une fenêtre ouverte, dans une liste d’applications autorisées composée surtout d’outils de développement.
C’est une fonction réellement utile. Elle est aussi très spécifique, et cette spécificité est révélatrice.
Une liste d’autorisation dit pour qui un produit est fait : comptons donc. Onze des dix-sept applications sont des outils de développement. Deux autres sont des lanceurs pour utilisateurs avancés. Les quatre restantes sont des blocs-notes. La mère de personne ne figure sur cette liste, parce que rien sur cette liste n’est l’endroit où la mère de qui que ce soit range sa vie.
Ce qui est très bien, réellement utile, et exactement ce qu’on attend d’une entreprise d’ingénieurs : l’outil qu’ils voulaient pour eux-mêmes. Mais cela signifie que la promesse et le produit ne s’adressent pas aux mêmes personnes. “Un contexte parfait de toute votre vie” et “un contexte parfait de votre répertoire de travail” ne sont pas la même phrase, et une seule des deux a été livrée.
Et l’écart entre ces deux phrases n’est pas une génération de modèle. C’est une application native, un empilement d’autorisations système, un installateur signé et notarisé, et beaucoup d’analyse syntaxique ingrate de formats qui n’ont jamais été conçus pour être lus par quelqu’un d’autre.
Nous le savons, parce que c’est là que passe notre temps. Presque aucun de nos efforts d’ingénierie ne va au modèle. Il va à l’accès aux données elles-mêmes, et à la partie dont personne ne fait de fil de discussion : y parvenir sans que les données quittent jamais la machine.
Observer et connaître sont deux produits différents
Observer. Vous observe en continu. Voit ce qui est devant vous au moment où cela se produit. N’exige rien de vous sinon votre présence permanente. Relativement peu coûteux à construire, identique pour tout le monde, et doté d’une propriété inévitable : la seule façon d’avoir du contexte est de ne jamais cesser de regarder.
Connaître. Vous accordez l’accès une fois, à l’archive qui vous appartient déjà. Il lit une décennie en un après-midi. Et ensuite, il n’a plus du tout besoin de vous observer.
Un produit qui vit dans un onglet de navigateur, ou dans une application isolée qui dialogue avec un centre de données, ne peut réalistement construire que le premier. Non par manque d’ambition, mais parce que le second suppose qu’on lui confie l’archive entière, et c’est une conversation très différente lorsque l’archive doit quitter le bâtiment.
Ostler demande plus d’accès, pas moins
Voici la partie qu’il serait malhonnête d’omettre.
Ostler demande l’accès complet au disque. C’est une demande plus large que celle de l’application Mac de ChatGPT aujourd’hui, et nous ne sommes pas l’option la plus sobre.
Mais regardez bien qui lit. L’application sur votre Mac lit votre Mail, vos Messages, votre calendrier et votre historique de navigation. Elle en construit un graphe, sur votre propre disque, et ce graphe en sait très long sur vous.
Nous n’en voyons jamais rien. Pas un message, pas un contact, pas une ligne. Il n’existe aucun serveur avec une copie, aucun compte à vous que nous puissions ouvrir, aucun tuyau d’analytique, aucun ingénieur du support capable de regarder. Rien que nous puissions vendre, laisser fuiter ou être contraints de remettre, parce que rien de tout cela n’a jamais été entre nos mains.
L’autorisation que vous accordez va à votre propre ordinateur. Ce n’est pas une autorisation que vous nous accordez, parce qu’il n’y a pas de nous dans la boucle.
La différence n’a jamais porté sur ce qu’il voit. Elle porte sur le fait que personne d’autre ne le voit.
Et c’est exactement là que le droit atterrit
Ce n’est pas une posture marketing. C’est la structure même du règlement.
Le RGPD prévoit une exclusion à l’article 2, paragraphe 2, point c), l’exemption domestique : le règlement ne s’applique pas au traitement effectué par une personne physique dans le cadre d’une activité strictement personnelle ou domestique. Que vous conserviez une trace de votre propre famille, de vos amis et de votre correspondance, à vos propres fins, n’est pas ce que le droit de la protection des données entendait encadrer.
Mais lisez attentivement la suite. L’exemption couvre vous. Elle ne couvre explicitement pas un fournisseur : les responsables du traitement et les sous-traitants qui fournissent les moyens de ces activités personnelles ou domestiques restent pleinement dans le champ d’application.
La même activité prend donc deux formes juridiques totalement différentes selon une seule décision d’architecture. Votre assistant construit une image de votre vie sur votre propre machine, et vous vous trouvez dans une exclusion écrite précisément pour cela. Votre assistant envoie le même matériau aux serveurs d’un fournisseur, et ce fournisseur devient un responsable de traitement de données personnelles à grande échelle.
Et il ne s’agit pas seulement de vos données. C’est le point le plus facile à manquer, et un commentateur sous l’annonce d’Altman l’a mieux formulé que nous : votre vie quotidienne n’est pas composée de vous seul.
Un assistant qui se souvient de votre vie se souvient de votre famille. De votre médecin. De l’ami qui vous a confié quelque chose sur Messages il y a six ans. De quelqu’un à qui vous avez cessé de parler en 2019. Aucune de ces personnes ne s’est inscrite à quoi que ce soit. Ce ne sont pas vos utilisateurs. Tant que cela reste sur votre machine, elles font partie de vos archives domestiques, ce que l’exemption existe précisément pour protéger. Dès que cela part chez un fournisseur, ce fournisseur détient des données personnelles sur des gens avec lesquels il n’a aucune relation, qui n’ont jamais consenti et qui, la plupart du temps, ne le sauront jamais.
Une réserve honnête, et c’est une vraie limite plutôt qu’une note de bas de page : l’exemption domestique est un bouclier pour la vie privée, pas une échappatoire pour un usage professionnel. Invoquez-la pour justifier le traitement de votre fichier clients et elle tombe. Quiconque vous dit le contraire a quelque chose à vous vendre.
Alors… ?
Altman n’a pas tort de dire que cela arrive. Il a tort sur ce qui se dresse entre ici et là, et il a tort sur la distance qui nous en sépare.
Ce ne sont pas six mois et une génération de modèle. Ce n’est pas du tout le modèle, et ce ne l’est plus depuis un moment. Ce sont des autorisations, de la tuyauterie, des formats, et la question du bâtiment dans lequel les données finissent.
Nous avons répondu à cette dernière question en premier et construit à rebours à partir d’elle. Tout le reste a été de l’analyse syntaxique, et cette analyse syntaxique s’est révélée être le produit.
C’est pourquoi nous n’attendons pas l’arrivée de la prochaine génération de modèle. Nous n’en avons pas eu besoin. La chose est construite, ce qui reste relève de la finition, et la finition se mesure en semaines.
L’architecture est documentée ici. Questions, corrections, désaccords – [email protected].