Une seule d'entre elles devrait être la vôtre.

Ce mois-ci, le Wall Street Journal a publié un article dont le titre fait la plus grande partie du travail : « AI Knows What You Did Online. Now Your Employer Does, Too. » Le reportage est pire que le titre. Les employeurs embauchent des cabinets d'IA pour ratisser les empreintes numériques des candidats à un emploi. Pas une rapide recherche de votre nom, mais un balayage profond de publications vieilles de plusieurs années, de comptes de forum oubliés, du commentaire que vous avez laissé à 2 heures du matin en 2014. Certains cabinets offrent une surveillance continue du personnel existant. Certains utilisent la reconnaissance faciale pour associer le visage sur un compte anonyme au visage sur votre badge, de sorte que même les opinions que vous aviez soigneusement gardées non signées se retrouvent classées sous votre nom.

Lisez-le attentivement et vous remarquez que l'histoire ne porte pas vraiment sur la surveillance. La surveillance, c'est regarder. Ceci est autre chose : c'est de la mémoire. Un dossier permanent de vous, assemblé à votre insu, indexé sur votre nom, et consulté précisément aux moments qui comptent le plus pour vous (une offre d'emploi, une promotion, une vérification d'antécédents), par des gens dont les intérêts ne sont pas les vôtres.

Et les recruteurs par filtrage ne sont que les nouveaux membres d'un très vieux club. Les plateformes publicitaires conservent une mémoire de vous depuis vingt ans ; c'est ainsi qu'elles savent vous montrer les baskets que vous avez regardées une fois, pour toujours. Chaque service avec une connexion en garde une. Chaque produit « gratuit » est financé par une. Il y a, en ce moment, des dizaines de mémoires institutionnelles de vous dans le monde. Détaillées, durables, lisibles par machine. Et pas une seule d'entre elles n'est pour vous. La loi dit que vous pouvez demander une copie, voire leur demander de la corriger. Ce qui arrive est un export que vous ne pouvez pas lire, dans une forme que vous ne pouvez pas utiliser, figé au moment où il quitte leurs serveurs. Le droit est réel. La mémoire n'est toujours pas la vôtre.

L'argument de l'intérieur

Plus tôt ce mois-ci, Mira Murati a publié un essai chez Thinking Machines Lab intitulé « The future worth building is human. » En tant que CTO d'OpenAI, elle a dirigé la salle des machines du projet d'IA le plus centralisé sur terre, il vaut donc la peine de lire ce qu'elle défend maintenant. En condensé : l'IA qui vaut la peine d'être construite devrait étendre la volonté et le jugement humains plutôt que les remplacer ; l'avenir qui mérite d'exister est une IA distribuée et personnalisable façonnée par les personnes qu'elle sert, pas des modèles centralisés imposant un ensemble de valeurs à tous ; et les gens devraient posséder et cultiver leurs propres connaissances plutôt que louer l'accès à celles-ci.

Vous pouvez être cynique face aux récits de conversion. Mais quand quelqu'un qui a aidé à construire la chose centralisée écrit que l'avenir est distribué et détenu par l'utilisateur, il vaut la peine de dresser l'oreille. Elle ne décrit pas un chatbot plus agréable. Elle décrit un changement de propriété.

Une mémoire utile sauvegarde plus qu'elle ne fait remonter

Une mémoire qui est réellement utile doit sauvegarder bien plus qu'elle ne vous montrera jamais.

Vous ne savez jamais en juin quel moment vous aurez besoin en novembre. La remarque désinvolte qui s'avère être le début d'une entreprise. Le nom de la personne que vous avez rencontrée une fois à une conférence qui, dix-huit mois plus tard, est exactement celle que vous devez appeler. Le restaurant que votre amie a mentionné aimer, avant qu'elle tombe malade, quand vous essayez de choisir un endroit pour son anniversaire. Aucun de ceux-ci ne paraissait important sur le moment. Une mémoire qui ne gardait que ce qui semblait significatif sur l'instant serait un journal de l'évidence, et inutile pour la seule chose à laquelle la mémoire sert réellement : être surpris par ce qui s'avère compter.

Ainsi, toute mémoire réelle sur-conserve. Radicalement. Et cette propriété, la rétention totale et indiscriminée, est exactement ce qui rend l'histoire du WSJ monstrueuse et une mémoire personnelle libératrice. La sur-conservation à propos de vous, détenue par quelqu'un d'autre, est une archive chargée : tout ce que vous avez jamais fait, récupérable par des gens qui ont du pouvoir sur vous, à leur calendrier, pour leurs propres fins. La sur-conservation par vous, détenue sur votre propre machine, c'est simplement se souvenir. C'est ce que fait votre propre cerveau, sans la décomposition.

Même mécanisme. Opposé de toutes les manières qui comptent. La seule variable qui l'inverse est qui la détient. La souveraineté n'est pas une fonctionnalité bonus d'une mémoire éthique. C'est ce qui rend la mémoire éthique tout court.

L'étalon-or existe déjà

Si vous voulez la preuve que le domaine de la confidentialité le sait déjà, regardez la seule catégorie où les enjeux ont cessé d'être hypothétiques. Lorsque les chercheurs de Privacy Not Included de Mozilla ont examiné les applications de suivi des règles (des données qui, après Dobbs, peuvent se retrouver dans une salle d'audience), la seule application qu'ils ont recommandée sans réserve était Euki. Sa caractéristique distinctive est presque comiquement simple : tout reste sur l'appareil. Rien à assigner à comparaître depuis un serveur, rien à violer, rien à vendre discrètement.

La leçon se généralise, et elle est plus tranchante que la plupart des débats sur les politiques de confidentialité : quand les données sont véritablement intimes, la responsabilité n'est pas de les partager. La responsabilité, c'est que quelqu'un d'autre les détienne du tout. Aucune politique, aucun chiffrement en transit, aucune promesse de DPA ne corrige cela. Seule l'architecture le fait.

Une mémoire de toute votre vie, construite à partir de vos conversations, de vos réunions, de vos notes et de vos lectures, est le cas limite des données intimes. Elle devrait être tenue à la norme du cas limite.

Pourquoi nous l'avons construit ainsi

Ostler n'a pas commencé comme un produit de confidentialité. Il a commencé parce que prendre des notes gâche le moment. Assis en face de quelqu'un que vous voulez vraiment écouter, à moitié présent, à transcrire au lieu de penser. C'est un mauvais compromis, et tous ceux qui l'ont fait le savent. La promesse originelle d'Ostler était petite et humaine : soyez dans la conversation. Il s'en souviendra pour vous.

Tout depuis a consisté à comprendre ce que cette promesse exige. Trois choses, il s'avère.

Il doit vous laisser être présent. Une capture qui fonctionne sans que vous ayez à performer pour elle, pour que le souvenir se fasse et que vous n'ayez pas à le faire.

Il doit être ancré dans toute votre vie, pas dans la tranche d'une seule application. Une mémoire construite uniquement à partir de votre calendrier sait quand vous avez rencontré quelqu'un ; une mémoire construite à partir de vos réunions, messages, notes et lectures ensemble sait qui ils sont pour vous. Ostler compile tout cela dans un wiki privé de votre propre vie, sur votre propre Mac.

Et il doit être à vous d'utiliser. La mémoire d'Ostler, ce sont de simples fichiers markdown sur votre machine. Ouvrez-les dans Obsidian. Cherchez-y. Corrigez-les. Copiez-les. Supprimez-les. Il n'y a pas de jumeau côté serveur, pas de bouton d'export entre vous et votre propre passé, pas de conditions d'utilisation qui peuvent changer ce que votre mémoire est autorisée à être. Ce n'est pas un compte. C'est une possession.

Les mémoires institutionnelles de vous ne vont pas disparaître. Les recruteurs par filtrage, les plateformes, les courtiers. Ils garderont leurs archives, et vous n'aurez jamais le droit de les lire. La seule réponse qui passe à l'échelle est d'avoir une meilleure mémoire à vous : plus complète, plus juste, de votre côté, et sur votre machine.

Tout le monde construit une mémoire de vous.

Une seule d'entre elles devrait être la vôtre.