Le New York Times a publié un article ce mois-ci sur un petit phénomène qui devient réel. Les juristes d'entreprise commencent leurs réunions virtuelles de la même manière que les boîtes de nuit : en expulsant quiconque ne devrait pas être là. L'invité indésirable est le preneur de notes IA.
Jeffrey Gifford, un juriste d'entreprise à San Antonio, a dit au journal qu'il ouvre chaque appel par un appel des présents. « Hé, Mike, Jim, Barbara, je vois que le preneur de notes IA est apparu. Je vais l'éteindre et l'expulser de la réunion. » Tout le monde et leur mère, a-t-il dit, utilise ces choses. Des dirigeants, des membres du conseil, des juristes internes. Et chacun de ces outils est en train de discrètement ronger le système immunitaire de l'entreprise.
Deux bombes à retardement juridiques dans une seule catégorie de produit
L'article détaille deux risques distincts qui réveillent les avocats à 3 heures du matin.
Le premier est la découverte judiciaire. Un appel du conseil d'administration n'a normalement pas de procès-verbal qui enregistre chaque aparté. Les procès-verbaux sont curatés ; ils saisissent les décisions, pas les moments qui les précèdent. Une transcription IA saisit tout : la blague qui n'aurait jamais dû être consignée, la proposition à demi formée qui a été retirée dix secondes plus tard, le cadre qui dit que son produit va « dominer la catégorie » dans une phrase qu'il voulait comme un encouragement et qu'un régulateur lira comme une preuve d'entente. Une fois cette transcription existante, c'est un document. Et les documents sont soumis à la découverte judiciaire.
Le second est le secret professionnel. Les communications entre avocat et client bénéficient d'une protection spéciale dans la loi, mais elles la perdent si la conversation est partagée avec une partie extérieure. C'est la règle qui rend les avocats nerveux à propos des preneurs de notes IA dans les réunions juridiques. Le preneur de notes est un fournisseur. Les transcriptions vont sur les serveurs du fournisseur. Les conditions d'utilisation du fournisseur lui permettent d'en faire diverses choses. Si un tribunal traite le fournisseur comme un tiers aux fins du secret professionnel – et il existe désormais une décision fédérale qui dit que certains de ces fournisseurs sont exactement cela – alors partager la réunion avec le bot revient à la partager avec quelqu'un en dehors du cercle du secret. Le secret s'évapore. La conversation qui devait être protégée devient une preuve.
Ce que le juge Rakoff a réellement dit
En février de cette année, le juge de district américain Jed S. Rakoff a jugé dans le district sud de New York que les transcriptions qu'un accusé avait générées en demandant à Claude des conseils juridiques n'étaient pas protégées par le secret professionnel. Le raisonnement importe plus que le résultat. Deux faits concernant la relation avec le fournisseur ont fait les dégâts.
Un : le modèle était entraîné sur les entrées des utilisateurs. Le côté de la conversation de l'accusé était, en principe, du carburant pour la prochaine version du produit.
Deux : la politique de confidentialité du fournisseur comprenait des clauses de non-responsabilité sur sa capacité à partager les données des utilisateurs avec des tiers, y compris « les autorités de réglementation gouvernementales ». L'accusé, a soutenu le juge, ne pouvait avoir aucune attente raisonnable de confidentialité alors que le fournisseur lui-même s'était réservé le droit de divulguer.
C'est le précédent qui effraie les juristes d'entreprise. C'est aussi un précédent qui repose sur deux faits architecturaux et contractuels concernant le fournisseur, et non sur quoi que ce soit d'intrinsèque à la technologie des grands modèles de langage. Ce qui signifie que le précédent peut être contourné par la conception. Il suffit de construire un produit qui n'a pas ces deux propriétés.
Ce que nous avons construit
Ostler RemoteCapture est l'enregistreur de réunions et d'appels qui est livré avec le Ostler Hub. Il fait le même travail que Otter, Fathom, Granola et Read.ai. Il écoute l'audio, produit une transcription, résume la conversation et classe le résultat. Fonctionnellement, vous ne pourriez pas les distinguer dans une démo.
Architecturalement, ils ne sont pas dans la même catégorie de produit.
RemoteCapture exécute la transcription sur le propre Mac du client. Il n'y a aucun serveur fournisseur dans le pipeline. Nous utilisons WhisperKit d'Argmax, une implémentation sur appareil du modèle Whisper d'OpenAI qui fonctionne entièrement sur le Mac du client. L'audio ne quitte jamais l'appareil. La transcription ne quitte jamais l'appareil. Le résumé est généré par le modèle de langage local que les clients exécutent sur leur propre Hub. Creative Machines – l'entreprise qui fabrique Ostler – ne voit jamais un seul mot de votre réunion.
Ce n'est pas une affirmation marketing. C'est une propriété du lieu où vont les octets. Vous pouvez le vérifier avec le pare-feu réseau de macOS. Vous pouvez le vérifier avec Little Snitch. Vous pouvez vous déconnecter entièrement d'internet et l'enregistrement, la transcription, la synthèse et le classement continuent tous à fonctionner. Nous n'avons pas de serveur dans ce pipeline parce que l'architecture n'en a pas besoin.
Cette propriété n'est pas accessoire. C'est tout l'enjeu. C'est ce qui rend impossible à répéter les deux faits qui ont fait les dégâts dans Rakoff :
1. Nous ne nous entraînons pas sur vos réunions. Pas parce que nous promettons de ne pas le faire. Parce que les données n'existent sur aucun système que nous contrôlons. Il n'y a pas d'étape de téléversement où elles pourraient être interceptées, pas d'étape de journalisation où elles pourraient être conservées, pas d'étape d'entraînement où elles pourraient être ingérées. Les données existent sur votre machine, dans un répertoire que vous possédez, que vous pouvez supprimer.
2. Nous n'avons pas de politique autorisant la divulgation à un tiers de vos réunions, parce que nous n'avons aucune réunion à divulguer. Assignez-nous à comparaître autant que vous voulez. Nous n'avons rien à remettre. La machine du client détient encore ce qu'elle détient, et cette machine n'est accessible que par le client lui-même. Ce qui est exactement là où le processus juridique est censé aboutir.
Le journal de consentement – ce qu'il est, et ce qu'il n'est pas
Il y a une deuxième pièce sur laquelle il vaut la peine d'être précis, y compris sur la limite de ce qu'elle fait. RemoteCapture maintient un journal de consentement inviolable sur la machine du client. Chaque session d'enregistrement est journalisée avec la base juridique sélectionnée par le client, les règles de consentement à l'enregistrement de la juridiction, et une chaîne cryptographique qui rend visible toute manipulation a posteriori. La base de données est chiffrée au repos avec SQLCipher. La chaîne est liée par HMAC bloc par bloc.
Ce que le journal enregistre, c'est la déclaration du client, pas un fait vérifié. Lorsque le client indique « consentement de toutes les parties » avant de commencer un enregistrement, ce qui est journalisé, c'est que le client a revendiqué le consentement de toutes les parties. Le journal ne peut pas vérifier de manière indépendante si chaque participant a effectivement accepté. Cette partie relève de la responsabilité du client.
Cela va dans les deux sens. Si le client a véritablement obtenu le consentement, le journal aide à établir que l'enregistrement était une décision délibérée et attestée plutôt qu'un accident, associé à toute preuve contemporaine du monde réel dont dispose le client. Si le client n'a pas obtenu le consentement et a coché la case quand même, le journal montrera ce qu'il a fait. Nous ne pensons pas qu'un produit devrait aider qui que ce soit à enregistrer secrètement des gens en prétendant le contraire.
Ce que cela signifie en pratique :
- Juridictions à consentement d'une seule partie (la plupart des États américains, entre autres) : le propre consentement du client est suffisant. Le journal documente simplement ce qui a été fait.
- Juridictions à consentement de toutes les parties (Royaume-Uni, UE, Californie, ~11 autres États américains) : le client doit effectivement obtenir le consentement de chaque participant avant de s'appuyer sur le journal comme partie d'une éventuelle défense. Cocher la case ne remplace pas l'obtention du consentement. Si vous cochez la case malhonnêtement et que l'enregistrement est contesté par la suite, le journal montre que vous l'avez fait.
- Dans toute juridiction : le journal réside sur l'appareil du client. Il n'est pas partagé avec nous, et nous ne pouvons pas le produire sur assignation à comparaître car nous ne l'avons jamais. La découverte judiciaire contre l'appareil reste possible ; la découverte judiciaire contre Ostler ne l'est pas.
Le consentement est une véritable question juridique. Le travail d'Ostler est de fournir les primitives architecturales – capture locale, journalisation inviolable, aucune divulgation par le fournisseur – et de garder le choix entre les mains du client. Le contenu juridique et éthique de ce choix reste avec le client. Si vous enregistrez des appels dans votre vie professionnelle, vous devez connaître les règles de votre juridiction. Le produit ne peut pas décider cela pour vous.
Les limites honnêtes
Il est important d'être direct sur ce que le local-first apporte et n'apporte pas.
Le local-first ne signifie pas « votre réunion n'apparaîtra jamais dans un litige ». Si un tribunal ordonne la production de l'appareil et que la transcription est sur l'appareil, la transcription est produite. La protection ici n'est pas contre la découverte judiciaire contre le client. C'est contre la découverte judiciaire contre le fournisseur, contre l'exposition accidentelle à des tiers, et contre la renonciation au secret professionnel qui survient lorsque des conversations sont partagées en dehors du cercle privilégié. Ce sont les modes de défaillance qui inquiètent les avocats dans l'article du Times. Ce sont les modes de défaillance que le local-first supprime par construction.
Le local-first ne signifie pas « vous n'avez pas besoin de politique de conservation des documents ». Vous en avez besoin. La transcription sur votre machine reste un document. Elle a toujours sa place dans votre cycle de vie de gestion des documents. L'inquiétude relative à la découverte judiciaire de l'article du Times – que l'IA saisit tout, y compris ce que vous auriez souhaité ne jamais avoir couché sur le papier – est atténuée, non éliminée, par l'endroit où réside l'enregistrement.
Ce que le local-first signifie, c'est que le risque de secret professionnel dans Rakoff ne s'applique pas. Les faits architecturaux qui ont fait pencher la décision contre l'accusé sont absents dans notre produit, par conception.
Ce que nous conseillerions aux avocats de faire
Si vous êtes un avocat à qui un client demande s'il devrait utiliser un preneur de notes IA, trois questions valent la peine d'être posées :
Où va l'audio ? Si la réponse est « un serveur fournisseur », le calcul du secret professionnel est le calcul Rakoff. Si la réponse est « le propre appareil du client », ce n'est pas le cas.
Le fournisseur est-il dans le cercle du secret ? Un fournisseur qui détient votre transcription est un tiers. Un logiciel sur la machine de votre client qui détient la transcription sur la même machine ne l'est pas. La catégorie juridique est différente.
La partie qui enregistre avait-elle effectivement le consentement ? Un journal inviolable sur appareil documente ce que le client a déclaré au moment donné, ce qui est une preuve utile dans les deux sens. Mais cela ne se substitue pas à l'obtention effective du consentement dans les juridictions à consentement de toutes les parties. Si le client a coché la case sans obtenir le consentement, le journal montrera fidèlement qu'il l'a fait.
Le point plus large
La vague de productivité IA est réelle. Les preneurs de notes IA cloud ne vont pas disparaître parce que le New York Times a écrit un article inquiet. Ils sont trop pratiques et trop bon marché pour disparaître sur un argument de secret professionnel dont la plupart des utilisateurs n'ont jamais entendu parler.
Mais l'écart entre « bon marché et pratique » et « sûr à utiliser dans une profession réglementée » est exactement l'écart que comblent les produits local-first. Les avocats, les membres du conseil, les cadres, les médecins, quiconque dont les conversations ont un poids juridique – c'est le client qui a besoin de l'architecture, pas du marketing. L'architecture est la politique. L'architecture est le calcul du secret professionnel. L'architecture est ce que l'article du New York Times dit, indirectement, à ces clients d'exiger.
Ostler RemoteCapture est livré avec le Hub v1.0, disponible aujourd'hui sur ostler.ai. Le Hub coûte $99 une fois. Vos réunions restent sur votre Mac.
Pensées, questions ou objections à [email protected].