Il New York Times ha pubblicato un articolo questo mese su un piccolo fenomeno che sta diventando reale. Gli avvocati d’impresa iniziano le loro riunioni virtuali nello stesso modo dei locali notturni: buttando fuori chi non dovrebbe essere lì. L’ospite indesiderato è il trascrittore IA.
Jeffrey Gifford, avvocato d’impresa di San Antonio, ha raccontato al giornale che apre ogni chiamata con un appello. “Ehi, Mike, Jim, Barbara, vedo che è comparso il trascrittore IA. Lo spengo e lo caccio dalla riunione.” Chiunque, ha detto, sta usando questi strumenti. Dirigenti, membri del consiglio, avvocati interni. E ognuno di quegli strumenti sta silenziosamente erodendo il sistema immunitario dell’azienda.
Due bombe legali a orologeria in una sola categoria di prodotto
L’articolo espone due rischi distinti che fanno svegliare gli avvocati alle 3 del mattino.
Il primo è la discovery. Una riunione del consiglio non ha normalmente verbali che registrino ogni battuta laterale. I verbali sono curati; catturano le decisioni, non i momenti che le precedono. Una trascrizione IA cattura tutto: la battuta che non sarebbe mai dovuta finire agli atti, la proposta abbozzata ritirata dieci secondi dopo, il dirigente che dice che il suo prodotto “dominerà la categoria” in una frase pensata come incoraggiamento e che un regolatore leggerà come prova antitrust. Una volta che quella trascrizione esiste, è un documento. E i documenti sono soggetti a discovery.
Il secondo è il segreto professionale. Le comunicazioni fra avvocato e cliente godono di una protezione speciale nella legge, ma la perdono se la conversazione viene condivisa con una parte esterna. È la regola che rende gli avvocati nervosi rispetto ai trascrittori IA nelle riunioni legali. Il trascrittore è un fornitore. Le trascrizioni finiscono sui server del fornitore. I termini di servizio del fornitore gli consentono di fare varie cose con esse. Se un tribunale tratta il fornitore come terza parte ai fini del segreto professionale – e ora esiste un’opinione federale che dice che alcuni di questi fornitori sono esattamente questo – allora condividere la riunione con il bot equivale a condividerla con qualcuno fuori dal perimetro del segreto professionale. Il segreto professionale evapora. La conversazione che doveva essere protetta diventa una prova.
Cosa ha detto davvero il giudice Rakoff
A febbraio di quest’anno, il giudice federale Jed S. Rakoff ha stabilito nel Distretto Meridionale di New York che le trascrizioni generate da un imputato chiedendo consulenza legale a Claude non erano protette dal segreto professionale. Il ragionamento conta più dell’esito. Due fatti sul rapporto con il fornitore hanno fatto il danno.
Uno: il modello era addestrato sugli input degli utenti. La parte dell’imputato nella conversazione era, in linea di principio, carburante per la prossima versione del prodotto.
Due: la privacy policy del fornitore includeva clausole di esclusione sulla sua facoltà di condividere i dati degli utenti con terzi, incluse “autorità pubbliche di regolamentazione”. L’imputato, ha stabilito il giudice, non poteva avere alcuna ragionevole aspettativa di riservatezza quando lo stesso fornitore si era riservato il diritto di divulgare.
Questo è il precedente che ha spaventato gli avvocati d’impresa. È anche un precedente che si regge su due fatti architetturali e contrattuali del fornitore, non su qualcosa di intrinseco alla tecnologia dei modelli linguistici di grandi dimensioni. Il che significa che il precedente si può aggirare per via progettuale. Basta costruire un prodotto che non abbia quelle due proprietà.
Cosa abbiamo costruito
Ostler RemoteCapture è il registratore di riunioni e chiamate che viene fornito con l’Ostler Hub. Fa lo stesso lavoro di Otter, Fathom, Granola e Read.ai. Ascolta l’audio, produce una trascrizione, riassume la conversazione e archivia il risultato. Funzionalmente, non li distinguerebbe in una demo.
Architetturalmente, non appartengono alla stessa categoria di prodotto.
RemoteCapture esegue la trascrizione sul Mac del cliente. Nel pipeline non c’è alcun server del fornitore. Usiamo WhisperKit di Argmax, un’implementazione on-device del modello Whisper di OpenAI che gira interamente sul Mac del cliente. L’audio non lascia mai il dispositivo. La trascrizione non lascia mai il dispositivo. Il riassunto è generato dal modello linguistico locale che i clienti eseguono sul loro Hub. Creative Machines – l’azienda che produce Ostler – non vede mai una sola parola delle Sue riunioni.
Non è un’affermazione di marketing. È una proprietà di dove vanno i byte. Lo può verificare con il firewall di rete di macOS. Lo può verificare con Little Snitch. Può disconnettere completamente da Internet e la registrazione, la trascrizione, il riassunto e l’archiviazione continuano a funzionare. Non abbiamo un server in questo pipeline perché l’architettura non ne ha bisogno.
Quella proprietà non è accidentale. È il senso stesso. È ciò che rende impossibile ripetere i due fatti che hanno fatto il danno in Rakoff:
1. Non ci addestriamo sulle Sue riunioni. Non perché lo promettiamo. Perché i dati non esistono su alcun sistema che controlliamo. Non c’è passo di upload in cui possano essere intercettati, né passo di logging in cui possano essere trattenuti, né passo di addestramento in cui possano essere ingeriti. I dati esistono sulla Sua macchina, in una cartella che possiede e che può cancellare.
2. Non abbiamo alcuna policy che consenta la divulgazione a terzi delle Sue riunioni, perché non abbiamo riunioni da divulgare. Ci mandi pure quante subpoena vuole. Non abbiamo nulla da consegnare. La macchina del cliente continua a tenere ciò che tiene, e a quella macchina si arriva solo attraverso il cliente stesso. Che è esattamente dove il procedimento legale dovrebbe atterrare.
Il registro dei consensi – cos’è, e cosa non è
C’è un secondo elemento su cui vale la pena essere specifici, incluso il limite di ciò che fa. RemoteCapture mantiene un registro dei consensi a prova di manomissione sulla macchina del cliente. Ogni sessione di registrazione viene registrata con la base giuridica selezionata dal cliente, le regole di consenso alla registrazione della giurisdizione e una catena crittografica che rende visibili le manomissioni successive. Il database è cifrato a riposo con SQLCipher. La catena è collegata blocco per blocco tramite HMAC.
Ciò che il registro registra è la dichiarazione del cliente, non un fatto verificato. Quando il cliente indica “consenso di tutte le parti” prima di avviare una registrazione, quel che viene registrato è che il cliente ha dichiarato di avere il consenso di tutte le parti. Il registro non può verificare in modo indipendente se ciascun partecipante abbia davvero acconsentito. Quella parte è responsabilità del cliente.
Questo taglia in due direzioni. Se il cliente ha genuinamente ottenuto il consenso, il registro aiuta a stabilire che la registrazione è stata una decisione deliberata e attestata, non un incidente, insieme a qualunque prova reale coeva il cliente possieda. Se il cliente non ha ottenuto il consenso e ha spuntato la casella lo stesso, il registro mostrerà ciò che ha fatto. Non crediamo che un prodotto debba aiutare qualcuno a registrare segretamente le persone fingendo il contrario.
Cosa significa questo in pratica:
- Giurisdizioni a consenso di una sola parte (la maggior parte degli stati USA, altri): il consenso del cliente stesso è sufficiente. Il registro documenta semplicemente ciò che è stato fatto.
- Giurisdizioni a consenso di tutte le parti (Regno Unito, UE, California, circa 11 altri stati USA): il cliente deve effettivamente ottenere il consenso di ciascun partecipante prima di appoggiarsi al registro come parte di una qualsiasi difesa. Spuntare la casella non sostituisce l’ottenimento del consenso. Se spunta la casella in modo disonesto e la registrazione è in seguito contestata, il registro mostra che lo ha fatto.
- In qualsiasi giurisdizione: il registro risiede sul dispositivo del cliente. Non è condiviso con noi e non possiamo produrlo per subpoena perché non l’abbiamo mai. La discovery contro il dispositivo è ancora possibile; la discovery contro Ostler no.
Il consenso è una questione legale reale. Il compito di Ostler è fornire le primitive architetturali – cattura in locale, registro a prova di manomissione, nessuna divulgazione da parte del fornitore – e mantenere la scelta nelle mani del cliente. Il contenuto legale ed etico di quella scelta resta con il cliente. Se registra chiamate nella Sua vita professionale, dovrebbe conoscere le regole della Sua giurisdizione. Il prodotto non può decidere al posto Suo.
I limiti onesti
È importante essere chiari su cosa il local-first Le dà e cosa no.
Local-first non significa “la Sua riunione non comparirà mai in un contenzioso”. Se un tribunale ordina la produzione del dispositivo e la trascrizione è sul dispositivo, la trascrizione viene prodotta. La protezione qui non è dalla discovery contro il cliente. È dalla discovery contro il fornitore, dall’esposizione accidentale a terzi e dalla rinuncia al segreto professionale che nasce quando le conversazioni sono condivise fuori dal perimetro del segreto. Sono i modi di fallire che preoccupano gli avvocati nell’articolo del Times. Sono i modi di fallire che il local-first rimuove per costruzione.
Local-first non significa “non ha bisogno di una politica di conservazione dei documenti”. Ne ha bisogno. La trascrizione sulla Sua macchina è comunque un documento. Rientra comunque nel Suo ciclo di gestione documentale. La preoccupazione dell’articolo del Times sulla discovery – che l’IA catturi tutto, incluse le cose che avrebbe voluto non fossero mai state messe per iscritto – è mitigata, non eliminata, da dove risiede la registrazione.
Ciò che local-first significa è che il rischio per il segreto professionale in Rakoff non si applica. I fatti architetturali che hanno fatto pendere la sentenza contro l’imputato sono assenti nel nostro prodotto, per progettazione.
Cosa consiglieremmo agli avvocati di fare
Se è un avvocato a cui un cliente chiede se debba usare un trascrittore IA, vale la pena porre tre domande:
Dove va l’audio? Se la risposta è “un server del fornitore”, il calcolo sul segreto professionale è il calcolo di Rakoff. Se la risposta è “il dispositivo del cliente”, non lo è.
Il fornitore è nel perimetro del segreto professionale? Un fornitore che detiene la Sua trascrizione è una terza parte. Un software sulla macchina del Suo cliente che tiene la trascrizione sulla stessa macchina non lo è. La categoria giuridica è diversa.
La parte registrante aveva davvero il consenso? Un registro a prova di manomissione sul dispositivo documenta ciò che il cliente ha dichiarato al momento, il che è una prova utile in ogni caso. Ma non sostituisce l’ottenimento effettivo del consenso nelle giurisdizioni a consenso di tutte le parti. Se il cliente ha spuntato la casella senza assicurarsi il consenso, il registro mostrerà fedelmente che lo ha fatto.
Il punto più ampio
L’ondata di produttività IA è reale. I trascrittori IA in cloud non spariranno perché il New York Times ha scritto un articolo preoccupato. Sono troppo comodi e troppo economici per svanire per un’argomentazione sul segreto professionale di cui la maggior parte degli utenti non ha mai sentito parlare.
Ma lo scarto tra “economico e comodo” e “sicuro da usare in una professione regolamentata” è esattamente lo scarto che i prodotti local-first colmano. Avvocati, membri di consiglio, dirigenti, medici, chiunque abbia conversazioni con rilevanza legale – quello è il cliente che ha bisogno dell’architettura, non del marketing. L’architettura è la policy. L’architettura è il calcolo sul segreto professionale. L’architettura è la cosa che l’articolo del New York Times, indirettamente, dice a quei clienti di pretendere.
Ostler RemoteCapture viene fornito con l’Hub v1.0, disponibile oggi su ostler.ai. L’Hub costa $99 una volta. Le Sue riunioni restano sul Suo Mac.
Pensieri, domande od obiezioni a [email protected].