Die New York Times hat diesen Monat einen Artikel über ein kleines Phänomen veröffentlicht, das sich zu einem echten entwickelt. Unternehmensanwälte beginnen ihre virtuellen Meetings auf dieselbe Weise wie Nachtclubs: indem sie jeden hinauswerfen, der nicht dort sein sollte. Der unerwünschte Gast ist der KI-Notiznehmer.
Jeffrey Gifford, ein Unternehmensanwalt in San Antonio, sagte der Zeitung, er beginne jeden Anruf mit einem Namensappell. „Hey, Mike, Jim, Barbara, ich sehe, der KI-Notiznehmer ist aufgetaucht. Ich werde ihn abschalten und aus dem Meeting werfen.“ Jeder und seine Mutter, sagte er, benutzen diese Dinger. Führungskräfte, Vorstandsmitglieder, Justiziare. Und jedes dieser Werkzeuge nagt still am Immunsystem des Unternehmens.
Zwei juristische Zeitbomben in einer Produktkategorie
Der Artikel legt zwei unterschiedliche Risiken dar, die Anwälte um 3 Uhr morgens aufwecken.
Das erste ist die Beweiserhebung. Ein Vorstandsanruf hat normalerweise kein Protokoll, das jede Randbemerkung festhält. Protokolle sind kuratiert; sie erfassen Entscheidungen, nicht die Momente vor Entscheidungen. Ein KI-Transkript erfasst alles: den Witz, der niemals in die Akte hätte gelangen dürfen, den halbfertigen Vorschlag, der zehn Sekunden später zurückgezogen wurde, den Manager, der sagt, sein Produkt werde „die Kategorie beherrschen“ in einem Satz, den er als Ermutigung meinte und den ein Regulierer als kartellrechtlichen Beweis lesen wird. Sobald dieses Transkript existiert, ist es ein Dokument. Und Dokumente sind der Beweiserhebung zugänglich.
Das zweite ist das Privileg. Kommunikationen zwischen Anwalt und Mandant erhalten einen besonderen Schutz im Gesetz, aber sie verlieren ihn, wenn das Gespräch mit einer außenstehenden Partei geteilt wird. Das ist die Regel, die Anwälte wegen KI-Notiznehmern in juristischen Meetings nervös macht. Der Notiznehmer ist ein Anbieter. Die Transkripte gehen auf die Server des Anbieters. Die Nutzungsbedingungen des Anbieters erlauben dem Anbieter, verschiedene Dinge damit zu tun. Wenn ein Gericht den Anbieter für Privilegienzwecke als Dritten behandelt – und es gibt jetzt eine bundesstaatliche Entscheidung, die sagt, dass einige solcher Anbieter genau das sind – dann ist das Teilen des Meetings mit dem Bot dasselbe wie das Teilen mit jemandem außerhalb des Privilegienkreises. Das Privileg verdunstet. Das Gespräch, das geschützt sein sollte, wird zum Beweis.
Was Richter Rakoff tatsächlich gesagt hat
Im Februar dieses Jahres entschied der U.S. District Judge Jed S. Rakoff im Southern District of New York, dass Transkripte, die ein Angeklagter erzeugte, indem er Claude um Rechtsberatung bat, nicht durch das Anwaltsgeheimnis geschützt seien. Die Begründung ist wichtiger als das Ergebnis. Zwei Tatsachen über das Anbieterverhältnis richteten den Schaden an.
Erstens: Das Modell wurde auf Nutzereingaben trainiert. Die Seite des Angeklagten am Gespräch war im Prinzip Treibstoff für die nächste Version des Produkts.
Zweitens: Die Datenschutzrichtlinie des Anbieters enthielt Vorbehalte hinsichtlich seiner Fähigkeit, Nutzerdaten mit Dritten zu teilen, einschließlich „staatlicher Regulierungsbehörden.“ Der Angeklagte, so hielt der Richter fest, könne keine vernünftige Erwartung an Privatsphäre haben, wenn der Anbieter selbst sich das Recht zur Offenlegung vorbehalten habe.
Das ist der Präzedenzfall, der Unternehmensanwälte verunsichert hat. Es ist außerdem ein Präzedenzfall, der von zwei architektonischen und vertraglichen Tatsachen über den Anbieter abhängt, nicht von etwas, das den großen Sprachmodellen intrinsisch ist. Was bedeutet, dass der Präzedenzfall umgangen werden kann. Sie müssen nur ein Produkt bauen, das diese beiden Eigenschaften nicht hat.
Was wir gebaut haben
Ostler RemoteCapture ist der Meeting- und Anrufrekorder, der mit dem Ostler Hub ausgeliefert wird. Er macht dieselbe Arbeit wie Otter und Fathom und Granola und Read.ai. Er hört das Audio, erstellt ein Transkript, fasst das Gespräch zusammen und legt das Ergebnis ab. Funktional könnten Sie sie in einer Demo nicht unterscheiden.
Architektonisch sind sie nicht in derselben Produktkategorie.
RemoteCapture führt die Transkription auf dem Mac des Kunden selbst aus. Es gibt keinen Anbieter-Server in der Pipeline. Wir verwenden Argmax’ WhisperKit, eine On-Device-Implementierung von OpenAIs Whisper-Modell, das vollständig auf dem Mac des Kunden läuft. Das Audio verlässt nie das Gerät. Das Transkript verlässt nie das Gerät. Die Zusammenfassung wird vom lokalen Sprachmodell erzeugt, das die Kunden auf ihrem eigenen Hub betreiben. Creative Machines – das Unternehmen, das Ostler herstellt – sieht nie ein einziges Wort Ihres Meetings.
Das ist keine Marketingaussage. Es ist eine Eigenschaft dessen, wohin die Bytes gehen. Sie können es mit der macOS-Netzwerk-Firewall überprüfen. Sie können es mit Little Snitch überprüfen. Sie können sich vollständig vom Internet trennen, und die Aufnahme, Transkription, Zusammenfassung und Ablage laufen alle weiter. Wir haben keinen Server in dieser Pipeline, weil die Architektur keinen braucht.
Diese Eigenschaft ist nicht zufällig. Sie ist der ganze Sinn. Sie macht die beiden Tatsachen, die in Rakoff den Schaden angerichtet haben, unmöglich zu wiederholen:
1. Wir trainieren nicht auf Ihren Meetings. Nicht, weil wir es versprechen. Weil die Daten auf keinem System existieren, das wir kontrollieren. Es gibt keinen Upload-Schritt, in dem sie abgefangen werden könnten, keinen Logging-Schritt, in dem sie gespeichert werden könnten, keinen Trainingsschritt, in dem sie aufgenommen werden könnten. Die Daten existieren auf Ihrer Maschine, in einem Verzeichnis, das Ihnen gehört, das Sie löschen können.
2. Wir haben keine Richtlinie, die eine Offenlegung Ihrer Meetings an Dritte erlaubt, weil wir keine Meetings zum Offenlegen haben. Laden Sie uns so oft Sie wollen vor. Wir haben nichts zum Übergeben. Die Maschine des Kunden hält immer noch, was sie hält, und diese Maschine ist nur über den Kunden selbst erreichbar. Was genau der Ort ist, an dem das rechtliche Verfahren landen sollte.
Das Einverständnisprotokoll – was es ist und was es nicht ist
Es gibt ein zweites Stück, bei dem es sich lohnt, genau zu sein, einschließlich der Grenze dessen, was es leistet. RemoteCapture führt ein manipulationssicheres Einverständnisprotokoll auf der Maschine des Kunden. Jede Aufnahmesitzung wird protokolliert mit der vom Kunden gewählten Rechtsgrundlage, den Einwilligungsregeln der Rechtsordnung und einer kryptografischen Kette, die nachträgliche Manipulation sichtbar macht. Die Datenbank ist SQLCipher-verschlüsselt im Ruhezustand. Die Kette ist Block für Block HMAC-verknüpft.
Was das Protokoll aufzeichnet, ist die Erklärung des Kunden, nicht ein verifizierter Sachverhalt. Wenn der Kunde vor Beginn einer Aufnahme „Einwilligung aller Beteiligten“ angibt, wird protokolliert, dass der Kunde die Einwilligung aller Beteiligten behauptet hat. Das Protokoll kann nicht unabhängig verifizieren, ob jeder Teilnehmer tatsächlich zugestimmt hat. Dieser Teil liegt in der Verantwortung des Kunden.
Das schneidet in zwei Richtungen. Wenn der Kunde die Einwilligung tatsächlich erhalten hat, hilft das Protokoll dabei nachzuweisen, dass die Aufnahme eine bewusste, bezeugte Entscheidung war und kein Versehen, kombiniert mit welchen realen zeitgenössischen Beweisen der Kunde auch hat. Wenn der Kunde die Einwilligung nicht erhalten und trotzdem das Kästchen angekreuzt hat, wird das Protokoll zeigen, was er getan hat. Wir glauben nicht, dass ein Produkt jemandem helfen sollte, Menschen heimlich aufzunehmen, während er etwas anderes vorgibt.
Was das in der Praxis bedeutet:
- Rechtsordnungen mit Einwilligung einer Partei (die meisten US-Bundesstaaten, andere): Die eigene Einwilligung des Kunden reicht aus. Das Protokoll dokumentiert einfach, was getan wurde.
- Rechtsordnungen mit Einwilligung aller Beteiligten (UK, EU, Kalifornien, ca. 11 weitere US-Bundesstaaten): Der Kunde muss tatsächlich die Einwilligung jedes Teilnehmers einholen, bevor er sich auf das Protokoll als Teil einer Verteidigung stützt. Das Ankreuzen des Kästchens ist kein Ersatz dafür, die Einwilligung einzuholen. Wenn Sie das Kästchen unehrlich ankreuzen und die Aufnahme später bestritten wird, zeigt das Protokoll, dass Sie das getan haben.
- In jeder Rechtsordnung: Das Protokoll liegt auf dem Gerät des Kunden. Es wird nicht mit uns geteilt, und wir können es nicht unter Vorladung herausgeben, weil wir es nie haben. Beweiserhebung gegen das Gerät ist weiterhin möglich; Beweiserhebung gegen Ostler nicht.
Einwilligung ist eine echte Rechtsfrage. Ostlers Aufgabe ist es, die architektonischen Grundbausteine zu liefern – lokale Aufnahme, manipulationssicheres Protokoll, keine Anbieteroffenlegung – und die Wahl in den Händen des Kunden zu belassen. Der rechtliche und ethische Inhalt dieser Wahl bleibt beim Kunden. Wenn Sie in Ihrem Berufsleben Anrufe aufzeichnen, sollten Sie die Regeln Ihrer Rechtsordnung kennen. Das Produkt kann das nicht für Sie entscheiden.
Die ehrlichen Grenzen
Es ist wichtig, offen darüber zu sein, was Local-first Ihnen bringt und was nicht.
Local-first bedeutet nicht, „Ihr Meeting wird nie in einem Rechtsstreit auftauchen.“ Wenn ein Gericht die Herausgabe des Geräts anordnet und das Transkript auf dem Gerät ist, wird das Transkript herausgegeben. Der Schutz hier ist nicht vor der Beweiserhebung gegen den Kunden. Er ist vor der Beweiserhebung gegen den Anbieter, vor der versehentlichen Offenlegung an Dritte und vor dem Verlust des Privilegs, der entsteht, wenn Gespräche außerhalb des privilegierten Kreises geteilt werden. Das sind die Ausfallmodi, die Anwälte in dem Times-Artikel beunruhigen. Das sind die Ausfallmodi, die Local-first per Konstruktion entfernt.
Local-first bedeutet nicht, „Sie brauchen keine Aufbewahrungsrichtlinie.“ Sie brauchen eine. Das Transkript auf Ihrer Maschine ist immer noch ein Dokument. Es gehört immer noch in Ihren Aktenmanagementzyklus. Die Beweissorge des Times-Artikels – dass KI alles erfasst, einschließlich der Dinge, von denen Sie sich wünschen, sie wären nie aufgeschrieben worden – wird gemildert, nicht beseitigt, durch den Ort, an dem die Aufnahme liegt.
Was Local-first bedeutet, ist, dass das Privilegienrisiko in Rakoff nicht gilt. Die architektonischen Tatsachen, die die Entscheidung gegen den Angeklagten gehen ließen, sind in unserem Produkt per Design abwesend.
Was wir Anwälten raten würden
Wenn Sie ein Anwalt sind, den ein Mandant fragt, ob er einen KI-Notiznehmer verwenden soll, lohnt es sich, drei Fragen zu stellen:
Wohin geht das Audio? Wenn die Antwort „ein Anbieter-Server“ ist, ist die Privilegienberechnung die Rakoff-Berechnung. Wenn die Antwort „das Gerät des Kunden selbst“ ist, ist sie es nicht.
Befindet sich der Anbieter im Privilegienkreis? Ein Anbieter, der Ihr Transkript hält, ist ein Dritter. Eine Software auf der Maschine Ihres Mandanten, die das Transkript auf derselben Maschine hält, ist es nicht. Die rechtliche Kategorie ist eine andere.
Hatte die aufzeichnende Partei tatsächlich die Einwilligung? Ein manipulationssicheres On-Device-Protokoll dokumentiert, was der Kunde zum Zeitpunkt erklärt hat, was in beide Richtungen nützliche Beweise sind. Aber es ersetzt nicht das tatsächliche Einholen der Einwilligung in Rechtsordnungen, die die Einwilligung aller Beteiligten verlangen. Wenn der Kunde das Kästchen angekreuzt hat, ohne die Einwilligung zu sichern, wird das Protokoll das treu zeigen.
Der größere Punkt
Die KI-Produktivitätswelle ist real. Cloud-KI-Notiznehmer werden nicht verschwinden, weil die New York Times einen besorgten Artikel geschrieben hat. Sie sind zu bequem und zu billig, um an einem Privilegienargument zu verschwinden, von dem die meisten Nutzer noch nie gehört haben.
Aber die Lücke zwischen „billig und bequem“ und „sicher zum Einsatz in einem regulierten Beruf“ ist genau die Lücke, die Local-first-Produkte füllen. Anwälte, Vorstandsmitglieder, Führungskräfte, Ärzte, alle, deren Gespräche rechtliches Gewicht haben – das ist der Kunde, der die Architektur braucht, nicht das Marketing. Die Architektur ist die Richtlinie. Die Architektur ist die Privilegienberechnung. Die Architektur ist das, was der Artikel der New York Times diesen Kunden indirekt sagt, sie sollten es fordern.
Ostler RemoteCapture wird mit dem v1.0 Hub ausgeliefert, heute verfügbar unter ostler.ai. Der Hub kostet einmalig $99. Ihre Meetings bleiben auf Ihrem Mac.
Gedanken, Fragen oder Widerspruch an [email protected].