Sam Altman vor einem Raum voller Praktikanten:
in the next 6 months, we’re close to a world where a descendant of ChatGPT can watch your screen, record every meeting and call, and have perfect context of your whole life.
Man sei, fügte er hinzu, “only one model generation away from this being incredibly useful”.
Genau das haben wir gebaut. Nicht etwas Ähnliches. Genau das. Deshalb lohnt es sich, klar zu sagen, worin die eigentliche Schwierigkeit besteht – denn es ist nicht das Modell, und keine Modellgeneration rührt daran.
Ihr Leben steht nicht auf Ihrem Bildschirm
“Perfekter Kontext Ihres ganzen Lebens” ist eine Aussage über Daten, nicht über Intelligenz. Und Ihr Leben steckt nicht in dem Fenster, das Sie zufällig geöffnet haben.
Es steckt in zehn Jahren Mail. In einer Messages-Datenbank, die bis zu Ihrem ersten iPhone zurückreicht. In WhatsApp, für das es überhaupt keinen unterstützten Export gibt. In Ihrem Kalender, Ihren Kontakten, Ihren Fotos und in einem Browserverlauf, der still festhält, was Sie um ein Uhr nachts wirklich beschäftigt hat.
Auf einem Mac liegt jedes davon hinter einem Schloss. Mail, Messages, Safari-Verlauf und Time Machine sind durch den Festplattenvollzugriff geschützt. Kontakte, Kalender, Erinnerungen und Fotos verlangen jeweils eine eigene Berechtigung. Apple hat diese Schlösser bewusst angebracht, und sie öffnen sich nicht für ein klügeres Modell.
Was ChatGPT heute tatsächlich erreicht
Konkret statt rhetorisch, hier also das ausgelieferte Produkt. “Work with Apps” von ChatGPT liest unter macOS Inhalte über die macOS Accessibility API, und die unterstützte Liste ist veröffentlicht:
- Kann gelesen werden. Xcode, VS Code, JetBrains, Cursor, Terminal, iTerm, Warp, Prompt, Notes, TextEdit, Notion, Quip, BBEdit, Nova, TextMate, Raycast, Alfred.
- Nicht auf der Liste. Mail, Messages, Kalender, Kontakte, Fotos, Browserverlauf, WhatsApp, alles Archivierte.
Lesen Sie diese Liste noch einmal. Code-Editoren, Terminals und Notizblöcke. Und weil das Ganze über die Bedienungshilfen-Ebene läuft, liest es Text und ausschließlich Text: Apples Bildschirmleser kann ihm weder ein Bild noch ein Layout beschreiben.
Die zutreffende Beschreibung dessen, was ChatGPT heute ausliefert, lautet also so. Es kann den Text in einem geöffneten Fenster lesen, in einer Positivliste von Apps, die überwiegend aus Entwicklerwerkzeugen besteht.
Das ist eine wirklich nützliche Funktion. Sie ist außerdem sehr spezifisch, und genau diese Spezifik ist der Hinweis.
Eine Positivliste ist eine Aussage darüber, für wen ein Produkt gedacht ist – also zählen wir nach. Elf der siebzehn Apps sind Entwicklerwerkzeuge. Zwei weitere sind Launcher für Power-User. Die übrigen vier sind Notizblöcke. Niemandes Mutter steht auf dieser Liste, weil nichts auf dieser Liste der Ort ist, an dem irgendjemandes Mutter ihr Leben aufbewahrt.
Das ist in Ordnung, wirklich nützlich und genau das, was man von einem Unternehmen aus Ingenieuren zuerst erwartet: das Werkzeug, das sie selbst haben wollten. Es bedeutet aber, dass Versprechen und Produkt an unterschiedliche Menschen gerichtet sind. “Perfekter Kontext Ihres ganzen Lebens” und “perfekter Kontext Ihres Arbeitsverzeichnisses” sind nicht derselbe Satz, und nur einer davon ist ausgeliefert.
Und die Lücke zwischen diesen beiden Sätzen ist keine Modellgeneration. Sie besteht aus einer nativen App, einem Stapel Betriebssystem-Berechtigungen, einem signierten und notarisierten Installer und sehr viel unglamourösem Parsen von Formaten, die nie dafür gedacht waren, von jemand anderem gelesen zu werden.
Wir wissen das, weil genau dorthin unsere Zeit fließt. Fast kein Teil unserer Entwicklungsarbeit entfällt auf das Modell. Sie entfällt darauf, überhaupt an die Daten zu kommen – und auf den Teil, über den niemand Threads schreibt: das zu tun, ohne dass die Daten jemals den Rechner verlassen.
Beobachten und Wissen sind verschiedene Produkte
Beobachten. Sieht Ihnen ununterbrochen zu. Sieht, was gerade vor Ihnen liegt. Braucht nichts von Ihnen außer Ihrer dauerhaften Anwesenheit. Vergleichsweise billig zu bauen, funktioniert für alle gleich und hat eine unvermeidliche Eigenschaft: Kontext hat es nur, solange es nie aufhört hinzusehen.
Wissen. Sie gewähren einmal Zugriff auf das Archiv, das Ihnen ohnehin gehört. Es liest ein Jahrzehnt an einem Nachmittag. Und danach muss es Ihnen überhaupt nicht mehr zusehen.
Ein Produkt, das in einem Browser-Tab lebt oder in einer Sandbox mit einem Rechenzentrum spricht, kann realistischerweise nur das Erste bauen. Nicht aus mangelndem Ehrgeiz, sondern weil das Zweite verlangt, dass man ihm das gesamte Archiv anvertraut – und das ist ein völlig anderes Gespräch, wenn das Archiv das Gebäude verlassen soll.
Ostler verlangt mehr Zugriff, nicht weniger
Hier der Teil, den wegzulassen unredlich wäre.
Ostler verlangt den Festplattenvollzugriff. Das ist eine größere Forderung, als die Mac-App von ChatGPT sie heute stellt, und wir sind nicht die zurückhaltendere Option.
Sehen Sie aber genau hin, wer da liest. Die App auf Ihrem Mac liest Ihre Mail, Ihre Messages, Ihren Kalender und Ihren Browserverlauf. Sie baut daraus einen Graphen, auf Ihrer eigenen Festplatte, und dieser Graph weiß sehr viel über Sie.
Wir sehen davon nie etwas. Keine Nachricht, keinen Kontakt, keine einzige Zeile. Es gibt keinen Server mit einer Kopie, kein Konto von Ihnen, das wir öffnen könnten, keine Analyse-Leitung, keinen Support-Techniker, der nachsehen kann. Nichts, was wir verkaufen, verlieren oder herausgeben könnten, weil nichts davon je in unserer Hand war.
Die Berechtigung, die Sie erteilen, gilt Ihrem eigenen Computer. Sie ist keine Berechtigung, die Sie uns erteilen, denn es gibt kein Wir in dieser Kette.
Der Unterschied lag nie darin, wie viel es sieht. Er liegt darin, dass es sonst niemand sieht.
Und genau dort landet auch das Recht
Das ist keine Marketinghaltung. Das ist der Aufbau der Verordnung.
Die DSGVO enthält in Artikel 2 Absatz 2 Buchstabe c eine Ausnahme, die Haushaltsausnahme: Die Verordnung gilt nicht für die Verarbeitung durch eine natürliche Person zur Ausübung ausschließlich persönlicher oder familiärer Tätigkeiten. Dass Sie Aufzeichnungen über Ihre eigene Familie, Ihre Freunde und Ihre Korrespondenz für eigene Zwecke führen, ist nicht das, was das Datenschutzrecht regulieren wollte.
Lesen Sie aber den nächsten Teil genau. Die Ausnahme gilt für Sie. Sie gilt ausdrücklich nicht für einen Anbieter: Verantwortliche und Auftragsverarbeiter, welche die Mittel für diese persönlichen oder familiären Tätigkeiten bereitstellen, bleiben vollständig im Anwendungsbereich.
Dieselbe Tätigkeit hat also zwei völlig verschiedene rechtliche Gestalten, abhängig von einer einzigen Architekturentscheidung. Ihr Assistent baut ein Bild Ihres Lebens auf Ihrem eigenen Rechner, und Sie sitzen in einer Ausnahme, die genau dafür geschrieben wurde. Ihr Assistent schickt dasselbe Material an die Server eines Anbieters, und dieser Anbieter wird zum Verantwortlichen, der personenbezogene Daten in großem Umfang verarbeitet.
Und es sind nicht nur Ihre Daten. Das wird am leichtesten übersehen, und ein Kommentator unter Altmans Ankündigung hat es besser formuliert als wir: Ihr Alltag besteht nicht aus Ihnen allein.
Ein Assistent, der sich an Ihr Leben erinnert, erinnert sich an Ihre Familie. An Ihre Ärztin. An die Freundin, die Ihnen vor sechs Jahren über Messages etwas im Vertrauen erzählt hat. An jemanden, mit dem Sie 2019 aufgehört haben zu sprechen. Keine dieser Personen hat sich irgendwo angemeldet. Sie sind nicht Ihre Nutzer. Solange das auf Ihrem Rechner bleibt, sind sie Teil Ihrer familiären Aufzeichnungen, und genau die soll die Ausnahme schützen. Geht es an einen Anbieter, hält dieser Anbieter personenbezogene Daten über Menschen, zu denen er keinerlei Beziehung hat, die nie eingewilligt haben und die es in den meisten Fällen nie erfahren werden.
Eine ehrliche Einschränkung, und zwar eine echte Grenze und keine Fußnote: Die Haushaltsausnahme ist ein Schutzschild für das Privatleben, kein Schlupfloch für geschäftliche Nutzung. Wer sich darauf beruft, um die Verarbeitung seiner Kundenliste zu rechtfertigen, verliert sie. Wer Ihnen etwas anderes erzählt, will Ihnen etwas verkaufen.
Also…?
Altman liegt nicht falsch damit, dass das kommt. Er liegt falsch darin, was zwischen hier und dort steht, und er liegt falsch darin, wie weit es entfernt ist.
Es sind nicht sechs Monate und eine Modellgeneration. Es ist überhaupt nicht das Modell, und das ist es schon eine Weile nicht mehr. Es sind Berechtigungen, Verkabelung, Formate und die Frage, in wessen Gebäude die Daten am Ende landen.
Wir haben diese letzte Frage zuerst beantwortet und von dort aus rückwärts gebaut. Alles Übrige war Parsen, und das Parsen hat sich als das Produkt herausgestellt.
Deshalb warten wir nicht auf die nächste Modellgeneration. Wir haben sie nicht gebraucht. Die Sache ist gebaut, was bleibt, ist Feinschliff, und Feinschliff bemisst sich in Wochen.
Die Architektur ist hier dokumentiert. Fragen, Korrekturen, Widerspruch – [email protected].