Wer kontrolliert den Kontext?

Ein Gedankenexperiment: Zwei Menschen schreiben dieselbe Frage: „Soll ich meinen Job kündigen?“ Der eine Assistent erhält nur diesen Satz. Der andere bekommt zusätzlich frühere Gespräche über Schulden, Gesundheit und berufliche Ziele. Es wäre wenig überraschend, wenn beide unterschiedlich antworten. Die Frage ist gleich. Die Ausgangslage ist es nicht.

Mehr Kontext kann eine Antwort hilfreicher machen. Er kann auch einen veralteten Eindruck verlängern oder eine fremde Annahme zur Grundlage der Beratung machen. Deshalb interessiert uns nicht nur das Modell. Wir müssen auch betrachten, wer die Informationen für die konkrete Antwort auswählt.

Kontext ist eine Auswahl

Hier verwenden wir „Kontext“ für das Material, das ein System bei einer Anfrage zusätzlich zum aktuellen Satz erhält: etwa Vorgaben, ausgewählte Dokumente oder freigegebene Erinnerungen. Welche dieser Elemente tatsächlich vorkommen, hängt von der jeweiligen Anwendung ab. Eine App mit Suchfunktion arbeitet anders als ein Gespräch ohne angebundene Quellen.

Jede solche Auswahl setzt einen Rahmen. Ein Dokument kann aktuell sein, ein anderes überholt. Eine Erinnerung kann etwas speichern, das früher wichtig war und heute nicht mehr stimmt. Eine Quelle kann ein Interesse verfolgen. Unsere Schlussfolgerung: Kontext verdient dieselbe Aufmerksamkeit wie die sichtbare Antwort.

Erinnerung braucht ein Korrekturrecht

Der Europäische Datenschutzausschuss nennt unter den Grundsätzen der DSGVO unter anderem Zweckbindung, Datenminimierung, Richtigkeit und begrenzte Speicherung. Das ist auch für persönliche Informationen relevant, die in KI-Anwendungen verarbeitet werden. Die konkrete rechtliche Einordnung hängt vom jeweiligen Fall ab. [1]

Unser Vorschlag für persönliche Assistenten geht über eine einzelne Einwilligungsschaltfläche hinaus. Menschen sollten sehen können, welche Erinnerung gerade verwendet wird. Sie sollten sie korrigieren oder für eine bestimmte Anfrage ausschließen können. Eine Notiz „unsicher bei beruflichen Entscheidungen“ darf nicht unbemerkt zur dauerhaften Beschreibung eines Menschen werden.

Ebenso wichtig ist der Unterschied zwischen einer ausdrücklich genannten Präferenz und einer abgeleiteten Vermutung. „Ich möchte kurze Antworten“ ist eine klare Vorgabe. „Diese Person scheut Veränderung“ wäre eine Interpretation. Beides gleich zu behandeln, würde die Unsicherheit verdecken.

Quellen können helfen. Auswahl kann lenken.

Stellen wir uns einen Einkaufsassistenten vor, der nur Produkte eines einzigen Anbieters sieht. Selbst eine sachlich korrekte Beschreibung könnte eine enge Auswahl als ganze Welt erscheinen lassen. Das ist ein hypothetisches Beispiel, keine Behauptung über ein bestimmtes Produkt. Es zeigt, warum die Herkunft des Materials sichtbar sein sollte.

Bei wichtigen Empfehlungen wünschen wir uns deshalb eine nachvollziehbare Erklärung: Auf welchen Dokumenten beruht die Antwort? Welche persönlichen Angaben wurden berücksichtigt? Welche relevanten Informationen fehlen? Das muss verständlich dargestellt werden; eine riesige Liste technischer Protokolle allein hilft wenig.

Was wir von guter Gestaltung erwarten

Unser Maßstab ist eine prüfbare Beziehung zwischen Frage, Auswahl und Empfehlung. Wer um Rat fragt, sollte eine Antwort auch ohne persönliche Erinnerung anfordern können. Wer die App wechselt, sollte seine ausdrücklich gespeicherten Angaben nach Möglichkeit mitnehmen können. Diese Anforderungen sind ein Gestaltungsvorschlag, keine Aussage über die Funktionen aller heutigen Anbieter.

Ein hilfreicher Assistent darf Zusammenhänge erkennen. Er sollte aber erklären können, welche davon relevant waren, und akzeptieren, wenn wir seinen Eindruck korrigieren. Die eigene Vergangenheit darf eine Antwort informieren. Sie sollte uns nicht auf eine Rolle festlegen.

Das stärkste Gegenargument

Ein Assistent ohne Erinnerung kann mühselig werden: Wir müssten Bedürfnisse und Vorgeschichte immer wieder erklären. Dieses Argument spricht für brauchbare Erinnerung. Es spricht zugleich für eine gut sichtbare Auswahl, die sich korrigieren und für einzelne Aufgaben abschalten lässt. Kontrolle und Bequemlichkeit sollten gemeinsam gestaltet werden.