KI freigegeben - bis zum nächsten Update?

‹ ›

(Source: AI Image Studio / stock.adobe.com)

(Source: AI Image Studio / stock.adobe.com)

Dr. David Schneeberger ist Rechtsanwalt und Gründer von Schneeberger Legal. Er berät zu KI, Datenschutz und digitaler Regulierung. (Source: zVg)

Dr. David Schneeberger ist Rechtsanwalt und Gründer von Schneeberger Legal. Er berät zu KI, Datenschutz und digitaler Regulierung. (Source: zVg)

/

Verträge sind geprüft, der Datenschutz ist eingebunden, die IT hat das System konfiguriert, und die Mitarbeitenden dürfen es nutzen. In vielen Unternehmen endet damit das Einführungsprojekt. Gerade bei KI-Systemen ist es jedoch ein Kategorienfehler, aus dem Abschluss der Beschaffung auf den Abschluss der Risikosteuerung zu schliessen.

Geprüft wurde nicht ein abstrakter Produktname, sondern ein konkreter Verarbeitungsvorgang: bestimmte Zwecke und Nutzergruppen, bestimmte Datenkategorien und Zugriffsrechte, eine bestimmte Anbieter- und Unterauftragsstruktur sowie definierte technische und organisatorische Massnahmen. Ändert sich eine dieser tragenden Annahmen, kann die damalige Beurteilung an Aussagekraft verlieren, auch wenn Lizenz, Benutzeroberfläche und Produktbezeichnung unverändert bleiben.

Flex Routing als Beispiel veränderter Annahmen

Bei Microsoft 365 Copilot zeigt sich das an Flex Routing. Bei hoher Auslastung kann die Modellverarbeitung ausserhalb der EU Data Boundary erfolgen; genannt werden die USA, Kanada und Australien. Damit ändert sich nicht zwingend der Speicherort, wohl aber unter Umständen der Ort, an dem Eingaben und Kontextdaten für das Inferencing verarbeitet werden.

Entscheidend ist weniger die einzelne Produktmeldung als ihre Wirkung auf die dokumentierte Freigabe. Ist die Option standardmässig aktiviert und lässt sie sich auf Tenant-Ebene deaktivieren, muss das Unternehmen den tatsächlichen Konfigurationszustand kennen. Eine abstrakte Herstellerbeschreibung ersetzt weder die Prüfung der eigenen Umgebung noch den Nachweis, welche Einstellung im massgeblichen Zeitraum galt.

Die Unterscheidung zwischen Speicherung und Verarbeitung ist rechtlich relevant. Das DSG erfasst jeden Umgang mit Personendaten; zur Bekanntgabe zählen auch Übermittlung und Zugänglichmachung (Art. 5 lit. d und e DSG). Eine Zusage zur Datenresidenz beantwortet daher nicht abschliessend, in welchen Staaten Personendaten verarbeitet oder Dritten zugänglich gemacht werden.

Flex Routing ist damit kein Sonderproblem, sondern ein anschaulicher Prüfimpuls: Beruhte die Freigabe auf einer bestimmten Verarbeitungsregion, Empfängerkette oder Konfiguration, ist zu klären, ob diese Grundlage fortbesteht und ob Verträge, Garantien und Schutzmassnahmen den veränderten Datenfluss weiterhin tragen.

Nicht das Update, sondern seine Risikowirkung ist entscheidend

Nicht jede Produktänderung löst eine vollständige Neuprüfung aus. Auch eine Verarbeitung im Ausland ist nicht schon wegen ihres Auslandsbezugs unzulässig. Massgeblich sind insbesondere ein angemessener Datenschutz im Empfängerstaat oder geeignete Garantien, etwa anerkannte Standarddatenschutzklauseln (Art. 16 Abs. 1 und Abs. 2 lit. d DSG). Hinzukommen können vertragliche Geheimhaltungspflichten, Berufsgeheimnisse und sektorspezifische Anforderungen.

Die zweckmässige Schwelle ist daher materiell: Berührt die Änderung eine Annahme, auf der die Freigabe beruht? Zu prüfen sind vor allem Zweck und Nutzerkreis, Kategorien und Sensitivität der Daten, Zugriffsberechtigungen, Empfänger und Unterauftragsbearbeiter, Verarbeitungsstaaten, Aufbewahrung und Löschung, Protokollierung sowie technische und organisatorische Schutzmassnahmen.

Die Bandbreite ist gross. Eine Websuche kann Eingaben an zusätzliche Dienste übermitteln. Ein neuer Modellanbieter verändert die Empfängerkette. Ein Konnektor erschliesst Dokumentbestände, die zuvor ausser Reichweite lagen. Aus einem Textassistenten kann ein Agent werden, der nicht nur Vorschläge formuliert, sondern selbständig Daten abruft, Entscheidungen vorbereitet oder Einträge in Drittsystemen verändert.

Solche Änderungen sind nicht nach ihrer Sichtbarkeit in der Benutzeroberfläche zu bewerten, sondern nach ihrer Auswirkung auf Risiko, Rechtmässigkeit und Kontrollierbarkeit. Eine rein kosmetische Anpassung kommt ohne neue Freigabe aus. Ein zusätzlicher Datenempfänger, weitergehende Berechtigungen oder autonome Schreibzugriffe verlangen dagegen zumindest eine gezielte Nachprüfung; bei wesentlichen neuen Risiken kann auch eine erneute Datenschutz-Folgenabschätzung erforderlich werden.

Die Prüfpflicht endet nicht mit dem Go-live

Für die Datensicherheit formuliert die DSV diesen Gedanken ausdrücklich: Schutzbedarf, Risiken sowie technische und organisatorische Massnahmen sind über die gesamte Bearbeitungsdauer zu überprüfen und nötigenfalls anzupassen (Art. 1 Abs. 5 DSV). Verantwortliche und Auftragsbearbeiter müssen eine dem Risiko angemessene Datensicherheit gewährleisten (Art. 8 Abs. 1 DSG). Die Angemessenheit ist damit keine historische Feststellung aus dem Einführungsprojekt, sondern eine laufende Anforderung.

Für KI-Governance folgt daraus kein Zwang zu einem besonderen Freigabeformular, wohl aber zu einem belastbaren Verfahren. Das Unternehmen muss relevante Änderungen erkennen, ihre Auswirkungen an den richtigen Stellen beurteilen und die Entscheidung nachvollziehbar festhalten. Ohne diese Verbindung zwischen Beschaffung und Betrieb bleibt die ursprüngliche Freigabe ein Dokument ohne verlässlichen Bezug zur tatsächlichen Nutzung.

Auch die Auslagerung bleibt dynamisch. Der Auftragsbearbeiter darf Personendaten nur so bearbeiten, wie es der Verantwortliche selbst dürfte; gesetzliche oder vertragliche Geheimhaltungspflichten müssen die Übertragung zulassen (Art. 9 Abs. 1 DSG). Die Weiterübertragung an einen weiteren Auftragsbearbeiter setzt die vorgängige Genehmigung des Verantwortlichen voraus (Art. 9 Abs. 3 DSG). Änderungen in der Subunternehmerkette sind deshalb nicht bloss Beschaffungsinformationen, sondern können die rechtliche Grundlage des Betriebs berühren.

Vertrag, Konfiguration und tatsächliche Nutzung bilden dabei eine Einheit. Der Vertrag begrenzt, was der Anbieter tun darf und schuldet. Die Konfiguration bestimmt mit, welche Funktionen und Datenflüsse aktiviert sind. Die Nutzungspraxis entscheidet schliesslich, welche Daten Mitarbeitende tatsächlich eingeben und auf welche Bestände die KI zugreift. Eine belastbare Beurteilung muss alle drei Ebenen zusammenführen.

Aus der Freigabe muss ein Governance-Zyklus werden

Praktisch braucht es zunächst einen Informationskanal für Änderungen: Release Notes, Administrationsmeldungen, Vertragsänderungen und neue Unterauftragsbearbeiter müssen einer benannten Stelle zugehen. Diese Stelle muss nicht jede Meldung juristisch prüfen, aber anhand vorab definierter Kriterien erkennen, wann IT, Datenschutz, Recht, Informationssicherheit oder die fachliche Leitung einzubeziehen sind.

Die Freigabedokumentation sollte daher nicht nur das Ergebnis "freigegeben" enthalten. Sie sollte den geprüften Zweck, die zugelassenen Nutzer und Daten, wesentliche Datenflüsse und Empfänger, relevante Konfigurationen, tragende Vertragsgrundlagen, Schutzmassnahmen, Restrisiken, Verantwortlichkeiten und den Prüfzeitpunkt festhalten. Erst diese Baseline ermöglicht eine wirkungsbezogene Änderungsprüfung: Was ist neu, welche Annahme ist betroffen, wer entscheidet, und welche Zwischenmassnahme gilt?

Die Reaktion kann abgestuft erfolgen. Unwesentliche Änderungen werden dokumentiert. Begrenzte Abweichungen führen zu einer gezielten Nachprüfung und gegebenenfalls zu angepassten Weisungen oder Einstellungen. Bei unklaren oder erheblichen Auswirkungen kann das Unternehmen die neue Funktion vorläufig sperren, während der unveränderte, weiterhin zulässige Einsatz bestehen bleibt. So wird Governance weder zur pauschalen Innovationsbremse noch zum folgenlosen Häkchen im Einführungsprojekt.

Eine KI-Freigabe verfällt somit nicht automatisch mit jedem Update. Belastbar bleibt sie aber nur, solange der tatsächliche Betrieb ihren dokumentierten Voraussetzungen entspricht. Flex Routing macht das sichtbar; die eigentliche Aufgabe ist grösser: Unternehmen müssen Veränderungen systematisch in ihre Risiko-, Datenschutz- und Sicherheitssteuerung zurückführen.