Warum digitale Selbstbestimmung ohne echte Alternativen nur eine Illusion bleibt

Sarah Dégallier Rochat, Leiterin Humane Digitale Transformation, BFH. (Source: zVg)

Sarah Dégallier Rochat, Leiterin Humane Digitale Transformation, BFH. (Source: zVg)

Sie beschäftigen sich an der BFH mit der Frage, wie die digitale Transformation menschenzentriert gestaltet werden kann. Wie digital souverän fühlen Sie sich persönlich?

Sarah Dégallier Rochat: Weniger, als mir lieb ist! Ich möchte auf gewisse Dienste verzichten, sowohl aus Datenschutzgründen als auch aus ethischen Überlegungen. Gleichzeitig bin ich aber noch von vielen dieser Dienste abhängig, sei es wegen bestimmter Funktionen, um mit bestimmten Menschen in Kontakt zu bleiben oder um die Zusammenarbeit zu erleichtern. Deswegen ist es extrem wichtig, zu klären, was getan werden kann, um diesen Aufwand zu reduzieren und damit die Voraussetzungen dafür zu schaffen, dass Menschen ihre digitalen Werkzeuge und Dienste tatsächlich freier und selbstbestimmter wählen können.

Bei digitaler Souveränität sprechen wir häufig von Cloud, Daten oder ausländischen Technologieanbietern. Doch was bedeutet digitale Souveränität eigentlich für den einzelnen Menschen?

Digitale Souveränität bedeutet, das eigene digitale Leben kontrollieren, digitale Werkzeuge frei wählen und über die eigenen Daten und die digitale Identität bestimmen zu können. Ebenso entscheidend ist jedoch die Fähigkeit zu kritischem Denken: Sie ermöglicht es, die wirtschaftlichen, politischen und gesellschaftlichen Interessen zu erkennen und einzuordnen, die digitale Technologien und ihre Nutzung prägen. Auch das soziale, institutionelle und technologische Umfeld beeinflusst die tatsächliche Wahlfreiheit erheblich. So kann es beispielsweise schwierig werden, auf Whatsapp zu verzichten, wenn sämtliche schulischen Informationen zu den eigenen Kindern ausschliesslich über diesen Kanal verbreitet werden. Umso wichtiger ist es, souveränere Alternativen bereitzustellen. Digitale Souveränität lässt sich daher nicht allein durch individuelle Kompetenzen sicherstellen. Die Verantwortung dafür liegt ebenso bei öffentlichen Institutionen, Organisationen und Technologieentwicklern. 

Wie selbstbestimmt können wir Ihrer Meinung nach noch entscheiden, wenn einige wenige grosse Plattformen und Technologiekonzerne vorgeben, welche digitalen Dienste und Möglichkeiten uns zur Verfügung stehen?

Die Frage, wie stark digitale Plattformen und Technologieunternehmen reguliert werden sollen, ist letztlich eine politische und gesellschaftliche Frage. Technologische Entwicklungen sind keine Naturgesetze, sondern das Ergebnis menschlicher Entscheidungen. Als demokratische Gesellschaft können wir diese Entscheidungen hinterfragen, beeinflussen und ihnen gegebenenfalls widersprechen. Dafür müssen wir die Vorstellung überwinden, technologischer Fortschritt geschehe zwangsläufig oder sei alternativlos. Erst wenn unterschiedliche Entwicklungswege sichtbar werden, entsteht Raum für eine demokratische Debatte darüber, welche Technologien wir fördern wollen und welchen Zielen sie dienen sollen. 

Wie viel digitale Souveränität braucht die Schweiz überhaupt? Oder anders gefragt: Wie viel Abhängigkeit müssen wir akzeptieren?

Digitale Souveränität endet dort, wo es praktisch unmöglich wird, den Technologieanbieter zu wechseln. Das Ziel sollte daher nicht unbedingt vollständige Autarkie sein, sondern darin bestehen, sicherzustellen, dass echte Alternativen vorhanden sind und ein Wechsel zu diesen jederzeit zu vertretbaren Kosten möglich bleibt. In diesem Zusammenhang ist es wichtig, Technologien und Lösungen zu fördern und zu finanzieren, die mit unseren gesellschaftlichen Werten im Einklang stehen. Open Source stellt dabei einen besonders interessanten Ansatz dar. Offene Technologien ermöglichen es, ein gewisses Mass an Kontrolle über die eingesetzten Systeme zu behalten und ihre zukünftige Entwicklung mitzugestalten. Darüber hinaus erlaubt Open Source, Ressourcen, Wissen und Kompetenzen zu bündeln, anstatt zahlreiche parallele und potenziell ineffiziente Eigenentwicklungen zu finanzieren. 

Die BFH nennt neben digitaler Souveränität auch Teilhabe und Befähigung als zentrale Werte einer humanen digitalen Transformation. Was müssen Menschen können und wissen, um digital souverän handeln zu können?

Digitale Souveränität ist oft eine Frage der Abwägung zwischen Kosten, Fachwissen, Autonomie, verfügbaren Ressourcen und technologischen Abhängigkeiten. Entscheidend ist, diese Zielkonflikte bewusst zu erkennen und die daraus resultierenden Entscheidungen reflektiert zu treffen. So werfen beispielsweise Microsoft-Produkte berechtigte Fragen hinsichtlich Datenschutz und Datenhoheit auf. Gleichzeitig bieten sie ein aussergewöhnlich hohes Mass an Barrierefreiheit und Unterstützung für Menschen mit besonderen Bedürfnissen. Entscheidend ist, die jeweiligen Vor- und Nachteile zu kennen und im eigenen Kontext abzuwägen. In einem anderen Kontext haben wir einen Kurs zur souveränen Nutzung von KI entwickelt, der den Fokus auf die Frage der Wahlfreiheit legt: Welche Kompetenzen möchte ich selbst entwickeln, und welche Aufgaben möchte ich delegieren? Welchen Einfluss soll der Einsatz von KI auf meinen Lernprozess haben? Und nicht zuletzt: Welche Weltbilder, Werte und gesellschaftlichen Vorstellungen unterstütze ich durch meine Nutzung von KI und durch die Art und Weise, wie ich über diese Technologien spreche? Eine souveräne Nutzung von KI bedeutet daher nicht, möglichst viel oder möglichst wenig KI einzusetzen. Vielmehr geht es darum, informierte Entscheidungen über ihren Einsatz zu treffen. 

Sie beschäftigen sich unter anderem damit, wie Erzählungen über Technologien unsere Vorstellung davon prägen, was technologisch möglich oder unvermeidlich ist. Gefährdet auch der Glaube, bei KI "mitmachen zu müssen", unsere digitale Selbstbestimmung?

Oft hört man die Aussage: "Sie werden nicht durch KI ersetzt, sondern durch jemanden, der KI nutzt." Dieses Narrativ stammt vor allem von KI-Anbietern, wird aber auch an Hochschulen oft unkritisch übernommen. Studierende auf die Arbeitswelt vorzubereiten, wird heute oft damit gleichgesetzt, ihnen den KI-Einsatz beizubringen. Dabei gerät aus dem Blick, dass sie Kompetenzen entwickeln sollen und dafür Aufgaben zunächst selbst ausführen müssen. Gleichzeitig ist eine zunehmende Tendenz zu beobachten, KI in möglichst allen Lehrveranstaltungen einzusetzen. Lehrpersonen oder Studierende, die sich bewusst dagegen entscheiden, werden dabei mitunter implizit als innovationsfeindlich oder fortschrittskritisch dargestellt. Das ist bemerkenswert, denn KI ist in erster Linie ein Werkzeug zur Delegation von Aufgaben. Wer eine Aufgabe ohne KI beherrscht, kann sie in der Regel auch mit KI erfolgreich bewältigen. Umgekehrt gilt dies jedoch keineswegs. Wenn der Einsatz von KI als alternativlos dargestellt wird, geraten die eigentlichen Fragen aus dem Blick: Welche Kompetenzen wollen wir fördern? Welche Aufgaben sollen Menschen selbst beherrschen, und welche möchten wir delegieren? Die Entscheidung für oder gegen den Einsatz von KI sollte jedoch auf einer bewussten Abwägung von Chancen, Risiken und Abhängigkeiten beruhen und nicht auf dem Gefühl, einem technologischen Trend folgen zu müssen. 

KI nimmt uns zunehmend Aufgaben ab. Ab wann wird aus hilfreicher Unterstützung ein Verlust eigener Fähigkeiten – und damit auch ein Verlust an Souveränität?

Das ist eine schwierige Frage, denn es gibt darauf keine allgemeingültige Antwort. Ich besitze beispielsweise keinen Führerschein. Dass ich dadurch von öffentlichen Verkehrsmitteln abhängig bin, empfinde ich nicht als problematisch. Bis zu einem gewissen Grad bedeutet das zwar einen Verlust an Autonomie, aber einen, den ich bewusst in Kauf nehme. Auf eine Kompetenz zu verzichten, ist nicht zwangsläufig negativ, solange man selbst entscheiden kann, welche Fähigkeiten man entwickelt und welche Aufgaben man delegiert. Anders stellt sich die Situation bei Kindern und im Bildungssystem dar. Welche Kompetenzen vermittelt werden sollen, hängt auch davon ab, welche Art von Gesellschaft wir gestalten möchten und welche Kompetenzen dafür erforderlich sind. Dabei sollten wir nicht nur auf das Ergebnis achten, sondern auch auf den Lernprozess, der Wissen, Urteilsvermögen und Selbstständigkeit fördert. Ich denke dabei beispielsweise an einen Lehrenden, der berichtete, Debatten mit Unterstützung von KI in seinen Unterricht zu integrieren. Die Schülerinnen und Schüler mussten sich dabei nicht selbstständig in ein Thema einarbeiten oder Quellen lesen, sondern konnten Argumente direkt aus einer von der KI generierten Liste auswählen. Meiner Ansicht nach wird in einem solchen Szenario nicht mehr die eigentliche Debattierkompetenz gefördert. Debattieren bedeutet, eine eigene Meinung zu entwickeln, zu begründen und zu hinterfragen. Wer nur vorgegebene Argumente wiedergibt, entwickelt diese Fähigkeit kaum. Es entsteht die Illusion von Kompetenz, ohne dass die zugrunde liegende Kompetenz tatsächlich entwickelt wird. Die eigentliche Gefahr liegt deshalb in einem Verständnis von KI, das darauf abzielt, möglichst viele Tätigkeiten zu automatisieren. Zielführender wäre es, darüber nachzudenken, wie KI gezielt und reflektiert eingesetzt werden kann, um den Aufbau von Kompetenzen zu fördern, anstatt ihn zu ersetzen.

Welche Rolle müssen Bildungseinrichtungen spielen, damit die nächste Generation nicht nur digital versiert, sondern auch digital souverän ist?

Persönlich bin ich oft enttäuscht über die mangelnde kritische Distanz, mit der manche Kolleginnen und Kollegen dem aktuellen KI-Hype begegnen. Aus meiner Sicht besteht die Aufgabe einer Hochschule nicht darin, jede technologische Entwicklung unkritisch zu feiern, sondern vielmehr darin, den Mut jener Mathematiklehrpersonen aufzubringen, die sich einst gegen die Einführung des Taschenrechners in der Primarschule stellten, obwohl sie dafür von den damaligen "Innovations­evangelisten" belächelt wurden. Hochschulen und Schulen sollten nicht einfach die dominanten technologischen Narrative reproduzieren, sondern alternative und differenzierte Perspektiven sichtbar machen. Ihre Aufgabe ist es, kritisches Denken zu fördern, nicht technologische Heilsversprechen zu verstärken. Besonders irritierend finde ich es, wenn im selben Atemzug für "AI Literacy" geworben und gleichzeitig über das mangelnde Vertrauen der Bevölkerung in neue Technologien geklagt wird. AI Literacy bedeutet nicht, Technologien vorbehaltlos zu akzeptieren, sondern ihre Chancen und Risiken sowie die dahinterstehenden wirtschaftlichen Interessen kritisch beurteilen zu können. Deshalb halte ich Zweifel, Skepsis und eine gewisse Vorsicht nicht für ein Problem, sondern für eine Tugend. Wenn AI Literacy lediglich dazu dient, Akzeptanz zu schaffen und Widerstand abzubauen, dann handelt es sich nicht um Bildung, sondern um Gehorsam. Echte AI Literacy befähigt Menschen hingegen dazu, informierte Entscheidungen zu treffen, Risiken zu erkennen und Technologien auch bewusst abzulehnen, wenn dies ihren Werten oder Interessen entspricht.

Welche Verantwortung trägt der einzelne Mensch für seine digitale Souveränität – und wo sind Staat und Unternehmen in der Pflicht?

Meiner Ansicht nach wird die Verantwortung unter dem Deckmantel der individuellen Freiheit allzu oft auf die Einzelnen abgewälzt. Mit sogenannten Dark Patterns beeinflussen digitale Unternehmen gezielt die Entscheidungen ihrer Nutzerinnen und Nutzer zum eigenen wirtschaftlichen Vorteil. Deshalb reicht es nicht aus, den Menschen lediglich mehr Eigenverantwortung abzuverlangen. Es braucht klare politische und rechtliche Rahmenbedingungen für die digitale Entwicklung. Die Sicherheit und das Wohlergehen der Nutzerinnen und Nutzer sollten dabei Vorrang vor wirtschaftlichen Interessen haben. Ebenso wichtig ist es, dass Unternehmen und Entwickler für die Folgen ihrer Produkte und Entscheidungen Verantwortung übernehmen und bei Schäden oder Fehlentwicklungen zur Rechenschaft gezogen werden können. In diesem Sinne sollte digitale Souveränität, also informierte Wahlfreiheit, nicht als individuelles Privileg, sondern als grundlegendes Recht verstanden werden. Niemand sollte gezwungen sein, persönliche Daten preiszugeben, um Zugang zu öffentlichen Dienstleistungen, gesellschaftlicher Teilhabe oder einem Arbeitsplatz zu erhalten. Diese Entscheidungsfreiheit darf nicht nur theoretisch bestehen, sondern muss auch praktisch gewährleistet sein.

Wenn Sie für das "Rezept" zur digitalen Souveränität eine Zutat auswählen müssten, ohne die mehr digitale Selbstbestimmung nicht gelingt: Welche wäre das? Und warum?

Vielfalt. Vielfalt bei technologischen Lösungen ebenso wie bei Zukunftserzählungen und gesellschaftlichen Leitbildern. Denn ohne Alternativen gibt es keine Wahlmöglichkeiten und ohne Wahlmöglichkeiten keine echte Selbstbestimmung. Vielfalt schafft zudem die Voraussetzungen für digitale Souveränität. Sie ermöglicht es, zwischen unterschiedlichen Technologien, Anbietern und Entwicklungswegen zu wählen, anstatt von einzelnen Lösungen abhängig zu werden. Gleichzeitig macht sie die Werte, Interessen und Menschenbilder sichtbar, die technologischen Systemen zugrunde liegen.