Roland Siegwart über die sozialen Chancen der Technologie

"Cyber Physical Systems" und künstliche Intelligenz (KI) stellen eine substanzielle Herausforderung für Freiheit und Demokratie in unserer Rechtsordnung dar. Brauchen uns gar die Computer beziehungsweise die KI in den nächsten Dekaden nicht mehr?

Roland Siegwart: Ich sehe die Zukunft der KI nicht so kritisch. KI ermöglicht zwar eine immer bessere Analyse von grossen Datenmengen und kann auch lernen, zum Beispiel, wo im Bild eine Katze ist oder was in einem Röntgenbild auf Krebs hindeutet. Dies hat aber noch wenig mit unserer natürlichen Intelligenz zu tun, die uns ermöglicht, sehr komplexe Zusammenhänge zu erkennen, sehr vielfältige Probleme kreativ zu lösen und miteinander wie auch mit unserer Umwelt zu interagieren. KI-Algorithmen sind heute und in naher Zukunft sehr vielversprechende Werkzeuge, die uns in verschiedensten Aufgaben effizienter und präziser machen, und uns unangenehme und repetitive Arbeiten abnehmen. Sie haben aber keine Eigenmotivation, Selbstbewusstsein und Erkenntnisfähigkeit, können nicht unmittelbar physisch auf die Umwelt einwirken und können sich auch nicht "physisch" fortpflanzen.

"Roboter verlassen die Produktionshallen" gemäss einem Ihrer Referate. Was wollen wir von der Technologie und was "erwartet" gar die künftige Technologie von uns?

Roboter übernehmen heute schon viele Aufgaben in den Produktionshallen, wo sehr strukturierte und durchgetaktete Prozesse ablaufen. Viele der heutigen Produktionsprozesse wären ohne Roboter kaum mehr denkbar. Stellen Sie sich vor, Menschen müssten die circa 200'000 Autos, die täglich produziert werden, von Hand lackieren und wären so dem giftigen Umfeld ausgesetzt. In Zukunft werden Roboter auch vermehrt weniger strukturierte Aufgaben in unserem täglichen Umfeld übernehmen, zum Beispiel als Helfer in der Landwirtschaft, in Minen oder als Auslieferroboter. Es gibt eine grosse Anzahl Aufgaben, wo man heute kaum mehr Arbeitskräfte findet, zum Beispiel in der Landwirtschaft oder da, wo Menschen nicht ihr Leben riskieren sollten, etwa in Minen im Untertagbau. Roboter werden hoffentlich in naher Zukunft uns Menschen entlasten und unsere Fähigkeiten ergänzen. Die Fähigkeiten von Robotern sind in den meisten Fällen komplementär zu denjenigen von uns Menschen. Roboter können sich sehr präzise bewegen, können grosse Lasten tragen und werden nicht müde bei repetitiven Aufgaben. Wir Menschen sind kreativ, haben die Fähigkeit, mit Mitmenschen auf allen Ebenen zu interagieren und können komplexe Zusammenhänge sehr schnell analysieren und verstehen. Im Weitern haben wir mit unseren Händen die Fähigkeit, taktile Aufgaben zu übernehmen, die heutige und zukünftige Roboter wie Maschinen aus der Steinzeit aussehen lässt.

Die Technologie scheint derzeit gar dazu verdammt zu sein, in eine Art "Symbiose mit dem Menschen" zu wachsen. Wo sehen sie hier die Chancen und Grenzen? Wo sehen Sie spezielle Herausforderungen rund um die Cyber Security, Datenschutz und Privacy und deren Regulationen?

Was den Menschen von Tieren unterscheidet, ist seine Kreativität und soziale Interaktivität und sein Verlangen, immer neue Werkzeuge zu entwickeln. Die von uns entwickelten Werkzeuge werden dann oft ein "symbiotischer" Teil unseres privaten oder beruflichen Lebens, zum Beispiel Besteck, Hammer, Bohrmaschine, Fahrzeuge, Computer oder Handy.

KI und Roboter sind die neusten Werkzeuge, die uns neue Möglichkeiten und Chancen eröffnen. Es ist wichtig, dass wir schnell lernen, diese neuen Werkzeuge im privaten und beruflichen Umfeld optimal und nachhaltig zu nutzen. Natürlich bringt das auch neue Risiken. Technologien können unser menschliches Zusammenleben negativ beeinflussen, uns in gewissen Bereichen einschränken und beherrschen. Wichtig scheint mir, dass wir neuen Technologien offen entgegentreten, sie erfahren, uns zu Nutzen machen und uns bezüglich Risiken eine eigene Meinung bilden. Das gilt auch für den Datenschutz. Wir müssen verstehen, wann und wo wir unsere Daten hinterlassen, was damit geschieht und wie wir das beeinflussen können. Das sind grosse Herausforderungen für uns als Individuen und als Gesellschaft. Eine sinnvolle Regulation ist nur möglich, falls wir als Gesellschaft wissen, was wir wollen und was nicht.

Wir werden jetzt schon sehr heftig "umarmt" von der Technologie, welche uns unterdessen beinahe durchwächst – zum Beispiel Virtual Reality oder irgendwann in den nächsten Dekaden das Brain Computing Interface, Bio Hacking und E-Health. Können wir umgekehrt aber auch nur gerade darum die bessere Symbiose und Kontrolle der "Cyber Physical Systems" schaffen?

Es geht bei diesen neuen Technologien in erster Linie darum, sie optimal zu nutzen. Dazu müssen wir sie erfahren, verstehen und hinterfragen. Neue Technologien wie Virtual Reality oder E-Health werden uns sicher helfen, den Nutzen und die Risiken besser zu verstehen. Wie neue Technologien in unser tägliches Leben eingreifen sollen, das müssen wir dann als Individuum und gemeinsam im gesellschaftlichen und politischen Diskurs entscheiden. Im speziellen haben Brain-Computer-Interfaces einen sehr direkten Zugang in unser Gehirn und sollten nur da zum Einsatz kommen, wo wirklich unser Leben damit besser wird.

Was braucht es noch alles, damit wir irgendwann mal im autonom fahrendem Auto oder in der digitalen Fabrik ruhig schlafen können?

So wie Industrieroboter in Automatisierungsstrassen äusserst zuverlässig und ohne zu ermüden arbeiten, sind autonome Fahrzeuge heute schon fähig, zuverlässig in strukturierten Umgebungen zu fahren. So werden wir auf der Autobahn wahrscheinlich bald beruhigt schlafen oder unsere E-Mails beantworten können. Aber dynamische und unerwartete Situationen sind immer noch eine grosse Herausforderung, da autonome Fahrzeuge die Welt und ihre Zusammenhänge nicht wirklich verstehen können. Auch die grossen Fortschritte in KI und maschinellem Lernen haben da noch keine überzeugenden Konzepte und Algorithmen hervorgebracht, um das in kurzer Zeit zu lösen. Und das ist wahrscheinlich auch gut so.

Die KI mit den "Cyber Physical Systems" scheinen irgendwann technologisch so mächtig zu werden wie damals die Atombombe. Wie und was kann man bis dahin möglichst gut regulieren und limitieren?

Atombomben und KI können wirklich nicht miteinander verglichen werden. Beim einen geht es um eine physikalische Reaktion, die enorme Energie freisetzt und nach deren Auslösung nicht mehr kontrollierbar ist. KI, zumindest in der heutigen Form, sind Algorithmen, die auf Computern ablaufen und Daten analysieren. Sie hat keine direkte physische Kraft und falls etwas nicht passt, kann man einfach den Stecker ziehen. Natürlich heisst das nicht, dass KI und Cyber-Physical-Systems nicht auch gewisse Gefahren mit sich bringen. Als sehr starke neue Werkzeuge für die Analyse von Daten gibt die KI denjenigen, die sie optimal nutzen, ganze neue Möglichkeiten, sei es in der Vermarktung, medizinischen Diagnostik, Finanzmarktanalyse oder in fast allen Arbeits- und Lebenssituationen. Es macht diejenigen, die KI beherrschen, noch erfolgreicher und kann somit eine gefährliche Spaltung der Gesellschaft erzeugen.

Wir leben in einer Misstrauensgesellschaft mit Misstrauenstechnologien. Darum braucht es Bestrebungen, Evolutionen und Technologien wie Blockchain bei optimierter Cyber Souveränität. Diese können helfen, das Vertrauen in die uns durchwachsenden Technologien zurückzugewinnen. Eine Dezentralisierung ohne Drittpartei und zugunsten einer ausgewogeneren Systemgläubigkeit und Cyber-Souveränität könnte hilfreich sein. Wie ist Ihre Meinung hierzu?

Blockchain und ähnliche Technologien werden neue Geschäftsmodelle ermöglichen, die ohne eine Vertrauensperson oder eine Institution als Vermittler und Garant auskommen. Sie werden aber nicht das zwischenmenschliche Vertrauen, das für eine gesunde Gesellschaft nötig ist, ersetzen. Ich hoffe, Blockchain und ähnliche Technologien werden helfen, die Korruption zu unterbinden, die für sehr viele Länder, auch in Europa, das zentrale Hindernis für eine prosperierende Gesellschaft und Wirtschaft ist. Stellen Sie sich vor, alle finanziellen Transaktionen wären transparent und jederzeit nachvollziehbar. Dann wären dubiose Geldflüsse und Geschäfte unterbunden. Es ist denkbar, dass Blockchain da einen wichtigen Beitrag leisten kann.

Wie können wir eine Informations-Ethik so gestalten, dass der Mensch die letzte Instanz bleibt bei sensiblen Entscheidungen? KI-unterstützte Entscheidungen sollten ja transparent, nachvollziehbar und erklärbar sein. Wie ist Ihre Meinung hierzu, auch in Bezug auf die Problematik von Fake News?

Transparenz und Nachvollziehbarkeit schaffen Vertrauen. Und dieses ist für ein erfolgreiches Zusammenleben von höchster Wichtigkeit. Somit muss die Sammlung, Auswertung und Nutzung unserer Daten transparent sein, was heute nicht wirklich gegeben ist. Es sind aber letztlich unser kritisches Hinterfragen und vertrauenswürdige Mitmenschen und Institutionen, die uns ermöglichen, die richtigen Informationen zu bekommen und Fake News zu erkennen. Ich hoffe, die Gesellschaft ist in Zukunft vermehrt bereit, für gute Informationen auch etwas zu bezahlen. Eine Demokratie kann ohne unabhängige Medien mit kritischem und tiefgründigem Journalismus und transparenten Informationen nicht überleben.

In der brillanten Ansprache zur Eröffnung der Ausstellung "Fake" im Stapferhaus Lenzburg von Bundeskanzler Walter Thurnherr wurden einmal mehr die Macht und Gefahren der Systemgläubigkeit und «Fake-News» verdeutlicht. Wie und durch welche Instanz wird in der Zukunft das fundamental wichtige digitale und analoge Vertrauen der Misstrauensgesellschaft in die Technologie und Digitalisierung zurückerobert?

Die Digitalisierung hat zwar die Verbreitung von Fake News vereinfacht und beschleunigt, sie hat aber auch neue Weg für qualitativ hochwertige und vertrauenswürdige Informationskanäle eröffnet. Wikipedia ist heute das beste Lexikon, geschaffen und kontrolliert von Hunderttausenden von Menschen. Und wer vertraut nicht oft auf Bewertungen von Restaurants oder Produkten durch Mitmenschen. Speziell wenn Empfehlung transparent sind, geschrieben von Mitmenschen, die mit ihrem Namen dafür einstehen, bekommen Informationen die nötige Transparenz und Vertrauenswürdigkeit.

Wegen den sozialen Medien sind gewisse extreme Ansichten oder Extremisten technologisch bestärkt und verzerrt worden mit Fake News und der Systemgläubigkeit. Grosse Plattformen wie Facebook, Google und Twitter machen algorithmische Medien und haben zwar die Werbe-Budgets, aber nicht die Journalisten und Redaktionen übernommen. Man versucht offenbar, weitere Elemente der Menschlichkeit aus den uns beeinflussenden Medien zu entfernen, weil es billiger scheint. Wie ist Ihre Meinung hierzu?

Ja, die Macht der grossen IT-Firmen ist übergross geworden und daher gefährlich. Das Business-Konzept dieser Firmen ist nicht vergleichbar mit dem, was im Geschäftsleben normal ist. Üblicherweise bietet eine Firma ein Produkt oder Service an und wird dafür bezahlt, was sie anbietet. Bei Firmen wie Google oder Facebook sind die Produkte, die sie uns allen anbieten, zum Beispiel eine Internetsuche, ein Stadtplan auf dem Handy oder ein soziales Netzwerk, gratis. Sie werden dann von Werbekunden bezahlt, die nicht an ihrem Produkt, sondern an den Daten ihrer Kunden interessiert sind. Diese Entkopplung von Produkt und Bezahlung ist sehr gefährlich. Sie verleitet die Firmen, die angebotenen Produkte nicht für den direkten Nutzer, sondern für die bezahlenden Werbekunden zu optimieren. Reisserische Informationen ziehen mehr Leute in die Netzwerke und freuen so die Werbekunden. Heute fliessen 60 bis 70 Prozent der Online-Werbeeinnahmen zu den grossen IT-Firmen. Die klassischen Medienunternehmen mit ihren hochqualifizierten Redaktionen und Journalisten gehen leer aus. Wir müssen daher wieder lernen, dass gute Information nicht gratis sein kann und dass wir dafür zahlen sollten, wie wir auch für andere Produkte, die uns wichtig sind. Nur so können wir Fake News in den Griff bekommen.

In einem meiner Interviews mit Peter Fischer, Leiter Informatiksteuerungsorgan des Bundes (ISB), wurden die sehr relevanten Optimierungen rund um die Cyber Security und Cyber-Souveränität der Schweiz beleuchtet. Was ist Ihre Expertenmeinung hierzu in Bezug auf die Spitzenforschung und Entwicklung rund um "Cyber Physical Systems" und KI?

Ich bin kein Spezialist für Cyber Security. Dies ist sicherlich ein sehr relevantes Thema für die nationale Sicherheit, das es vor 20 Jahren noch nicht gab. Die Schweiz ist grundsätzlich sehr gut aufgestellt in diesem Bereich. Wir haben ausgezeichnete Forschungsgruppen an der ETH und EPFL und die Finanzindustrie hat langjährige Erfahrungen. Es ist aber für ein kleines Land wie die Schweiz nicht einfach, den nötigen Aufwand für die Cyber Security zu leisten. Auf der anderen Seite ist es eine wirtschaftliche Chance für die Schweiz, neue Dienstleistungen für die sichere Verwaltung und Bearbeitung von Daten anzubieten.

Viele Unternehmen sind immer noch zentralisiert und hierarchisch unterwegs, die Märkte und Globalisierung sind aber eher dezentral und mitunter chaotisch. Ist die Dezentralisierung oder Demokratisierung einer der nächsten Game Changer?

Grosse zentralisierte Strukturen haben Mühe, innovativ zu sein. Das gilt für die klassische Industrie wie auch für die dominanten IT-Firmen. Oft wird heute Innovation zugekauft, zum Beispiel über die Akquisition von Start-ups. Das ist ein Teil der Dezentralisierung in der Innovation, die heute schon sehr verbreitet ist. Auch zwingt uns der schnelle Technologiewandel als Arbeitsnehmer, immer unternehmerischer zu sein. In Zukunft werden wir noch vermehrt in schnell wechselnden Teams in immer neuen Konstellationen zusammenarbeiten. Es braucht aber nach wie vor grosse zentralisierte Unternehmen, die komplexe Produkte wie Autos bauen oder grossen Infrastrukturen und Dienstleistungen unterhalten. Dezentrale und chaotische Strukturen können das nicht leisten.

Unternehmen, die nur noch auf Technologie achten, scheinen in Zukunft keinen nachhaltigen Erfolg mehr zu haben. Die Technologie scheint bald nur noch ein Teilbereich der übergeordneten Unternehmensstrategie mit Fokus auf Nachhaltigkeit, Sinn, Werten, Verantwortung und Weiterentwicklung zu sein. Derzeit wird jedoch der anders laufende, eher unethische "Plattform-Kapitalismus", auch mittels "Pervasive Design", nicht nur positiv weiterentwickelt. Was denken Sie darüber?

Technologie ist und bleibt wahrscheinlich der zentrale Wert von Unternehmen. Daten und Datenanalyse wird aber immer wichtiger und hat sich zum vielleicht wichtigsten Treiber von Technologie und Innovation entwickelt. Viele unsere anstehenden Probleme wie Klimawandel, Energie oder Welternährung werden wahrscheinlich vor allem durch neue Technologien gelöst. Die nötigen gesellschaftliche Verhaltensänderungen zur Lösung dieser Probleme sind leider sehr schwierig zu erreichen. Kritisch in dieser Entwicklung ist, dass heute mit sozialen Netzwerken und Internetplattformen wesentlich mehr zu verdienen ist, als mit neuen Technologien, die unsere Welt verbessern. Es ist zu hoffen, dass da in naher Zukunft ein Umdenken in der Gesellschaft stattfindet. Die Welt wird nicht gerettet durch KI und mehr Rechenleistung, sondern durch neue Anbaumethoden in der Landwirtschaft, durch nachhaltige Energie oder neue medizinische Behandlungen. Die reale Welt hat andere Gesetzmässigkeiten als die Welt der Daten. Energiedichte von Batterien oder Erträge aus Ackerland haben physikalische Grenzen, die auch durch grosse Visionen der Vordenker aus der IT-Branche nicht einfach wegzudiskutieren sind.

Die Digitalisierung ist geprägt von disruptiven Chancen und gleichzeitig komplexen Herausforderungen rund um Data Monetization und Business Model Maturity. Ist auch hier trotz des Technologie-Hypes eine Erfolgsstrategie zu finden mit einer ausgeglicheneren Wertigkeit zwischen Mensch und Maschine?

Ich meine, da liegt der Ball bei der Gesellschaft, bei uns allen, die neue Business-Modelle kritisch hinterfragen und durch die entsprechenden Handlungen die Wertigkeiten für die Menschen definieren muss. Bitcoin ist ein Business-Modell, das bis jetzt keine realen Werte generiert hat und nur die Initiatoren und Early Adopters reich gemacht hat. Das ist nicht mehr als modernes Geldspiel, das wir als kritische Gesellschaft ablehnen sollten. Es liegt an uns, unsere finanziellen Mittel für das einzusetzen, das nachhaltige Werte für die Gesellschaft und die Welt schafft, zum Beispiel für hochqualitativen Journalismus oder für eine nachhaltige Energieerzeugung oder Lebensmittelproduktion.

Was für weitere Anpassungen und Weiterentwicklungen braucht es in der Bildung und Forschung für die unbremsbar verdammte Symbiose zwischen Mensch und Technologie? Wie und wann soll das beginnen? Zum Beispiel im "Lehrplan21" in der Schweiz?

Neben reinem Lernen von Fakten und Sprachen sollte in der Ausbildung auf allen Stufen das projektbasierte Lernen und Experimentieren viel stärker gefördert werden. Projekte schärfen unsere Sinne für interdisziplinäre Zusammenhänge und schulen das kritische Denken, das speziell in einer direkten Demokratie sehr wichtig ist. Es geht nicht darum, aus allen Leuten Informatiker und Datenspezialisten zu machen, sondern um die Fähigkeit, Zusammenhänge zu verstehen, Fake News zu erkennen und richtige Entscheidungen für das Wohl der Gesellschaft und unserer wunderbaren Welt zu treffen.

Könnte eine optimierte Cyber-Souveränität der Schweiz, bewusst auch ausserhalb des "Schweizer Reduits", von der verstärkten digitalen Kompetenz oder einer "Mrs. oder eines Mr. Cyber" sowie einer "Digital Geneva Convention" profitieren?

Die Datenwelt kennt keine Landesgrenzen und wird nicht durch Transportwege eingeschränkt. Daher braucht es ein neues Verständnis der Mechanismen und mehr Transparenz. Ein starkes Engagement der Schweiz mit einer gewissen Cyber-Souveränität ist sicher wünschenswert und wertvoll. Die Schweiz, dank ihrer ausgezeichneten Wissensgesellschaft und direkten Demokratie, kann und sollte eine Vorreiterrolle in der Entwicklung der Cyber-Welt übernehmen.

Wie lange kann die Schweiz wenigstens versuchen, sich als Akteur im Cyberspace zu behaupten, diesen Raum mitzugestalten und auf Staatsebene eine möglichst gute Cyber-Souveränität zu erhalten? Wie kann hier die Spitzenforschung helfen?

Bezogen auf die Grösse behauptet sich die Schweiz sehr gut im Cyberspace. So ist zum Beispiel die ETH daran, ein sicheres Internet zu entwickeln und macht schon erste Tests mit Kunden. Die ETH ist auch Weltspitze in der Roboterforschung, wo der Cyberspace mit der physischen Welt zu Cyber Physical Systems verschmilzt. Und wir haben wahrscheinlich die grösste Dichte von Start-ups in der Robotik.

Laut Gartner ist digitale Ethik und Privacy ein strategischer Trend für 2019. Sind das weitere Zeichen und Massnahmen gegen das Misstrauen in die Technologie? Drohen uns hier gar negativ wirkende Regulations-Gelüste der digitalen Staats-Mächte?

Obwohl viel über Datenschutz und Privacy gesprochen wird, ist das Vertrauen in Technologie und IT-Dienste in der Gesellschaft sehr hoch. Ich würde mir oft wünschen, dass das Misstrauen in Technologie etwas grösser ist. Das sollten wir vor allem durch Aufklärung der Gesellschaft und nicht durch komplexe Regulierungen erreichen. Der Digital-Tag, der vor zwei Jahren von Digital Switzerland initiiert wurde, ist ein gutes Beispiel.

Wir müssen die Technologie so nutzen, dass diese für möglichst alle nachhaltig funktioniert und möglichst wenig Kollateralschäden hinterlässt, wie dies bei älteren Technologien aus vorangegangenen Industrie-Revolutionen der Fall war. Wie weit können wir hier auf die Spitzenforschung hoffen?

Viele unserer Weltprobleme wie Umweltverschmutzung, Klimawandel oder Welternährung wären durch Verhaltensänderungen lösbar. Leider bedeutet das aber auch Verzicht, was uns Menschen sehr schwer fällt. Daher ist die Hoffnung in die Technologie sehr gross, die Technologie soll es richten. Die Forschung zeigt kontinuierlich neue und nachhaltige Wege auf. Es ist aber die Gesellschaft und wir mit unserem Konsumverhalten, die entscheiden, wie diese ohne Kollateralschäden genutzt werden.

Zur Person: Roland Siegwart ist seit 2006 Professor an der ETH Zürich für autonome Systeme. Die von ihm geleitete Forschungsgruppe im Bereich der Robotik nimmt weltweit eine Spitzenstellung ein. Er ist und war Koordinator mehrerer europäischer Projekte und Mitgründer von einem halben Duzend Spin-offs. Er ist IEEE Fellow, Träger des IEEE RAS Pioneer und IEEE RAS Inaba Technical Award und Vorstandsmitglied der International Federation of Robotics Research (IFRR). Er ist im Editorboard verschiedener Robotik-Journalen und war Chairman mehrerer Robotik-Konferenzen und Mitglied mehrerer Stiftungs- und Verwaltungsräte. Roland Siegwart studierte Maschinenbau und promovierte an der ETH Zürich. Er war von 1996 bis 2006 Professor an der EPF Lausanne und von 2010-2014 Vizepräsident für Forschung und Wirtschaftsbeziehungen der ETH Zürich.