•  
  •  
  •  
  •  
  •  
Ethical OS

Denn sie wissen, was sie tun

Die Tech-Branche sieht sich zusehends mit ethischen Fragen konfrontiert. Das Framework «Ethical OS» deckt Problemfelder auf und sorgt dafür, dass Unternehmen die eigenen Produkte und Services in Zukunft nicht bereuen müssen.

15.03.2022Text: bbv0 Kommentare
Mann mit Maske kniet in rot ausgeleuchtetem Innenhof.
  •  
  •  
  •  
  •  

Technologie und technologiebasierte Geschäftsmodelle werden heute in rasanter Geschwindigkeit entwickelt. Neue Produkte, Dienstleistungen und Lösungen erobern den Markt, stets mit dem Versprechen, den Alltag von Menschen und Unternehmen zu verbessern. So ehrbar und ernstgemeint dieses Ideal der Tech-Konzerne auch sein mag – oftmals zeichnet die Realität ein anderes Bild. Hass und Hetze auf Twitter; Falschinformationen auf Facebook; Datenkrake Google: Bereits heute stellen sich im Tech-Sektor neue Fragen. Wie weit sollte Technologie gehen? Was ist ethisch noch vertretbar? Und: Wie lässt sich verhindern, dass böswillige Benutzerinnen und Benutzer die Technologie missbrauchen?

Solche Überlegungen spielen in der IT- und Tech-Branche zwar eine immer wichtigere Rolle. Doch gehen sie in der Produktentwicklung oftmals unter – nicht mal zwingend aus böswilliger Absicht: «Natürlich gibt es auch Firmen, die mutwillig ethisch verwerflich handeln. Oftmals ist aber einfach die Begeisterung für das eigene Produkt so gross, dass die Folgen schlichtweg nicht zu Ende gedacht werden», hält Patrick Labud, Senior Consultant und Mitglied des CTO-Boards bei bbv, fest. «Nicht selten sind es die Endanwender, die neue Wege finden, Produkte und Lösungen missbräuchlich einzusetzen.» Doch was können Unternehmen dagegen tun? Wie können sie die Folgen ihrer Innovationen besser abschätzen und Risiken verringern?

Ethical OS: Ein Werkzeug zur Risikoabschätzung

Einen Lösungsansatz bietet das «Ethical Operating System», kurz Ethical OS. Das Framework wird vom Omidyar-Netzwerk, einer philantropischen Investmentgessellschaft, finanziert und mit dem Institute for the Future (IFTF) entwickelt. Es richtet sich an Technologen, Ingenieure, Produktmanager, CEOs und Vorstandsmitglieder und trägt dazu bei, die unbeabsichtigten Folgen der eigenen Produkte und Lösungen schon vorab zu identifizieren und die Risiken bestehender Technologien in Zukunft besser bewältigen zu können. So hilft Ethical OS beim Aufdecken möglicher Problemfelder, die ein Produkt oder Service nach sich ziehen kann – auch wenn diese auf den ersten Blick nicht offensichtlich sind.

Bei Ethical OS handelt es sich um eine Präsentation mit 78 Slides, die drei Kapitel – oder «Tools», wie sie im Framework genannt werden – umfasst. Dreh- und Angelpunkt bilden dabei 8 Risikozonen, die am Anfang der Präsentation aufgeführt werden:

  1. Wahrheit, Falschinformation, Propaganda
  2. Suchtverhalten beim Medienkonsum
  3. Wirtschaftliche Ungleichheit
  4. Maschinenethik und algorithmische Verzerrungen
  5. Überwachungsstaat
  6. Datenkontrolle und Monetarisierung
  7. Blindes Technikvertrauen
  8. Hasserfüllte und kriminelle Akteure
Die 8 Risikozonen von Ethical OS
Die 8 Risikozonen von Ethical OS.

 

Tool 1: «Tomorrow’s Risk – Today»

Im ersten Tool «Tomorrow’s Risk – Today» stellt das Framework entlang dieser Risikozonen verschiedene Szenarien vor, in denen unbeabsichtigte Folgen mit grossen sozialen Auswirkungen auftreten könnten. Etwa Algorithmen zum Fälschen von Videos, menschenähnliche Conversation Bots, Arbeitsplatzkürzungen durch Automatisierung, oder das Sammeln von privaten Informationen oder Nutzerdaten zur Kreditvergabe oder zur Mitarbeiterbeurteilung. Insgesamt werden 14 solcher riskanten Zukunftsszenarien beschrieben, die eine Diskussion zur wachsenden sozialen Verantwortung von Unternehmen auslösen sollen. Anwender des Frameworks sollen ihr Bewusstsein für die Thematik schärfen und sich beim Lesen der Szenarien verschiedene Fragen stellen: Was ist meine grösste Sorge in diesem Szenario? Wie könnten verschiedene Nutzer unterschiedlich davon betroffen sein? Was könnten wir jetzt tun, um uns auf diese riskante Zukunft vorzubereiten?

Tool 2: «What to Do»

Im zweiten Tool «What to Do» untersuchen Anwender ihre eigenen Technologien, Produkte oder Features. Dazu werden die acht Risikozonen von «Ethical OS» genauer vorgestellt. «Das Tolle ist, dass das Framework nicht bloss Schwarzmalerei ist», hält Labud fest. «Es verteufelt Technologie nicht generell, sondern zeigt in allen acht Zonen auch den Nutzen, den sie bringen kann.» Anwender von Ethical OS sollen diese Beschreibungen der acht Risikozonen genau durchlesen und prüfen, welche davon auf das eigene Produkt, den eigenen Service oder die eigene Lösung zutreffen. Dazu hält das Framework auch für jede Risikozone Checklisten bereit, die dabei helfen, beim eigenen Produkt entsprechende Problemfelder aufzudecken. Sind diese identifiziert, sollen sich Anwender überlegen, wie diese Risiken im eigenen Produkt behoben oder abgeschwächt werden könnten.

Tool 3: «Future-Proofing»

Im dritten Tool «Future-Proofing» hält Ethical OS verschiedene Strategieansätze fest, mit denen Risiken in der künftigen Produktentwicklung gemindert werden könnten. Zum Beispiel Belohnungssysteme zum Aufspüren von Risiken für die geistige Gesundheit, die Gefährdung der Demokratie, struktureller Rassismus, Sexismus oder Ungleichheit. Eine weitere Strategie könnte eine Liste mit konkreten Warnzeichen und genau festgelegten Meldeprozessen sein, die den Mitarbeitenden ausgehändigt wird. Die Anwender sollten diese Strategien auf mögliche Vor- und Nachteile prüfen und sich für die am besten geeignete entscheiden. Ist die Strategie bestimmt, geht es an die Umsetzung. Dazu empfiehlt Ethical OS, eine Liste mit potenziellen Ressourcen, Verbündeten und Schlüsselpersonen wie auch den nächsten konkreten Schritten zu erstellen.

Es braucht kaum Einarbeitungszeit

Ethical OS kann mühelos zu Beginn der Produktentwicklung, aber auch für bereits bestehende Produkte und Services hinzugezogen werden. Zumal die Eintrittshürden sehr klein sind: «Der grosse Vorteil von Ethical OS ist, dass man mit minimaler Einarbeitung damit loslegen kann», sagt Patrick Labud. «Es ist keine grosse Vorbereitungszeit nötig, sondern man kann das Framework sofort an den eigenen Produkten durchexerzieren – oder sie auch punktuell für einzelne Risikozonen genauer untersuchen. Wer Problemfelder erkennt, muss deswegen auch nicht gleich in Panik verfallen – nicht immer ist sofortiges Handeln nötig. Doch mit Ethical OS können auch Massnahmen erarbeitet werden, um im Ernstfall schnell auf unerwünschte Ereignisse reagieren zu können.»

Der Experte

Patrick Labud

Patrick Labud ist als Senior Consultant für das Thema User Experience bei bbv tätig. Mit dem Ziel «glückliche User» unterstützt er Firmen dabei, UX in IT-Projekte zu integrieren. Für das Thema User Experience engagiert er sich zusätzlich in der Fachgruppe UX der Swiss ICT.

Unser Wissen im Abo

Digitale Lösung Gesundheitswesen

Intelligentes eHealth-Portal für mehr Effizienz

Digitalisierung
Plan.Book.Explore.

Digitaler Relaunch mit Individuallösung

Digitalisierung
Partnerschaft mit WASSER FÜR WASSER

Mit nachhaltigem Wasserkonsum Gutes tun

Digitalisierung

Artikel kommentieren

Die E-Mail-Adresse wird nicht publiziert. Notwendige Felder sind mit einem * versehen.

Beachtung!

Entschuldigung, bisher haben wir nur Inhalte in English für diesen Abschnitt.

Achtung!

Entschuldigung, bisher haben wir für diesen Abschnitt nur deutschsprachige Inhalte.

Beachtung!

Entschuldigung, bisher haben wir nur Inhalte in English für diesen Abschnitt.

Achtung!

Entschuldigung, bisher haben wir für diesen Abschnitt nur deutschsprachige Inhalte.