Warum bei der Entwicklung neuer Technologien nicht nur der materielle, sondern auch ethische Werte eine Rolle spielen sollten – heute mehr denn je.
Als Facebook 2004 an den Start ging und innerhalb kürzester Zeit Millionen Menschen begeisterte, hat wohl kaum jemand absehen können, welch verheerende gesellschaftliche Auswirkungen das Netzwerk in Zukunft haben würde. Fasziniert von der Möglichkeit, alte Freunde zu finden, sich mit Menschen rund um den Globus zu vernetzen und sein eigenes Leben mit aller Welt zu teilen, erkannten wir Nutzer zu spät, dass Facebook ein Multiplikator nicht nur für Zustimmung und Lob, sondern auch für Diskriminierung, Verachtung und Fehlinformation ist. Und dass wir, so Internetvordenker Jaron Lanier, nicht die Kunden, sondern das Produkt des Netzwerks sind.
Musste es zwangsläufig so kommen? War es unausweichlich, dass durch die Entwicklung der sozialen Medien unsere Privatsphäre und oft genug unser Anstand im Umgang miteinander auf der Strecke blieb? Oder liegt der Fehler vielmehr im Design solcher Netzwerke?
Technologie formt unsere Gesellschaft, sie hat einen elementaren Einfluss darauf, wie wir zusammenleben, wie wir andere und nicht zuletzt uns selbst behandeln.
Technologie formt unsere Gesellschaft, sie hat einen elementaren Einfluss darauf, wie wir zusammenleben, wie wir andere und nicht zuletzt uns selbst behandeln. Dabei ist Technologie per se weder gut noch schlecht – noch ist sie neutral, wie Technikhistoriker Melvin Kranzberg bereits in den 1980er-Jahren sein erstes Technologiegesetz formulierte. Die Auswirkungen, gerade die gesellschaftlichen, hängen demnach davon ab, wie wir Technologie einsetzen, in welchem Kontext und unter welchen Umständen. 3-D-Druck kann verwendet werden, um in Slums kostengünstig solide Unterkünfte zu erbauen oder aber um im eigenen Keller Waffen herzustellen; im Darknet kursieren unzählige Druckanleitungen für Handfeuerwaffen bis hin zu Maschinenpistolen. Videodrohnen können uns helfen, Ökosysteme zu überwachen und Äcker in der Landwirtschaft präziser und damit ressourcenschonender zu bewirtschaften. Oder sie werden für unbemannte Kriegsführung eingesetzt, für KI-gestützte Spionage, für distanziertes, automatisiertes Töten. Google zum Beispiel half mit seinem Projekt Maven dem Pentagon bei der Entwicklung einer solchen Drohnenbilderkennung. Interessanterweise ging das für den Konzern nicht gut aus. Viele Mitarbeiter beriefen sich auf das Firmenmotto „Tue nichts Böses“ und erzwangen den Abbruch des Projekts. Ein eindrückliches Beispiel nicht nur für Kranzbergs Technologiegesetz, sondern auch dafür, wie eine Konzernleitung ihre sich selbst gegebenen ethischen Werte verrät, während ihre Mitarbeiter sich gerade von diesen leiten lassen.
Und damit sind wir bei einem interessanten Punkt. Denn nicht nur der Kontext, in dem wir Technologie einsetzen, bestimmt über positive oder negative Folgen für unsere Gesellschaft. Zu häufig wird übersehen, dass Technologie und die aus ihr entstehenden Produkte zwar keine ethischen Werte an sich haben, wohl aber die Wertvorstellungen ihrer Entwicklerinnen und Designer transportieren. Welchen Stellenwert etwa ein Programmierer den Werten Transparenz, Datensicherheit und Unvoreingenommenheit gibt, spiegelt sich direkt im Design seines Codes und der Datenverwaltung wider. Das Be- und Abwerten, das Manipulative und die Hetze – vieles davon war früh in Facebook angelegt. Mark Zuckerberg programmierte den Vorläufer des Netzwerks, um Harvard-Studentinnen online von Kommilitonen bewerten zu lassen. Respekt und Schutz der Privatsphäre spielten offenbar keine Rolle in seinem Leitbild und tun das nach wie vor nicht.
Technologie und die aus ihr entstehenden Produkte haben zwar keine ethischen Werte an sich, transportieren wohl aber die Wertvorstellungen ihrer Entwicklerinnen und Designer.
Derart fehlgeleitetes Produktdesign ist nicht neu. Unsere Fortschrittsgeschichte ist voll von Beispielen. Neu sind allerdings Geschwindigkeit und Potenzial einiger innovativer Technologien – allen voran künstliche Intelligenz und Genom-Editierung, die Veränderung der DNA. Künstliche Intelligenz beeinflusst bereits heute viele Bereiche unseres Lebens und wird unsere Entscheidungen in Zukunft stärker steuern, als uns lieb ist. Wie die Algorithmen programmiert und die künstliche Intelligenz trainiert wird, wird daher maßgeblich bestimmen, ob und wie weit wir autonom Entscheidungen treffen, was wir einkaufen, wen wir wählen und wie wir kommunizieren werden. Durch die Entdeckung des molekularen CRISPR/Cas-Systems, der sogenannten Genschere, rücken nicht nur fantastische neue Behandlungsmöglichkeiten für einige Krankheiten mit genetischen Ursachen in greifbare Nähe, sondern auch die Option, unsere Nachkommen nach unseren Vorstellungen zu designen. Die Grenze zwischen notwendiger Therapie und unnötiger Behandlung, zwischen Heilen und Design, verschwimmt und stellt uns vor ethische Fragen ganz neuer Dimension. Dürfen wir uns über das Recht unserer Kinder und Kindeskinder auf eine offene Zukunft hinwegsetzen, indem wir derart grundlegend in ihre Genetik eingreifen, nur um unsere Ideale in ihnen zu verwirklichen? Oder haben wir die moralische Pflicht, einzugreifen und eine Technologie voranzutreiben, die das Potenzial hat, Leid zu verhindern und die Menschheit an sich zu verbessern?
Denken wir ethische Werte beim Produktdesign von Beginn an mit, können wir viele problematische Auswirkungen von vornherein adressieren.
Die ethischen Herausforderungen gerade von genetischen Eingriffen und künstlicher Intelligenz, aber auch anderer innovativer Technologien sind beispiellos. Die Digitalisierung treibt dabei das Tempo, mit dem viele Technologien entwickelt werden und sich verbreiten können, teils exponentiell in die Höhe. Unsere Gesellschaft hat Mühe, bei dieser Geschwindigkeit Schritt zu halten und die Entwicklung durch einen öffentlichen Diskurs konstruktiv zu begleiten und in eine Richtung zu lenken, die von der Gemeinschaft gewollt und akzeptiert ist. Und auch Politik und Aufsichtsbehörden hinken der technologischen Entwicklung notorisch hinterher. Sowohl die gesellschaftliche Debatte als auch die politische Regulierung und Wegweisung müssen wir dringend vorantreiben. Doch das allein wird nicht ausreichen, um Technologien für unser Gemeinwohl zu gestalten. Was wir brauchen, ist ein Umdenken in der Produktentwicklung. Wir benötigen von Anfang an ein ethisches und werteorientiertes Design. Dabei wird nicht mehr nur der materielle Wert, der mit einem Produkt geschaffen werden kann, sondern auch die ethischen Werte, die durch das Produkt vermittelt werden, von vornherein in die Gestaltung miteinbezogen. Soll ein neues soziales Medium exklusiv sein oder inklusiv? Soll ein Messenger primär Profit generieren, wie WhatsApp, oder soll es die Privatsphäre seiner Nutzer schützen wie Threema? Kommt das neueste Smartphone mit einer begrenzten Haltbarkeit, um möglichst bald ersetzt werden zu müssen, oder ist es auf Nachhaltigkeit ausgelegt wie das Fairphone?
Dieser Artikel erschien in der Ursache\Wirkung №. 119: „Zukunft gestalten"'
Welche technischen Anforderungen ergeben sich aus dem ethischen Anspruch für ein Produkt, welche Eigenschaften braucht es, um die Werte zu garantieren? Und welche Risiken können diese Wertevermittlung gefährden?
Dies wäre ein vielschichtiger Entwicklungsprozess, gerade wenn es um komplexe Technologien wie künstliche Intelligenz geht. Abhängig von Kontext, Interessengruppen, kulturellem und ökonomischem Ökosystem setzen wir in unserem Werteleitbild andere Prioritäten, verstehen wir oft sogar etwas anderes unter einem Wert, wie etwa der Transparenz, und müssen es doch miteinander vereinbaren. Dennoch ist es der richtige Weg, wenn wir die faszinierenden Möglichkeiten der neuen Technologien nutzen und gleichzeitig mit ihrer Macht verantwortungsvoll umgehen wollen. Denken wir ethische Werte beim Produktdesign von Beginn an mit, können wir viele problematische Auswirkungen von vornherein adressieren und die Fehler, die etwa bei Facebook gemacht wurden, vermeiden. Wahrhaft soziale Medien sind möglich, man muss sie eben nur sozial designen.
Bild Header & Teaser © Unsplash
Illustration © Francesco Ciccolella
