Gesetze für KI? Gute Nacht.

Sherif Elsayed-Ali ist von der Freiheit und Würde der Menschen tief überzeugt. Für das Netz bedeutet das, dass es Räume..

Sherif Elsayed-Ali ist von der Freiheit und Würde der Menschen tief überzeugt. Für das Netz bedeutet das, dass es Räume geben muss, die privat bleiben. Fallen sie weg, gefährdet das gesamte Gesellschaften samt ihrer Grundeigenschaft, sich auflehnen und revolutionieren zu können. Dagegen kämpft Elsayed-Ali. Nicht nur das macht seinen Beruf bei Amnesty International unheimlich spannend.

Aktuell beschäftigt Sherif Elsayed-Ali wohl nicht nur der neue US-Präsident Donald Trump, der schon vor seiner Wahl genug Statements ablieferte, mit denen der Menschenrechtsaktivist bestimmt nicht d’accord geht. Auch mit dem scheidenden und Tech-affinen Barack Obama hat er noch eine Rechnung offen: die Begnadigung Edward Snowdens. Spricht er von ihm, klingt es, als würde Elsayed-Ali von einem Nationalhelden erzählen, als wir ihn Anfang November in Portugal zum Interview treffen.

_h9b0148

Der ehemalige National-Security-Agency-Mitarbeiter Snowden brachte öffentlichkeitswirksam zutage, wie diese Behörde die Wahrung der nationalen Sicherheit angeht: mit dem ungefragten Zugriff auf Kontaktdaten und Konversationsinhalte sämtlicher Bürger, und das ohne deren Wissen. Solche Praktiken liegen Elsayed-Ali als Leiter der globalen Aktivitäten im Bereich Technologie und Menschenrechte von Amnesty International naturgemäss schwer im Magen. Die Non-Profit-Organisation wurde 1961 von Peter Benenson in London gegründet, nachdem dieser von mehreren Gefangenen erfuhr, die aufgrund systemkritischer Äusserungen gefoltert und menschenunwürdig behandelt wurden. Analog dazu kann Elsayed-Alis Anliegen gesehen werden, Snowdens Begnadigung zu erwirken. Ausserdem kämpft der gebürtige Ägypter dafür, dass Menschenrechte gewahrt werden, für den Onlinebereich bedeutet das unter anderem die Privatsphäre der User – inklusive absoluter Transparenz, wofür sie an wen und wie viel mit ihren Daten bezahlen. Zumindest wissen die meisten Menschen jetzt, dass Daten und Überwachung Themen sind, die jeden, der einmal online war, direkt betreffen.

Trotzdem hat Elsayed-Ali noch ganz schön viel und vor allem schwierige Arbeit vor sich. Als Non-Governmental-Organisation versucht Amnesty International, hier nicht nur die Aufmerksamkeit und das Verhalten der Menschen zu schärfen. Gerade in der Politik, bei jenen, die die Regeln für Unternehmen und Bürger machen, besteht enormer Informationsbedarf; vor allem, wenn wir auf die nächste technologische Innovationswelle blicken, die schon dabei ist, über uns hereinzubrechen. Und obwohl Edward Snowden sicher keinen unbeobachteten Schritt machen kann und damit einen Extremfall am oberen Ende der Überwachungsskala darstellt: Auch Elsayed-Ali weiss, wie es sich anfühlt, überwacht zu werden. Darüber – und an welchen Stellen in unmittelbarer Zukunft Reformbedarf gefragt ist – hat er mit uns gesprochen.

Herr Elsayed-Ali, Sie sind der Leiter der globalen Aktivitäten der Bereiche Technologie und Menschenrechte von Amnesty International – wie kann man sich diese Rolle vorstellen?

Wir beschäftigen uns sehr intensiv mit Themen, die mit der Digitalisierung und Automatisierung einhergehen, und analysieren genau, was sie für die Gesellschaft bedeuten. Zum Beispiel, wie eine Gesellschaft aufgebaut sein muss, wenn in näherer Zukunft viele Jobs von Robotern übernommen werden. Ausserdem sprechen wir sehr viel mit Aktivisten, Journalisten, Bloggern oder Whistleblowern, die überwacht werden.

Was Edward Snowden gemacht hat, war so unglaublich wichtig. Er hat so viel Illegales, das im Geheimen passiert ist und nie ans Tageslicht getreten wäre, offengelegt. Dank ihm konnte die Öffentlichkeit davon erfahren und verlangt nun, genauer auf diese Dinge zu schauen.

Darüber hinaus beschäftigen wir uns mit der Privatsphäre „normaler“ Bürger und wie sie zu sehen ist, wenn sie beispielsweise Snapchat verwenden. Die Risiken, denen Menschen online ausgesetzt sind, sind dabei im Einzelfall immer unterschiedlich – bei einem Aktivisten in China beispielsweise ist das Risiko, dass die Regierung versucht, persönliche Informationen herauszufinden, sehr hoch. Demnach ist auch geografisch bezogen unterschiedlich zu beurteilen, was jemandem wirklich passieren kann, wenn er überwacht wird. Auch wir bei Amnesty International wurden überwacht. (Anm.: Im April 2015 klagte Amnesty International gemeinsam mit zehn weiteren Organisationen den britischen Geheimdienst GCHQ, der die Büros des Hauptsitzes in London illegal ausgespäht hatte, beim europäischen Gerichtshof für Menschenrechte in Strassburg. Das für diese Angelegenheiten zuständige Investigatory Powers Tribunal in England bestätigte den Vorwurf.) Es gab auch unlängst Enthüllungen, denen zufolge die Polizei in Montreal, Kanada, Journalisten ausspioniert haben soll. Man verwendet das Internet ganz anders, wenn man einmal überwacht wurde. Man surft nicht mehr vorbehaltlos und überlegt zweimal, bevor man etwas sucht. Man beginnt auch, sich selbst zu zensurieren. So etwas stört nicht nur demokratische Prinzipien, es stört auch Individuen dabei, investigativ zu untersuchen, was Regierungen machen: ob sie korrupt oder anderweitig illegal agieren. Auch wenn man sich nicht in diesem Feld bewegt, braucht es den privaten Raum, denn viele Ideen, die für den Fortschritt einer Gesellschaft wichtig sind, werden in ihm geboren. Jede Idee war irgendwann privat, und wichtige Schritte wie die Revolution gegen einen Diktator oder gegen religiösen Extremismus beginnen im Privaten, bevor sie öffentlich werden. Fällt dieser Raum weg, stirbt auch dieser Nährboden. Nicht nur diese Implikationen und die Risiken eines Verbotes der Ende-zu-Ende-Verschlüsselung versuchen wir, aktiv zu behandeln, indem wir sie in der Politik und Bevölkerung ins Gespräch bringen. Wir machen das zum Beispiel auch bei künstlicher Intelligenz.

Jede Idee war irgendwann privat, und wichtige Schritte wie die Revolution gegen einen Diktator oder gegen religiösen Extremismus beginnen im Privaten, bevor sie öffentlich werden. Fällt dieser Raum weg, stirbt auch dieser Nährboden.

_h9b3108_1

SHERIF ELSAYED-ALI ist gebürtiger Ägypter und hat von 2000 bis 2004 an der American University in Kairo Internationales Menschenrecht studiert. 2001 begann er, bei der UNHCR zu arbeiten, und prüfte Einzelfälle von Asylwerbern. Seine darauffolgenden beruflichen Stationen waren die Non-Profit-Organisation „Amera“ („Africa and Middle East Refugee Assistance“) in Ägypten, wo er Flüchtlinge rechtlich repräsentiert und beraten hat, das Institute of Cultural Affairs in den Vereinigten Staaten und schliesslich Amnesty International. Dort begann er 2003 im Bereich der Flüchtlinge, mittlerweile ist er Leiter der globalen Aktivitäten in den Bereichen Technologie und Menschenrechte und versucht, als solcher diese Themen in die öffentliche Debatte zu bringen.

Haben Sie das Gefühl, vor allem bei Politikern, dass diese vielleicht aus den Erfahrungen lernen konnten, die aus den Versäumnissen im Feld der New Economy entstanden sind? Es war ja so, dass viele Unternehmen erst einmal „gemacht“ haben, lange, bevor es eine Form der Regulierung gab …

Ja, das stimmt. Uber zum Beispiel war auf einmal da und es wurde riesig. Es hat den gesamten Transportsektor verändert. Ich hoffe, dass das nicht wieder so passieren wird. In diesem Zusammenhang haben wir auch verstanden, dass man den Begriff der Menschenrechte ausweiten muss – auch, wie die Implikationen der Automatisierung oder von fehlender Ende-zu-Ende-Verschlüsselung Gesellschaften und Individuen betreffen werden. Viele der Risiken, die damit einhergehen – der Wegfall unheimlich vieler Arbeitsplätze oder der Wegfall des privaten Raumes im Netz – können wir jetzt noch abschwächen. Es bedarf sehr grossen Aufwands, diese Situation, die sich auch schon Mitte der Neunziger als eine Art „Wilder Westen“ darstellte, zu verhindern. Es wird sehr schwierig sein, die Dynamiken des politischen Systems mit jenen der Technologie- und Innovationstreiber anzugleichen.

Was gibt Ihnen Anlass, das zu denken?

Die meisten Politiker haben vielleicht eine ungefähre Idee von Datenschutz. Aber ob sie wirklich begreifen, worum es geht, wenn sie über Privatsphäre, Verschlüsselung und Cybersecurity sprechen, wage ich zu bezweifeln, denn viele der Dinge, die sie sagen, ergeben einfach keinen Sinn. Verschlüsselung zum Beispiel: Politiker in Europa wollen sie verbieten, weil sie sagen, Terroristen könnten dann kommunizieren, ohne dass nationale Sicherheitsbehörden mitlesen können. Deswegen bedrängen sie Apple oder WhatsApp. Was sie dabei aber vergessen, ist, dass es Verschlüsselungstechnologien schon seit über 25 Jahren gibt, und dass es sehr einfach ist, auch wenn sie verboten würden, dieses Verbot zu umgehen; abgesehen davon, dass jemand, der sich terroristisch betätigen möchte, sich sicher nicht an Gesetze halten wird, das ist doch absurd. Zudem können sie sich einfach selbst Apps machen, die das ermöglichen würden, dazu muss man kein Genie sein.

Verschlüsselung in Europa zu verbieten führt ausserdem auch dazu, dass Menschen, die überhaupt kein Interesse daran haben, terroristisch aktiv zu sein, nichts mehr verbergen können. Alles wird öffentlich.

Auch, dass persönliche Sicherheit in Gegensatz zu nationaler Sicherheit gestellt wird, macht keinen Sinn. Millionen an IoT-Geräten werden verkauft und keiner gibt acht darauf, ob sie überhaupt sicher sind. Sie sind mit Millionen Sensoren ausgestattet und können einfach gehackt werden. Könnte man sie nicht hacken, wäre das nicht nur für die persönliche, sondern auch für die nationale Sicherheit besser. Die politische Debatte übersieht hier Grundlegendes und wird sehr seicht geführt. Es wäre notwendig, Risiken wirklich in Zahlen auszudrücken und in Massnahmen und Regeln zu giessen und diese dann durchzusetzen. Ich sehe zurzeit niemanden, der das macht.

Wenn wir beim Beispiel der New Economy bleiben, dann würde das ja wieder bedeuten, dass die, die das Feld bedienen, einfach die Regeln machen?

Ja, das ist exakt das, was bei dieser neuen Ökonomie passiert ist, und wo wir heute mit Datenschutzproble- men konfrontiert sind, die schon längst Status quo sind – hat sich etwas einmal etabliert, kann man schwer zurück rudern. Die Politik muss viel dynamischer und flexibler werden, denn wenn die Politikpraxis so weitergeht wie bisher, werden die Probleme, die wir jetzt mit Datenschutz haben, um ein Vielfaches multipliziert auftreten. Anwendungen im Bereich der künstlichen Intelligenz beispielsweise sind nämlich viel fortgeschrittener, entwickeln sich schneller, treten in einer grösseren Anzahl auf und verbinden sich noch dazu in Datenzentren. Daraus entstehen ganz neue Herausforderungen. Nehmen wir selbstfahrende Autos als Beispiel: Wer ist hier wofür verantwortlich? Was macht die Software im Auto, wenn es darum geht, zu entscheiden, wer jetzt bei einem Unfall getötet wird? Es gibt keine Antworten darauf, es ist aber sehr wahrscheinlich, dass sich selbstfahrende Autos in näherer Zukunft durchsetzen werden. Vielleicht gibt es dann auch keine Lastwagen- und Taxifahrer mehr – ein ganzer Sektor wird weg- fallen, auch berufstechnisch; das wird nicht einfach werden. Und künstliche Intelligenz wird so viele Bereiche verändern, das Militär, das Gesundheitswesen: Wird es autonome Waffen und Genmanipulation geben? Wie kann man diese Bereiche regulieren, sodass sie auch in Zukunft sicher sein werden? Ausserdem besagt eine Studie der Weltbank, dass in OECD-Ländern bis zu 57 Prozent der Jobs wegfallen werden – so etwas kann man nicht einfach dem Zufall oder reaktionärer Politik überlassen. Es wird zwar schon über das allgemeine Grundeinkommen gesprochen, aber wer übersetzt das in Massnahmen? Derweil kämpfen die nationalen Regierungen immer noch mit der Überwachung, und allein dafür haben sie Jahre gebraucht. Das alles wird entweder zu extrem überalterter oder zu gänzlich abwesender Legislatur führen und dazu, dass die Menschen machen, was sie wollen.

Wir haben sehr viel über die Gefahren gesprochen, gibt es nicht auch viele Möglichkeiten?

Ich bin von Natur aus optimistisch. Sehr viele Menschen reden von den Möglichkeiten neuer Technologien. Das ist auch gut so. Ich denke nur, es ist wichtig, die Aufmerksamkeit auf die Risiken zu richten, denn die Möglichkeiten bedeuten sehr viel wirtschaftliches Potenzial. Und um die Bereiche, wo Geld liegt, wird sich sowieso immer jemand kümmern.

Dieses Interview ist in unserer Dezember-Ausgabe erschienen. Forbes Austria ist übrigens auch online erhältlich.

Up to Date

Mit dem FORBES-NEWSLETTER bekommen sie regelmässig die spannendsten Artikel sowie Eventankündigungen direkt in Ihr E-mail-Postfach geliefert.