«Technologie ist niemals neutral»

RSI

Wie lange kann der Mensch die Maschinen, die er erfand, noch verstehen und beherrschen?  Der Tessiner Denker und Publizist Bruno Giussani schlägt sich auf die Seite der Warner. Er sieht in der digitalen Technik zunehmend Gefahren für Demokratie und Gesellschaft. 

Bruno Giussani ist globaler Kurator des Think Tanks TED,Externer Link einer Organisation, die sich «Ideen, die es wert sind, verbreitet zu werden» verschrieben hat. TED hält Konferenzen ab und stellt Videos der populären TED Talks ins Netz.

Das folgende Interview ist ein Auszug aus einem Gespräch, das am 13. November 2018 im Corriere del TicinoExterner Link veröffentlicht wurde.

Corriere del Ticino: Wie sehen Sie den technologischen Fortschritt?

Bruno Giussani: Mit einer gewissen Distanz. Wir haben es seit einigen Jahren mit einem exponentiellen Wachstum zu tun, während alle Institutionen und Systeme, die wir über Jahrhunderte hinweg entwickelt haben, für eine lineare Entwicklung geschaffen worden sind. Und dann berührt die technologische Entwicklung auch nachhaltig unsere individuelle und kollektive Identität und das soziale Gefüge, weil sie die Art und Weise verändert, wie wir kommunizieren, die Welt und die Beziehungen zu anderen lesen. 

Drittens: Technologie ist niemals neutral. Der Grossteil der Technologien, die wir benutzen, ist an zwei, drei Orten auf der Welt von einem engen Personenkreis entwickelt worden, meistens von Männern, ausgebildeten Ingenieuren, Weissen und Asiaten im Alter von 20 bis 40 Jahren. Ihre Sichtweise hat praktisch alles, was wir heute mit Hilfe der Technologie tun, massiv beeinflusst.

Hätte die Technologie, die wir heute kennen, also gar nicht anders werden können?

B.G.: Ja und nein. Dass wir alle ein mobiles Kommunikationsmittel benutzen würden, war angesichts der wissenschaftlich-technologischen Entwicklung, die zu seiner Erfindung geführt hat, unvermeidbar. Keineswegs unvermeidbar war hingegen die Form, die es mit Smartphone und Apps angenommen hat, die uns überwachen und manipulieren. Wir hätten harmlosere Mobiltelefone haben können, dazu designt, uns zu dienen, nicht dazu, uns abhängig zu machen.

Wie rüstet man sich für Technologie?

B.G.: Wir wissen, dass gewisse Technologien wie Videogames, Handys und Social Media zu Abhängigkeit führen können. Wir wissen auch, dass künstliche Intelligenz, kombiniert mit Robotik, das Potenzial hat, unzählige Arbeitsplätze zu vernichten, die nur zum Teil durch neue ersetzt werden. Ergo können wir nicht umhin, uns zu wappnen. Jung und Alt müssen den Umgang mit ihr erlernen, es braucht Reglementierungen sowie Gegenmassnahmen für die sozialen Probleme, die durch sie geschaffen werden.

Wie wird man fit für den Umgang mit Technologie?

B.G.: Selbstverständlich braucht man nicht in jedem Bereich zum Spezialisten zu werden, aber sagen wir es so: Es ist nicht unbedingt ratsam, leistungsstarke Geräte in der Tasche zu haben und nicht die geringste Ahnung von dem System dahinter zu haben. Ich glaube zum Beispiel, dass es gut wäre, wenn man den Kindern schon in der Primarschule das Codieren beibringen würde; nicht damit dann alle Programmierer werden, darum geht es nicht. Man lernt schliesslich auch nicht Lesen und Schreiben, damit später alle Schriftsteller werden.

Im Grunde ist in den Industriestaaten die Tätigkeit, die den Menschen heute am meisten absorbiert, die Interaktion mit Monitoren. 

Man lernt es, weil Lesen und Schreiben es uns erlauben, die Welt zu verstehen, zu kommunizieren, Gedanken zu ordnen, uns auszudrücken. Die Sache ist, dass Sprache in unserer Welt immer häufiger aus Software, Algorithmen besteht und man, um bewusst in ihr zu leben, lernen muss, diese zu verstehen. Im Grunde ist in den Industriestaaten die Tätigkeit, die den Menschen heute am meisten absorbiert, die Interaktion mit Monitoren. 

Was meinen Sie genau mit der Bemerkung, Technologie sei nicht neutral?

B.G.: Nehmen wir eine kostenlose Technologie wie die Social Media, die nach Kriterien der persuasiven Psychologie entwickelt werden, um die Nutzer immer abhängiger zu machen. Den wahren Preis für die Nutzung bezahlt man, indem alle möglichen Informationen über einen Menschen, sein Verhalten, seine Gedanken gesammelt werden. Danach wird ein Profiling vorgenommen, die Informationen werden verpackt und an Inserenten verkauft, die uns dann mit gezielten Angeboten bombardieren. 

Diese sind in der Regel kommerziell, können aber auch politisch sein. Wie die jüngsten Präsidentschaftswahlen in den USA und erst vor kurzem jene in Brasilien und anderswo gezeigt haben, besteht das Problem darin, dass diese kommerziellen oder politischen Botschaften sehr schnell eine manipulative Konnotation annehmen und dieses Targeting das Zirkulieren von Fake News erleichtert. 

Wird die Verarbeitung unserer Daten durch das neue europäische Privacy-Gesetz nicht ausreichend geschützt?

B.G.: Es ist ein guter Anfang, aber eben erst ein Anfang. Die heutigen Kommunikationssysteme scheren sich nicht gross um Privacy, sie wurden dazu entwickelt, formell dem Gesetz Genüge zu tun, während sie in Tat und Wahrheit jede nur mögliche Information, so oberflächlich sie auch sein mag, heraussaugen. Noch vor dreissig Jahren kam die Offenlegung eines geheimen Dossiers einem Skandal gleich; 2018 haben 30 Millionen Menschen zuhause freiwillig Alexa von Amazon und Google Home installiert, die ständig zuhören, was im Umfeld gesprochen wird.

Das Internet präsentiert sich jedoch als überaus demokratisch, einverstanden?

Heute gibt es zwar punkto Meinungsfreiheit mehr Demokratie. Doch die Fähigkeit, Informationen zu filtern und kritisches Denken zu entwickeln, hat eindeutig abgenommen.

B.G.: Ich glaube, das ist ein enormes Paradox. Heute gibt es zwar punkto Meinungsfreiheit mehr Demokratie. Doch die Fähigkeit, Informationen zu filtern und kritisches Denken zu entwickeln, hat eindeutig abgenommen. Zudem lässt die Geschwindigkeit, mit der Informationen verbreitet werden, keine Zeit mehr für Überlegungen, sondern zwingt zu einer unmittelbaren Reaktion. Ein solides politisches System kann dieses Tempo auf lange Sicht nicht aushalten.

Einige behaupten, die Technologie habe unsere mentalen Kapazitäten bereits überschritten.

B.G.: Tatsächlich finden manche, dass wir unsere psychologischen Kapazitäten bereits überschritten haben. Die Frage drängt sich auf: Versteht ein Mark Zuckerberg selbst überhaupt noch, was Facebook wirklich ist? Nicht nur als technologisches, sondern als sozio-kulturelles System. Einer der Mitbegründer von Instagram hat kürzlich gesagt, wir befänden uns in der prä-newtonschen Ära der sozialen Medien: Wir wissen, dass sie funktionieren, aber nicht wie. Wir wissen nicht, weshalb es zu einer Polarisierung der Informationen kommt, warum wir immer abhängiger von diesen Technologien werden oder mit zunehmender Virulenz auf gewisse Botschaften reagieren.

Wir brauchen Filter und benützen dafür Algorithmen. Wird unser Gehirn durch eine Maschine abgelöst?

B.G.: Es gibt einen ausgesprochenen Wettstreit zwischen der Fähigkeit unseres Gehirns, Informationen aufzunehmen und zu verarbeiten und der Fähigkeit von Maschinen, im grossen Stil Informationen zu verbreiten. Da besteht auch ein grundsätzlicher Widerspruch. Wie stellt man es beispielsweise an, 1’742 Personen auf Twitter zu folgen? Das ist alles zu geräuschvoll. 

Die algorithmischen Filter wären eine gute Sache, wenn sie dazu dienten, wichtige Informationen hervorzuheben; de facto dienen sie leider dazu, Informationen herauszufiltern, auf die wir am stärksten reagieren – in der Regel solche, die uns in Rage versetzen oder unsere Überzeugungen bestätigen. Damit soll das Engagement geschaffen werden, das die Unternehmen anstreben, um über Werbung Gewinne zu generieren.

Wie schafft man es, diesem Mechanismus nicht zu erliegen, sondern proaktiv zu sein?

B.G.: Die radikale Antwort wäre, mit der Nutzung von Social Media aufzuhören. Hier lässt sich ein seltsames Phänomen beobachten: Die Unternehmer des Silicon Valley, die diese Technologie am besten kennen, weil sie von ihnen entwickelt wurde, schicken ihre Kinder in Schulen, in denen es keine Screens gibt, verbieten ihnen bis zur Adoleszenz den Gebrauch des Handys, bringen in den Verträge mit den Babysittern strikte No-Screen-Klauseln an. Das alles durchzusetzen, ist jedoch ausgesprochen schwierig, nicht zuletzt, weil Heerscharen von Ingenieuren und Psychologen am Werk sind, deren Arbeit darin besteht, Systeme und Interfaces zu designen, die abhängig machen. 

Man sollte versuchen, diese bewusster zu nutzen. Erstaunlich ist, dass wir immer mehr darauf achten, was wir essen, dem Informationsmüll, den wir aufnehmen, jedoch kaum Beachtung schenken. Wir halten uns für stärker, als wir sind, glauben, uns schützen zu können. Dabei dringt alles, was über den Bildschirm flimmert, ungefiltert in unsere Köpfe ein. Das ist überaus gefährlich, weil es bestimmt, wie wir miteinander umgehen und die Ereignisse auf der ganzen Welt lesen.

(Übertragung aus dem Italienischen: Cornelia Schlegel)