Interview

„Das Internet verstärkt Ungerechtigkeit und Vorurteile“

Das Netz ist kein neutraler Raum – im Gegenteil. Tech-Expertin Anasuya Sengupta, Fellow der Robert Bosch Academy, erforscht, wie digitale Systeme Ungleichheit und Diskriminierung fördern.

Text
Elisabeth Krainer
Bilder
Anita Back, David Ausserhofer
Datum
05. Februar 2024
Lesezeit
8 Minuten

Freier Informationsfluss, dezentral und communitybasiert – noch vor wenigen Jahrzehnten waren dies die Leitlinien des Internets. Seitdem hat sich die Lage verschlechtert. Nicht nur, dass einige wenige Konzerne heute einen großen Teil des Internets beherrschen, die verwendeten Technologien verstärken auch auf immer gewalttätigere Weise ungerecht konzentrierte Machtverhältnisse. Anasuya Sengupta erforscht, wie dieses Machtmonopol auch in der analogen Welt Diskriminierung fördert. Sie ist Tech-Expertin und Gründerin der feministischen Initiative „Whose Knowledge?“. Als Richard von Weizsäcker Fellow an der Robert Bosch Academy beschäftigt sie sich mit digitalem Recht und der Darstellung von Wissen marginalisierter Gruppen. Im Interview erklärt sie, wie digitale Systeme zu mehr Gerechtigkeit führen können – und was „Dekolonisierung des Internets“ in der Praxis bedeutet. 

Frau Sengupta, wie würden Sie Ihren Beruf beschreiben?

In meiner Arbeit überschneiden sich Wissen und technologische Gerechtigkeit. Ich bin Teil des feministischen Kollektivs „Whose Knowledge?“, das sich auf das Wissen, die Geschichte und das Design von Menschen konzentriert, die durch die bestehenden Machtstrukturen marginalisiert oder "minorisiert" wurden. Die Menschen und Gruppen, die wir oft als Minderheiten bezeichnen, sind zahlenmäßig weit überlegen; sogenannte „Minderheiten“ sind in Wirklichkeit die globale Mehrheit. Dennoch werden sie aufgrund ihres Geschlechts, ihrer Sexualität, ihres Aussehens, ihrer Fähigkeiten, ihrer Sprache, ihres Standorts und vieler anderer Aspekte von Macht und Privilegien in der Wissenschaft und im Internet diskriminiert. In meiner Arbeit geht es also darum, sich auf diese Stimmen, Körper und Geschichten zu konzentrieren, anstatt das Silicon Valley zu unterstützen, das aus einer kleinen Gruppe von Menschen besteht, die glauben, die Probleme der Welt lösen zu können.

Zur Person

Anasuya Sengupta

Anasuya Sengupta ist Co-Direktorin und Mitbegründerin von „Whose Knowledge?“, einer weltweiten Kampagne, die das Wissen marginalisierter Gemeinschaften – die Mehrheit der Minderheiten der Welt – online ins Zentrum stellt. Sie engagiert sich für die Auseinandersetzung mit Fragen von Macht, Privilegien und Barrierefreiheit.

Wie sieht Ihr Alltag als Fellow der Robert Bosch Academy aus?

Das Schöne an diesem Fellowship ist, dass man sich nicht dafür bewirbt – man wird ausgewählt. Als ich die erste E-Mail darüber erhielt, dachte ich, es sei Spam. Ich konnte nicht glauben, dass ich eingeladen wurde, sechs Monate in Berlin zu verbringen. Die Stipendiaten treffen sich zweimal pro Woche zum Mittagessen, um Projekte zu besprechen. Diese Gespräche sind das Beste daran. Man bringt Menschen aus der ganzen Welt zusammen, die Expert:innen auf ihrem jeweiligen Gebiet sind, und durch die Diskussionen entwickeln wir eine neue Perspektive auf unsere eigene Arbeit. Wir lassen uns voneinander inspirieren und können Verbindungen knüpfen, die sonst nicht möglich wären. Es ist ein Geschenk, diesen Raum zu bekommen.

Sie befassen sich mit den Machtstrukturen von Technologie. Was ist problematisch am Internet, wie wir es heute nutzen?

Wir sehen das Internet oft als eine befreiende, emanzipatorische Infrastruktur für Wissen und Kommunikation. Das ist in vielerlei Hinsicht richtig. Gleichzeitig sehen wir das Internet als etwas grundlegend Neues, das nichts mit unserer Vergangenheit zu tun hat. Das ist ein Irrtum. Alle Technologien enthalten das Beste und das Schlechteste der menschlichen Phantasie. Das Internet trägt nicht nur dazu bei, Solidarität zu fördern und Menschen an verschiedenen Orten zu verbinden. Es verstärkt auch bestehende Ungerechtigkeit, Diskriminierung und Gewalt. Technologie und Algorithmen sind nicht neutral, sie sind politisch. Die Technologie folgt einer bestimmten Architektur, weshalb sie Diskriminierung und Vorurteile verstärkt – je nachdem, wer sie entwickelt.

„Fast 70 Prozent der Welt sind über das Internet vernetzt, darunter knapp die Hälfte aller Frauen. Zwei Drittel davon aus dem globalen Süden. Und doch sieht das Internet nicht so aus wie wir, oder?“

Zitat vonAnasuya Sengupta, Gründerin der Initiative „Whose Knowledge?“

Welches Wissen ist nicht im Internet repräsentiert, und wie kann man das ändern?

Fast 70 Prozent der Welt sind derzeit über das Internet digital vernetzt, darunter knapp die Hälfte aller Frauen. Zwei Drittel davon kommen aus dem globalen Süden. Und doch sieht das Internet nicht so aus wie wir, oder? Die meisten wissenschaftlichen Artikel erscheinen auf Englisch, die meisten Sprachen, die vertreten sind, haben ihren Ursprung in Europa. Die Mehrheit der Welt ist also nicht im Internet vertreten. Ich denke, das können wir nur ändern, wenn wir uns genau ansehen, wer die neuen Technologien entwickelt und wie die Inhalte verbreitet werden. Der Schwerpunkt digitaler Systeme muss sich weg von einigen wenigen großen Unternehmen wie Google, Amazon, Meta, Apple oder Microsoft und hin zu gemeinschaftsorientierten Netzwerken bewegen.

In Ihrer Arbeit beschäftigen Sie sich mit dem Begriff der „Dekolonisierung als Praxis“. Was genau meinen Sie damit?

Der Begriff Dekolonisierung stammt aus der Weltgeschichte und dem Wissen um die Unabhängigkeitsbewegungen in Asien, Afrika und Lateinamerika. In jüngster Zeit ist der Begriff wieder aktuell geworden, insbesondere durch die Studentenbewegungen in Südafrika von 2015 bis 2017. Südafrika ist zwar politisch unabhängig, aber die Auswirkungen des Apartheidsystems bestehen weiter, auch im Bildungssystem. Es hat verschiedene Kampagnen gegen dieses System und die enormen wirtschaftlichen und sozialen Ungleichheiten gegeben. Wenn wir über die Dekolonialisierung des Internets nachdenken, müssen wir die Verbindung zwischen Kolonialismus, Kapitalismus und der Funktionsweise des Internets erkennen.

Was können Einzelpersonen dafür tun, das Internet zu dekolonisieren?

Achten Sie darauf, wem Sie in den sozialen Medien folgen. Folgen Sie Menschen, die andere Geschichten erzählen, anderes Wissen haben, von anderen Orten kommen und andere Sprachen sprechen. Die Vorstellungen und die Entscheidungen, die uns in zahlreiche Krisen geführt haben, werden uns nicht aus ihnen herausbringen. Wir sollten uns fragen: Wie können wir uns von den Menschen inspirieren lassen, die uns bisher unbekannt waren?

Wie kann die Entwicklung neuer Tech-Systeme inklusiver werden?

Wir sollten von außen nach innen entwerfen - und nicht andersherum. Ein Beispiel ist die Entwicklung von Sicherheitsgurten: In der Vergangenheit hatten Frauen bei Autounfällen eine 71 Prozent höhere Verletzungsrate, weil Sicherheitsgurte nur mit Tests an männlichen Dummys entwickelt wurden. Eine Möglichkeit wäre, Frauen in die Entwicklung einzubeziehen, aber mit „Whose Knowledge?“ haben wir einen anderen Ansatz: Wir wollen eine neue Frage stellen. Anstatt zu fragen: „Wie kann man einen Sicherheitsgurt entwerfen?“, würden wir fragen: „Was bedeutet Sicherheit in einem Auto?“.  Dann bringen wir eine Vielzahl von Experten zusammen und entwickeln gemeinsam Konzepte und Systeme. Das Ergebnis ist vielleicht gar kein Sicherheitsgurt, aber etwas Revolutionäres.

„Menschen sind von Verbraucher:innen zu Datenpunkten geworden – und damit zu Produkten. Wir brauchen Autonomie und Handlungsfähigkeit, dabei spielt die EU eine wichtige Rolle.“

Zitat vonAnasuya Sengupta, Fellow der Robert Bosch Academy

Das Tech-Thema der Stunde ist künstliche Intelligenz. Welche Gefahren erkennen Sie dabei?

Der Begriff KI ist irreführend, denn sie ist weder künstlich noch intelligent. Wir sprechen von Systemen, deren Algorithmen mit Hilfe riesiger Datenbanken trainiert werden. Wir halten sie für intelligent, weil sie menschliche Interaktion und Kommunikation nachahmen. Dennoch beruhen die Daten auf menschlicher Arbeit - sie werden auch von Menschen gereinigt, repariert und gewartet. Arbeiter:innen in Nairobi und Bangalore zum Beispiel werden unter schlechten Arbeitsbedingungen ausgebeutet, während wir in Berlin oder London sitzen und ChatGPT Fragen stellen. Wir müssen verstehen, dass die menschliche Arbeit, die für uns unsichtbar ist, in algorithmischen Systemen nicht einfach verschwindet, sondern für ihre Funktionalität weiterhin unerlässlich ist.

Welche Regeln brauchen wir im Umgang mit KI?

Die Menschen sind von Verbraucher:innen zu Datenpunkten geworden - und damit zu Produkten. Wir brauchen Autonomie und Handlungsfähigkeit, und die EU spielt hier eine wichtige Rolle. Sie ist ein wichtiges Gegenstück zu Big Tech oder Silicon Valley. Auch die Intentionalität der Technologie spielt eine Rolle. Wir müssen uns die Frage stellen: Wie sieht die Welt aus, die wir uns für die Zukunft wünschen? Welche Probleme versuchen wir mit KI zu lösen? Wie können digitale Technologien, einschließlich algorithmischer Systeme, dabei helfen? Es kommt oft vor, dass eine Technologie auf den Markt gespült wird, die sich für einige von uns aufregend und lustig anfühlt. Erst dann fragen wir uns, wofür sie genutzt werden kann. Wir sollten den umgekehrten Ansatz wählen.

Thema

Die Robert Bosch Academy

Zur Webseite

Die Robert Bosch Academy bietet Raum für lösungsorientierten Austausch zu Fragestellungen von globaler Bedeutung. Mit ihren Fellowships ermöglicht die Robert Bosch Academy Persönlichkeiten aus aller Welt einen Arbeitsaufenthalt in Berlin und lässt ein internationales Netzwerk aus Meinungsbildner:innen, Entscheidungsträger:innen und Expert:innen entstehen.

Zur Webseite

Erinnern Sie sich an einen Moment, in dem Sie gespürt haben, dass sich Ihre Arbeit lohnt?

Der Moment, als ich die E-Mail von der Robert Bosch Stiftung erhielt, hat mir gezeigt, dass sich meine Arbeit lohnt. Was wir sagen, hat Gewicht, und darüber bin ich sehr froh. Wir von „Whose Knowledge?“ waren vermutlich die ersten, die den Begriff „Decolonizing the Internet“ verwendet haben, um die südafrikanischen Studentenbewegungen und unsere Geschichte der Dekolonisierung zu ehren. Seitdem haben viele Leute begonnen, diesen Begriff auf unterschiedliche Weise zu verwenden, um Probleme und Herausforderungen in der Technologie anzusprechen.

Wenn Sie in die Zukunft blicken, was sehen Sie in fünf Jahren?

Ich würde mir wünschen, dass es weltweit mehr Organisationen gibt, die von marginalisierten Gemeinschaften geführt werden, die im Austausch mit Technologieakteur:innen stehen und die im Mittelpunkt der Gestaltung, Architektur und Verwaltung des Internets sind. Ob wir diesen Punkt erreichen werden, ist eine andere Frage, aber das wäre mein Wunsch.

viele Menschen auf einer Demonstration, eine Frau im Vordergrund hält ein Pappschild in die Höhe
Das Dossier zum Thema

Gerechtigkeit

LESEN SIE MEHR

Viele Menschen glauben, dass Reichtum, Teilhabe, Chancen und Risiken in der Welt ungerecht verteilt sind. Das hat gravierende Folgen, auch für den gesellschaftlichen Zusammenhalt. Mehr Gerechtigkeit – aber wie? Um diese Frage geht es in unserem neuen Dossier. 

LESEN SIE MEHR
Das könnte Sie auch interessieren
Mixed Migration Review_Teaserbild
Migration

Klare Regeln für den Einsatz digitaler Technologien

Visaentscheidungen auf Basis von Algorithmen, Modelle zur Vorhersage von Migrationsströmen bis hin zu Flüchtlingen, die per Iris-Scan...
Tech_Ungleichheit_800x600
Ungleichheit reduzieren

Visionen für eine gerechte digitale Zukunft

Wie müssen künftige Technologien, Plattformen und soziale Medien gestaltet sein, damit sie inklusiv und gerecht und damit offen für alle sind?
Pierre Hazan (rechts) und Tim Tolsdorff
Interview mit Robert Bosch Academy Fellow Pierre Hazan

„Das Thema Kollaboration ist äußerst heikel“

Hier spricht Mediations-Experte Pierre Hazan über die Kollaboration zwischen Ukrainern und Russen. Außerdem analysiert er, wie Putin den Westen täuschen konnte.
Eine Frau schaut in die Ferne, auf ihrem Rucksack ist ein Schild befestigt mit der Aufschrift: Wohnen ist Menschenrecht!
Bericht

Die Türen zum Wohnungsmarkt wieder öffnen

Mehr Gerechtigkeit auf dem Wohnungsmarkt: Was entstehen kann, wenn Aktivist:innen nicht locker lassen, zeigt das Beispiel des Bremer Quartiers Tenever.