Tool gegen Diskriminierung

Der Bot an deiner Seite

Tausende Menschen erleben in Deutschland jedes Jahr Diskriminierung. Es gibt viel zu wenig Beratungsstellen, und ein Besuch ist für Betroffene oft mit Hürden verbunden. Der Jurist Said Haider arbeitet mit einem Team an einem intelligenten Chatbot, der Unterstützung bietet, online und rund um die Uhr. Hier die wichtigsten Fakten – und ein interaktiver Videochat mit dem Gründer.

Text
Tobias Moorstedt
Screenshots
Robert Bosch Stiftung

Die Lage

Die Antidiskriminierungsstelle des Bundes meldete für 2020 rund 78 Prozent mehr Beratungsanfragen als im Vorjahr. Bei etwa einem Drittel der gemeldeten Fälle ging es um Diskriminierungen aufgrund der ethnischen Herkunft oder aus rassistischen Gründen – die mit am häufigsten genannte Form der Diskriminierung. In der Analyse betonen die Autor:innen des Berichts "Diskriminierung in Deutschland – Erfahrungen, Risiken und Fallkonstellationen" der Antidiskriminierungsstelle, dass die Zahlen nicht repräsentativ sind und gehen von einem hohem Maß an „Underreporting“ aus – viele Fälle würden nicht erfasst, weil das Melden der Vorfälle belastend ist.

Im „Nationalen Diskriminierungs- und Rassismusmonitor“ 2022 gaben fast zwei Drittel der befragten Menschen in Deutschland an, entweder selbst rassistisch diskriminiert oder Ohren- und Augenzeug:innen solcher Vorfälle geworden zu sein – die Antidiskriminierungsstelle registriert außerdem Herabwürdigung aufgrund von Geschlecht, Religion, Behinderung, Alter, sexueller Identität und Weltanschauung. „Wir beobachten ein gestiegenes gesellschaftliches Bewusstsein für Diskriminierung“, heißt es im Jahresbericht der Antidiskriminierungsstelle: „Immer mehr Menschen suchen sich aktiv qualifizierte Beratung.“ Aber da steht auch: „Aufgrund der großen Nachfrage mussten wir die telefonische Beratung vorübergehend einstellen – Ratsuchende können sich derzeit nur über unser Beratungsformular oder schriftlich an uns wenden.“ 

Das interaktive Interview mit Said Haider

Die Mission des Chatbots

„Die 110 für Diskriminierungsberatung im Netz“ zu sein, ein Kontakt, den jeder kennt und der jederzeit erreichbar ist: Das ist das ambitionierte Ziel des Antidiskriminierungschatbots Yana, an dem der Jurist Said Haider und sein Team arbeiten – seit 2021 mit Förderung des Bundesministeriums für Wirtschaft und Klimaschutz und der Robert Bosch Stiftung. Der Name Yana steht für „You are not alone“ – du bist nicht allein – und ist Programm. Der große Vorteil eines Chatbots ist laut Haider, dass „das Programm rund um die Uhr verfügbar ist und viele Sprachen spricht, dass es keine Pausen braucht und so keine Warteschlangen entstehen“. 

Bislang werden solche automatisierten Kommunikationsprogramme meist im Kundenservice eingesetzt. Said Haider erwartet, „dass die Technologie zunehmend auch im sozialen Bereich Anwendung findet“. Schon heute kann man sich in den App Stores „Social Bots“ oder „AI Companions“ herunterladen, die gegen Einsamkeit oder Depressionen helfen wollen, oder Bots für Demenz-Prävention und -Diagnose. 

Aktuell führt das Chatbot-Team um Said Haider diverse Studien im Netz durch, um herauszufinden, welche Informationen Betroffenen von Diskriminierung in welchen Situationen am meisten helfen. Alle Mitarbeitenden haben selbst Diskriminierungserfahrungen gemacht. Ihre Informationen, Recherchen und Daten speisen dann die Software. „Ein Bot ist ein guter Lotse“, sagt Said Haider, „aber er braucht auch Material, auf das er verweisen kann.“ 

Said Haider läuft durch die Straßen
Said Haider arbeitet am Laptop
Szenen eines Interviews: Said Haider und sein Team entwickeln den Chatbot, um von Diskriminierung Betroffenen zu helfen.

Das Tool

„Möchtest du mir deinen Vornamen verraten?“ Yana fällt nicht mit der Tür ins Haus, sondern versucht erst einmal, eine Beziehung aufzubauen. Dahinter steckt kein maschinelles Kalkül, sondern die Ahnung eines menschlichen Designers, dass die Wahrscheinlichkeit einer Interaktion mit einem Bot steigt, wenn punktuell persönliche Informationen abgefragt werden. 

Der Antidiskriminierungschatbot soll die Betroffenen laut Said Haider nicht therapeutisch beraten, sondern ihnen auf Basis ihrer Angaben die passenden Handlungsoptionen aufzeigen. Was muss ich wissen? Wo ist eine Beratungsstelle in meiner Nähe – und wie kriege ich da einen Termin? 

Hinter dem Bot steht eine sogenannte Konversations-KI, die mithilfe der Open-Source-Plattform Rasa entwickelt wird. Dabei vollführt das Programm drei wichtige Schritte:

  • Der Rohtext aus Benutzernachrichten wird in strukturierte Daten verwandelt, um die wahrscheinliche Absicht der Nutzer:innen zu analysieren.
  • Dialog-Management: Basierend auf den Nachrichten der Nutzer:innen und der Kontexte der Unterhaltungen entscheidet das auf maschinellem Lernen basierende Programm, was der Bot als Nächstes tun oder vorschlagen soll. Er kann eine Ersteinschätzung liefern, ob der gemeldete Vorfall juristisch relevant ist, oder die nächste Beratungsstelle heraussuchen. 
  • Der Chat als Drehkreuz: Die Software ermöglicht es, die Nutzer:innen des Chats über verschiedene Messaging-Kanäle oder die Anbindung an Datenbanken, APIs und andere Datenquellen automatisch an weiterführende Stellen zu verweisen. Zum Beispiel soll es ab 2023 möglich sein, über den Chatbot anonym einen Telefontermin mit einer Beratungsstelle zu vereinbaren.  

Die künstliche Intelligenz ist ein selbstlernendes System, das Daten-Input braucht, um dazuzulernen. Auch deshalb ist der Austausch der Yana-Macher:innen mit der Community unerlässlich, so Haider. Nicht nur, um herauszufinden, was die Menschen wirklich brauchen, sondern auch, um die künstliche Intelligenz zu trainieren. Oder anders gesagt: Je mehr Menschen mit dem Bot interagieren, desto menschlicher wird er – und desto mehr Menschen kann er helfen.

Zur Person

Der 37-jährige Jurist Said Haider hat in Hamburg, Frankfurt und an der University of Kent studiert und sich bei digitalen Antidiskriminierungsprojekten wie dem Youtube-Kanal „Datteltäter“ engagiert. Digitale Technologien sind für ihn nicht nur ein Mittel, um Diskriminierung zu bekämpfen, sondern bieten auch „Gestaltungsspielräume für Menschen ohne großes Erbe oder familiäre Ressourcen: Im Bereich Social Tech stehen Menschen wie mir mehr Türen offen als in den großen Kanzleien.“

Das Dossier zum Thema
Einwanderungsgesellschaft im digitalen Raum

Brücken statt Bubbles

Gerade Menschen mit Migrationsgeschichte nutzen digitale Tools, um gesellschaftliche Barrieren zu überwinden: ein Dossier.
13. Juni 2022
Erfahren Sie mehr über unsere Arbeit zum Thema
Globale Fragen

Einwanderungs­gesellschaft

Wie kann gutes Zusammenleben in der Einwanderungsgesellschaft gestaltet  werden?