Mitchell_2024_Good-technology-is-inclusive`
Kurzsummary (1–2 Sätze)
Der Artikel befasst sich damit, dass es innerhalb der Tech-Industrie eine systematische Diskriminierung gibt, die “gute Technologie” verhindert. Um diese These zu verstehen, erklärt Mitchell, was gute Technologie bedeutet und gibt konkrete Beispiele dafür. Mitchell zeigt zudem auf, wo/wie Technologie “schlecht”, d.h. diskriminierend wirkt und bettet dass in ein Verständnis/Kontext ein, der sichtbar macht, dass Wissenschaft und Technik nicht wert-neutral sind. Dafür führt Mitchell die Begriffe “technology culture” und “AI culture” ein. Beide Begriffe betonen, die “Gerichtetheit”, also die Position von der aus, auf etwas geblickt und erklärt wird. Eine Erklärung dessen: Die Mehrheit in der Tech-Industrie nimmt eine Minderheit “through the lens of stereotypes” (56) wahr. Das entspricht aber nicht einer realen Repräsentation (vgl. auch 58).
Wichtige Schlüsselbegriffe
- good technology
- technology culture
- AI culture
Argumentation
- es gibt eine systematische Diskriminierung in der Tech-Industrie (56) → wenn eine Mehrheit nicht sehen kann, wo sie diskriminiert, dann kann Diskriminierung nicht adressiert werden.
- good technology means “everything is the same, except that those currently on the lower end of power differentials—women, people of color, older people, disabled people are just some examples—have improved lives with respect to those differentials. They are less marginalized, or less stereotyped. This is a world that is more equitable—culturally, socioeconomically—than the current one.” (56)
- Was “good technology” beinhalten muss (60):
- diversity norms → “who is in the room”: Aufmerksamkeit dafür generieren wer z.B. an Meetings teilnimmt oder wer welche Positionen innehat
- relevance norms → “who is relevant”: Berücksichtigung von Frauen bei gleicher Begabung
- inclusion norms → “feel welcome”: Personen, deren Eigenschaften als marginalisiert gelten das Gefühl geben, mit ihren Bedürfnissen und Perspektiven willkommen zu sein.
- Technologie wird von Mitchell als “Kultur” verstanden. Was genau mit Kultur gemeint ist, bleibt offen. Es scheint damit eine bestimmte Perspektive oder ein Kontext aus dem jemand oder etwas heraus agiert oder verstanden wird, gemeint zu sein. Mitchell kreiert daraus den Begriff “technology culture” (→ erinnert an den Begriff epistemische Kulturen). Spezifischer benennt Mitchell dies auch für die “AI culture” (58).
- Mitchell zeigt jedoch was technology culture “tut”, das heißt eine bestimmte Kultur fördert eine bestimmte Art der Richtung oder Entwicklung, in die sich Technologien bewegen
Mitchell:
“people of some age groups—such as those over fifty—are all but absent. This, in turn, affects what kinds of technology is created. Women are similarly poorly represented in technology and technology culture: Within artificially intelligent systems, women are sexualized (from revenge porn to MyReplika), objectified (as Abeba Birhane has shown), and subject to violence. Within technological design and culture, women and nonbinary people are frequently excluded and alienated—while also being sexualized or objectified (or worse)” (57).
- Das Ziel muss sein diese Strukturen innerhalb der technology culture neu zu definieren um inklusivere Räume zu schaffen (58)
Implizite Annahmen
Forschungslücke / Beitrag
Was fehlt bisher? Wie trägt dieser Text neu bei?
Bezug zu meinem Projekt
- Mitchell wirft die Frage auf “whose history matters” und “history are written by the victors”: ein Modul entwerfen, in dem auf die Repräsentation in der (MINT)Geschichte und die persönliche Geschichte der Lehrkräfte eingegangen wird (vgl. 58) → Reflexivität und Positionalität.
- Mitchell benennt ein paar konkrete Beispiele, in denen sie erklärt wie KI z.B. Frauen sexualisiert und objektiviert (58)
- Vielleicht könnte eine Art “Diskussionsleitfaden” entwickelt werden, um dem Argument zu begegnen, dass Technologien objektiv, für alle zugänglich und für alle gemacht zu sein. Es ist zu erwarten, dass dies als “hard fact” ungern hinterfragt werden will. Ich stelle mir den Diskussionsleitfaden als kreatives Lernformat vor und nicht als “trockenen Leitfaden”. Es soll zum Ziel haben:
- Inklusion zu stärken;
- privilegierte Personen “mitzunehmen” und deutlich zu machen, dass sie aufgrund ihrer Privilegien auch Reichweite haben;
- grundsätzlich ein bestärkendes Gefühl verursachen (um Gegenentwürfen oder Widerständen à la “Cancel Culture” oder “Gender-Gaga” etwas Positives anzubieten)
- Diversität. Relevanz. Inklusion. Das sind drei Begriffe, die Mitchell als zentral für eine “good technology” ansieht → Das könnten Kriterien sein, die ein Lernangebot als “best practice” klassifizieren.
- Implementierung von Systemen, die überwachen und korrigieren, dass ein bias vermieden wird und das Inhalte vervielfältigt, die divers snd → könnte das ein konkretes Projekt sein, anhand dessen vermittelt werden kann, inwiefern LLMs Stereotype hervorbringen und wie es besser laufen könnte? (61)
Eigene Fragen, Kritik, Weiterführung
- Die drei verschiedenen Normsetzungen Diversität, Relevanz und Inklusion klingen gut, aber bleiben etwas inhaltsleer. Denn wie kann z.B. verändert werden, wer angestellt ist? Die Frage ist also, inwiefern diese Normen konkretes und leicht umsetzbares Handlungspotenzial aufweisen um “good technology” zu etablieren.