Buolamwini+Gebru_2018-Gender-Shades

Kontext

Erklärt, wie LLMs klassistisch, rassistisch oder sexistisch sind. Die Studie erläutert dies anhand “automated facial analysis algorithms”. Dazu verwenden sie zum einen “he dermatologist approved Fitzpatrick Skin Type classification system”, dass vor allem auf hellere Hauttypen fokussiert und “introduce a new facial analysis dataset which is balanced by gender and skin type” → “We evaluate 3 commercial gender classification systems using our dataset and show that darker-skinned females are the most misclassified group”

Als Hintergrundliteratur, um zu erklären, wie Diskrimminierung in LLMs funktioniert

Was ist der Untersched zwischen einem “classification system” und einem “analysis dataset”?