Wenn das Geschlecht (k)eine Rolle spielt:

Eine Analyse möglicher Verzerrungen in KI-basiertem Schreibfeedback

Abstract

Die zunehmende Integration generativer KI-Systeme in akademische Schreibprozesse wirft grundlegende Fragen nach Fairness, Objektivität und Chancengleichheit auf. Während zahlreiche sozialpsychologische Studien geschlechtsspezifische Bewertungsverzerrungen in menschlichen Beurteilungsprozessen nachweisen, ist bislang unzureichend geklärt, ob und in welchem Ausmaß vergleichbare Effekte auch in KI-basiertem Schreibfeedback auftreten. Die vorliegende Studie untersucht in einem kontrollierten experimentellen Design (n = 1000), ob das Sprachmodell ChatGPT bei der Bewertung identischer studentischer Texte systematische Unterschiede in Abhängigkeit vom binär markierten Geschlecht der vermeintlichen Verfasser*innen aufweist. Die Ergebnisse zeigen keinen signifikanten Mittelwertunterschied zwischen männlich und weiblich zugeschriebenen Profilen (Welch-t-Test: p = .083; Cohen’s d ≈ 0.11). Auch nichtparametrische Tests bestätigen diese Befunde. Allerdings treten seltene negative Extrembewertungen ausschließlich bei männlich kodierten Profilen auf (Fisher-Test: p = .031).
Die Befunde sprechen gegen einen starken, globalen Gender Bias im untersuchten Setting, weisen jedoch auf mögliche subtile Verzerrungen in Randbereichen hin. Für die Schreibdidaktik impliziert dies, dass KI-Feedback weder als vollständig neutral noch als per se diskriminierend verstanden werden sollte, sondern als soziotechnisches System, dessen Wirkungen kontextabhängig reflektiert werden müssen.