Subtilere KI-fehlfunktionen sind inhaltliche Verzerrungen (Bias). Sie entstehen beispielsweise durch unausgewogene Trainingsdaten oder algorithmische Strukturen, die bestimmte Perspektiven bevorzugen oder andere unterdrücken. Solche Verzerrungen sind oft schwer zu identifizieren und werden meist erst bei genauer Analyse sichtbar. 

Bias Eurozentrismus, Androzentrismus, kulturelle Stereotypen 

Gib bei ChatGPT oder einem anderen Chatbot die Frage ein: «Welches Stichwort fällt Dir zu Christoph Kolumbus ein?»  – Mit grosser Wahrscheinlichkeit wirst Du die Antwort «Entdeckung» erhalten (allenfalls ergänzt mit einem Kommentar, dass das Wort Entdeckung heutzutage kritisch betrachtet wird). Wenn du die Frage variierst, wirst Du ein anderes Stichwort erhalten: «Welches Stichwort würde einem Ureinwohner des amerikanischen Kontinents zu Christoph Kolumbus einfallen?» – Hier lautet die Antwort möglicherweise: «Invasion».  

Geschichte eignet sich gut, um Eurozentrismus und Androzentrismus in den Trainingsdaten zu entdecken. 

Übung: Variante Eurozentrismus 

1. Fordere die KI auf, die 10 wichtigsten Ereignisse des 20. Jahrhunderts aufzuzählen 

2. Analysiere: Wie viele der Ereignisse fanden in Europa, in den USA oder in anderen Teilen der Welt statt? 

3. Analysiere weiter: Wie viele der Ereignisse hatten mit Krieg oder Gewalt zu tun? Wie viele mit Wissenschaft, Kultur oder sozialen Aspekten? 

Übung: Variante Androzentrismus und Eurozentrismus 

4. Fordere die KI auf, die 10 wichtigsten Personen des 20. Jahrhunderts aufzuzählen. 

5. Analysiere: Wie viele der Personen sind weiblich, sind ausserhalb Europas geboren, haben ausserhalb Europas gewirkt? 

Bias kann sich auch in Stereotypen zeigen. So antwortet die KI auf die Frage, woher die besten Fussballer kommen, mit gängigen Klischees: Brasilianer sind Ballkünstler, Deutsche verfügen über gute Ausbildung und Konstanz, Spanier sind begnadete Techniker. Fussballer aus Afrika oder Asien werden gar nicht erwähnt. 

Vergleichen wir doch einmal die Schulsysteme 

1. Frage die KI, welches die besten Schulsysteme sind. 

2. Analysiere: Was sind die angewandten Kriterien? Welche Länder werden genannt, welche fehlen? 

3. Vergleiche die Schulsysteme zweier Länder. Welche Eigenschaften werden genannt und einander gegenübergestellt, welche Eigenschaften werden hervorgehoben oder weggelassen? 

Nun kennst du verschiedene typische Fehlfunktionen von KI – von offensichtlichen Fehlern über Halluzinationen bis hin zu subtilen Bias und stereotyper Verzerrung. Diese Phänomene zeigen, dass KI-Outputs nicht isoliert betrachtet werden dürfen, sondern stets einer systematischen Prüfung bedürfen. Im nächsten Schritt geht es deshalb darum, KI-generierte Texte systematisch zu bewerten. Nutze dazu die eingeführten Kriterien, um Auffälligkeiten zu identifizieren und die Qualität eines Outputs kritisch einzuschätzen.