APRIL 2023 TRENDS & FORESIGHT
TRENDS
Die nächste Evolutionsstufe des Internets
Das reicht vom Status-quo-Bias , der etwa im Recruiting dazu führt , dass eher Bewerber : innen ausgewählt werden , die Ähnlichkeiten mit erfolgreichen Personen ( oder mit uns selbst ) haben , bis zum In-Out-Group-Bias , bei dem wir die eigene Gruppe höher bewerten als fremde Gruppen und deren Mitglieder . Wir alle kennen die Dynamik : Im Kreis vertrauter und ähnlicher Kolleg : innen geht die Arbeit auf den ersten Blick leichter von der Hand . Die Gefahr , dass vor dem Hintergrund globaler Märkte und vielfältiger Kund : innenbedürfnisse wichtige Aspekte außer Acht gelassen werden , ist sehr groß .
Nun die spannende Frage
Was passiert , wenn man dieses menschliche „ Fehldenken “ auf KI überträgt ?
Bild : Adobe Stock 425249411
Schließlich kann eine KI nur so gut sein wie die Daten , auf denen sie basiert . Ein Bias in der KI liegt dann vor , wenn die Maschine für eine Gruppe von Menschen systematisch andere Ergebnisse liefert als für eine andere Gruppe von Menschen . Ein klassisches Beispiel sind Gesichtserkennung und stereotypische Vorurteile im Gesundheitswesen : In den Daten , mit denen diese Systeme trainiert werden , fehlen Beispiele von Menschen mit dunkler Hautfarbe . Das führt dazu , dass eben genau diese Menschen einen Nachteil erleben . Wer schlechte Daten eingibt , erhält schlechte Daten .