Alex Gessner und zementieren . Modelle sind kein Allheilmittel , sondern sind immer nur so gut wie das , was wir reinpacken . Eine KI kann aus einem Toaster keinen Rennwagen machen . Also , KI , die KI-Kunst erschafft , kann das natürlich schon .
Nun machen Frauen mehr als 50 Prozent der Bevölkerung aus – was heißt dieser Worst Case dann für Minderheiten ?
Schlimmstenfalls würden bestimmte Bevölkerungsgruppen ganz ausgeschlossen . Wenn die KI nicht ordentlich trainiert ist , kann sie zum Beispiel mit trans * Personen überhaupt nicht umgehen : Also jetzt habe ich hier eine trans * Frau , vielleicht steht auf der Geburtsurkunde noch Mann , ich müsste dich jetzt bewerten wie einen Mann , obwohl das faktisch nicht richtig ist . Du bist eine Frau , damit landest du im Gender Pay Gap . Der Pay Gap gegenüber Nicht-trans * Personen liegt bei 30 bis 40 Prozent ; 40 Prozent natürlich für trans * Frauen , 30 Prozent für trans * Männer . Das heißt , sie verdienen 60 Cent auf den Euro verglichen mit cis Personen . Das heißt statistisch : weniger Einkommen . Ich spreche jetzt ganz pauschal ; natürlich trifft das nicht auf jede Person zu . Aber mit pauschalen Daten würde auch in dem Fall die KI arbeiten . Diese Person wird also überall ein bisschen schlechter gestellt , vollkommen ohne Grund – im Banking genau wie bei Versicherungen , bei denen trans * Personen sowieso schon benachteiligt werden .
Wenn das Modell der KI nicht ausreichend überwacht wird , entweder von einer anderen KI oder von Personen , dann führt es auch dazu , dass wir das gar nicht mitkriegen . Neulich hatte ich den Fall eines Bankberaters , der eine migrantisierte Frau gefragt hat , ob sie vielleicht noch mal mit dem Ehemann kommen möchte , weil sie selber ja gar keine Entscheidungen treffen könne . Wenn so etwas heute passiert und dann vielleicht einer Person , die ein bisschen bekannter ist , dann gibt es relativ schnell einen Shitstorm . Wir bekommen das mit . Wir können darüber diskutieren .
So entsteht ein Diskurs und darüber bewegt man – hoffentlich – Menschen in ihren Herzen und in den Köpfen . Wenn das alles in einem kleinen Code passiert , dann bekommen wir das gar nicht unbedingt mit . Und dann gibt es auch keinen Druck , unethische Anwendungen zu verbessern . Im Ge-
NOVEMBER 2023 KI-DISRUPTION
INTERVIEW
Alex Gessner und zementieren . Modelle sind kein Allheilmittel , sondern sind immer nur so gut wie das , was wir reinpacken . Eine KI kann aus einem Toaster keinen Rennwagen machen . Also , KI , die KI-Kunst erschafft , kann das natürlich schon .
Nun machen Frauen mehr als 50 Prozent der Bevölkerung aus – was heißt dieser Worst Case dann für Minderheiten ?
Schlimmstenfalls würden bestimmte Bevölkerungsgruppen ganz ausgeschlossen . Wenn die KI nicht ordentlich trainiert ist , kann sie zum Beispiel mit trans * Personen überhaupt nicht umgehen : Also jetzt habe ich hier eine trans * Frau , vielleicht steht auf der Geburtsurkunde noch Mann , ich müsste dich jetzt bewerten wie einen Mann , obwohl das faktisch nicht richtig ist . Du bist eine Frau , damit landest du im Gender Pay Gap . Der Pay Gap gegenüber Nicht-trans * Personen liegt bei 30 bis 40 Prozent ; 40 Prozent natürlich für trans * Frauen , 30 Prozent für trans * Männer . Das heißt , sie verdienen 60 Cent auf den Euro verglichen mit cis Personen . Das heißt statistisch : weniger Einkommen . Ich spreche jetzt ganz pauschal ; natürlich trifft das nicht auf jede Person zu . Aber mit pauschalen Daten würde auch in dem Fall die KI arbeiten . Diese Person wird also überall ein bisschen schlechter gestellt , vollkommen ohne Grund – im Banking genau wie bei Versicherungen , bei denen trans * Personen sowieso schon benachteiligt werden .
Wenn das Modell der KI nicht ausreichend überwacht wird , entweder von einer anderen KI oder von Personen , dann führt es auch dazu , dass wir das gar nicht mitkriegen . Neulich hatte ich den Fall eines Bankberaters , der eine migrantisierte Frau gefragt hat , ob sie vielleicht noch mal mit dem Ehemann kommen möchte , weil sie selber ja gar keine Entscheidungen treffen könne . Wenn so etwas heute passiert und dann vielleicht einer Person , die ein bisschen bekannter ist , dann gibt es relativ schnell einen Shitstorm . Wir bekommen das mit . Wir können darüber diskutieren .
Bild : ALex Gessner
So entsteht ein Diskurs und darüber bewegt man – hoffentlich – Menschen in ihren Herzen und in den Köpfen . Wenn das alles in einem kleinen Code passiert , dann bekommen wir das gar nicht unbedingt mit . Und dann gibt es auch keinen Druck , unethische Anwendungen zu verbessern . Im Ge-