Alex Gessner genteil : Sie werden immer weiter vorangetrieben . Und keiner ist verantwortlich . Das Unternehmen sagt dann : Ja nee , das war ja die KI , die hat sich ja selber ihren Code geschrieben . Dafür stehe ich ja gar nicht als XYZ Bank . Und das kann negative Auswirkungen verstärken .
Kann man aus diesem Szenario auch noch ein Best-Case-Szenario rausziehen ? Also dass es sich zwar so verschärft , wie du beschreibst , aber dass sich die Institute , die so agieren , sich in einer immer diverseren Welt auch selbst ins Aus manövrieren ?
Es kommt darauf an , wie groß sie sind . Denn es bringt nichts , wenn irgend so eine kleine Bank mit 20.000 Kund : innen supertoll ist , solange die großen Banken mit vielen Millionen Kund : innen weiterhin so handeln , wie sie heute handeln und das auch ihren KIs trainieren . Dann wird relativ wenig passieren . Es ist ja nicht so , dass die KI übernimmt und dann sofort richtig krasse Dogmen raushaut .
Das wird eher so ein schleichender Prozess sein . Und schleichende Prozesse haben wir auch heute schon . Die gehen oft gegen marginalisierte Menschen und die kriegen dann nur die marginalisierten Menschen mit , weil es die Masse nicht trifft . Also wenn jetzt die Kreditbedingungen für Frauen noch ein kleines bisschen verschlechtert werden oder queere Menschen ein bisschen schlechter gestellt werden .
Das werden so kleine , schleichende Grade sein , dass man das nicht merkt . Da gibt es keinen großen Aufschrei und alle sagen : Nein , wir stehen hier für Gleichheit ! Deshalb , glaube ich , kommt es stark darauf an , wer für sich erkennt : Hey , Moment mal ! Das ist irgendwie auch ein Unique Selling Point zu sagen „ Ich habe verstanden , dass wir in der Vergangenheit nicht immer gerecht waren in der Bewertung und Verteilung , zum Beispiel von Krediten , und ich möchte das aktiv besser machen und trage das nach außen , inklusive aller Fehler .“ Erst wenn das eine der großen Banken erkennt und voranschreitet , ziehen die anderen nach . Ich habe ein großes Herz für die Fintech-Welt , aber sind wir mal ganz ehrlich : Wie hoch kann der Einfluss sein , wenn wir wissen , dass nur 28 Prozent aller Männer und 21 Prozent aller Frauen überhaupt Fintech-Produkte benutzen ?
NOVEMBER 2023 KI-DISRUPTION
INTERVIEW
Alex Gessner genteil : Sie werden immer weiter vorangetrieben . Und keiner ist verantwortlich . Das Unternehmen sagt dann : Ja nee , das war ja die KI , die hat sich ja selber ihren Code geschrieben . Dafür stehe ich ja gar nicht als XYZ Bank . Und das kann negative Auswirkungen verstärken .
Kann man aus diesem Szenario auch noch ein Best-Case-Szenario rausziehen ? Also dass es sich zwar so verschärft , wie du beschreibst , aber dass sich die Institute , die so agieren , sich in einer immer diverseren Welt auch selbst ins Aus manövrieren ?
Es kommt darauf an , wie groß sie sind . Denn es bringt nichts , wenn irgend so eine kleine Bank mit 20.000 Kund : innen supertoll ist , solange die großen Banken mit vielen Millionen Kund : innen weiterhin so handeln , wie sie heute handeln und das auch ihren KIs trainieren . Dann wird relativ wenig passieren . Es ist ja nicht so , dass die KI übernimmt und dann sofort richtig krasse Dogmen raushaut .
Das wird eher so ein schleichender Prozess sein . Und schleichende Prozesse haben wir auch heute schon . Die gehen oft gegen marginalisierte Menschen und die kriegen dann nur die marginalisierten Menschen mit , weil es die Masse nicht trifft . Also wenn jetzt die Kreditbedingungen für Frauen noch ein kleines bisschen verschlechtert werden oder queere Menschen ein bisschen schlechter gestellt werden .
Bild : ALex Gessner
Das werden so kleine , schleichende Grade sein , dass man das nicht merkt . Da gibt es keinen großen Aufschrei und alle sagen : Nein , wir stehen hier für Gleichheit ! Deshalb , glaube ich , kommt es stark darauf an , wer für sich erkennt : Hey , Moment mal ! Das ist irgendwie auch ein Unique Selling Point zu sagen „ Ich habe verstanden , dass wir in der Vergangenheit nicht immer gerecht waren in der Bewertung und Verteilung , zum Beispiel von Krediten , und ich möchte das aktiv besser machen und trage das nach außen , inklusive aller Fehler .“ Erst wenn das eine der großen Banken erkennt und voranschreitet , ziehen die anderen nach . Ich habe ein großes Herz für die Fintech-Welt , aber sind wir mal ganz ehrlich : Wie hoch kann der Einfluss sein , wenn wir wissen , dass nur 28 Prozent aller Männer und 21 Prozent aller Frauen überhaupt Fintech-Produkte benutzen ?