Bias (in der KI)

Bias in der KI tritt auf, wenn ein System unfaire oder ungenaue Ergebnisse liefert, weil es auf eine bestimmte Weise trainiert wurde oder die Daten, von denen es gelernt hat, voreingenommen sind. Wenn beispielsweise ein KI-Tool zur Vorhersage des Erfolgs von Bewerbern hauptsächlich mit Daten von weiblichen Bewerbern trainiert wurde, könnte es unabsichtlich Frauen gegenüber Männern bevorzugen, selbst wenn beide gleich qualifiziert sind.

Bias kann in die KI eindringen, weil die zum Training verwendeten Daten oft menschliche Entscheidungen, Verhaltensweisen oder soziale Muster widerspiegeln, die nicht immer fair sind. Deshalb ist es so wichtig, dass Entwickler aktiv nach Bias suchen und versuchen, ihn zu korrigieren. Wenn er nicht überprüft wird, kann KI-Bias zu Diskriminierung in Bereichen wie Einstellung, Kreditvergabe, Strafverfolgung oder Gesundheitswesen führen.