Bias (Verzerrung) in der KI bezeichnet systematische Fehler in den Ergebnissen eines KI-Systems, die durch einseitige oder unvollständige Trainingsdaten, fehlerhafte Modellarchitektur oder die Vorannahmen der Entwickler:innen entstehen.
KI lernt aus Daten. Wenn diese Daten die Realität verzerrt abbilden, übernimmt das Modell diese Verzerrung. Ein Bewerbungstool, das mit historischen Einstellungsdaten trainiert wird, in denen überwiegend Männer eingestellt wurden, wird dazu tendieren, männliche Bewerber zu bevorzugen. Das Modell bildet nicht die Qualifikation ab, sondern die Vergangenheit.
Bias kann an mehreren Stellen entstehen: bei der Auswahl der Trainingsdaten (welche Daten fehlen?), bei der Gewichtung (welche Muster werden verstärkt?), bei der Evaluation (wer testet das System, und mit welchen Maßstäben?) und bei der Anwendung (in welchem Kontext wird das System eingesetzt?).
Datenbias: Die Trainingsdaten sind nicht repräsentativ. Beispiel: Ein Gesichtserkennungssystem, das überwiegend mit hellhäutigen Gesichtern trainiert wurde, erkennt dunkelhäutige Personen schlechter.
Selektionsbias: Bestimmte Gruppen oder Perspektiven fehlen im Datensatz vollständig.
Bestätigungsbias: Das Modell verstärkt bestehende Muster, statt sie zu hinterfragen. Wer häufiger kontrolliert wird, taucht häufiger in den Daten auf.
Gender Data Gap: Viele Datensätze basieren auf männlichen Normwerten. Medizinische KI, die mit solchen Daten trainiert wurde, kann Symptome bei Frauen systematisch falsch einordnen.
Bias ist kein Randfehler. KI-Systeme treffen zunehmend Entscheidungen, die Menschen direkt betreffen: Kreditvergabe, Bewerbungsverfahren, medizinische Diagnosen, Versicherungstarife, Strafverfolgung. Wenn diese Systeme verzerrt sind, schreiben sie bestehende Ungleichheiten fort.
Der EU AI Act (seit August 2024 in Kraft) stuft KI-Systeme in Hochrisikobereichen wie Personalauswahl, Kreditvergabe oder Strafverfolgung als regulierungspflichtig ein. Anbieter:innen müssen nachweisen, dass ihre Systeme auf Bias geprüft wurden.
🔗 Verwandte Begriffe:
Künstliche Intelligenz (KI), Large Language Model, Halluzination, Deep Learning
➡ Du willst KI in deinem Arbeitsalltag einsetzen? In meinen „KI at Work“ Kursen zeige ich dir Schritt für Schritt, wie das geht. Ohne Vorwissen.
Änderungshistorie: