KI-Sicherheit (AI Safety) ist das Forschungs- und Praxisfeld, das sich damit beschäftigt, KI-Systeme so zu entwickeln und einzusetzen, dass sie keine unbeabsichtigten Schäden verursachen. Dazu gehören technische Maßnahmen (Alignment, Guardrails), regulatorische Rahmenbedingungen (EU AI Act) und organisatorische Prozesse (Bias-Prüfung, Monitoring).
KI-Systeme treffen zunehmend Entscheidungen, die Menschen direkt betreffen: Kreditvergabe, medizinische Diagnosen, Bewerbungsverfahren, autonomes Fahren. Wenn diese Systeme fehlerhaft, verzerrt oder manipulierbar sind, entstehen reale Schäden. KI-Sicherheit befasst sich mit der Frage, wie man das verhindert.
Technisch: Alignment (das Modell tut, was der Mensch will), Guardrails (Grenzen für unerwünschte Ausgaben), Red Teaming (systematisches Testen auf Schwachstellen), Prompt-Injection-Schutz.
Regulatorisch: Der EU AI Act definiert Risikoklassen und Pflichten für Anbieter:innen von KI-Systemen. Unternehmen müssen dokumentieren, wie ihre Systeme funktionieren und wie sie getestet wurden.
Organisatorisch: Wer im Unternehmen verantwortet den KI-Einsatz? Wie werden Ergebnisse geprüft? Welche Prozesse verhindern, dass fehlerhafte KI-Ausgaben ungeprüft weitergegeben werden?
KI-Sicherheit ist nicht dasselbe wie Datenschutz. Datenschutz schützt personenbezogene Daten (DSGVO). KI-Sicherheit schützt vor Fehlentscheidungen, Verzerrungen und Missbrauch durch KI-Systeme. Beide Themen überschneiden sich, sind aber eigenständige Felder.
🔗 Verwandte Begriffe:
EU AI Act, Alignment, Bias (KI), Prompt Injection, Deepfake, DSGVO
➡ Du willst KI in deinem Arbeitsalltag einsetzen? In meinen „KI at Work“ Kursen zeige ich dir Schritt für Schritt, wie das geht. Ohne Vorwissen.
Änderungshistorie: