24 Okt. 2025 Was ist vertrauenswürdige KI?
Unter dem Begriff „Vertrauenswürdige KI“ versteht man Künstliche Intelligenz-Systeme, die sowohl ethisch vertretbar als auch rechtlich einwandfrei und technisch robust sind. Das Ziel dieser Systeme ist, zuverlässig zu funktionieren und dabei transparent sowie nachvollziehbar zu agieren. Vertrauenswürdige KI respektiert den Datenschutz, agiert fair und diskriminierungsfrei und arbeitet unter menschlicher Aufsicht. Sie soll einen gesellschaftlichen Mehrwert schaffen, Risiken wie Fehlentscheidungen, Vorurteile oder Sicherheitslücken minimieren und somit das Vertrauen von Nutzern, Unternehmen und der Gesellschaft insgesamt stärken.
Der Begriff beinhaltet essenzielle Merkmale wie die Einhaltung geltender Gesetze und Vorgaben, faire und nicht diskriminierende Entscheidungen, eine sichere und stabile Betriebsweise, nachvollziehbare Entscheidungsprozesse, den Schutz persönlicher Daten während des gesamten Lebenszyklus sowie die Verantwortlichkeit der Entwickler und Betreiber gegenüber dem System.
Bildprompt für Midjourney: J. Novotny
Die europäische Union setzt mit dem AI Act wichtige Impulse, indem sie verbindliche Anforderungen an Hochrisiko-KI-Systeme stellt, die beispielsweise in kritischen Infrastrukturen oder bei Personalentscheidungen eingesetzt werden. Die Entwicklung vertrauenswürdiger KI verbindet technische, ethische und gesellschaftliche Aspekte zu einem multidisziplinären Ansatz, der darauf abzielt, ein dauerhaft positives Verhältnis zwischen Mensch und KI zu gewährleisten.
Quellen:
Das EU-Gesetz zur künstlichen Intelligenz
Gestaltung sicherer Systeme und Anwendungen der künstlichen Intelligenz (IFA)
Was ist vertrauenswürdige KI? (IBM)
Wie kommen Unternehmen nun zu einer vertrauenswürdigen KI?
Der erste Schritt für Unternehmen auf dem Weg zu vertrauenswürdiger KI sollte sein, Verantwortliche zu sensibilisieren und ein Bewusstsein für die Anforderungen wie Fairness, Transparenz, Datenschutz und Sicherheit zu schaffen. Es ist wichtig, dass Führungskräfte und Teams verstehen, welche ethischen und rechtlichen Vorgaben eingehalten werden müssen, damit KI-Anwendungen von Anfang an verantwortungsvoll gestaltet werden. Gleichzeitig sollte eine klare Daten- und KI-Governance etabliert werden, die für hohe Datenqualität, sichere Verarbeitung und transparente Zuständigkeiten sorgt. Nur mit dieser Grundlage können KI-Lösungen entstehen, die Vertrauen schaffen und regulatorischen Anforderungen entsprechen. Schulungen und klare Verantwortlichkeiten helfen dabei, das nötige Wissen aufzubauen und die Akzeptanz im Unternehmen zu erhöhen. So legen Unternehmen den Grundstein für den langfristigen Erfolg vertrauenswürdiger KI.