Künstliche Intelligenz verändert die Gesellschaft in hohem Tempo und beeinflusst zunehmend medizinische Diagnosen, Kreditentscheidungen, Personalauswahl und Strafverfolgung. Die zentrale Frage lautet, wie viel Vertrauen in KI-Systeme gerechtfertigt ist und welche Voraussetzungen für echte Vertrauenswürdigkeit erfüllt sein müssen.
Was bedeutet „vertrauenswürdige KI”?
Der Begriff wirkt zunächst einfach, meint im Kontext von KI jedoch weit mehr als alltägliches Vertrauen. Laut der EU-Expertengruppe (HLEG-KI) muss eine vertrauenswürdige KI drei Kernkomponenten erfüllen: erstens Rechtmäßigkeit, also die Einhaltung europäischer und nationaler Gesetze; zweitens ethisches Handeln im Sinne der aktiven Sicherstellung ethischer Grundsätze; drittens Robustheit, also technische und soziale Stabilität auch bei unbeabsichtigtem Schaden. Erst die gleichzeitige Erfüllung aller drei Komponenten begründet echte Vertrauenswürdigkeit.
Die sieben Minimalanforderungen
Die EU-Hochrangige Expertengruppe definierte sieben gleichrangige Anforderungen, die über den gesamten Lebenszyklus eines Systems erfüllt sein müssen:
1. Vorrang menschlichen Handelns und Aufsicht
KI-Systeme dürfen die menschliche Entscheidungsfreiheit nicht unterminieren. Nutzer müssen Empfehlungen kritisch hinterfragen, verstehen und ablehnen können. Die menschliche Autonomie bleibt vorrangig.
2. Technische Robustheit und Sicherheit
Widerstandsfähigkeit gegen Angriffe, Datenverlust und unvorhergesehene Fehler ist zentral. Erforderlich sind Sicherheitspläne sowie ein hohes Maß an Genauigkeit und Reproduzierbarkeit.
3. Datenschutz und Datenqualität
Privatsphäre, Datenqualität und die Einhaltung der DSGVO sind obligatorisch. Systeme dürfen nicht auf veralteten, unvollständigen oder verzerrten Daten trainiert werden.
4. Transparenz
Erklärbarkeit ist keine Kür, sondern Pflicht. Nutzer müssen nachvollziehen können, wie ein System funktioniert und auf welcher Datenbasis Entscheidungen getroffen werden.
5. Vielfalt, Nichtdiskriminierung und Fairness
KI darf bestehende Ungleichheiten nicht reproduzieren oder verstärken. Besonders kritisch sind Algorithmen im Einsatz bei Bewerbungen, Kreditvergaben und polizeilichen Maßnahmen.
6. Gesellschaftliches und ökologisches Wohlergehen
KI muss dem Gemeinwohl dienen. Ökologische Nachhaltigkeit und demokratische Grundwerte sind zu berücksichtigen.
7. Rechenschaftspflicht
Verantwortung muss klar zuordenbar sein. Rückverfolgbarkeit, Risikobewertungen und Rechtsmittel sind unverzichtbar.
Warum die Umsetzung anspruchsvoll ist
Die größte Herausforderung liegt in der Definition von Ethik und Fairness, die kulturell und subjektiv geprägt sind. Individuelle Fairness kann kollektiver Gerechtigkeit widersprechen: Algorithmen können für einzelne Personen fair erscheinen, Gruppen jedoch systematisch benachteiligen. Dieses Phänomen wird als Algorithmic Bias bezeichnet und wurde von Forschern unter anderem beim Gender Bias in Bilderkennungssystemen nachgewiesen.
Von der Theorie zur Praxis: ALTAI und der AI Act
Die EU hat mit dem ALTAI (Assessment List for Trustworthy AI) eine detaillierte Checkliste zur Selbstbewertung von KI-Systemen geschaffen. Der EU AI Act ergänzt dies durch eine risikobasierte Regulierung, die von minimalem bis inakzeptablem Risiko reicht; Systeme wie Social Scoring oder manipulative Anwendungen sind demnach verboten.
Fazit
Regulierungen sind wichtig, ersetzen jedoch keine kontinuierliche Wachsamkeit. Vertrauenswürdige KI erfordert menschliche Aufmerksamkeit, fortlaufende ethische Reflexion und eine offene gesellschaftliche Debatte. Die Frage nach vertrauenswürdiger KI führt letztlich zu einer grundsätzlicheren Frage: Was ist gerecht? Diese Frage ist nicht rein technischer, sondern zutiefst gesellschaftlicher Natur.