Was macht KI vertrauenswürdig?

Stellen Sie sich vor: Sie stehen morgens auf, putzen sich die Zähne mit der elektrischen Zahnbürste, steigen in die Bahn und erledigen unterwegs noch eine Überweisung per App. Ganz selbstverständlich vertrauen Sie darauf, dass die Zahnbürste nicht in Ihrem Mund explodiert, die Bahn nicht entgleist und Ihr Geld nicht irgendwo im Internet verschwindet.

Woher kommt dieses Vertrauen? Wahrscheinlich wissen Sie nicht, wie der Akku Ihrer Zahnbürste funktioniert oder wie Ihre Bank Geld digital verschickt. Warum auch: Technische Standards, Gesetze und Prüfmechanismen sorgen dafür, dass Sie diesen Technologien bedenkenlos vertrauen können. Als Gesellschaft haben wir einen Rahmen geschaffen, der das möglich macht.

Warum KI keine Zahnbürste ist

Was für die Zahnbürste gilt, soll nun auch für KI-Systeme gelten: Sie müssen zuverlässig funktionieren und sollen keinen Schaden anrichten. Allerdings ist es gar nicht so leicht, das sicherzustellen. Moderne KI-Systeme sind hochkomplex. Wie sie zu ihren Ergebnissen kommen, ist oft nicht nachvollziehbar. Manchmal ist nicht einmal offensichtlich, dass überhaupt ein KI-System im Einsatz ist. Mögliche Risiken sind deshalb schwerer abzuschätzen. Gleichzeitig wird KI in immer mehr Bereichen genutzt – auch in sensiblen, wie Pflege, Gesundheit oder Bildung. Umso wichtiger ist es, beurteilen zu können, ob ein KI-System vertrauenswürdig ist.

Wie man Vertrauen messbar macht

Aber woran macht man das fest? Welche Kriterien muss ein KI-System erfüllen, um als vertrauenswürdig zu gelten? In den vergangenen Jahren hat man sich in der Diskussion darüber auf einige grundlegende Aspekte geeinigt:

• Transparenz: Nutzerinnen und Nutzer sollen zumindest in groben Zügen verstehen können, wie das Ergebnis eines KI-Systems zustande kommt.
• Sicherheit & Robustheit: Das System soll verlässlich das tun, wofür es gedacht ist.
• Fairness: Niemand soll durch den Einsatz von KI systematisch benachteiligt werden. Das gilt insbesondere für vulnerable Gruppen wie Menschen mit Behinderungen, Menschen mit Migrationshintergrund oder auch ältere Menschen.
• Menschliche Kontrolle: Bei wichtigen Entscheidungen – etwa in der Medizin oder bei der Vergabe von Sozialleistungen – muss ein Mensch das letzte Wort haben.
• Datenschutz: Persönliche Daten sollen nicht willkürlich verarbeitet und geltende Schutzstandards eingehalten werden.

Vertrauenswürdigkeit bedeutet nicht, dass ein KI-System niemals Fehler macht. Auch gut entwickelte Systeme können versagen. Es geht vielmehr darum, als Gesellschaft auszuhandeln, wie wir mit diesem Risiko umgehen. Dafür gibt es verschiedene Ansätze.

Gesetze, Selbstverpflichtungen, Standards

Eine Möglichkeit, Vertrauen zu schaffen, sind klare Regeln. Die bisher weitreichendste Regelung ist die Europäische KI-Verordnung, die das europäische Parlament 2024 verabschiedet hat. Seit 2025 tritt sie schrittweise in allen EU-Mitgliedsstaaten in Kraft. Das Grundprinzip: Verschiedene KI-Systeme bergen unterschiedliche Risiken und brauchen deshalb unterschiedlich strenge Regeln. Systeme, die in sensiblen Bereichen eingesetzt werden – etwa bei der Kreditvergabe, im Bildungswesen oder als Bestandteil medizinischer Diagnosesysteme – gelten als „hochriskant“ und unterliegen strengen Anforderungen. Anwendungen mit geringem Risiko, wie automatische Spamfilter in E-Mail-Programmen, werden kaum bis gar nicht reguliert.

Wenn Sie mehr über die Europäische KI-Verordnung wissen wollen, empfehlen wir diesen Erklärbeitrag der NGO Algorithm Watch.

Neben Gesetzen entstehen in vielen Bereichen ethische Leitlinien und Selbstverpflichtungen. Im Journalismus etwa haben viele Redaktionen eigene Regeln für den Umgang mit KI eingeführt. Sie halten beispielsweise fest, mit welchen Programmen gearbeitet werden darf, oder ob Inhalte, die mit KI erstellt oder bearbeitet wurden, gekennzeichnet werden müssen. Solche Leitlinien bieten Journalistinnen und Journalisten Sicherheit und Orientierung im Arbeitsalltag und stärken nach außen das Vertrauen in journalistische Produkte.

Auch auf technischer Ebene lässt sich Vertrauen aufbauen. Entwicklerinnen und Entwickler können beispielsweise auf die Qualität und Ausgewogenheit ihrer Trainingsdaten achten und die Entwicklung von KI-Modellen transparent und überprüfbar machen. In Deutschland arbeitet etwa das TÜV AI.Lab an geeigneten Prüfmethoden. Künftig soll in Deutschland außerdem ein Sicherheitsinstitut für Künstliche Intelligenz dabei helfen, KI-Risiken zu bewerten.

Was die Zivilgesellschaft bewirken kann

Mindestens genauso wichtig wie Gesetze und Prüfverfahren ist eine aktive Zivilgesellschaft. Sie kann mitbestimmen, wie technische Standards und ethische Leitlinien aussehen, und wichtige Fragen in den Diskurs einbringen: Welche Werte sollen KI-Systeme widerspiegeln? Wer ist besonders schutzbedürftig? Wie können unterschiedliche Menschen in den Entwicklungsprozess einbezogen werden? Diese Perspektiven sind für eine gemeinwohlorientierte KI-Entwicklung essentiell – und kommen oft zu kurz.

Dabei haben zivilgesellschaftliche Organisationen verschiedene Möglichkeiten, wirksam zu werden. Initiativen wie Civic Coding oder das Zentrum für Vertrauenswürdige Künstliche Intelligenz (ZVKI) etwa, beschäftigen sich intensiv mit der Frage, wie die Zivilgesellschaft aktiv in die Entwicklung von KI-Normen und Standards eingebunden werden kann. Die Beteiligung an solchen Normungsprozessen scheitert bisher leider oft noch an ganz praktischen Hürden: fehlendes Geld, fehlendes Personal, mangelndes Wissen über Beteiligungsmöglichkeiten. Civic Coding lädt deshalb regelmäßig zum Austausch ein, um gemeinsam Bedarfe zu benennen, Lösungsansätze zu entwickeln und Forderungen zu formulieren.

Wenn Sie sich für das Thema Normung interessieren, finden Sie in diesem gemeinsamen Arbeitsbericht des ZVKI und Civic Coding einige Handlungsempfehlungen sowie eine Liste möglicher Ansprechpartnerinnen und Ansprechpartner.

Organisationen können aber auch auf eigene Faust aktiv werden. Etwa indem sie selbst Leitlinien verabschieden. Ein gutes Beispiel dafür ist der Code of Conduct Demokratische KI: eine freiwillige Selbstverpflichtung für einen informierten und verantwortungsbewussten Einsatz von KI in der zivilgesellschaftlichen Arbeit, die unter anderem von der BAGSO unterzeichnet wurde.

Darüber hinaus können zivilgesellschaftliche Organisationen das tun, was sie am besten können: aufklären, Orientierung bieten, niedrigschwellige Austauschformate organisieren und ein offenes Ohr für ihre Netzwerke haben. Sie können Unsicherheiten, Kritik, Fragen und Anregungen aufgreifen und auf politische Entscheidungsprozesse einwirken. Als unabhängige Akteure sind sie ein wichtiges Gegengewicht zu den Interessen kommerziell agierender Unternehmen.

Echtes Vertrauen braucht echte Mitbestimmung

Vertrauenswürdigkeit ist kein losgelöster Standard, der einseitig erfüllt werden kann. Es braucht klare Gesetze, technische Sorgfalt, eine Kultur der Transparenz sowie echte Möglichkeiten zur gesellschaftlichen Mitgestaltung. Zivilgesellschaftliche Stimmen müssen nicht nur in öffentlichen Debatten Gehör finden, sondern auch dort, wo die Regeln für KI-Entwicklung und -Einsatz entstehen. Um das zu ermöglichen, braucht es niedrigschwellige Beteiligungsformate und ein gestärktes Bewusstsein dafür, dass eine solche Beteiligung überhaupt möglich ist. Gelingt das, kann KI tatsächlich im Sinne des Gemeinwohls wirken.