Anfang August war es soweit: Bilder, Texte und Inhalte, die mithilfe von Künstlicher Intelligenz (KI) generiert werden, müssen nun eindeutig gekennzeichnet sein.
Doch das ist nicht die einzige neue Regelung. Mit der KI-Verordnung will die Europäische Union für sichere KI-Systeme in allen Bereichen sorgen. Und KI ist längst im Alltag vieler gemeinnütziger Organisationen angekommen. Auch für sie können einige Vorgaben Bedeutung haben.
Wo KI heute schon in gemeinnützigen Organisationen genutzt wird
Organisationen nutzen KI zu unterschiedlichen Zwecken: Dazu gehören beispielsweise KI-Systeme zur Arbeitserleichterung in der Administration, der Datenanalyse oder im Projektmanagement. Ein zweiter Bereich ist die Unterstützung von Entscheidungsprozessen. In der psychosozialen Hilfe in Nürnberg wurde etwa ein Prototyp entwickelt, der Beraterinnen und Beratern Vorschläge für nächste Schritte in der Behandlung unterbreitet. Und auch in der Kommunikation nutzen viele Organisationen KI: Schnell generiert man noch ein Symbolbild für einen Blogbeitrag oder Vorschläge für den nächsten Beitrag in den Sozialen Medien. Viele nutzen KI-Systeme auch in der inhaltlichen Arbeit, etwa bei der Unterstützung bei der Recherche oder Konzeption. Weitere Beispiele für KI-Anwendungen im Ehrenamt finden Sie bei Digital vereint: KI-Anwendungen im Ehrenamt – Hype oder echter Nutzen?
Die KI-Verordnung gilt auch für euch
Für alle genannten Systeme gilt die KI-Verordnung. Sie schafft damit einerseits Sicherheit auch für gemeinnützige Organisationen. Andererseits entstehen je nach eingesetztem KI-System und Anwendungskontext Pflichten. Denn viele der Bestimmungen der KI-Verordnung gelten nicht nur für die KI-entwickelnden Anbieter – also in der Regel IT-Unternehmen – sondern auch für die Betreiber von KI-Systemen. Das sind alle, die KI-Systeme in eigener Verantwortung im beruflichen Kontext verwenden, und damit eben auch der Verein von nebenan, der einen Chatbot auf seiner Webseite hat.
Entscheidend ist allerdings, dass nicht alle KI-Systeme gleich stark reguliert werden. Die KI-Verordnung unterscheidet vier Risikoklassen, für die unterschiedlich strenge Regeln gelten:
- Inakzeptables Risiko: Gesellschaftlich schädliche Anwendungen wie Social Scoring sind verboten
- Hohes Risiko: Für Systeme in sensiblen Bereichen wie Bildung oder Personalmanagement gelten strenge Regeln
- Begrenztes Risiko: Für Chatbots im Kundendienst oder Systeme zur Generierung von Texten und anderen Inhalten gelten Transparenzpflichten
- Geringes oder kein Risiko: Für diese Systeme gibt es nur wenige Grundregeln
Hilfe dabei, in welche Risikoklasse eine Anwendung gehört, bietet beispielsweise der Compliance Checker.
KI-Kompetenzen für alle: die wichtigsten Pflichten
Die wichtigste Bestimmung, die für alle KI-Systeme gilt, ist die Pflicht, KI-Kompetenzen aufzubauen. Laut Artikel 4 der KI-Verordnung müssen auch Betreiber von KI-Systemen dafür sorgen, dass alle, die mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Das beinhaltet sowohl die Fähigkeit, das System korrekt zu bedienen als auch die Kenntnis möglicher Konsequenzen, wie z.B. Kenntnisse möglicher Fehler und Auswirkungen auf den Arbeitskontext oder Betroffene. Die Schulungen sollten an die spezifischen Bedürfnisse und Rollen der Mitarbeitenden sowie den Anwendungskontext angepasst sein. Weitere Informationen zu den Anforderungen an die KI-Kompetenz finden Sie auf der Website der Bundesnetzagentur.
Transparenzpflichten für KI-generierte Inhalte
Am 2. August traten weitere Bestimmungen der KI-Verordnung in Kraft, nämlich die Transparenzpflichten für bestimmte Systeme mit begrenztem Risiko. Dazu gehören:
- Generative KI-Systeme: Generieren auf einen Prompt hin Bilder, Video, Audio oder Text (z.B. ChatGPT, Midjourney, Vibe von Mistral)
- KI-Systeme, mit denen Nutzende direkt interagieren (z.B. Chatbots)
Im Kern bedeutet die Transparenzpflicht: KI muss gekennzeichnet sein. Bei einem Chatbot müssen die Menschen darüber informiert werden, dass sie mit einer Maschine kommunizieren. Bei Bildern, Ton und Videos braucht es eine klare Kennzeichnung, wenn diese mit KI generiert wurden. Und auch bei Texten muss die Nutzung von KI offengelegt werden, wenn dieser nicht von Menschen nochmal überprüft und bearbeitet wurde. Detaillierte Informationen findet man etwa auf dem Portal von digital verein(t).
Hohes Risiko? Umfassende Pflichten!
Die weitreichendsten Bestimmungen gelten für sogenannte Hochrisikosysteme. Dies sind Systeme, die in einen der fest definierten, besonders kritischen Anwendungsbereiche im Anhang 3 der KI-Verordnung fallen. Dazu gehören etwa KI-Systeme im Bildungsbereich oder Personalmanagement. Für diese Systeme gelten umfassende Pflichten. Die Anbieter und Betreiber müssen beispielsweise eine wirksame menschliche Aufsicht sicherstellen, eine Risikoabschätzung vornehmen und den Einsatz gut dokumentieren. Diese Regeln werden wohl nur für die gemeinnützigen Organisationen relevant sein, die in einem der kritischen Anwendungsbereiche tätig sind. In diesen Fällen wäre eine professionelle Begleitung der Umsetzung der KI-Verordnung zu empfehlen. Dafür bleibt allerdings noch etwas Zeit: Die Bestimmungen für Hochrisikosysteme werden in den meisten Fällen ab dem 2. Dezember 2027 gelten.
KI-Verordnung als Chance
Die KI-Verordnung bürdet allerdings nicht nur Pflichten auf, sondern ist für viele von uns auch eine Chance, die Interessen der Zivilgesellschaft und unserer Zielgruppen besser zu vertreten. So haben Betroffene das Recht auf Beschwerde bei vermuteten Verstößen gegen das Gesetz (Art. 85) sowie ein Recht auf eine klare und aussagekräftige Erklärung zum Einsatz eines KI-Systems (Art. 86). Hier könnte der Zivilgesellschaft die wichtige Rolle zukommen, Betroffene über diese Möglichkeiten zu informieren und sie dabei zu unterstützen, beispielsweise mit der Bundesnetzagentur als zuständiger KI-Aufsicht Kontakt aufzunehmen.
Dabei können auch die sogenannten Art. 77-Organisationen helfen. Diese sind in Deutschland die Antidiskriminierungsstellen sowie die Datenschutzbehörden, die sich für die Durchsetzung von Grundrechten stark machen und daher unter der KI-Verordnung besondere Einsichtsrechte bekommen.
Über den Autor Michael Puntschuh
Michael Puntschuh ist freiberuflicher Forscher zu Menschenrechten im digitalen Zeitalter und Vorstandsmitglied im Beyond AI Collective. Er hat Quellen für algorithmisch vermittelte Diskriminierung analysiert, zur Entwicklung eines KI-Vertrauensstandards beigetragen und leitet eine NGO für Digitalrechte in Norwegen.
