KI-VO: Was Organisationen bei KI-generierten Inhalten beachten müssen

Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 der europäischen KI-Verordnung (KI-VO). Die Europäische Kommission hat hierzu am 20. Juli 2026 finale Leitlinien veröffentlicht, die insbesondere konkretisieren, wann Nutzer über den Einsatz von KI informiert und wann KI-generierte oder manipulierte Inhalte als solche gekennzeichnet werden müssen. Die neuen Anforderungen können auch für gemeinnützige und andere Non-Profit-Organisationen relevant sein, sofern diese entsprechende KI-Systeme einsetzen – beispielsweise Chatbots auf ihrer Website nutzen oder mit generativer KI Texte, Bilder, Videos oder andere Inhalte für ihre Öffentlichkeitsarbeit erstellen.

Besonders praxisrelevant ist zunächst die Frage, ob für Nutzer hinreichend deutlich erkennbar ist, dass sie mit einem KI-System interagieren. Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen grundsätzlich sicherstellen, dass die Betroffenen spätestens zu Beginn der ersten Interaktion hierüber informiert werden. Dies kann auch Organisationen betreffen, die etwa einen Chatbot für den Mitglieder- oder Spenderservice selbst anbieten bzw. unter eigenem Namen einsetzen. Bei der Nutzung externer KI-Lösungen sollte daher auch geprüft werden, welche Rolle die Organisation nach der KI-VO einnimmt und ob die erforderliche Information im konkreten Einsatz tatsächlich erfolgt. Ein lediglich an versteckter Stelle platzierter Hinweis genügt hierfür nicht. Eine Information ist nur dann entbehrlich, wenn für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts ohnehin offensichtlich ist, dass sie mit einem KI-System interagiert.

Erhöhte Aufmerksamkeit ist auch bei KI-generierten Inhalten erforderlich. Anbieter entsprechender KI-Systeme müssen dafür sorgen, dass künstlich erzeugte oder manipulierte Bild-, Audio-, Video- und Textinhalte in einem maschinenlesbaren Format gekennzeichnet werden. Für Organisationen, die solche Systeme lediglich einsetzen, sind insbesondere die zusätzlichen Offenlegungspflichten für sogenannte Deepfakes von Bedeutung. Der Begriff wird dabei weit verstanden: Eine Täuschungsabsicht ist ebenso wenig erforderlich wie die Darstellung einer tatsächlich existierenden Person. Auch vollständig künstlich erzeugte Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse können nach dem Verständnis der Kommission erfasst sein, wenn sie etwas darstellen, das plausibel existieren kann oder hätte existieren können, und für das Publikum fälschlicherweise authentisch oder wahr erscheinen können.

Dies kann gerade für die Öffentlichkeitsarbeit und das Fundraising von NPOs praktische Konsequenzen haben. Werden beispielsweise fotorealistische Personen oder Szenen mit generativer KI für eine Kampagne erzeugt, kann eine entsprechende Kennzeichnung erforderlich sein. Auf die erleichterten Anforderungen für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke können sich klassische Werbeinhalte nach dem Verständnis der Kommission grundsätzlich nicht allein wegen ihrer kreativen Gestaltung berufen. Eindeutig unrealistische oder fantasievolle Darstellungen fallen demgegenüber grundsätzlich nicht unter den Deepfake-Begriff. Gleiches gilt für rein technische Bearbeitungen wie Farbkorrekturen oder Beleuchtungsanpassungen, soweit Bedeutung und Substanz des Inhalts nicht verändert werden.

Auch beim Einsatz generativer KI für Texte können Transparenzpflichten bestehen. Anders als bei Deepfakes gilt jedoch keine allgemeine Kennzeichnungspflicht für KI-generierte Texte. Erfasst sind vielmehr Texte, die mit Hilfe eines KI-Systems erzeugt und veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Hierzu können beispielsweise politische, gesellschaftliche, wirtschaftliche, wissenschaftliche oder kulturelle Themen gehören, die Gegenstand öffentlicher Debatten sind.

Auch in diesen Fällen kann eine Kennzeichnung entfallen, wenn der Inhalt vor der Veröffentlichung einer substantiellen menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Ein lediglich formales Überlesen oder eine bloße Rechtschreib- und Grammatikprüfung genügt hierfür nach den Leitlinien der Kommission nicht.

Für NPOs empfiehlt es sich daher, bestehende KI-Anwendungen und insbesondere die internen Kommunikations- und Redaktionsprozesse auf die neuen Anforderungen hin zu überprüfen. Dabei sollte nicht nur geklärt werden, wo KI bereits eingesetzt wird, sondern auch, wer innerhalb der Organisation die Verantwortung für die Prüfung und Veröffentlichung KI-generierter Inhalte übernimmt. Besondere Aufmerksamkeit ist zudem geboten, wenn sich KI-Anwendungen an Kinder richten oder wenn Emotionserkennungs- bzw. biometrische Kategorisierungssysteme eingesetzt werden; für Letztere enthält Art. 50 Abs. 3 KI-VO eine eigenständige Informationspflicht. Diese Informationspflicht gilt natürlich nur dort, wo diese Systeme überhaupt zulässigerweise eingesetzt werden. In bestimmten sensiblen Bereichen, wie beispielsweise am Arbeitsplatz oder in Bildungseinrichtungen ist der Einsatz von KI-Emotionserkennung gemäß Art. 5 KI-VO grundsätzlich verboten.

Die Transparenzpflichten gelten bereits seit dem 2. August 2026. Verstöße können nach den im Informationsblatt dargestellten Vorgaben mit erheblichen Bußgeldern geahndet werden. Eine rückwirkende Kennzeichnung von Inhalten, die vor dem 2. August 2026 erstellt wurden, ist nach den Leitlinien hingegen nicht erforderlich. Ergänzend besteht die Möglichkeit, sich dem freiwilligen Verhaltenskodex der Europäischen Kommission zur Transparenz KI-generierter Inhalte anzuschließen.

Einen ausführlicheren Überblick über die einzelnen Transparenzpflichten, die Kennzeichnung von Deepfakes, bestehende Ausnahmen sowie konkrete Hinweise zur Umsetzung haben wir in unserem Informationsblatt „KI-VO: Neue Transparenzpflichten ab 2. August 2026“ zusammengestellt.

Falls Sie Fragen zum Einsatz von KI in Ihrer gemeinnützigen oder sonstigen Non-Profit-Organisation und zu den damit verbundenen rechtlichen Anforderungen haben, wenden Sie sich gerne an unsere Expertinnen und Experten SCHOMERUS.

Bildnachweis: Supatman/Stock-Fotografie-ID:2198839292