Ob Nachhaltigkeitsbericht, Klimastrategie oder ESG-Update: Unternehmen setzen generative KI zunehmend ein, um Daten zusammenzufassen und Texte zu erstellen. Der EU AI Act macht daraus eine Compliance-Frage. Allerdings muss keineswegs jeder KI-unterstützte Text gekennzeichnet werden. In seinem Gastbeitrag erläutert Michael Winter, dass in erster Linie entscheidet, wie der Inhalt geprüft und freigegeben wurde.

Seit dem 2. August 2026 gelten die Transparenzpflichten aus Artikel 50 des EU AI Acts. Für Kommunikations-, Nachhaltigkeits- und Investor-Relations-Abteilungen ist insbesondere Absatz 4 relevant. Danach müssen Unternehmen grundsätzlich offenlegen, wenn sie mithilfe eines KI-Systems Texte erzeugen oder bearbeiten, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Diese Definition ist weit gefasst. Nach den Leitlinien der EU-Kommission gehören dazu unter anderem wirtschaftliche und finanzielle Entwicklungen, Verbrauchersicherheit, öffentliche Gesundheit und Umweltschutz. Nachhaltigkeitsthemen stehen damit regelmäßig im öffentlichen Interesse. Die Leitlinien nennen ausdrücklich Nachhaltigkeitsberichte börsennotierter Unternehmen und Unternehmensberichte mit Investor-Informationen als Anwendungsbeispiele. Auch Nachhaltigkeitsaussagen in Werbung und Produktbeschreibungen können erfasst sein.

Damit wird Artikel 50 zu einem wichtigen Thema für das ESG-Reporting – allerdings nicht zu einer pauschalen Kennzeichnungspflicht für jeden Text, bei dem KI zum Einsatz kam.

Vier Voraussetzungen für die Kennzeichnungspflicht

Ein KI-unterstützter Text muss nach Artikel 50 Absatz 4 grundsätzlich gekennzeichnet werden, wenn vier Voraussetzungen zusammenkommen:

1. Ein KI-System hat den Text erzeugt oder inhaltlich bearbeitet.
2. Der Text wird veröffentlicht.
3. Die Veröffentlichung soll die Öffentlichkeit informieren.
4. Sie betrifft eine Angelegenheit von öffentlichem Interesse.

„Veröffentlicht“ ist ein Text, wenn er einer unbestimmten und hinreichend großen Zahl von Personen zugänglich gemacht wird. Das gilt etwa für Unternehmenswebsites, öffentlich zugängliche Berichte, Pressemitteilungen oder Social-Media-Beiträge. Interne Dokumente, Texte im Intranet oder individuelle Beratung für einzelne Empfänger gelten dagegen grundsätzlich nicht als Veröffentlichung im Sinne dieser Vorschrift.

Auch reine Rechtschreibkorrekturen, Formatierungen oder geringfügige sprachliche Glättungen sind anders zu bewerten als die Generierung neuer Inhalte. Sobald KI jedoch Aussagen zusammenfasst, Absätze neu formuliert, Argumentationen entwickelt oder die inhaltliche Aussage verändert, kann eine KI-Generierung oder -Bearbeitung im Sinne des AI Acts vorliegen.

Warum ESG-Kommunikation besonders häufig betroffen ist

Die Themenpalette der Nachhaltigkeitskommunikation überschneidet sich in weiten Teilen mit den von der EU-Kommission genannten Angelegenheiten von öffentlichem Interesse. Dazu zählen beispielsweise:

• Klimaziele und Transformationspläne
• Treibhausgasemissionen und Dekarbonisierung
• Energie- und Ressourcenverbrauch
• Biodiversität und Umweltschutz
• Lieferketten und Menschenrechte
• Arbeitssicherheit und soziale Standards
• nachhaltige Finanzierungen und Investitionen
• Nachhaltigkeitsrisiken mit Auswirkungen auf Geschäftsmodell und Unternehmenswert

Das bedeutet nicht, dass ausnahmslos jeder ESG-Text unter Artikel 50 fällt. Ein rein interner Entwurf oder eine individuelle Auskunft an einen Geschäftspartner ist in der Regel nicht erfasst. Öffentlich zugängliche Nachhaltigkeitsberichte, ESG-Webseiten, Pressemitteilungen, Investor-Relations-Inhalte und Social-Media-Beiträge werden die Voraussetzungen dagegen häufig erfüllen.

Besonders relevant ist die Regelung bei automatisierten Publikationsprozessen: etwa wenn ein KI-System aus ESG-Daten eigenständig Textbausteine erstellt, Berichte zusammenfasst oder regelmäßig Nachhaltigkeitsmeldungen auf einer Website veröffentlicht.

Die entscheidende Ausnahme: menschliche Prüfung und redaktionelle Verantwortung

Für die Unternehmenspraxis enthält Artikel 50 Absatz 4 eine wichtige Ausnahme. Eine Kennzeichnung ist nicht erforderlich, wenn zwei Bedingungen kumulativ erfüllt sind:

• Der KI-generierte oder KI-bearbeitete Text wurde einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen.
• Eine natürliche oder juristische Person trägt die redaktionelle Verantwortung für die Veröffentlichung.

Die EU-Kommission nennt ausdrücklich einen KI-generierten Nachhaltigkeitsbericht auf der Website eines börsennotierten Unternehmens als Beispiel: Wurde dieser von fachlich zuständigen Personen – etwa aus Nachhaltigkeit, Compliance, Recht oder Investor Relations – inhaltlich geprüft und übernimmt das Unternehmen die redaktionelle Verantwortung, kann die Ausnahme greifen.

Damit stellt der AI Act nicht allein darauf ab, ob KI verwendet wurde. Ausschlaggebend ist vielmehr, ob der Text hinreichend menschlich geprüft wurde und eine verantwortliche Stelle die redaktionelle Verantwortung für die Veröffentlichung trägt.

Ein schnelles „Okay“ genügt nicht

Die Anforderungen an die menschliche Prüfung gehen über ein oberflächliches Gegenlesen hinaus. Nach den Leitlinien muss sich eine fachlich geeignete Person bewusst mit dem Inhalt auseinandersetzen. Zur Prüfung gehören mindestens die sachliche Richtigkeit sowie – soweit relevant – die Vertrauenswürdigkeit der verwendeten Quellen.

Nicht ausreichend sind insbesondere:

• eine reine Rechtschreib- oder Grammatikkontrolle,
• eine ausschließlich formale Prüfung,
• eine automatisierte Kontrolle durch ein weiteres KI-System,
• ein flüchtiges Abzeichnen ohne inhaltliche Auseinandersetzung,
• eine redaktionelle Richtlinie, die zwar existiert, aber nicht praktisch angewendet wird.

Wichtig ist zudem die Reihenfolge: Wird der Text nach der menschlichen Freigabe noch einmal substanziell durch ein KI-System verändert, greift die Ausnahme nicht mehr ohne Weiteres. Die geänderte Fassung muss erneut geprüft und freigegeben werden.

Wann ist eine Kennzeichnung erforderlich?

Eine Kennzeichnung wird vor allem dann notwendig, wenn KI-generierte ESG-Inhalte ohne hinreichende menschliche Prüfung veröffentlicht werden. Denkbar sind beispielsweise:

• automatisch erstellte ESG-Meldungen auf einer Unternehmenswebsite,
• KI-generierte Zusammenfassungen eines Nachhaltigkeitsberichts ohne fachliche Freigabe,
• automatisiert erzeugte Social-Media-Posts zu Klimazielen,
• KI-generierte Erläuterungen von Emissionsdaten,
• automatisch veröffentlichte Texte zu Kontroversen oder Lieferkettenrisiken,
• durch KI formulierte Nachhaltigkeitsaussagen in Produktbeschreibungen, die nicht substanziell geprüft wurden.

In diesen Fällen muss klar und wahrnehmbar offengelegt werden, dass der Text künstlich erzeugt oder bearbeitet wurde. Die Information darf nicht lediglich in Metadaten oder versteckt in allgemeinen Nutzungsbedingungen stehen. Sie muss für die Leser ohne besondere technische Hilfsmittel erkennbar sein.

Eine mögliche Formulierung wäre:

Dieser Text wurde mithilfe eines KI-Systems erstellt und ohne vollständige redaktionelle Prüfung veröffentlicht.

Welche Formulierung im Einzelfall angemessen ist, hängt vom jeweiligen Einsatz, dem Umfang der KI-Bearbeitung und dem Veröffentlichungskontext ab.

Was Unternehmen jetzt organisatorisch regeln sollten

Die praktikabelste Antwort auf Artikel 50 ist nicht die pauschale Kennzeichnung aller KI-unterstützten Inhalte. Sinnvoller ist ein belastbarer redaktioneller Prozess. Unternehmen sollten insbesondere:

1. KI-Einsatz dokumentieren: Festhalten, bei welchen Inhalten und in welchem Umfang generative KI eingesetzt wurde.
2. Verantwortlichkeiten bestimmen: Für jeden veröffentlichten ESG-Inhalt sollte eine fachlich und redaktionell verantwortliche Stelle benannt sein.
3. Prüfkriterien definieren: Dazu gehören Zahlen, Quellen, Methodik, Konsistenz, regulatorische Anforderungen und mögliche Greenwashing-Risiken.
4. Freigaben nachweisbar machen: Zeitpunkt, Prüfer und freigegebene Fassung sollten dokumentiert werden.
5. Änderungen nach der Freigabe kontrollieren: Jede substanzielle KI-Bearbeitung muss einen neuen Prüfprozess auslösen.
6. Kennzeichnungsregeln festlegen: Für Inhalte ohne ausreichende menschliche Prüfung sollte es verbindliche Formulierungen und Platzierungsregeln geben.
7. Mitarbeitende schulen: Kommunikation, Nachhaltigkeit, Investor Relations, Marketing, Compliance und Recht müssen die Abgrenzung kennen.

Dabei sollten Unternehmen auch zwischen zwei unterschiedlichen Pflichten unterscheiden: Anbieter generativer KI-Systeme müssen deren Ausgaben nach Artikel 50 Absatz 2 grundsätzlich maschinenlesbar kennzeichnen und erkennbar machen. Unternehmen, die solche Systeme einsetzen und bestimmte Texte veröffentlichen, treffen dagegen die hier behandelte Offenlegungspflicht nach Artikel 50 Absatz 4. Eine technische Markierung durch den Anbieter ersetzt eine gegebenenfalls erforderliche sichtbare Information der Öffentlichkeit nicht.

Redaktionelle Kontrolle wird zum Compliance-Prozess

Für ESG-Abteilungen liegt die eigentliche Herausforderung daher weniger in der Frage, ob generative KI überhaupt genutzt werden darf. Entscheidend ist, wie aus einem KI-Entwurf eine verantwortete Unternehmenspublikation wird.

Ein Nachhaltigkeitsbericht, der mit Unterstützung von KI erstellt, anschließend aber von den zuständigen Fachbereichen sorgfältig geprüft und unter klarer redaktioneller Verantwortung veröffentlicht wird, muss nach den Leitlinien grundsätzlich nicht allein wegen des KI-Einsatzes gekennzeichnet werden. Werden ESG-Texte dagegen automatisiert und ohne belastbare menschliche Kontrolle publiziert, ist ihre künstliche Herkunft offenzulegen.

Das schafft einen starken Anreiz für klare Prozesse: KI kann die Erstellung von ESG-Inhalten beschleunigen – Verantwortung, Faktenprüfung und Freigabe bleiben jedoch beim Unternehmen. Gerade bei Nachhaltigkeitsaussagen ist das nicht nur eine Frage des AI Acts. Fehlerhafte oder irreführende Aussagen können zugleich rechtliche Risiken – etwa im Verbraucher- und Kapitalmarktrecht – sowie Greenwashing- und Reputationsrisiken auslösen.

Die Transparenzpflichten sind deshalb mehr als eine zusätzliche Kennzeichnungsvorschrift. Sie machen eine zentrale Governance-Frage sichtbar: Wer prüft einen ESG-Text, wer gibt ihn frei – und wer steht am Ende für seinen Inhalt ein?

Hinweis: Der Beitrag gibt einen allgemeinen Überblick und ersetzt keine rechtliche Prüfung des konkreten Einzelfalls. Verstöße gegen Artikel 50 können nach dem AI Act grundsätzlich mit Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist.

Über den Autor

Michael Winter ist Senior Solutions Specialist bei Notified und berät Unternehmen an der Schnittstelle von PR, Investor Relations und digitaler Kommunikation. Sein Fokus liegt auf der Frage, wie Sichtbarkeit, Vertrauen und Relevanz in einer KI-getriebenen Medienlandschaft entstehen – und wie Technologie Kommunikationsarbeit strategisch unterstützen kann.