KI-Verordnung mit Pflicht zur KI-Kompetenz – Was Verlage jetzt tun sollten

Mit Wirkung zum 2. Februar 2025 ist die KI-Verordnung (KI-VO) in Kraft getreten. Gemäß Artikel 4 der KI-VO sind Anbieter und Betreiber von KI-Systemen dazu verpflichtet, die Kompetenz ihrer Mitarbeitenden im Bereich KI sicherzustellen.

„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen.“

Dies trifft in hohem Maß auch auf Verlage und Medienunternehmen zu.

• Anbieter sind Unternehmen, die Produkte oder Dienstleistungen mit KI-Komponenten anbieten, auch wenn diese z. B. über eine API angebunden sind. Dazu zählen beispielsweise Fachinformationsplattformen, die ihre Inhalte mit KI durchsuchen und zusammenfassen lassen oder durch KI personalisierte Buchempfehlungen anbieten.
• Betreiber sind Unternehmen, die KI für unternehmerische Zwecke nutzen. Das umfasst bereits die Nutzung von Microsoft-Office-Programmen, in die KI-Funktionalitäten durch „Copilot“ integriert sind. Es betrifft jedoch insbesondere Verlage, die KI z. B. im Marketing, bei der Konzeptentwicklung, der Manuskriptprüfung oder im Satz einsetzen.

Was bedeutet Artikel 4 der KI-VO für Verlage, die bereits KI einsetzen oder den Einstieg planen? Welche Schritte sollten als Nächstes unternommen werden?

 

Was bedeute KI-Kompetenz?

Artikel 4 der KI-Verordnung (AI Act) legt etwas ungenau fest, bei der Kompetenzvermittlung:

„[…] ihre [gemeint sind hier die Mitarbeitenden] technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung sowie der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.“

Konkret heißt das, dass bei Schulungen und Weiterbildungen folgende Aspekte berücksichtigt werden sollen:

• Technische Kenntnisse: Die Mitarbeitenden müssen über die Funktionsweise von KI-Systemen informiert sein.
• Rechtliches Verständnis: Dies umfasst die u.a. grundlegenden Regeln der KI-VO. Für Medienunternehmen sind vor allem Urheberrecht und Datenschutz von besonderer Relevanz.
• Ein ethisches Bewusstsein für den Einsatz und die Grenzen von KI sowie für die Chancen und Risiken von KI ist ebenfalls von entscheidender Bedeutung.
• Kontext: Schulungen und Weiterbildungen müssen an den spezifischen Einsatzbereich der KI im Unternehmen angepasst sein. In Verlagen sollte sich die Schulung beispielsweise an der Wertschöpfungskette von Verlagen orientieren und typische Einsatzgebiete vermitteln.

Ergänzend zu Artikel 4 sollte Erwägungsgrund 20 berücksichtigt werden. Hier heißt es, dass Es von entscheidender Bedeutung ist, dass die Erkenntnis der Grenzen von KI-Systemen vermittelt wird. Mitarbeitende müssen dazu befähigt werden, die Einschränkungen der KI zu erkennen und sicherzustellen, dass kritische Aufgaben nicht blind der Technologie überlassen werden. Dies schließt die Fähigkeit zur kritischen Reflexion über Ergebnisse und Entscheidungen von KI-Systemen ein.

Ab Mai will die Europäische Union Leitlinien zur Definition von KI-Systemen und zur KI-Kompetenz veröffentlichen.

 

Wer kontrolliert die Umsetzung?

Für die Umsetzung und Überwachung der KI-VO wird ab August die Bundesnetzagentur verantwortlich sein, hat das Bundesministerium für Wirtschaft und Klimaschutz mitgeteilt.

Es wurde jedoch bereits kolportiert, dass die Schulung der KI-Kompetenz zunächst nicht kontrolliert wird. Auch sind keine Sanktionen bei Verstoß gegen die Kompetenzpflicht festgelegt worden. Dennoch können beispielsweise Geschäftsführer*innen im Rahmen der allgemeinen Sorgfaltspflicht haftbar gemacht werden.

Die Verantwortung für den Nachweis der durchgeführten KI-Schulungen liegt bei den Unternehmen selbst, nicht bei den Mitarbeitenden.

Fehlende Kompetenz kann aber nicht nur rechtliche Risiken bedeuten, sondern gerade bei Medienunternehmen zu Problemen im Datenschutz, Urheberrechtsverletzungen oder Mehraufwand führen. So besteht etwa die Gefahr, dass ungeschulte Mitarbeitende unabsichtlich urheberrechtlich geschützte Texte als Trainingsdaten zur Verfügung stellen, versehentlich interne Daten öffentlich verbreiten oder die Zusammenarbeit mit Autoren und Autorinnen belasten.

 

Was bedeutet das konkret für Verlage?

Verlage, die KI einsetzen, sei es zur Optimierung interner Prozesse oder im Rahmen neuer Angebote, sollten ihre Mitarbeitenden im Umgang mit generativer KI schulen. Aber KI-Kompetenz ist nicht nur aus rechtlichen Gründen sinnvoll, sondern sie ermöglicht insbesondere eine realistische Einschätzung der Technologie und einen reflektierten und verantwortungsbewussten Umgang, insbesondere in Bezug auf Datenschutz und Urheberrecht.

Das bedeutet für Verlage:

• Fachwissen aufbauen: Mitarbeitende müssen verstehen, wie KI-Modelle arbeiten, was sie leisten können und welche Grenzen es gibt.
• Rechtliche Risiken minimieren: Gerade Mitarbeitende in Verlagen sollten sich mit Themen wie Urheberrecht und Datenschutz sehr gut auskennen.
• Kontext und Einsatzgebiete kennen: die Mitarbeitenden müssen wissen, wo und wie sie KI konkret bei ihrer Arbeit einsetzen (dürfen) und wo nicht.
• Kompetenz nachweisen: Verlage müssen dokumentieren, dass Mitarbeitende gezielt geschult wurden.

Praktische Schritte zur Erfüllung der KI-VO

Um den Anforderungen von Artikel 4 gerecht zu werden, empfehle ich ein mehrstufiges Programm, das auf die verschiedenen Zielgruppen im Verlag abgestimmt ist:

1. Bestandsaufnahme:

Welche Mitarbeitenden arbeiten bereits mit KI? Welche Prozesse sind betroffen? Identifizieren Sie Wissenslücken und konkrete Schulungsbedarfe.

 

2. KI-Kompetenz für alle Mitarbeitende

Als Grundlage zum Umgang mit KI empfehle ich eine Basisschulung für alle Mitarbeitenden – die „KI-Roadshow“. In zwei- bis drei-stündigen Online-Workshop werden allen Mitarbeitenden des Verlages Grundkenntnisse zum Thema KI vermittelt. Dies umfasst u.a. technische Grundlagen, Möglichkeiten und Grenzen von generativer KI, Basics zu Urheberrecht und Datenschutz, Einsatzmöglichkeiten im Verlag und Einführung in das richtige Prompting. Das Format ist ideal, um auch verlagsinterne Vereinbarungen oder Leitlinien alle Mitarbeitenden vorzustellen und Fragen zu beantworten.

 

3. Know-how für alle, die mit KI arbeiten

In Kompaktworkshops können den Mitarbeitenden, die mit KI arbeiten (sollen) die wesentlichen Kenntnisse und Tools vermittelt werden. Neben der Vertiefung von Datenschutz und Urheberrecht steht hier vor allem der praktische Einsatz von KI-Tools wie ChatGPT, Claude, DeepLWrite, Midjourney und Adobe Firefly im Verlagsalltag im Mittelpunkt.

Die Teilnehmenden lernen mit KI-Tools sicher und verantwortungsbewusst umzugehen, lernen die Grundlagen des Prompting bei der Text- und Bildgenerierung und setzen das Gelernte in vielen praktischen Übungen konkret um.

 

4. KI-Wissen vertiefen

Deep-Dive-Workshops vertiefen das Know-how und gehen auf erweiterte Einsatzmöglichkeiten von generativer KI, z.B. komplexe Prompts, Customized GPTs oder KI-Agenten ein. Diese maßgeschneiderten Workshops richten sich i.d.R. an spezifischen Bedarfen, z.B. einer Abteilung, aus.

 

5. KI für Führungskräfte

Führungskräfte müssen KI nicht nur praktisch, sondern auch strategisch betrachten. Deshalb sind hier maßgeschneiderte Workshops zu empfehlen, die auch Themen wie Entwicklung einer KI-Strategie, Automatisierung und Implementierung von KI im Verlag sowie Geschäftsmodelle mit KI berücksichtigen.

 

Und noch zwei Tipps

Entwickeln Sie für Ihr Medienunternehmen eine Leitlinie für den Umgang mit KI. So stellen Sie sicher, dass der Umgang mit KI einheitlich und im Sinne Ihres Verlages erfolgt. Die Leitlinie sollte allen Mitarbeitenden bekannt sein und kann z. B. auch im Rahmen einer KI-Roadshow vermittelt werden.

Für Unternehmen mittlerer und größerer Größe ist die Ernennung einer KI-Beauftragten sinnvoll, die für die Umsetzung der KI-VO verantwortlich ist und als zentrale Ansprechperson für alle Fragen rund um KI dient.

 

Fazit: Jetzt handeln und KI-Kompetenz aufbauen

Die KI-VO stellt Verlage vor neue Herausforderungen, eröffnet jedoch auch Chancen. Unternehmen, die frühzeitig in gezielte KI-Weiterbildung investieren, sichern sich nicht nur die Compliance, sondern sie bauen neue Kompetenzen auf und machen den Verlag ein Stück zukunftssicherer.

Als Expertin für KI in Medienunternehmen unterstütze ich Sie dabei, die Anforderungen von Artikel 4 KI-VO praxisnah umzusetzen und Ihre Mitarbeitenden gezielt zu schulen.

Gerne können wir einen Termin für ein Gespräch vereinbaren, um eine Grundlage für einen verantwortungsvollen und erfolgreichen KI-Einsatz in Ihrem Verlag schaffen.

 

Von Martina Steinröder