Carina Zehetmaier von PaiperOne: “AI Literacy ist das neue Must-have für Unternehmen“
Carina Zehetmaier ist Co-Founderin und Co-CEO bei PaiperOne und Mitglied des österreichischen KI-Beirats, der die Bundesregierung in allen Fragen zur Künstlichen Intelligenz berät. In diesem Gastkommentar beschäftigt sie sich mit AI Literacy für Unternehmen.
Künstliche Intelligenz (KI) ist längst kein Zukunftsthema mehr – sie ist hier, sie verändert unsere Arbeitswelt und unseren Alltag. Mit dem AI Act der EU, der im August 2024 in Kraft getreten ist, gibt es nun klare Regeln für die Nutzung von KI in der EU. Heute ist es soweit: Ab dem 2. Februar 2025 treten die ersten verbindlichen Anforderungen des EU AI Acts, dem Gesetz zur Regulierung künstlicher Intelligenz, in Kraft.
- Bestimmte KI-Anwendungen sind verboten.
- Die Personen, die mit KI-Systemen arbeiten, müssen über die notwendigen KI-Kompetenzen verfügen.
Dementsprechend wächst der Druck auf Unternehmen und Organisationen, sich mit KI-Kompetenzen auseinanderzusetzen. Doch was bedeutet das konkret? Und wie können wir sicherstellen, dass Menschen in Wirtschaft, Verwaltung und Gesellschaft über das notwendige Wissen verfügen, um KI verantwortungsvoll und effektiv einzusetzen?
1. Welche Unternehmen sind betroffen?
Der AI Act verpflichtet “Anbieter und Betreiber von KI-Systemen”, geeignete Maßnahmen zu ergreifen. Das betrifft Unternehmen und Organisationen, die KI-Systeme entwickeln, einsetzen oder in ihren Arbeitsprozessen nutzen. Besonders im Fokus stehen Unternehmen, die Hochrisiko-KI-Systeme einsetzen oder KI-basierte Entscheidungen in sensiblen Bereichen wie dem Gesundheitswesen, dem Finanzsektor oder der öffentlichen Verwaltung treffen. Aber auch Firmen, die generative KI-Tools wie ChatGPT oder Copilot in ihre Prozesse integrieren oder ihrer Belegschaft zur Verfügung stellen, müssen diese Personen gezielt im Umgang mit KI-Kompetenzen schulen.
2. Wer muss geschult werden?
KI ist allgegenwärtig, oft ohne dass wir es bewusst wahrnehmen. Die Nutzung von Suchmaschinen, personalisierten Empfehlungen, automatisierten Übersetzungen oder Bild- und Textgeneratoren – all das basiert auf KI. Daher ist es für Unternehmen essenziell, sich bewusst zu machen, dass der Einsatz von KI nicht nur bei spezialisierten Anwendungen relevant ist, sondern auch in alltäglichen digitalen Werkzeugen stattfindet. Laut Artikel 4 des AI Act müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Dabei sollten unterschiedliche Schulungsbereiche berücksichtigt werden:
1. Awareness / Schulung zu internen KI-Richtlinien: Dies umfasst einen Verhaltenskodex oder eine IT-Strategie und sollte potenziell die gesamte Belegschaft umfassen.
2. Awareness-Schulung für die Anwender von generativen KI-Tools: Ein großer Teil der Mitarbeitenden, der potenziell ChatGPT, Copilot, Midjourney, etc. nutzt oder nutzen könnte, sollte in den verantwortungsvollen Umgang mit diesen Technologien eingewiesen werden.
3. Spezielle Schulung zu einer spezifischen KI-Anwendung: Eine kleinere Gruppe von Personen, die in Projektteams arbeiten oder spezifische KI-Systeme für definierte Anwendungsfälle nutzen, benötigt eine vertiefte Schulung.
Darüber hinaus müssen Unternehmen sicherstellen, dass nicht nur das Personal, sondern auch “andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind,” über ein ausreichendes Maß an KI-Kompetenz verfügen. Dazu können beispielsweise ehrenamtlich Unterstützende gehören.
Fazit: Alle Personen, die KI-Systeme im beruflichen Kontext einsetzen, müssen bezüglich der für sie relevanten KI-Anwendungen geschult werden.
OpenAI launcht o3-mini, sein bisher günstigstes, aber auch gefährlichstes AI-Modell
3. Wie sollte die Schulung aussehen?
Betreiber und Anbieter sind verpflichtet, “Maßnahmen“ zu ergreifen, damit ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, “über ein ausreichendes Maß an KI-Kompetenz verfügen“. Dazu gehören Kenntnisse über den sicheren Betrieb, die rechtlichen und ethischen Anforderungen sowie das Verständnis von potenziellen Risiken. Der Gesetzgeber gibt zwar keine detaillierten Vorgaben zu den konkreten Maßnahmen, erwartet jedoch, dass Unternehmen im Rahmen ihrer Sorgfaltspflicht geeignete Schulungs- und Qualifizierungsmaßnahmen umsetzen.
Je nach Art des eingesetzten KI-Systems oder generativem KI-Modells und dessen Risikostufe, müssen verschiedene Faktoren berücksichtigt werden: die technischen Kenntnisse der Mitarbeitenden, ihre Erfahrung, ihre Ausbildung und bereits absolvierte Schulung sowie der Kontext, in dem die KI zum Einsatz kommt, einschließlich der betroffenen Personen oder Zielgruppen. Laut Erwägungsgrund 20 des AI Acts bedeutet KI-Kompetenz mehr, als nur technisches Wissen zu haben. Sie ist ein interdisziplinäres Feld und umfasst zusätzlich rechtliche, ethische und gesellschaftspolitische Aspekte.
Konkret heißt das: Wer einen Chatbot entwickelt, muss sich mit anderen Herausforderungen auseinandersetzen als ein Unternehmen, das diesen Chatbot nur in seinen Arbeitsabläufen nutzt. Eine effektive KI-Schulung sollte daher praxisnah, interaktiv und auf die jeweiligen Bedürfnisse der Zielgruppe und Anwendungsbereiche zugeschnitten sein.
Die teilnehmenden Personen müssen danach über ein ausreichendes Maß an Kenntnissen verfügen, um die übertragenen Aufgaben richtig und zuverlässig abwickeln zu können sowie fehlerhafte Ergebnisse zu erkennen. KI-Kompetenz bezieht sich also jeweils auf den konkreten Anwendungsbereich beim KI-nutzenden Unternehmen.
4. Was passiert, wenn ich meine Belegschaft nicht schule?
Obwohl der AI Act selbst keine verwaltungsstrafrechtlichen Sanktionen für die Nichteinhaltung von Artikel 4 der KI-Verordnung vorsieht, können sich in verschiedenen Konstellationen dennoch rechtliche Konsequenzen ergeben. Fehlende Mitarbeiterschulungen sind in der Regel auch unabhängig vom AI Act gemäß § 1313a ABGB dem Unternehmen zurechenbar. Das ergibt sich auch aus dem Verbandsverantwortlichkeitsgesetz in Österreich. Hier besagt §3, dass Unternehmen für die Handlungen ihrer Belegschaft haftbar gemacht werden können, wenn diese Taten zugunsten des Unternehmens erfolgt sind oder wenn dabei Pflichten verletzt wurden, die das Unternehmen betreffen.
Zudem können Mitarbeitende durch den unbedachten Einsatz von KI-Systemen schwerwiegende Verstöße gegen Gesetze begehen, etwa indem sie personenbezogene Daten in generative KI-Modelle hochladen und dadurch Datenschutzverletzungen verursachen, urheberrechtlich geschütztes Material ohne Berechtigung nutzen oder Geschäftsgeheimnisse ungewollt preisgeben. So kann auch der Einsatz von leicht verfügbaren Textgeneratoren wie ChatGPT oder Copilot in bestimmten Szenarien sogar als Hochrisiko-KI-Anwendung gemäß EU AI Act eingestuft werden.
Ein Beispiel wäre, wenn im Recruiting Lebensläufe in ein amerikanisches KI-Tool hochgeladen werden, um die Kandidat:innen zu bewerten. Dies wäre ein Hochrisiko KI Use Case, für das auch Strafen vorgesehen sind. Falls der Schaden durch mangelnde KI-Kompetenz entstanden ist, weil keine Schulungsmaßnahmen nachgewiesen werden können, wird sich das auf ein etwaiges Strafmaß sehr wohl auswirken.
Neben rechtlichen Folgen drohen Unternehmen dadurch auch erhebliche Reputationsschäden, die langfristig das Vertrauen von Kunden und Partnern untergraben können.
Praxistipp: Mit dem steigenden Einsatz von KI im Unternehmen handelt es sich um einen Change Prozess, der durch Schulungen und Austauschformate begleitet werden sollte. KI löst viele Ängste bei der Belegschaft – uns Menschen generell – aus und diese müssen fachgerecht adressiert werden. Dabei werden gegenwärtige Herausforderungen bewusst diskutiert und mögliche Weiterbildungsmaßnahmen für Zukunftsjobs aufgezeigt und das richtige Mindset geschaffen. Für die zukünftige Wettbewerbsfähigkeit von Unternehmen ist dies zentral.
5. PaiperOne bietet eine Lösung
Genau hier setzen wir von PaiperOne an. Wir schulen Belegschaften seit Jahren auf den rechtskonformen und vertrauensvollen Einsatz von KI in Organisationen und haben nun unser validiertes Lernkonzept in eine AI Education Plattform transferiert, die sich gezielt auf die Vermittlung von KI Kenntnissen in Hinblick auf die gesetzlichen Vorgaben des EU AI Acts konzentriert. Unser Ansatz kombiniert On-Demand-Inhalte zu technischen, rechtlichen und ethischen Aspekten der KI mit Live-Calls, um interaktives und praxisnahes Lernen zu ermöglichen. Unternehmen, die heute in KI-Kompetenzen investieren, sichern sich langfristig Wettbewerbsvorteile und minimieren Risiken.
Bei PaiperOne sind wir überzeugt: KI-Kompetenz ist der Schlüssel für eine erfolgreiche und nachhaltige Digitalisierung. Mit unserer Plattform möchten wir dazu beitragen, dass KI nicht nur wenigen Expert:innen vorbehalten bleibt, sondern von vielen Menschen verantwortungsbewusst und rechtskonform genutzt werden kann. Denn nur wenn Wissen und Technologie Hand in Hand gehen, entfaltet KI ihr volles Potenzial. Die Zukunft gehört denen, die sie verstehen – und mitgestalten.
