Start: 14.07.2026
6 Std
Künstliche Intelligenz, wie ChatGPT, bietet vor allem im Arbeitsalltag, im Büro und besonders auch als neues Lernmedium in der Ausbildung viele spannende Möglichkeiten. Doch beim Einsatz von ChatGPT und Co gibt es wichtige rechtliche Regeln zu beachten. Insbesondere der EU AI Act, eine neue Verordnung zur Künstlichen Intelligenz (KI), legt fest, wie und wo KI eingesetzt werden darf – und wo nicht. Bereits die Bußgelder für Anwenderinnen und Anwender können je nach Verstoß sehr hoch sein.
Der EU AI Act ist ein umfangreiches Gesetzesvorhaben, das für den Umgang mit künstlicher Intelligenz in den Mitgliedsstaaten der europäischen Union Rahmenbedingungen vorgibt.
Seit Februar 2025 gelten die ersten Regelungen des Gesetzes verbindlich. Weitere werden im Zeitverlauf folgen. Diese Regelungen haben auch ganz konkrete Auswirkungen für die Nutzung von Künstlicher Intelligenz im Ausbildungsalltag. Künstliche Intelligenz wird nach dem EU AI ACT in verschiedene Risikokategorien einteilt:
Ziel des Gesetzes ist es, die Chancen von KI zu fördern und gleichzeitig die Rechte der Menschen, wie Datenschutz und Sicherheit, zu schützen. Für Ausbilderinnen und Ausbilder bedeutet dies, dass nicht alle denkbar möglichen Anwendungsszenarien von Tools wie ChatGPT in der Ausbildung erlaubt sind.
Es gibt bestimmte Anwendungen, die laut dem EU AI Act verboten sind, weil sie die Rechte von Menschen gefährden könnten. Für Ausbilderinnen ist es besonders wichtig, auf folgende Punkte zu achten:
Einige Anwendungsbereiche von KI, wie ChatGPT, gelten als hochriskant, vor allem im Bereich Personalwesen. Bei den folgenden Anwendungsfällen sollten Ausbilder:innen besonders aufpassen, denn hier gelten strenge gesetzliche Anforderungen.
Ein weiterer wichtiger Punkt beim Einsatz von ChatGPT ist der Datenschutz. Ausbilderinnen und Ausbilder sollten sicherstellen, dass keine sensiblen oder personenbezogenen Daten in ChatGPT eingegeben werden. Wenn vertrauliche Daten wie Kundeninformationen, Namen von Azubis oder interne Unternehmensdaten in das System eingegeben werden, können diese Daten an die Server des KI-Anbieters übertragen werden. Das kann gegen die Datenschutz-Grundverordnung (DSGVO) verstoßen, besonders wenn die Daten in Drittländer wie die USA übermittelt werden, ohne dass ausreichende Sicherheitsvorkehrungen bestehen.
Tipp: Verwende in ChatGPT keine echten personenbezogenen oder gar vertrauliche Daten (wie zum Beispiel die echten Namen deiner Kund:innen), sondern nutze Dummy-Daten -also frei erfundene Informationen wie z.B. „Max Mustermann“- oder greife auf anonymisierte Informationen zurück.
Eine weitere wichtige Regel des EU AI Acts ist die Transparenzpflicht. Es muss klar erkennbar sein, wenn KI zum Einsatz kommt. Das bedeutet, wenn Ausbilderinnen oder Azubis ChatGPT nutzen, sollten sie immer darauf hinweisen, dass sie mit einer KI sprechen oder arbeiten. Besonders in der externen Kommunikation, zum Beispiel mit Kunden, sollte deutlich gemacht werden, dass ein KI-Tool wie ChatGPT verwendet wurde (mehr dazu: KI-Transparenzanforderungen in der Ausbildung erfüllen).
Beispiel: Wenn ein Azubi mit ChatGPT einen Text erstellt hat, ist es empfehlenswert im Dokument oder in der E-Mail dies zu vermerken: „Dieser Entwurf wurde mit Unterstützung von KI erstellt und von uns geprüft.“
Wenn Ausbilderinnen und Ausbilder sicherstellen, dass keine sensiblen Daten eingegeben, die KI-Ergebnisse kritisch hinterfragt werden und immer eine menschliche Aufsicht über die Entscheidungen besteht, dann können KI-Tools wie ChatGPT ein wertvolles Werkzeug im Ausbildungsalltag sein. Durch transparente Kommunikation und gezielte Schulungen können Azubis zudem sicher im Umgang mit KI unterstützt werden. So bleibt der Einsatz von ChatGPT und Co nicht nur effektiv, sondern auch sicher. Dies ist auch wichtig, da der EU AI ACT die Schulung aller vorschreibt, die mit KI Arbeiten, Stichwort KI-Kompetenz.
Dieser Beitrag ist keine Rechtsberatung.