Die KI-Verordnung (EU AI Act, Verordnung (EU) 2024/1689) ist ein Rechtsrahmen für Künstliche Intelligenz (KI) in nahezu allen Sektoren. Sie legt fest, wie KI entwickelt und eingesetzt werden darf. Sie gilt für alle öffentlichen und geschäftlichen Akteure, die KI-Systeme in der EU anbieten oder nutzen.

Für ganz normale Sprachmodelle / LLMs und Chatbots (also typische Assistenz‑Systeme im Büro, Kundenservice, Marketing oder in der Verwaltung) gelten Transparenz‑ und Informationspflichten (entsprechende Hinweise finden Sie auch auf unseren Seiten). So muss z.B. klar erkennbar sein, dass jemand mit einem Chatbot spricht und nicht mit einem Menschen, und KI‑generierte Inhalte (Texte, Bilder, Videos) müssen als solche kenntlich gemacht werden. 

Die KI-Verordnung schreibt außerdem vor, dass Unternehmen, die KI nutzen, ihr Personal im Umgang mit KI-Systemen schulen und eine ausreichende "KI‑Kompetenz" sicherstellen müssen. Diese Schulungspflicht ist risikobasiert: Bei Systemen mit geringem Risiko (z.B. Textentwürfe, E‑Mail‑Vorschläge, interne Recherchen) reichen Grundschulungen zu Funktionsweise, typischen Fehlern (Halluzinationen), Datenschutz und richtigen Prompting‑Strategien. Je kritischer der Einsatz (z.B. Unterstützung bei Entscheidungen), desto tiefer müssen Mitarbeitende die Grenzen und Risiken der Systeme verstehen und diese auch dokumentiert nachweisen können.

Praktisch bedeutet das: Organisationen brauchen klare interne Regeln, wie Sprachmodelle eingesetzt werden dürfen (z.B. keine sensiblen personenbezogenen Daten in öffentliche Chatbots eingeben, Ergebnisse immer prüfen, Quellen nachfordern). Schulungen sollten rollenspezifisch sein – etwa technische Vertiefung für Entwickler, rechtlich‑ethische Aspekte für Führungskräfte und sehr praxisnahe Beispiele für Endanwender. So wird sichergestellt, dass Mitarbeitende die KI nicht „blind“ nutzen, sondern bewusst mit ihren Stärken und Grenzen umgehen und damit die Anforderungen des AI Act an vertrauenswürdige, verantwortliche KI‑Nutzung erfüllen.