KI-Governance im Unternehmen: ein schlanker Rahmen, der funktioniert

Warum Governance – und warum schlank

In den meisten Unternehmen ist KI längst im Einsatz, bevor jemand sie „einführt“: Beschäftigte nutzen Chatbots, Softwareanbieter schalten KI-Funktionen in bestehenden Produkten frei, die Entwicklung arbeitet mit Coding-Agenten. KI-Governance beantwortet eine Frage, die die Geschäftsführung sonst nicht beantworten kann: Wo setzen wir KI ein, was kann schiefgehen, und wer hat entschieden, dass das vertretbar ist?

Gescheitert wird selten an zu wenig, sondern an der falschen Governance – einer Richtlinie, die niemand liest, oder einem Gremium, das zum Nadelöhr wird.

Schritt 1: das KI-Register

Erfassen Sie jeden Anwendungsfall – nicht jedes Werkzeug – mit Zweck, fachlich verantwortlicher Person, Anbieter und Hosting-Standort, Vertragsstatus (Auftragsverarbeitung), betroffenen Datenkategorien, betroffenen Personengruppen und dem Autonomiegrad: schlägt vor, entwirft, entscheidet oder handelt. Fragen Sie die Fachbereiche direkt und werfen Sie einen Blick in Einkauf und Spesenabrechnungen; Schatten-KI taucht dort zuerst auf. Eine Tabelle genügt für den Anfang.

Schritt 2: Risikoklassen an der KI-Verordnung ausrichten

Wer seine internen Klassen an der EU-KI-Verordnung orientiert, erledigt mit einer Bewertung zwei Aufgaben:

• Verboten: etwa Social Scoring oder Emotionserkennung am Arbeitsplatz.
• Hochrisiko: etwa Bewerbervorauswahl, Kreditwürdigkeitsprüfung, Zugang zu öffentlichen Leistungen – mit Dokumentation, menschlicher Aufsicht und Protokollierung.
• Transparenzpflichten: etwa Chatbots im Kundenkontakt oder generierte Inhalte, die gekennzeichnet werden müssen.
• Minimales Risiko: Formulierungshilfen, interne Suche, Coding-Assistenten.

Ergänzen Sie eigene Kriterien: Vertraulichkeit der Daten, Umkehrbarkeit von Fehlern und ob das System in anderen Systemen handeln kann. Ein Agent, der E-Mails versendet oder Datensätze ändert, braucht mehr Aufmerksamkeit als einer, der nur Texte entwirft – auch wenn beide rechtlich „minimal“ sind.

Schritt 3: Rollen und Entscheidungsrechte

Legen Sie schriftlich fest, wer auf welcher Risikostufe zustimmen darf. Viele Unternehmen schließen außerdem eine Rahmenbetriebsvereinbarung zu KI, statt jedes Werkzeug einzeln zu verhandeln.

Schritt 4: Freigabe und Überwachung

1. Kurzes Antragsformular mit den Registerfeldern und dem geplanten Datenfluss.
2. Einstufung innerhalb weniger Tage.
3. Minimale Fälle starten mit Standardregeln, höhere Klassen nach Prüfung und dokumentierten Schutzmaßnahmen.
4. Im Betrieb: angemessene Protokollierung, Testfragen nach jedem Modell- oder Promptwechsel, eine Meldestelle für Fehler und eine jährliche Überprüfung jedes Eintrags.

Behandeln Sie Modellwechsel beim Anbieter als Änderung: Ein stiller Wechsel des zugrunde liegenden Modells kann Ergebnisse ebenso stark verschieben wie eine neue Funktion. Lassen Sie sich solche Änderungen nach Möglichkeit vertraglich ankündigen und prüfen Sie danach mit denselben Testfragen.

Schritt 5: KI-Kompetenz als Pflicht

Die KI-Verordnung verlangt von Anbietern und Betreibern von KI-Systemen Maßnahmen, damit ihr Personal über ausreichende KI-Kompetenz verfügt – abhängig von Rolle und Einsatzkontext. Praktisch heißt das: rollenbezogene Schulungen zu Möglichkeiten und Grenzen der Werkzeuge, zulässigen Daten, Prüfung von Ergebnissen und Meldewegen, und eine Dokumentation, wer was gelernt hat. Wer später ein zertifizierbares Managementsystem anstrebt, findet in ISO/IEC 42001 eine Struktur. Dies ist eine allgemeine Orientierung, keine Rechtsberatung.

Wie jocapps unterstützt

kalAIDoCreate verbindet eine gehärtete KI-Orchestrierungsplattform mit erfahrenen KI-Architekten: gesteuerte, autonome Workflows mit Anbindung an SAP, HubSpot, Slack oder SharePoint – Kontrollen stecken damit im System, nicht nur in der Richtlinie. neooutput bietet Praxis-Workshops und Team-Trainings zu KI-Tools auf Deutsch und Englisch, vor Ort oder remote. Den Weg vom ersten Anwendungsfall zum Betrieb beschreibt KI-Agenten im Unternehmen einführen.

Für eine erste Bestandsaufnahme Ihrer Anwendungsfälle vereinbaren Sie ein kostenloses Erstgespräch oder lesen Sie mehr zu Enterprise AI.