KI-Agenten im Unternehmen einführen: Ein Fahrplan für den Mittelstand

Ein KI-Agent ist eine Software, die mithilfe eines Sprachmodells Aufgaben in mehreren Schritten selbstständig bearbeitet: Er liest zum Beispiel eine eingehende Anfrage, sucht Kundendaten im CRM, prüft den Lagerbestand im ERP und bereitet eine Antwort vor. Für mittelständische Unternehmen ist das attraktiv, weil Fachkräfte knapp sind und viele Abläufe noch per E-Mail und Tabelle laufen. Gleichzeitig fehlen oft eigene KI-Teams. Dieser Fahrplan ist deshalb bewusst schlank gehalten und auf rund 90 Tage ausgelegt. Er setzt kein eigenes Data-Science-Team voraus, wohl aber eine klare Verantwortung im Fachbereich und die Bereitschaft, Ergebnisse ehrlich zu messen.

Geeignete Einstiegsprozesse im Mittelstand

Gute erste Kandidaten sind häufig, regelbasiert und fehlertolerant. Typische Beispiele:

Ungeeignet für den Einstieg sind Personalentscheidungen, Bonitätsbewertungen oder alles, was rechtlich schwer umkehrbar ist. Solche Anwendungen können unter die Hochrisiko-Regeln des EU AI Act fallen.

Tage 1 bis 30: Auswahl und Vorbereitung

1. Prozesseigner benennen: Eine Person aus dem Fachbereich, nicht aus der IT, verantwortet das Ergebnis.
2. Ist-Zustand messen: Fallzahlen pro Woche, durchschnittliche Bearbeitungszeit, Fehlerquote, Rückstau. Ohne Ausgangswerte lässt sich später kein Nutzen belegen.
3. Ablauf aufschreiben: Welche Schritte, welche Systeme, welche Ausnahmen? Wenn sich der Prozess nicht auf zwei Seiten beschreiben lässt, ist er für den Start zu komplex.
4. Grenzen festlegen: Was darf der Agent lesen, was vorschlagen, was selbst ausführen? Am Anfang gilt fast immer: Der Agent bereitet vor, ein Mensch gibt frei.
5. Betriebsrat einbinden: Systeme, die geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen, sind in Deutschland in der Regel mitbestimmungspflichtig. Frühe Information spart Monate.
6. Datenschutz klären: Rechtsgrundlage, Auftragsverarbeitungsverträge mit Modellanbietern, Datenminimierung. Personenbezogene Daten, die der Agent nicht braucht, sollten vorab entfernt oder pseudonymisiert werden.

Tage 31 bis 60: Pilot mit menschlicher Freigabe

Der Pilot läuft auf echten Fällen, aber mit einer kleinen Nutzergruppe und jeder Aktion zur Freigabe. Technisch sollten diese Punkte erfüllt sein:

• Eigene Zugänge für den Agenten mit minimalen Rechten, nie die Zugangsdaten einer Mitarbeiterin.
• Definierte Werkzeuge statt freiem Systemzugriff, etwa „Kunde nach Nummer suchen“ oder „Entwurf anlegen“.
• Vollständige Protokollierung von Eingaben, Systemaufrufen, Vorschlägen und menschlichen Entscheidungen.
• Not-Aus: Der Prozesseigner kann den Agenten jederzeit pausieren.

Messen Sie wöchentlich: Anteil der unverändert übernommenen Vorschläge, Art der Korrekturen, Bearbeitungszeit inklusive Prüfung und Kosten pro Fall. Ergänzen Sie die Zahlen durch ein kurzes Gespräch mit den Anwendern. Wenn das Team den Agenten umgeht, sehen Sie das in den Zahlen oft erst spät.

Tage 61 bis 90: Bewerten und ausweiten

Am Ende des Piloten steht eine klare Entscheidung anhand vorher vereinbarter Kriterien:

• Ausbauen: Ziele erreicht, Anwender wollen weitermachen. Nächster Schritt kann mehr Volumen oder mehr Autonomie sein, etwa automatische Ausführung mit Stichprobenprüfung.
• Anpassen: Nutzen erkennbar, aber zu viele Korrekturen. Prozess, Datenbasis oder Anweisungen überarbeiten und erneut messen.
• Beenden: Kein belastbarer Nutzen. Das Gelernte dokumentieren und den nächsten Prozess wählen.

Mehr Autonomie ist eine bewusste Entscheidung mit erneuter Freigabe durch Fachbereich, IT-Sicherheit und gegebenenfalls Betriebsrat, kein stilles Umschalten, weil es „gut läuft“.

Rollen, die auch im Mittelstand nötig sind

• Prozesseigner: verantwortet Ziel, Ergebnis und Freigaben.
• Technische Verantwortung: intern oder beim Dienstleister; kümmert sich um Anbindung, Berechtigungen, Betrieb.
• Datenschutz und Informationssicherheit: prüft Datenflüsse und Anbieter.
• KI-Kompetenz im Team: Seit Februar 2025 verlangt der EU AI Act Maßnahmen, damit Beschäftigte, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Praxisnahe Schulungen, etwa von neooutput, helfen dabei und lassen sich dokumentieren.

Typische Stolpersteine im Mittelstand

• Datenqualität: Wenn Stammdaten im ERP lückenhaft sind, trifft auch der Agent falsche Zuordnungen. Planen Sie eine kurze Bereinigung der betroffenen Daten ein, bevor der Pilot startet.
• Altsysteme ohne Schnittstelle: Nicht jede Branchensoftware bietet eine API. Prüfen Sie früh, ob Daten per Export, Datenbankzugriff oder Middleware erreichbar sind, sonst stockt das Projekt in Woche drei.
• Wissen in Köpfen: Viele Ausnahmen kennt nur eine erfahrene Kollegin. Binden Sie diese Person aktiv ein; ihre Regeln gehören in die Anweisungen des Agenten.
• Schatten-KI: Mitarbeitende nutzen oft längst private KI-Konten. Eine freigegebene, sichere Alternative mit klaren Regeln ist wirksamer als ein Verbot.
• Zu viel auf einmal: Drei parallele Piloten überfordern ein kleines Team. Ein erfolgreicher Agent überzeugt intern mehr als drei halbfertige.

Vom ersten Agenten zur Plattform

Nach dem ersten Erfolg wollen weitere Abteilungen eigene Agenten. Spätestens dann lohnt sich eine zentrale Orchestrierung, damit nicht jedes Team eigene Insellösungen mit eigener Protokollierung und eigenen Zugangsdaten baut. kalAIDoCreate ist eine solche Orchestrierungsplattform für Unternehmen und öffentliche Auftraggeber: Sie steuert autonome, kontrollierte KI-Workflows mit Anbindung an Systeme wie SAP, HubSpot, Slack und SharePoint und wird mit Senior-Beratung kombiniert. Ob Plattform oder Eigenbau: Ein zentrales Verzeichnis aller Agenten mit Verantwortlichen, Berechtigungen und Kennzahlen sollten Sie in jedem Fall führen.

Eine ausführlichere, englischsprachige Variante dieses Vorgehens finden Sie in unserer Roadmap für Enterprise-KI-Agenten. Hinweise zur Auswahl externer Unterstützung gibt der Beitrag KI-Entwicklung als Dienstleistung. Wenn Sie Ihren ersten Anwendungsfall besprechen möchten, können Sie ein kostenloses Erstgespräch buchen.