Agentische KI im Mittelstand: Der große Report

23.11.2025
KI
KI-Agenten

Viele Unternehmen haben inzwischen generative KI ausprobiert. Präsentationen, E-Mails, erste Chatbots, vielleicht ein internes Frage-Antwort-System. Doch jetzt taucht immer öfter ein neuer Begriff auf: agentische KI, im internationalen Kontext auch agentic AI genannt. Sie taucht in Trendstudien, auf Konferenzen und in Tools auf und wird als nächste Entwicklungsstufe nach klassischer und generativer KI gehandelt.

Die große Frage für dich als Unternehmen lautet: Was steckt wirklich dahinter und an welcher Stelle bringt dir agentische KI im Alltag einen konkreten Vorteil gegenüber einem klassischen KI-Assistenten. In diesem Beitrag bekommst du einen praxisnahen, nicht theoretischen Überblick mit Fokus auf den Mittelstand, Prozesse und Compliance.

Agentische KI - Illustration

1. Was bedeutet agentische KI überhaupt

Im Kern beschreibt agentische KI ein System, das eigene Ziele verfolgen und eigenständig Handlungen ausführen kann, statt nur Antworten zu liefern. Ein solches System setzt sich aus mehreren KI-Agenten zusammen. Diese Agenten sind Modelle und Services, die Entscheidungen treffen, Schritte planen und in deiner IT-Umgebung Aufgaben ausführen.

Im Gegensatz zu einem klassischen KI-Modell, das vor allem Inhalte erzeugt oder ein einzelnes Problem löst, arbeitet agentische KI wie eine kleine digitale Organisation: Es gibt spezialisierte Agenten für Teilaufgaben, einen übergeordneten Agent, der koordiniert, und eine Art Orchestrierungsebene, die alles zusammenhält.

Wichtige Merkmale von agentischer KI im Überblick:

  • Autonomie: Der Agent entscheidet innerhalb klar definierter Leitplanken selbst, wie er ein Ziel erreicht.
  • Zielorientierung: Statt nur auf einen Prompt zu reagieren, arbeitet der Agent längere Zeit auf ein Ergebnis hin.
  • Adaptivität: Er lernt aus Feedback und passt sein Verhalten an neue Situationen an.
  • Interaktion mit Tools: Er ruft APIs auf, nutzt Datenbanken, startet Workflows und greift nicht nur auf Trainingsdaten zurück.

Agentische KI baut auf generativen Modellen auf, geht aber einen Schritt weiter. Generative KI erzeugt Inhalte, agentische KI nutzt diese Inhalte aktiv, um Entscheidungen zu treffen und Aktionen auszuführen.

2. Von Chatbots zu handelnden Agenten: Warum agentische KI als nächster Schritt gilt

Die meisten Unternehmen beginnen mit Assistenz-Use-Cases. Ein Chatbot beantwortet Fragen, ein Text-Co-Pilot hilft beim Schreiben, ein interner Assistent fasst Dokumente zusammen. Das ist sinnvoll, weil der Einstieg schnell ist und Mitarbeiter erste Erfahrungen sammeln.

Der nächste Schritt ist jedoch, dass KI nicht nur reagiert, sondern selbst handelt. Genau hier setzt agentische KI an. Du gibst ein Ziel vor, zum Beispiel:

  • „Halte unsere offenen Support-Tickets innerhalb von 24 Stunden unter einem definierten Schwellwert.“
  • „Reduziere den manuellen Aufwand im Onboarding um 30 Prozent.“
  • „Sorge dafür, dass unsere Stammdaten im CRM regelmäßig mit externen Quellen aktualisiert werden.“

Anstatt dass Menschen jeden einzelnen Schritt anstoßen, kümmert sich ein Agenten-System um Planung, Ausführung und Nachjustierung der dafür nötigen Abläufe. Die KI arbeitet damit nicht mehr nur im Prozess, sie arbeitet am Prozess.

Genau diese Verlagerung von reiner Automatisierung hin zu autonomer, zielorientierter Arbeit ist der Grund, warum Analysten agentische KI als zentrale strategische Technologie der nächsten Jahre einordnen.

3. Die Bausteine agentischer KI: Wie ein Agent wirklich arbeitet

Auch wenn Tools und Frameworks sich unterscheiden, folgen die meisten agentischen Systeme einem ähnlichen Ablauf. Angelehnt an etablierte Beschreibungen lassen sich typische Schritte erkennen.

3.1 Wahrnehmung

Am Anfang steht die Erfassung von Informationen. Der Agent nimmt Daten aus seiner Umgebung auf. Das können sein:

  • API-Antworten aus deinem ERP, CRM oder Ticketsystem
  • Datenbankabfragen und Logdaten
  • E-Mails, Chat-Nachrichten oder Formulareingaben
  • Sensordaten, etwa in Produktion oder Logistik

Wichtig ist, dass der Agent nicht nur auf Trainingsdaten zurückgreift, sondern mit aktuellen Unternehmensdaten arbeitet.

3.2 Verstehen und Einordnen

Im nächsten Schritt analysiert der Agent die Informationen. Je nach Anwendungsfall nutzt er Methoden aus der Verarbeitung natürlicher Sprache, aus der Computer Vision oder klassischer Analytik. Ziel ist immer: Was passiert gerade und wie relevant ist das für meine Ziele.

Beispiele:

  • Im Support erkennt der Agent, welche Tickets dringlich sind, welche Kunden betroffen sind und ob es bekannte Lösungen gibt.
  • Im Einkauf erkennt er Muster in Bestellmengen, Lieferzeiten oder Preisen.

3.3 Ziele und Strategien

Agentische KI arbeitet mit Zielen und Unterzielen. Ein übergeordnetes Ziel wird in kleinere Schritte zerlegt. Dazu nutzt der Agent Planungslogik, etwa Entscheidungsbäume oder Methoden aus dem verstärkenden Lernen.

Bei einem Reklamationsprozess könnten die Unterziele zum Beispiel sein:

  • Reklamation klassifizieren
  • Relevante Informationen aus ERP und CRM sammeln
  • Lösungsvorschlag erstellen
  • Kunde informieren und Fall dokumentieren

3.4 Entscheidung und Auswahl der nächsten Aktion

Im Anschluss entscheidet der Agent, welcher Schritt als nächstes sinnvoll ist. Dabei spielen Faktoren wie Erfolgsaussicht, Aufwand, Risiken und definierte Unternehmensregeln eine Rolle. Je nach Architektur können hier mehrere Agenten zusammenwirken, etwa ein Planungsagent, ein Regel-Agent und ein ausführender Agent.

3.5 Ausführung in deinen Systemen

Die eigentliche Kraft agentischer KI liegt darin, dass sie in deiner bestehenden IT-Landschaft handelt. Klassische Beispiele sind:

  • Eintrag oder Aktualisierung von Datensätzen im CRM
  • Anlegen oder Zuweisen von Tickets im Service-Tool
  • Auslösen von Workflows in ERP oder BPM-Systemen
  • Versand von E-Mails oder internen Benachrichtigungen

Hier wird aus einem „schlauen Chatbot“ ein digitales Teammitglied, das Arbeit übernimmt statt nur Informationen bereitzustellen.

3.6 Lernen und Anpassen

Nach jedem Durchlauf kann der Agent sein Verhalten anpassen. Er vergleicht erwartete mit tatsächlichen Ergebnissen und justiert Strategien und Entscheidungen nach. So entwickelt sich die agentische KI weiter, idealerweise entlang deiner Geschäftsziele.

3.7 Orchestrierung von mehreren Agenten

In vielen Szenarien arbeiten mehrere Agenten zusammen, zum Beispiel ein Agent für Kundendaten, einer für Dokumentenanalyse, einer für Prozessentscheidungen. Eine Orchestrierungsschicht koordiniert diese Agenten, verteilt Aufgaben, überwacht Fortschritt und fängt Fehler ab.

Für dich als Unternehmen ist diese Orchestrierung entscheidend, weil sie bestimmt, wie nachvollziehbar, sicher und skalierbar das System ist.

4. Vorteile agentischer KI für Unternehmen

4.1 Mehr als Automatisierung: Zielorientierte Arbeitsweise

Klassische Automatisierung folgt meistens einem starren Ablauf. Wenn A passiert, führe B aus. Agentische KI arbeitet flexibler. Sie verfolgt Ziele und reagiert auf Änderungen in der Umgebung. Das ist besonders spannend für Bereiche, in denen viel Kontext und laufende Entscheidungen nötig sind, etwa im Service, in der Disposition oder in der Logistik.

4.2 Autonomie mit klaren Grenzen

Richtig umgesetzt bedeutet agentische KI mehr Entlastung bei gleichzeitiger Kontrolle. Du definierst Leitplanken, zum Beispiel:

  • Welche Daten der Agent nutzen darf
  • Welche Aktionen er selbst ausführen darf
  • Ab welchen Schwellen ein Mensch freigeben muss

Innerhalb dieser Grenzen kann der Agent frei agieren und dir Arbeit abnehmen, ohne die Governance zu verletzen.

4.3 Höhere Produktivität über ganze Prozesse hinweg

Während ein klassischer KI-Assistent vor allem einzelne Mitarbeitende schneller macht, zielt agentische KI auf gesamte Abläufe. So lassen sich Durchlaufzeiten senken, Medienbrüche reduzieren und Koordinationsaufwand minimieren. Gerade in mittelständischen Unternehmen mit knappen Ressourcen kann das einen deutlichen Hebel liefern.

4.4 Bessere Nutzung vorhandener Daten

Agentische KI zwingt dich fast dazu, deine Datenwege aufzuräumen. Agenten brauchen saubere Zugriffe, klare Strukturen und definierte Quellen. Das führt in der Praxis dazu, dass Daten, die bisher in Insellösungen stecken, zusammengeführt und sinnvoll genutzt werden können, etwa für Priorisierung, Vorhersagen und automatische Entscheidungen.

4.5 Intuitive Bedienung

Der Zugriff auf agentische Systeme erfolgt in vielen Fällen weiterhin über natürliche Sprache. Du kannst also über einfache Prompts mit einem komplexen Agenten-Netzwerk interagieren, statt dich durch Oberflächen, Formulare und Menüs zu klicken. Das senkt die Einstiegshürde und erhöht die Nutzungsquote im Alltag.

5. Agentische KI in der Praxis: Beispiele entlang typischer Unternehmensbereiche

5.1 Kundenservice und Support

Ein agentisches System im Support könnte etwa so aussehen:

  • Ein Wahrnehmungsagent liest eingehende Tickets, E-Mails und Chat-Anfragen.
  • Ein Klassifikationsagent erkennt Dringlichkeit, Thema und Kundentyp.
  • Ein Lösungsagent gleicht den Fall mit einer Wissensdatenbank ab und generiert einen Lösungsvorschlag.
  • Ein Prozessagent entscheidet, ob der Fall vollautomatisch erledigt werden kann oder an einen Mitarbeitenden geht.
  • Ein Monitoring-Agent überwacht Kennzahlen wie Antwortzeit, Eskalationen und Kundenzufriedenheit.

Ergebnis: Dein Team kümmert sich vor allem um wirklich komplexe oder sensible Fälle, während Standardanfragen im Hintergrund automatisiert behandelt werden.

5.2 Vertrieb und Bestandskundenbetreuung

Im Vertrieb kann ein Agent etwa

  • CRM-Daten, E-Mails und Meetingnotizen auswerten
  • erkennbare Cross- und Upsell-Potenziale identifizieren
  • Folgeaufgaben im CRM anlegen oder Erinnerungen versenden
  • vorgefertigte E-Mail-Entwürfe für Nachfassaktionen erstellen
  • Risikosignale erkennen, wenn Kunden abzuspringen drohen

Dein Sales-Team gewinnt dadurch Zeit für persönliche Gespräche und strategische Entscheidungen, während operative Routinen im Hintergrund laufen.

5.3 HR, Recruiting und Onboarding

Agentische KI kann Bewerbungsunterlagen vorsortieren, Interviews koordinieren, Onboarding-Checklisten abarbeiten und neue Mitarbeitende mit relevanten Informationen versorgen. Ein Agent kann etwa automatisch prüfen, welche Systemzugänge noch fehlen, Erinnerungen an Verantwortliche versenden und Unterlagen nachfassen.

5.4 Einkauf, Disposition und Lieferkette

In Beschaffung und Logistik kann ein Agent

  • Bestellmengen und Lagerbestände überwachen
  • Bedarfe vorausschauend planen
  • Bestellungen vorbereiten oder, in definierten Grenzen, automatisch auslösen
  • Lieferzeiten überwachen und bei Abweichungen Maßnahmen vorschlagen

Gerade bei stark schwankender Nachfrage oder vielen Lieferanten kann agentische KI helfen, Engpässe zu vermeiden und Kosten besser zu steuern.

6. Risiken und Herausforderungen agentischer KI

Wo mehr Autonomie ins Spiel kommt, steigen auch die Anforderungen. Genau darauf weist auch die Fachliteratur rund um agentische KI hin.

6.1 Falsche oder unklare Ziele

Agenten optimieren das, was du ihnen vorgibst. Wenn Zielgrößen zu eng oder falsch gewählt sind, können unerwünschte Effekte entstehen. Ein Agent, der nur auf Bearbeitungsgeschwindigkeit optimiert, könnte zum Beispiel Fälle zu früh schließen oder schlecht dokumentierte Lösungen bevorzugen.

Daher brauchst du wohlüberlegte Zielgrößen, die nicht nur Effizienz, sondern auch Qualität, Fairness und Compliance berücksichtigen.

6.2 Verstärkung von Fehlern

Ein einzelner Fehler in einem Agenten-System kann sich durch die Orchestrierung vervielfachen. Falsche Annahmen, unvollständige Daten oder ein Bug im Workflow können Auswirkungen auf viele Prozesse haben. Das macht Monitoring, Logging und Audits unverzichtbar.

6.3 Datenqualität und Datenschutz

Agentische KI greift auf viele Datenquellen gleichzeitig zu. Wenn dort veraltete, unvollständige oder widersprüchliche Informationen liegen, werden auch Entscheidungen des Agenten kritischer. Gleichzeitig steigen Anforderungen an Datenschutz, Zugriffsrechte und Protokollierung, insbesondere bei personenbezogenen Daten und im Kontext von DSGVO und AI Act.

6.4 Menschliche Akzeptanz

Wenn Agenten Aufgaben übernehmen und Entscheidungen treffen, verändern sich Rollen und Verantwortlichkeiten. Teams müssen verstehen, was die KI tut, wo ihre Grenzen liegen und wie sie im Zweifel eingreifen können. Transparenz und Einbindung sind hier entscheidend, damit agentische KI als Unterstützung wahrgenommen wird und nicht als Black Box.

7. Agentische KI und Governance: Wie du Kontrolle behältst

Gerade bei agentischer KI geht es nicht nur um Technik. Du brauchst klare Regeln und Strukturen, damit das System verlässlich und rechtssicher arbeitet. Viele Aspekte, die im IBM-Umfeld unter Governance für KI-Agenten diskutiert werden, lassen sich gut auf mittelständische Realitäten übertragen.

7.1 Rollen und Berechtigungen

Definiere, welche Agenten welche Daten sehen und welche Aktionen ausführen dürfen. Im Zweifel gilt: lieber zu restriktiv starten und nachträglich erweitern, als zu großzügig beginnen.

7.2 Nachvollziehbarkeit

Jede relevante Aktion eines Agenten sollte protokolliert werden. So kannst du nachvollziehen, warum eine Entscheidung getroffen wurde, welche Daten genutzt wurden und ob Vorgaben eingehalten wurden.

7.3 Mensch im Loop

Für sensible Entscheidungen kannst du Freigabepunkte definieren. Zum Beispiel erstelle der Agent einen Vorschlag, ein Mensch prüft und bestätigt ihn. Gerade in frühen Phasen ist dieses Prinzip sinnvoll, um Vertrauen aufzubauen und Risiken zu minimieren.

7.4 Klare Zuständigkeiten

Agentische KI ist keine Magie, sondern Software. Es braucht Verantwortliche, die sich um Betrieb, Monitoring, Fehlermanagement und Weiterentwicklung kümmern. Diese Rolle muss klar verankert sein, etwa in IT, Fachbereich oder einem zentralen KI-Team.

8. Einstieg in agentische KI: Strategie für den Mittelstand

Du musst nicht morgen dein komplettes Unternehmen auf Agentenbetrieb umstellen. Ein sinnvoller Weg kann so aussehen:

  1. Bestandsaufnahme: Wo nutzt du heute bereits KI oder Automatisierung. Welche Systeme sind angebunden, wo entstehen die größten Reibungsverluste.
  2. Pilotbereich wählen: Wähle einen Prozess, der wichtig ist, aber nicht geschäftskritisch. Etwa Teile des Service, des Onboardings oder der Datensynchronisation.
  3. Datenwege klären: Lege fest, welche Datenquellen Agenten nutzen dürfen, wie sie angebunden werden und welche Berechtigungen gelten.
  4. Kleine Agenten entwickeln: Starte mit Agenten für klar abgegrenzte Aufgaben, etwa Klassifikation, Datensuche oder Dokumentenerstellung.
  5. Orchestrierung ergänzen: Führe eine zentrale Steuerungsschicht ein, die mehrere Agenten koordiniert und den Gesamtworkflow im Blick behält.
  6. Monitoring etablieren: Miss Effekte, beobachte Fehlerbilder, sammle Feedback aus den Teams und passe Ziele sowie Regeln an.

So entwickelst du schrittweise eine agentische Architektur, die zu deinen Prozessen, Daten und Compliance-Anforderungen passt, statt ein theoretisches Konzept aus Folien zu übernehmen.

9. Fazit: Agentische KI als nächster logischer Schritt

Agentische KI ist mehr als ein neues Buzzword. Es beschreibt einen klaren Übergang von KI, die antwortet, hin zu KI, die handelt. Auf der Technologie-Ebene kombinieren agentische Systeme generative Modelle mit Planungslogik, Tool-Aufrufen und Orchestrierung. Auf der Business-Ebene verschiebt sich Arbeit von manuellen Routinen hin zu überwachter, autonomer Ausführung.

Für dich als Unternehmen heißt das:

  • Du kannst Prozesse nicht nur beschleunigen, sondern in Teilen eigenständig laufen lassen.
  • Du nutzt vorhandene Daten besser, weil Agenten aktiv darauf zugreifen.
  • Du brauchst klare Leitplanken, Governance und Monitoring, damit der Zugewinn an Autonomie nicht zum Risiko wird.

Wenn du heute schon erste KI-Assistenten im Einsatz hast, ist agentische KI der nächste Schritt auf dieser Reise. Und genau diesen Weg begleiten wir bei Ki-Stuttgart: von der Idee über erste Prototypen bis zu stabilen Agenten-Systemen, die deinen Alltag wirklich entlasten.

Wenn du möchtest, schauen wir uns gemeinsam einen konkreten Prozess aus deinem Unternehmen an und entwerfen daraus ein erstes agentisches Szenario. So bekommst du ein klares Bild, was agentische KI in deinem Umfeld leisten kann und wie du sicher und pragmatisch startest.

23.11.2025