KI‑Software­entwicklung für komplexe Prozesse.

KI eignet sich für eine klar abgegrenzte Aufgabe, deren Ergebnis fachlich geprüft werden kann. Die benötigten Daten müssen verfügbar sein; Entscheidungen mit wesentlichen Folgen bleiben kontrolliert beim Menschen.

Nicht der gesamte Prozess muss mit KI arbeiten. In Katalog- und Content-Abläufen kann sie variable Inhalte aufbereiten, im Service eingehende Anliegen vorsortieren und bei Dokumenten Informationen für die weitere Bearbeitung erschließen. Dagegen bleiben Schritte mit vollständig festen Regeln in einer klassischen Automatisierung meist nachvollziehbarer. Vor einer Umsetzung ist deshalb zu prüfen, wie häufig Ausnahmen auftreten, welche Daten tatsächlich vorliegen und welche Folgen ein falsches Ergebnis hätte. Erst dann lässt sich der sinnvolle Anteil von KI im Ablauf bestimmen.

Am Anfang stehen das fachliche Ziel, der heutige Ablauf und die betroffenen Systeme. UTOVER begrenzt die erste Stufe auf Ein- und Ausgaben sowie Erfolgskriterien, die sich im Betrieb wirklich prüfen lassen. Schnittstellen, Rechte und Fehlerbehandlung werden dabei nicht auf später verschoben. Die Ergebnisse dieser Stufe zeigen, ob und an welcher Stelle eine Erweiterung trägt.

Standardsoftware ist naheliegend, wenn sie den Prozess ohne weitreichende Anpassungen abbildet. Prägen eigene Fachregeln, Rechte, Schnittstellen oder Datenflüsse die Lösung, kann Individualsoftware besser passen. Bei einem KI-Agenten kommt eine weitere Bedingung hinzu: Seine erlaubten Aktionen und Datenzugriffe müssen klar begrenzt sein; für kritische Schritte braucht es kontrollierbare Freigaben und ein definiertes Verhalten bei Fehlern. Die Auswahl lässt sich daher erst nach einem Blick auf den tatsächlichen Ablauf und die vorhandene Systemlandschaft treffen.

Ob sich ein Bestandssystem anbinden lässt, entscheidet sich selten am Alter allein. Zunächst muss geklärt werden, wie es Daten bereitstellt, welche Formate es versteht und ob Ergebnisse kontrolliert zurückgeschrieben werden können. Moderne ERP-, CRM- und PIM-Systeme bieten dafür häufig APIs. Bei älteren Anwendungen kann ein ergänzender Backend-Service genügen; in anderen Fällen ist eine gezielte Modernisierung nötig. UTOVER untersucht dabei auch Zugriffsrechte, Übertragungswege, Fehlerfälle und die Verantwortung im laufenden Betrieb. Diese Bestandsaufnahme zeigt, ob eine schmale Integration ausreicht oder Änderungen am umgebenden System unvermeidbar sind.

Ein KI-Projekt braucht zugängliche Daten, beschriebene Ein- und Ausgaben, passende Zugriffsrechte und realistische Testfälle. Welche Schnittstellen, Prüfungen oder Freigaben hinzukommen, hängt vom bestehenden Ablauf und den Folgen eines Fehlers ab.

Personenbezogene Daten unterliegen auch dann der DSGVO, wenn eine KI sie verarbeitet. Vor der technischen Umsetzung müssen deshalb Zweck und Rechtsgrundlage geklärt sein. Die Architektur richtet sich anschließend danach, welche Datenarten verarbeitet werden, wer sie empfangen oder einsehen darf, wo die Verarbeitung stattfindet und wie lange Daten gespeichert bleiben. Bei sensiblen Daten oder weitreichenden Auswirkungen können zusätzliche Prüfungen erforderlich sein. Verträge und organisatorische Zuständigkeiten gehören ebenso in die Betrachtung wie Zugriffsschutz und Datenminimierung. Eine technische Gestaltung kann diese Anforderungen unterstützen; ob der konkrete Einsatz rechtmäßig ist, muss jedoch für den Einzelfall fachkundig beurteilt werden.

Die Architektur und die Verträge mit den beteiligten Diensten legen fest, ob Daten gespeichert oder für Training beziehungsweise Modellverbesserung genutzt werden dürfen. Vor dem Produktivbetrieb muss der vollständige Datenweg bekannt sein: Welche Informationen verlassen das Unternehmen, wo werden sie verarbeitet, wie lange bleiben sie erhalten und wer kann darauf zugreifen? Unerwünschte Speicherung oder Weiterverwendung muss durch Auswahl, Konfiguration und Vertrag ausgeschlossen werden.

Der AI Act knüpft Pflichten nicht pauschal an den Einsatz von „KI“. Maßgeblich sind die Rolle des Unternehmens, der konkrete Verwendungszweck und die Risikoeinstufung des Systems. Ein Betreiber kann deshalb andere Aufgaben haben als ein Anbieter, und bestimmte Transparenzpflichten können auch Systeme betreffen, die nicht als Hochrisiko-System gelten. Für die Einordnung müssen die tatsächliche Funktion, die betroffenen Personen und die vorgesehenen Entscheidungen betrachtet werden. Erst aus dieser rechtlichen Bewertung ergeben sich die technischen Anforderungen, etwa an menschliche Aufsicht, Berechtigungen, Protokollierung, Validierung oder Monitoring. Weil die Einstufung vom Einzelfall abhängt und sich nicht aus Produktbezeichnungen ableiten lässt, sollte sie gesondert fachkundig geprüft werden.

Bei generativen Systemen gehört die Möglichkeit einer falschen Ausgabe zum technischen Risiko; vollständig beseitigen lässt sie sich nicht. Die erste Grenze setzt deshalb der Auftrag: Das System erhält nur die Daten und Werkzeuge, die es für eine klar definierte Aufgabe benötigt. Feste Ein- und Ausgabeformate schaffen Ansatzpunkte für Validierungen. Eine formal gültige Ausgabe ist allerdings noch kein Beleg für inhaltliche Richtigkeit. Bei fachlichen Aussagen müssen Quellenkontext und Prüfkriterien zur konkreten Aufgabe passen. Berechtigungen begrenzen, welche Aktionen überhaupt möglich sind, und bei folgenreichen Schritten hält eine Freigabe das Ergebnis zurück, bis es geprüft wurde. Auch der Fehlerfall braucht einen vorgesehenen Ablauf, beispielsweise einen Abbruch oder die Übergabe an einen Menschen. Logging und Monitoring helfen anschließend, wiederkehrende Fehlerbilder zu erkennen. Welche Kombination angemessen ist, richtet sich nach der möglichen Auswirkung eines Fehlers.

Eine einzelne KI-Funktion an einer stabilen Schnittstelle ist anders zu kalkulieren als die Modernisierung mehrerer gekoppelter Anwendungen. Für eine belastbare Schätzung müssen daher Umfang, Datenlage, Integrationsaufwand, Tests sowie die Anforderungen an Sicherheit, Deployment, Betrieb und Wartung bekannt sein.

Bei der Auswahl lohnt sich ein Blick hinter die Demonstration. Ein Anbieter sollte erklären können, wie die Lösung in vorhandene Systeme eingebunden wird, welche Daten fließen und wie Rechte sowie Fehlerfälle behandelt werden. Ebenso relevant sind belastbare Tests, dokumentierte Schnittstellen, Monitoring und die Übergabe in den Betrieb. Außerdem muss klar sein, wer nach der ersten Version technisch verantwortlich bleibt und ob andere Entwickler die Software übernehmen können. UTOVER verantwortet die Umsetzung von der Planung bis zum Betrieb und dokumentiert Code, Schnittstellen und Änderungen für die weitere Entwicklung.