KI in Unternehmenssoftware: wo sie Mehrwert bringt und wo eine feste Regel besser ist

Eine feste Regel sagt: Ist eine Rechnung 30 Tage überfällig, wird gemahnt; fällt der Lagerbestand unter eine bestimmte Menge, wird nachbestellt. Ein KI-Modell kann Arbeit erledigen, die keine solche Regel kann, etwa eine Antwort entwerfen oder ein Dokument lesen. Die nützliche Frage ist also nicht, ob Ihre Software KI nutzen soll, sondern wo. Eine Frage hilft, jeden Fall einzuordnen: Was passiert, wenn die KI sich irrt?

Wo bringt KI in Unternehmenssoftware Mehrwert?

Wo die Eingabe unscharf ist und sich das Ergebnis prüfen lässt. KI ist gut bei Arbeit ohne exakte Formel: einen Text im richtigen Ton entwerfen, Zahlen aus einem Dokument lesen, eingehende Nachrichten sortieren oder ein Ergebnis in einfachen Worten erklären. In jedem dieser Fälle ist mehr als eine Antwort brauchbar, und ein Mensch oder eine feste Regel kann das Ergebnis prüfen, bevor es Schaden anrichtet.

Aufgaben, die in Unternehmenssoftware zu KI passen:

• Entwerfen: eine erste Antwort an einen Kunden, eine Zusammenfassung eines langen E-Mail-Verlaufs oder der Text einer Offerte, den ein Mensch dann überarbeitet.
• Dokumente lesen: Lieferant, Datum und Betrag aus einer Rechnung herauslesen oder erkennen, ob ein Dokument eine Rechnung, ein Vertrag oder ein Lieferschein ist. Unser Beitrag über Backoffice-Automatisierung zeigt weitere Beispiele.
• Sortieren: entscheiden, zu welchem Team eine eingehende Anfrage gehört oder zu welchem Projekt eine Ausgabe.
• Erklären: aus einem berechneten Ergebnis ein paar Sätze machen, die ein Kunde versteht.

Gemeinsam ist diesen Aufgaben, dass eine leicht andere Antwort immer noch eine gute Antwort ist. Eine Antwort lässt sich auf viele Arten formulieren. Ein Gesamtbetrag nicht.

Wo sollte eine feste Regel entscheiden?

Überall dort, wo das Ergebnis exakt und jedes Mal gleich sein muss: Preise, Rabatte, Mehrwertsteuer, Rechnungsbeträge, Kreditlimiten, Fristen und wer was sehen darf. Eine feste Regel liefert bei gleicher Eingabe dasselbe Ergebnis, und Sie können zeigen, warum. Ein grosses Sprachmodell (LLM), die Art von KI, die Texte entwirft und liest, verspricht das nicht: Anthropic, der Hersteller der Claude-Modelle, schreibt, dass gleiche Eingaben zu unterschiedlichen Ausgaben führen können.

Laut der Dokumentation gilt das sogar, wenn die Einstellung, die den Zufall steuert, auf null gestellt ist. Sprachmodelle können sich zudem überzeugend irren: Die OWASP-Liste der grössten Risiken in Software auf Basis von Sprachmodellen beschreibt «Halluzination» als Inhalte, die zutreffend wirken, aber erfunden sind. In einem Antwortentwurf kann ein Mensch das vor dem Versand bemerken. In einem Rechnungsbetrag vielleicht niemand.

Die beiden ergänzen sich gut: Eine Regel entscheidet, und die KI bereitet vor oder erklärt. Eine feste Formel berechnet zum Beispiel die Kreditlimite eines Kunden, und die KI schreibt die zwei Sätze, die sie dem Kunden erklären. Formuliert die KI es ungeschickt, stimmt die Limite trotzdem.

Wie behält ein Mensch die Kontrolle?

Indem im Voraus festgelegt wird, was die Software mit einem KI-Ergebnis selbst tun darf und was auf einen Menschen wartet. Entwürfe warten auf einen Klick. Werte, bei denen die KI unsicher ist, kommen auf eine Prüfliste. Alles, was Geld ausgibt, etwas verschickt oder ändert, was ein Kunde schuldet, kann die Freigabe eines Menschen verlangen. Und jedes KI-Ergebnis kann protokolliert werden, damit es sich später prüfen lässt.

Diese Grenzen gehören als Regeln in die Software, die sie durchsetzt, nicht als Anweisungen an die KI. Text, den die KI liest, kann ihr Verhalten ändern; OWASP nennt das «Prompt Injection». Mit einem Knopf, den nur ein Vorgesetzter drücken kann, lässt sich nicht verhandeln. OWASP rät, Berechtigungen in der Software durchzusetzen, statt einem LLM den Entscheid zu überlassen, ob eine Aktion erlaubt ist. Für Software, in der die KI selbständig mehrere Schritte ausführt, siehe KI-Agenten in Unternehmenssoftware.

Das Schweizer Recht setzt ein Minimum. Das Datenschutzgesetz erfasst Entscheidungen, die «ausschliesslich auf einer automatisierten Bearbeitung» beruhen und für eine Person «mit einer Rechtsfolge verbunden» sind oder sie «erheblich beeinträchtigen». Die Firma muss die Person informieren und ihr auf Antrag Gelegenheit geben, ihren Standpunkt darzulegen, und die Person kann verlangen, dass die automatisierte Einzelentscheidung «von einer natürlichen Person überprüft wird» (Art. 21, der auch Ausnahmen regelt). Software, die solche Entscheidungen treffen kann, muss es einem Menschen ermöglichen, sie noch einmal anzuschauen.

Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hielt im Mai 2025 fest, dass das Datenschutzgesetz direkt auf KI-gestützte Datenbearbeitungen anwendbar ist. Wer KI-Systeme herstellt, anbietet oder einsetzt, muss Zweck, Funktionsweise und Datenquellen KI-basierter Bearbeitungen transparent machen, und wo ein Sprachmodell direkt mit Menschen kommuniziert, haben diese ein Recht zu wissen, ob sie mit einer Maschine sprechen oder korrespondieren.

Läuft der KI-Dienst ausserhalb der Schweiz, werden die Personendaten, die er erhält, ins Ausland übermittelt, und das Gesetz knüpft die Bekanntgabe von Personendaten ins Ausland an Bedingungen (Art. 16 und 17). Welcher Anbieter in welchem Land zum Einsatz kommt, ist darum ein Entscheid für den Projektbeginn, kein Detail für später. Nichts davon ersetzt eine Rechtsberatung für Ihren eigenen Fall.

Drei Beispiele

Drei erfundene Beispiele aus dem Arbeitsalltag eines Schweizer KMU. Jedes stellt dieselbe Frage: Welcher Schritt hat keine exakte Formel, und welcher muss jedes Mal gleich herauskommen? In allen dreien ist die Antwort eine Mischung: KI, wo die Eingabe unscharf ist, eine feste Regel, wo das Ergebnis exakt sein muss, und ein Mensch, wo etwas bezahlt oder verschickt wird.

Lieferantenrechnungen in einer Schreinerei

Eine Schreinerei erhält ihre Lieferantenrechnungen als PDF per E-Mail. Die KI liest aus jeder Lieferant, Datum, Beträge und Mehrwertsteuer heraus und schlägt die Bestellung vor, zu der sie gehört. Eine feste Regel prüft dann den Betrag gegen diese Bestellung und die Mehrwertsteuer gegen den geltenden Satz. Alles, wobei die KI unsicher ist, und jede Abweichung geht an einen Menschen, und keine Rechnung wird ohne dessen Freigabe bezahlt.

KI oder feste Regel? KI zum Lesen, eine Regel zum Prüfen, ein Mensch zum Bezahlen.

Offerten bei einer Gartenpflege-Firma

Eine Gartenpflege-Firma verschickt Offerten für Heckenschnitt, Rasenpflege und Winterdienst. Der Preis kommt aus einer festen Regel: Flächen, Stunden pro Arbeitsgang und vereinbarte Ansätze, jedes Mal gleich und leicht zu erklären. Die KI entwirft den Begleittext aus den Notizen der Besichtigung, und ein Mensch liest ihn, bevor die Offerte hinausgeht.

KI oder feste Regel? Eine Regel für den Preis, KI für die Worte darum herum.

Mieteranliegen bei einer Liegenschaftsverwaltung

Eine Liegenschaftsverwaltung erhält Nachrichten von Mietern: Die Heizung ist ausgefallen, ein Schlüssel ist verloren, eine Frage zu den Nebenkosten. Die KI ordnet jede Nachricht nach Thema und Dringlichkeit und entwirft eine Antwort für die zuständige Person. Geschuldete Beträge, Kündigungsfristen und Termine kommen aus den Unterlagen und festen Regeln, nie aus dem Entwurf der KI. Ein Heizungsausfall im Winter wird zudem durch eine feste Regel als dringend markiert, so hängt er nie allein vom Urteil der KI ab, und jede Antwort verschickt ein Mensch.

KI oder feste Regel? KI zum Sortieren und Entwerfen, Regeln für Beträge, Termine und Dringlichkeit, ein Mensch für das, was verschickt wird.

Das Muster ist jedes Mal gleich: Die KI bereitet vor, und eine Regel oder ein Mensch setzt die Grenzen.

Wie werden KI-Funktionen getestet?

Wie jede andere Funktion und zusätzlich auf die KI-typischen Fehlerquellen: eine in der Eingabe versteckte Anweisung, eine Antwort in falscher Form, davonlaufende Kosten und ein Modell, das sich im Hintergrund ändert. Weil der Wortlaut von Durchlauf zu Durchlauf abweichen kann, prüfen die Tests Form und Grenzen einer Antwort statt ihres genauen Wortlauts.

• Versteckte Anweisungen: OWASP beschreibt Eingaben, die Verhalten oder Ausgabe eines Modells auf unbeabsichtigte Weise verändern, auch Inhalte aus externen Quellen wie Websites oder Dateien. Ein Test füttert die Software mit einem Dokument, in dem eine solche Anweisung steckt, und prüft, dass sie ihr nicht folgt.
• Die falsche Form: Erwartet die Software ein Datum oder eine Kategorie aus einer festen Liste, prüft sie die Antwort, bevor sie sie verwendet, und ein Test schickt Antworten, die die Form verletzen. OWASP führt die ungenügende Prüfung, Bereinigung und Behandlung der Ausgaben eines Sprachmodells als eigenes Risiko auf.
• Kosten: KI-Dienste in der Cloud werden pro Nutzung bezahlt (OWASP spricht von ihrem nutzungsabhängigen Preismodell), darum verhindert eine Grenze pro Nutzer oder pro Tag, dass eine Schleife oder ein Angriff die Rechnung in die Höhe treibt.
• Eine feste Modellversion: Die Anbieter veröffentlichen neue Modelle. Anthropic etwa hält fest, dass das Modell hinter einer Modell-ID für deren ganze Lebensdauer gleich bleibt und dass bei den aktuellen Modellen eine aktualisierte Version unter einer neuen Modell-ID erscheint. Die Software nennt eine feste Version, und die Tests laufen erneut, bevor sie auf eine neue wechselt.

In der Software, die wir bauen, geschieht das vor dem Livegang wie alle anderen Tests: Die Software läuft zuerst in einer Testversion, die Sie ausprobieren können, wir testen sie dort durchgängig von Anfang bis Ende, und sie geht erst live, wenn alles funktioniert.