Was KI hier nicht tut, und warum nicht.
Bei kaum einem Werkzeug liegen Nutzen und Unsinn so nah beieinander wie bei KI. Deshalb bekommt dieser Bereich eine eigene Grenzseite, und sie steht bewusst neben den Möglichkeiten: Wer Grenzen nennt, wird bei allem anderen geglaubt.
01Zugesagt und nicht zugesagt
| Zugesagt: KI dort, wo der Aufwand vorher gemessen wurde | Nicht zugesagt: KI als Selbstzweck. Wo eine feste Regel reicht, wird eine feste Regel gebaut, sie ist billiger und erklärbar. |
|---|---|
| 01Zugesagt: gemessene Trefferquoten aus den eigenen Daten | Nicht zugesagt: Prospektquoten. Was ein Werkzeug im fremden Test konnte, sagt über die eigenen Belege nichts. |
| 02Zugesagt: ein Mensch an jeder Stelle mit Außenwirkung | Nicht zugesagt: vollautomatische Antworten, Angebote oder Buchungen nach außen. Was das Haus verlässt, hat einen menschlichen Absender. |
| 03Zugesagt: Unterstützung bei Unterlagen zu Personalentscheidungen | Nicht zugesagt: maschinelle Entscheidungen über Menschen. Einstellung, Kündigung, Bewertung: Hier entscheidet niemals ein Modell, auch aus Rechtsgründen. |
| 04Zugesagt: Datenwege, die benannt und begrenzt sind | Nicht zugesagt: Firmendaten als Trainingsfutter fremder Anbieter. Verarbeitet wird sparsam, auf Wunsch ausschließlich europäisch oder im Haus. |
| 05Zugesagt: laufende Messung auch nach der Einführung | Nicht zugesagt: dass eine Quote für immer hält. Modelle und Daten ändern sich, deshalb bleibt der Messstab stehen. |
02Warum diese Grenzen
-
01
Sprachmodelle können überzeugend irren
Die größte Stärke dieser Werkzeuge ist zugleich ihr Risiko: Sie formulieren Falsches genauso flüssig wie Richtiges. Deshalb gilt die Belegpflicht nach innen und die Freigabepflicht nach außen. Eine Maschine, die irren kann, bekommt keine Unterschriftenvollmacht.
-
02
Das Recht zieht Linien, die kein Auftrag verschiebt
Automatisierte Entscheidungen über Menschen, Täuschung über den maschinellen Gesprächspartner, Datenverarbeitung ohne Grundlage: Diese Linien stehen im Gesetz. Sie gelten hier als Bauvorschrift und werden eingehalten, bevor jemand fragt.
-
03
Vertrauen ist der eigentliche Rohstoff
Jede KI-Einführung lebt davon, dass Mitarbeiter und Kunden dem Ergebnis trauen können. Eine einzige erfundene Zusage, eine einzige stille Fehlentscheidung verbraucht mehr Vertrauen, als Monate guter Arbeit aufbauen. Die Grenzen sind deshalb keine Vorsicht, sie sind Betriebswirtschaft.
03Was innerhalb der Grenzen entsteht
- Belege, Dokumente und Post, die sich selbst erfassen und sortieren.
- Firmenwissen, das mit Fundstelle antwortet.
- Kundendialog aus geprüften Inhalten, mit Übergabe an Menschen.
- Entwürfe für Texte, Angebote und Protokolle, freigegeben von Menschen.
- Prognosen und Auffälligkeits-Meldungen als Entscheidungshilfe.
- Messberichte, die den Nutzen in Zahlen zeigen statt in Anekdoten.
04Woran ein Vorhaben scheitert, bevor es beginnt
- Der Wunsch, Personalentscheidungen zu automatisieren. Wird nicht gebaut, auch nicht in Teilen.
- Der Wunsch nach einem Assistenten, der sich als Mensch ausgibt. Täuschung ist keine Funktion.
- Die Erwartung, KI ersetze die fehlende Dokumentation. Aus nichts liest auch die beste Maschine nichts.
Anfang eines solchen Vorhabens
Ein Vorhaben dieser Art beginnt mit dem Arbeitsschritt, der heute am meisten wiederkehrende Zeit kostet, und mit echten Daten daraus. Gemessen wird zuerst: Die Trefferquote aus dem eigenen Bestand entscheidet, ob gebaut wird. Daraus entsteht der Festpreis, bevor gebaut wird, und gelegentlich die ehrliche Empfehlung, es bei einer festen Regel zu belassen.
Daneben in KI-Integration