Die "Nicht-tun"-Liste für KI

22. Juli 2026 SupportTrenches IT-Systeme & Prozesse 8 Minuten

Zehn Dinge, die Ihr Unternehmen niemals an eine Maschine delegieren sollte - sortiert nach dem Einschlagradius des potenziellen Schadens

Ein klassisches Szenario: Eine Führungskraft kopierte einen vollständigen Übernahmevertrag in einen kostenlosen, öffentlichen Chatbot. Er wollte eine Zusammenfassung, denn zwölf Seiten zu lesen, war seiner Meinung nach, Zitat, "keine effiziente Nutzung seiner Zeit". Er erhielt eine wunderbare Zusammenfassung. Er erhielt aber auch die Einreichung eines vertraulichen M&A-Dokuments auf einem Server eines Drittanbieters. Je nachdem, wie man die Geheimhaltungsvereinbarung (NDA) auslegt, die er unterschrieben hatte, bewegte sich das zwischen "karrieregefährdend" und "bitte leiten Sie alle zukünftigen Korrespondenzen an meinen Anwalt weiter".

Das Beste daran: Der Deal war so simpel, dass seine eigene Rechtsabteilung ihn im Aufzug hätte zusammenfassen können. Er hat keine Zeit gespart. Er hat ein Fünf-Minuten-Gespräch in einen Compliance-Albtraum verwandelt.

Jeder fragt, was KI für sein Unternehmen tun kann. Kaum jemand stellt die profitablere Frage: "Was sollte sie niemals tun?" Drehen wir das Problem also um. Wenn ich eine KI-Katastrophe garantieren wollte, was würde ich einsetzen? Hier ist die Liste. Zählen Sie nach, wie viele Punkte Ihr Unternehmen bereits erfüllt. Zwei oder weniger ist exzellent. Fünf oder mehr - nun, es war schön, Sie gekannt zu haben.

Die absoluten No-Gos: Wenn Anwälte hellhörig werden

1. Das Einspeisen vertraulicher oder regulierter Daten in ungeprüfte Tools. GDPR-Daten, medizinische Unterlagen, Geschäftsgeheimnisse, Kundenverträge. Diese in einen öffentlichen Chatbot einzufügen, ist nichts anderes als die Veröffentlichung von Informationen mit Umwegen. Es gibt kein Anwaltsgeheimnis für Ihren Chatverlauf! Er kann per Gerichtsbeschluss angefordert werden, und Gerichte haben bereits begonnen, genau in diesen Gewässern zu fischen. Der Chatbot wird niemals bei einer Zeugenaussage auf dem Stuhl sitzen. Sie schon. Genau das ist der Test: Delegieren Sie niemals eine Entscheidung an etwas (oder jemanden), das man weder feuern, zur Kasse bitten noch verklagen kann. Die KI hat kein eigenes Risiko. Das Einzige, was auf dem Spiel steht, ist Ihre Haut.

2. Das Entwerfen oder die Prüfung von Verträgen ohne Aufsicht. Ein Vertrag ist Präzisionsarbeit; eine einzige falsche Klausel kann sechsstellige Summen kosten. Ein Sprachmodell (LLM) ist eine Maschine, die durch ihre Ausdrucksweise Kompetenz vorgaukelt und diese Überzeugungskraft gelegentlich mit Fakten dekoriert. Anwälte wurden bereits vor Gericht sanktioniert, weil sie Schriftsätze eingereicht haben, die von KI erfundene Präzedenzfälle enthielten - inklusive realistisch klingender Aktenzeichen und fiktiver Richter. Die Maschine hat nicht gelogen - Lügen erfordert ein Bewusstsein für die Wahrheit. Sie hat einfach plausibel Auto-Vervollständigt. Was irgendwie noch schlimmer ist.

3. Letztentscheidungen über Menschen. Ob Einstellungen, Kündigungen, Beförderungen, Kreditvergaben oder Disziplinarmaßnahmen. KI für die Vorauswahl von Lebensläufen mit menschlicher Endkontrolle ist okay. Aber die KI als letzte Instanz über die Existenzgrundlage eines Menschen entscheiden zu lassen, bedeutet: Herzlichen Glückwunsch, Sie haben den Beschwerdeweg für Ihre Diskriminierungsklage automatisiert. Verzerrungen in den Trainingsdaten werden zu Verzerrungen in großem Maßstab - und zwar auf dem Briefpapier Ihres Unternehmens.

4. Kundenkommunikation ohne Leine. Ein Chatbot als eine von vielen Support-Optionen ist in Ordnung. Ein Chatbot als alleinige Mauer zwischen einem wütenden Kunden und Ihrer Marke ist der perfekte Weg, um als Screenshot mit 40.000 Retweets zu enden. Eine große Fluggesellschaft bekam das vor Gericht zu spüren, nachdem ihr Chatbot fröhlich eine Rückerstattungsrichtlinie erfunden hatte. Ein Schiedsgericht entschied, dass die Fluggesellschaft das einhalten muss, was ihr eigener Bot versprochen hat. Die Fluggesellschaft argumentierte, der Chatbot sei "eine eigenständige Rechtsperson, die für ihr eigenes Handeln verantwortlich ist". Das Gericht war nicht amüsiert. Logisch.

Die "weichen" No-Gos: Wo das Geld leise aus der Kasse fließt

5. Aufgaben mit einer akzeptablen Fehlerrate von Null. Finanzberichte, Sicherheitsdokumentationen, gerichtliche Schriftsätze. Wenn ohnehin jede Zeile von einem Menschen verifiziert werden muss, fressen die Prüfungskosten den Effizienzgewinn auf und stellen Ihnen den Nachtisch in Rechnung. Sie haben die Arbeit nicht automatisiert. Sie haben einen sehr redseligen Praktikanten eingestellt, der eine Vollzeit-Betreuung durch Erwachsene benötigt.

6. Aufgaben, bei denen die Kontrolle länger dauert als die Ausführung. Massendaten-Extraktion ist die klassische Falle. Fehler sind im großen Maßstab unsichtbar, bis Sie sie drei Systeme weiter hinten entdecken, wenn die Quartalszahlen aussehen wie moderne Kunst.

7. Arbeit, bei der das Lernen selbst der Zweck ist. Wenn Ihr Junior-Techniker bei jedem Vorfallbericht die KI zusammenfassen lässt, bekommen Sie exzellente Zusammenfassungen, aber keine fähigen Techniker. Spulen Sie fünf Jahre vor: Der große Ausfall tritt ein, die KI hat so etwas noch nie gesehen, und der einzige Mensch, der das hätte lösen können, hat die vergangenen Jahre als "Prompt-Kurier" verbracht. Sie haben keine Produktivität gekauft. Sie haben den schleichenden Abbau Ihrer eigenen Kompetenz im Abonnement erworben. Währenddessen ist Ihr zukünftiges Zugpferd 🐎 niemals über die Größe eines Ponys hinausgewachsen.

8. Alles, was eine simple Automatisierung billiger löst. Entscheidungsbäume, Vorlagen, Cronjobs. Deterministisch, prüfbar, keine Halluzinationen, keine Token-Rechnung. Ein hochmodernes LLM zu nutzen, um einen von zehn Standard-NDAs auszuwählen, ist, als würde man einen Philosophen engagieren, um einen Warenautomaten zu bedienen. Vielleicht macht er es. Vielleicht stellt er aber auch in Frage, ob der Kunde wirklich diesen Snack möchte.

9. Das Beurteilen von Menschen anhand von Mimik und Stimme. Manche Anbieter verkaufen KIs, die "Vertrauenswürdigkeit" oder "Führungspotenzial" durch die Analyse von Interview-Videos bewerten. Das ist Phrenologie mit einer REST-API. Selbst dort, wo es legal ist, ist der Schaden für Ihren Ruf den Wert dessen, was es zu messen vorgibt - und Überraschung: das tut es nicht -, nicht wert.

10. Alles, bei dem Authentizität das eigentliche Produkt ist. Das Kondolenzschreiben. Die Mitteilung über Personalabbau. Das persönliche Dankeschön an Ihren ältesten Kunden. Menschen haben einen Riecher für maschinell erzeugte Wärme. Sobald sie diesen bemerken, wird jedes echte Wort, das Sie jemals geschrieben haben, rückwirkend verdächtig. Manche Dinge sind nur deshalb wertvoll, weil ein Mensch Zeit in sie investiert hat. Entfernen Sie den Menschen, entfernen Sie das Produkt.

Das Meta-Muster, das auf keiner Präsentationsfolie steht

Hier ist die Erkenntnis, die alle zehn Punkte verbindet: KI scheitert anders als Menschen - und Ihr gesamter Prüfprozess ist darauf ausgelegt, menschliches Versagen abzufangen.

Ein übermüdeter Sachbearbeiter macht plausible Fehler - eine übersehene Klausel, ein Tippfehler im Datum. Ihr Kontrollsystem wurde über Jahrzehnte exakt darauf ausgerichtet, solche Dinge abzufangen. Ein LLM hingegen erfindet einen Gerichtsprozess mit realistischen Aktenzeichen, einem echt klingenden Richter und perfektem Format. Ihr Prozess hat dagegen keine Antikörper, weil noch nie zuvor ein Mensch auf diese Weise versagt hat. Es ist nicht so, dass die Maschine mehr Fehler macht. Sie macht jedoch fremdartige Fehler, vorgetragen mit der Überzeugung eines Senior-Partners.

Deshalb ist "Mensch in der Schleife" kein Compliance-Haken, den man setzt. Es ist eine technische Anforderung - und der Mensch in dieser Schleife muss wissen, wie fremdartiges Versagen aussieht, nicht nur, wie menschliches Versagen aussieht.

Achten Sie auf eines bei dieser Liste: Es geht rein um Subtraktion. Kein einziger Punkt verlangt von Ihnen, etwas zu kaufen, etwas zu integrieren oder an einem Verkäufer-Webinar teilzunehmen. Der schnellste Weg, Ihre KI-Strategie zu verbessern, besteht darin, die zehn dümmsten Anwendungen zu streichen, bevor Sie irgendetwas optimieren. Löschen kostet nichts. Aufräumen schon.

👉 Delegieren Sie niemals an etwas, das man nicht feuern, zur Kasse bitten oder verklagen kann. Kein Risiko, keine Entscheidungsgewalt.

👉 Wenn die Verifizierung des Ergebnisses mehr kostet, als es selbst zu erstellen, haben Sie absolut nichts automatisiert.

👉 Schützen Sie die Aufgaben, bei denen echtes Lernen stattfindet - oder erfreuen Sie sich an Ihrer Zukunft ohne Fachkräfte.

👉 KI scheitert auf fremdartige Art. Ihr Prüfprozess fängt nur menschliche Fehler ab. Schließen Sie diese Lücke, bevor Sie skalieren.

👉 Ihre KI-Strategie verbessert sich schneller durch das Löschen schlechter Anwendungen als durch das Hinzufügen guter.

Die Unternehmen, die mit KI gewinnen werden, sind nicht die, die sie überall eingesetzt haben. Es sind jene, die ganz genau wussten, wo sie sie nicht einsetzen durften.

👇 Welchen der zehn Punkte setzt Ihr Unternehmen derzeit um - und weiß irgendjemand in der Führungsebene davon?

AIJustizKIKundenserviceManagementPersonalabteilungTechnologieWissensmanagementZukunft