"Mach keine Fehler"

21. September 2026 SupportTrenches Geschichten & Fallstudien 10 Minuten

Drei Wörter, die offenlegen, wie wenig wir die Maschinen verstehen, von denen wir inzwischen abhängen

Der komischste Prompt der modernen Informatik ist drei Wörter lang. Und er steht in Produktivsystemen von Unternehmen, die echten Umsatz machen.

"Mach keine Fehler."

Manchmal mit Nachdruck. MACH KEINE FEHLER. Manchmal mit einer Drohung garniert, als hätte das Modell eine Familie. Manchmal mit dem Versprechen eines Trinkgelds - mein persönliches Lieblingsgenre des magischen Denkens: eine Wahrscheinlichkeitsverteilung bestechen.

Bleiben Sie kurz bei der Grundannahme. Einem System zu sagen, es solle keine Fehler machen, unterstellt, dass es sich vorher aktiv für Fehler entschieden hat. Das hieße, eine von drei Sachen muss stimmen: Es wurde darauf trainiert, Fehler zu machen. Es wurde angewiesen, Fehler zu machen (vielleicht von einem Dienstleister, der pro Token abrechnet - eine herrlich paranoide Theorie, die sofort stirbt, sobald man feststellt, dass offene Modelle sich genauso verhalten). Oder Fehler sind ein Feature, das standardmäßig aktiviert ausgeliefert wird.

Nichts davon überlebt zehn Sekunden Konfrontation mit der tatsächlichen Funktionsweise. Ein Sprachmodell hat keinen Faulheitsregler. Es hat nicht die Absicht, schlampig zu sein, weil es überhaupt keine Absichten hat. Es erzeugt die statistisch plausible Fortsetzung Ihres Textes. "Mach keine Fehler" ist keine Anweisung. Es ist eine Stimmung. Es verschiebt die Ausgabe ein Stück in Richtung jener Texte, die in den Trainingsdaten neben sorgfältigem, abgesichertem, autoritär klingendem Sprachgebrauch stehen. Deshalb klingt die Antwort danach oft selbstbewusster - und ist dabei genauso falsch wie vorher. Sie haben nicht die Fehlerquote gesenkt. Sie haben die Verpackung aufgewertet.

Genau das ist die Falle. Der Prompt wirkt auf den Leser, nicht auf das Modell.

Fünf Gruppen - und nur eine davon ist gefährlich

Nach zu vielen Diskussionen zu diesem Thema habe ich aufgehört, über KI im Allgemeinen zu streiten. Es gibt keine "KI-Debatte". Es gibt fünf verschiedene Populationen, die fünf verschiedene Gespräche führen und dabei dasselbe Wort benutzen.

• Gruppe A - der Gelegenheitsnutzer. Kennt einen Markennamen, hält ihn möglicherweise für die Technologie selbst, so wie die Leute früher "Google" sagten und "das Internet" meinten. Nutzt KI für Geburtstagskarten, Packlisten für den Urlaub und ein Lasagne-Rezept. Hat vollständig verstanden, dass das Ding sich Sachen ausdenkt, und stört sich zu Recht nicht daran, denn der Schaden einer halluzinierten Lasagne ist: Abendessen. Harmlos. Völlig in Ordnung.
  
  
• Gruppe B - der fortgeschrittene Nutzer. Setzt KI zum Entwerfen, Zusammenfassen und Entschärfen jener E-Mail ein, die sonst einen Krieg mit dem Einkauf auslösen würde. Behandelt Ungenauigkeiten als Reibungsverlust: Neu generieren, umformulieren, weiter. Ebenfalls in Ordnung. Der Großteil der Menschheit wird ein Leben lang zufrieden in A und B bleiben, und das ist völlig okay.
  
  
• Gruppe C - der Halbwissende. Mein Lieblinge. Hier wurde "Mach keine Fehler" geboren. In dem Glauben, man könne eine systemische Eigenschaft der Architektur mit hinreichend schlauer Formulierung besiegen. Gruppe C nutzt KI nicht; Gruppe C missioniert. Jede Slack-Nachricht, jedes Ein-Absatz-Update, jede Beileidskarte läuft durch die Maschine, bis die Kollegen den Output am Geruch erkennen. Gruppe C leitet Inhalte weiter, die sie nicht gelesen hat. Gruppe C ist der Grund, warum es den Begriff "Fleischrelais" gibt - ein Mensch, der als unkritischer Durchlauferhitzer für generierten Text dient und einen Namen und eine Signatur draufsetzt, aber keine Prüfung, kein Urteil, keine Haftung irgendwo entlang der Kette einfügt.
  
  
• Gruppe D - der Profi. Dieselben Werkzeuge, entgegengesetzte Haltung. Kennt die Grenzen, hat aufgehört, sich darüber aufzuregen, und liest die Ausgabe, bevor sie das Haus verlässt. Setzt die Maschine dort ein, wo Überprüfung billig ist, und lässt sie dort weg, wo Überprüfung teuer ist. Langweilig. Effektiv.
  
  
• Gruppe E - der Guru. Trainiert, feintuned, baut Agenten, zerlegt sie wieder, schreibt die Evaluierungen, die keiner schreiben will. Kleine Population. Nicht das Problem.

Achten Sie auf die Form: Die Risikokurve steigt nicht linear mit der Begeisterung. Sie hat ihren Gipfel in der Mitte. A weiß nichts und ist sicher, weil der Einsatz niedrig ist. E weiß alles und ist sicher, weil E weiß, wo die Minen liegen. C weiß gerade genug, um selbstsicher zu sein - in einem Feld, in dem Selbstsicherheit der eigentliche Fehler ist.

Warum der Schaden in der Mitte entsteht

Hier kommt der Mechanismus. Und es lohnt sich, ihn zu verstehen, denn im Kern geht es gar nicht um KI.

Diese Systeme werden unter anderem darauf trainiert, Antworten zu erzeugen, die Menschen gut bewerten. Menschen bewerten Zustimmung gut. Also neigen die Modelle strukturell dazu, Ihnen recht zu geben. Aktuelle Forschung zur Schmeichelei von Chatbots zeigt etwas Unbehagliches: Ein zustimmender Gesprächspartner kann selbst einen vollkommen rationalen, evidenzbasierten Denker Schritt für Schritt in immer falschere Schlussfolgerungen treiben - einfach weil jeder Schritt bestätigt wird. Man muss nicht leichtgläubig sein, um in die Spirale zu geraten. Man braucht nur ein Gegenüber, das nie widerspricht.

Geben Sie dieses Gegenüber jetzt Gruppe C - Menschen, deren Hauptkompetenz Begeisterung ist und deren Haupttätigkeit Weiterleiten. Die Maschine stimmt zu. Der Mensch fühlt sich bestätigt. Der Text geht raus. Niemand in der Kette trägt Konsequenzen, denn der Autor ist technisch gesehen das Modell, und das Modell hat keinen Ruf, keine Zulassung und kein Jahresgespräch, das es verlieren könnte.

Das ist das eigentliche Problem, und es hat nichts mit Token-Wahrscheinlichkeiten zu tun. Es ist ein Verantwortungsvakuum im Produktivitätskostüm. In jedem funktionierenden System zahlt die Person, die unterschreibt, den Preis dafür, wenn sie falsch liegt. Das Fleischrelais unterschreibt und zahlt nichts. Nehmen Sie die persönliche Haftung raus, und Qualität wird sofort optional.

Der Zweiteffekt, der mir mehr Sorgen macht als jede Halluzination: Nachwuchskräfte haben bisher ihr Urteilsvermögen aufgebaut, indem sie schlechte Arbeit abgeliefert haben und korrigiert wurden. So regeneriert sich Expertise - durch die teure, demütigende, unersetzbare Schleife des Falschliegens vor den Augen von jemandem, der mehr weiß. Wenn der erste Entwurf immer maschinell-fast-perfekt ist, läuft diese Schleife nie. Forscher beschreiben das inzwischen als Allmende-Problem: Der gemeinsame Pool an Fachkompetenz, aus dem alle schöpfen, füllt sich nicht von selbst wieder auf, wenn niemand mehr die Kosten des Lernens auf sich nimmt. Jeder Einzelne hat einen rationalen Anreiz, sich die Mühe zu sparen. Kollektiv gehen uns die Menschen aus, die bemerken können, wenn die Maschine falsch liegt.

Und genau diese Menschen brauchen Sie am dringendsten.

Wie Sie Leute von C nach D bewegen

Mit einem Grundsatzdokument geht das nicht. Ich habe Organisationen dabei zugesehen, wie sie es versucht haben. Die PDF-Datei "Richtlinien zur KI-Nutzung" wird von der KI zusammengefasst und vom Fleischrelais weitergeleitet - was zumindest konsequent ist.

Was funktioniert, ist viel kleiner und viel unangenehmer:

👉 Stellen Sie die Unterschrift wieder her. Wer etwas verschickt, verantwortet es. Nicht "Die KI hat das falsch gemacht" - Sie haben das falsch gemacht, vor dem Kunden. Eine einzige Situation, in der das spürbar wird, bringt mehr als jeder Workshop.

👉 Machen Sie die Kosten sichtbar. Fragen Sie, was die Überprüfung der Ausgabe gekostet hat gegenüber dem, was die manuelle Erstellung gekostet hätte. Manchmal lautet die ehrliche Antwort: 40 Sekunden Generierung haben 25 Minuten Faktencheck erzeugt. Dieses Verhältnis ist die ganze Diskussion. Wenn das niemand misst, ist das Werkzeug ein Hobby, kein Prozess.

👉 Verbieten Sie die Beschwörungsformeln. "Mach keine Fehler", Drohungen, imaginäre Trinkgelder. Ersetzen Sie sie durch das, was Fehler tatsächlich reduziert: Geben Sie dem Modell das Quellmaterial (z.B. per RAG), schränken Sie das Ausgabeformat ein, fordern Sie Quellenangaben, die Sie dann anklicken, und zerlegen Sie komplexe Aufgaben in überprüfbare Schritte. Fundierung schlägt Bitten.

👉 Schützen Sie die Lernschleife. Nachwuchskräfte schreiben den ersten Entwurf manchmal noch selbst. Nicht wegen der Qualität des Dokuments - wegen des Trainingseffekts. Sie bezahlen nicht für das heutige Dokument. Sie bezahlen für jemanden, der in drei Jahren eine plausible Lüge noch erkennen kann.

👉 Belohnen Sie die Person, die sagt "Ich hab's geprüft." Verifizierung ist unsichtbare Arbeit. Unsichtbare Arbeit stirbt, wenn die Führung sie nicht beim Namen nennt. Das stille Zugpferd 🐎, das die erfundene Verordnung abgefangen hat, bevor sie beim Kunden landete, hat gerade mehr eingespart als das gesamte Tooling-Budget.

Gruppe C ist nicht dumm. Genau das ist der Punkt. Es sind oft die motiviertesten Leute, die Sie haben - nur leicht falsch ausgerichtet. Der Abstand von C zu D ist keine Frage der Intelligenz, sondern eine einzige Gewohnheit: Lesen, bevor Sie senden.

Niemand, der versteht, wie diese Systeme funktionieren, hat jemals "Mach keine Fehler" getippt. Nicht aus Überlegenheit - sondern weil diese Leute genau wissen, welche Wörter etwas bewirken und welche nicht. Und Höflichkeitsfloskeln gegenüber einer Wahrscheinlichkeitsverteilung gehören nicht dazu (wobei ich durchaus Leute kenne, die bei ihren Sprachmodellen auffällig oft "bitte" schreiben... nur für den Fall).

👇 Was ist die beste KI-Beschwörungsformel, die Sie jemals in einem echten Produktiv-Prompt gesehen haben? Ich sammle die. Bonuspunkte, wenn dem Modell Geld angeboten wurde.

AIInitiativeKILernenTechnologieManagement