Warum ich der KI nie sage, was sie tun soll

Vor ein paar Wochen hatte ich ein Problem, das ich zu verstehen glaubte. Ich hatte eine Lösung im Kopf, sauber und vollständig. Ich setzte mich hin, öffnete die KI und beschrieb die Aufgabe sorgfältig und im Detail. Eingaben, Ausgaben, Struktur, Randfälle. Ich bat sie, umzusetzen, was ich beschrieben hatte. Eine Minute später hatte ich eine selbstbewusste, gut strukturierte Antwort. Die Namen waren gut. Tests waren da. Die Form sah richtig aus.

Ich fing an zu lesen. Nach der Hälfte fiel mir etwas auf. Eine kleine Annahme der KI, völlig vernünftig, die still und leise einer Randbedingung widersprach, die ich nie aufgeschrieben hatte. Für mich war diese Randbedingung offensichtlich. Für niemanden sonst, und ich hatte sie nicht hingeschrieben. Ich versuchte, das Ergebnis zu flicken. Der Flicken machte das Nächste kaputt. Am Ende des Nachmittags hatte ich das meiste weggeworfen und von vorn angefangen.

Das Ergebnis war nicht das Problem. Das Problem war, dass ich der KI gesagt hatte, was sie tun soll, bevor ich geprüft hatte, ob wir uns einig waren, worin das Problem überhaupt besteht. Ich hatte den Teil übersprungen, in dem ich herausfinde, ob mein Gegenüber die Situation wirklich versteht. An diesem Nachmittag habe ich geändert, wie ich mit KI arbeite. Ich habe aufgehört, Anweisungen zu geben. Ich habe angefangen, Fragen zu stellen.

Die Umkehr

Die Änderung ist im Moment klein und über eine Arbeitswoche groß. Statt mit „Mach X“ einzusteigen, beschreibe ich das Problem und frage die KI, welche Ansätze sie in Betracht ziehen würde. Ich lese die Antwort. Ich widerspreche, wo mein Kontext Widerspruch verlangt. Ich stelle Rückfragen zu den Teilen, denen ich noch nicht traue. Erst wenn wir uns über die Richtung einig sind, lasse ich sie sich auf etwas Größeres festlegen.

Die ersten Minuten wirken langsamer. Der Nachmittag wirkt schneller. Die Woche wirkt viel schneller. Gleiche Aufgabe, gleiches Werkzeug, anderer erster Zug.

Die zwei Annahmen

Die Methode funktioniert nur, wenn du zwei Dinge gleichzeitig im Kopf behältst, und die meisten lassen eins davon fallen.

Erstens: Die KI weiß mehr als ich. Über die gesamte Breite der Softwareentwicklung hat sie mehr Code gelesen, mehr Muster gesehen und mehr Abwägungen kennengelernt, als mir in meinem ganzen Berufsleben begegnen werden. Bei jedem Thema, mit dem ich mich nicht ernsthaft beschäftigt habe, ist ihr Urteil wahrscheinlich breiter als meins.

Zweitens: Ich weiß mehr über meinen Kontext, als die KI je wissen wird. Die Randbedingungen, die ich nicht aufgeschrieben habe. Die Teamabsprachen, die in alten Chatverläufen stecken. Die historisch gewachsenen Entscheidungen, die seltsam aussehen, bis man weiß, wer sie getroffen hat und warum. Der Kunde, der auf eine bestimmte Formulierung schlecht reagiert. Nichts davon steckt in den Trainingsdaten des Modells, und nichts davon kommt hinein, solange ich es nicht selbst einbringe.

Beides stimmt fast immer gleichzeitig, und beides zieht in unterschiedliche Richtungen. Wer die KI wie eine Suchmaschine behandelt, verschenkt das Erste. Wer sie wie ein Orakel behandelt, ignoriert das Zweite. Das Arbeitsmuster, bei dem ich gelandet bin, ist darauf ausgelegt, beidem gerecht zu werden. Ich verlasse mich auf die KI bei dem, was sie weiß. Ich verlasse mich nicht auf sie bei dem, was nur ich weiß.

Fragen zeigen Verständnis, Anweisungen setzen es voraus

Der beste Vergleich, den ich dafür habe, ist die Arbeit mit einem Azubi. Wenn ich wissen will, was ein Azubi wirklich verstanden hat, gebe ich ihm keine Anweisung und schaue mir dann das Ergebnis an. Bis das Ergebnis vor mir liegt, ist das Signal verwaschen. Hat er es richtig gemacht, weil er es verstanden hat, oder weil die Anweisung so eng war, dass jeder sorgfältige Mensch dasselbe abgeliefert hätte? Hat er es falsch gemacht, weil er die Aufgabe missverstanden hat, oder weil er ein bestimmtes Wort missverstanden hat, das ich benutzt habe?

Also stelle ich stattdessen Fragen. Aus verschiedenen Richtungen. „Wie würdest du das angehen?“ „Worauf würdest du achten?“ „Wo siehst du das Risiko?“ Seine Antworten zeigen mir sehr schnell, wo die Lücke ist und welchen Kontext ich teilen muss, bevor er loslegt.

Bei einer KI ist es derselbe Zug, nur läuft die Asymmetrie andersherum. Ich prüfe nicht, ob die KI das Fachgebiet kennt. Ich prüfe, ob ihr Verständnis meiner Situation gut genug ist, dass ich mich gefahrlos auf ihr breiteres Wissen verlassen kann. Mit Fragen finde ich das heraus. Anweisungen überspringen diesen Schritt und hoffen das Beste. Hoffen ist keine Arbeitsmethode.

Richtung vor Detail

Der teuerste Fehler, den ich mit KI mache, ist keine falsche Antwort. Es ist, eine detaillierte Antwort zu prüfen, während die Richtung noch offen ist.

Wenn die Richtung feststeht, geht die Detailprüfung schnell. Du weißt, wonach du suchst. Du weißt, was da sein sollte und was nicht. Der Blick bleibt schnell an den falschen Dingen hängen, weil die richtigen eine klare Form haben.

Wenn die Richtung noch offen ist, ist die Detailprüfung eine Falle. Wichtige, prägende Entscheidungen verstecken sich in etwas, das wie Rauschen aussieht. Ein Standardwert, eine Formulierung, eine gewählte Abstraktion, ein stillschweigend übergangener Aspekt. Jede davon ist klein genug, um jemandem durchzurutschen, der gerade damit beschäftigt ist, ob die Oberfläche richtig aussieht. Und sobald eine davon durchrutscht, baut alles Weitere darauf auf. Wenn das Missverständnis ans Licht kommt, korrigierst du keine Zeile mehr. Du wirfst das Ergebnis weg.

Also lasse ich die KI nicht in die Tiefe gehen, bis die Richtung feststeht. Ich forme das übergeordnete Konzept mit Fragen. Ich prüfe, ob die KI dorthin steuert, wo ich hinwill. Ich korrigiere früh, solange Korrigieren billig und das Ergebnis noch klein ist. Erst dann werfe ich sie an. Eine Detailprüfung, nachdem die Richtung feststeht, ist etwas anderes als eine davor. Das Erste ist Verifikation. Das Zweite ist Archäologie.

Schlechte Ergebnisse sind ein Spiegel

Am schwersten fiel es mir, meine Reaktion auf schlechte KI-Ergebnisse umzutrainieren. Früher war mein erster Impuls Frust über das Modell. Das Ergebnis war falsch, die KI hatte es erzeugt, die Ursache schien offensichtlich.

Sie war fast nie die Ursache.

Wenn die KI etwas sichtbar Danebenliegendes produziert, liegt es selten an fehlenden Fähigkeiten. Viel öfter ist es eine Kontextlücke auf meiner Seite. Ich habe die Situation schlecht beschrieben, weil ich sie selbst nicht gut genug verstanden hatte. Die ungeschriebene Randbedingung blieb ungeschrieben. Die Abwägung, die ich still in meinem Kopf entschieden hatte, landete nie im Prompt. Die KI hat dort, wo ich eine Lücke gelassen hatte, vernünftig geraten, und sie lag falsch, weil genau in dieser Lücke die wichtigste Information hätte stehen sollen.

Heute nutze ich schlechte KI-Ergebnisse zur Diagnose. Wenn ich aus der KI keine brauchbare Antwort herausbekomme, könnte ich mit ziemlicher Sicherheit auch selbst keine saubere Antwort liefern. Das Problem so gut zu beschreiben, dass die KI damit arbeiten kann, ist dieselbe Übung, wie das Problem so gut zu verstehen, dass man es lösen kann. Wenn diese Übung scheitert, ist das Scheitern eine Information. Es zeigt mir, worüber ich nachdenken muss.

Hör auf anzuweisen. Fang an zu fragen.

Das Muster passt in einen Satz. Hör auf, der KI zu sagen, was sie tun soll. Fang an, sie zu fragen, was sie tun würde.

Was sich ändert, ist nicht die KI. Die KI ist vor und nach der Umstellung dieselbe. Was sich ändert, ist, welchen deiner beiden Vorteile du nutzt. Anweisungen stützen sich auf deinen Kontext und verschenken das Wissen der KI. Fragen stützen sich auf das Wissen der KI und zwingen dich, ehrlich mit deinem Kontext umzugehen. Die Ergebnisse werden besser. Und ganz nebenbei auch dein eigenes Denken – denn zu einem Problem, das du nicht verstehst, kannst du keine gute Frage stellen.

Wenn du dich das nächste Mal hinsetzt, um KI für echte Arbeit zu nutzen, widersteh dem Drang, Anweisungen zu geben. Beschreib das Problem. Frag, was sie tun würde. Lies die Antwort, wie du den ersten Entwurf eines Kollegen lesen würdest. Widersprich, wo dein Kontext Widerspruch verlangt. Einige dich mit ihr auf die Richtung, bevor du dich auf Details einigst.

Dann, erst dann, lass sie von der Leine.