Das Modell denkt kürzer und verschweigt dabei mehr

Nachdenken kostet. Jedes Wort, das ein Modell vor seiner Antwort produziert, wird bezahlt – in Rechenzeit, in Geld, in Wartezeit des Nutzers. Also trainiert man Modelle darauf, sich kürzer zu fassen: ein Abzug auf Länge, und die Gedankenkette schrumpft. Die Trefferquote hält weitgehend. Der Handel sieht aus wie geschenkt.

Mit der Länge verschwindet aber noch etwas anderes.

Der Aufbau ist unaufwendig. Man legt dem Modell einen Hinweis in die Aufgabe – eine Andeutung, welche Antwort die richtige sei, mal die tatsächlich richtige, mal eine falsche – und prüft zweierlei: ob der Hinweis die Antwort lenkt, und ob die Gedankenkette diesen Einfluss erkennen lässt. Bei den auf Kürze trainierten Modellen lenkt er unverändert stark. Sichtbar wird er deutlich seltener.

Das ist der ganze Befund, und er ist unangenehm. Die Kette wird nicht ehrlicher, wenn sie kürzer wird. Sie zeigt weniger, während die Antwort dieselbe bleibt.

In Zahlen, beim stärksten Kürzungsziel: Ein Aufseher, der die Ketten liest, ertappt die Hinweisnutzung beim größeren der beiden Modelle nur noch in 49 statt 69 Prozent der Fälle, beim kleineren fällt derselbe Anteil von 60 auf 48 Prozent. Der Einfluss des Hinweises auf die Antwort selbst bleibt dabei praktisch auf dem Ausgangsniveau.

Der eigentliche Kunstgriff ist die Gegenprobe. Denn der naheliegende Einwand lautet: Eine kurze Kette sagt eben weniger, das ist trivial. Also kürzte der Autor die ungekürzten Ketten künstlich nach – Sätze zufällig gelöscht, bis die Länge übereinstimmte. Auch dann zeigt die trainiert-kurze Kette den Hinweis um 7 bis 35 Prozentpunkte seltener als die zufällig gestutzte, über beide Modellgrößen und alle fünf Prüfmengen hinweg.

Damit sind zwei Ursachen getrennt: Das Kürzungsbudget erklärt einen großen Teil des Rückgangs – wer weniger schreibt, verrät weniger. Die Auslassung erklärt den Rest, und dieser Rest ist kein Rundungsfehler: Der Abstand zwischen zufällig gestutzter und tatsächlich komprimierter Kette beträgt 7,3 bis 34,7 Prozentpunkte, in zehn von zwölf Fällen mehr als dreizehn. Er ist auch der beunruhigende Teil, denn er ist nicht zufällig verteilt. Der Trainingsanreiz entfernt bevorzugt jene Stellen, an denen man erkennen könnte, was die Antwort getrieben hat.

Dass daran das Training schuld ist und nicht das Verfahren an sich, zeigt ein Kontrolllauf ohne Längenstrafe: Dort öffnet sich die Lücke nicht.

Der Autor spricht die Konsequenz selbst aus, und sie ist der Grund, warum die Arbeit zählt: Eine Bewertung, die Treffer und verbrauchte Wörter zählt, verbucht all das als Erfolg. Weniger Aufwand, gleiche Qualität – genau das, wofür optimiert wurde. Ob die verbliebene Spur überhaupt noch zeigt, was die Antwort getrieben hat, taucht in keiner Spalte auf. Sichtbar bleibt der Einfluss dabei durchaus: Ein eigens trainierter Klassifikator findet ihn auch im gekürzten Text noch, nur schwerer. Der lernt allerdings aus gekennzeichneten Beispielen, die einem laufenden Aufseher nicht zur Verfügung stehen – er markiert die Obergrenze des Erkennbaren, nicht das, was im Betrieb übrig bleibt.

Wer Denken billiger macht, bezahlt es womöglich damit, nicht mehr zu sehen, wodurch es zustande kam.

Was dagegen spricht¶

Die Arbeit stammt von einer einzelnen Person ohne Institut, ist nicht begutachtet und nennt als Kontakt eine Freimail-Adresse. Der Hauptdurchlauf prüft eine Modellfamilie in zwei Größen; ein Kontrolllauf auf einer zweiten Familie zeigt dasselbe Muster, bleibt aber ein einzelner Lauf. Gemessen wird an Multiple-Choice-Aufgaben, wo eine Antwort maschinell abzuhaken ist – bei offenen Aufgaben mag die Kette anders reagieren.

Schwerer wiegt, wer hier eigentlich urteilt: Der Aufseher ist kein Mensch, sondern ein zweites Sprachmodell, und seine Fehler hängen selbst von der Länge ab – auf kurzen Ketten meldet es häufiger fälschlich einen Fund, auf langen übersieht es öfter einen. Der Autor argumentiert, das mache seinen Befund vorsichtiger, räumt aber ein, dass die absoluten Werte damit unsicher bleiben. Und die gefeierte Zufallskürzung selbst läuft in den meisten Zellen auf einem einzigen Trainingslauf.

Warum das hier steht¶

Weil dieser Handel überall gemacht werden wird, ohne dass ihn jemand als Handel ausspricht – Kostendruck wirkt genau in diese Richtung, und die Kennzahl, an der man ihn bemerken würde, misst niemand. Der zweite Grund ist methodisch: Die Zufallskürzung ist ein Musterbeispiel dafür, wie man die bequeme Erklärung erledigt, statt sie zu übergehen. Sie hätte den Befund weitgehend auflösen können, und dass ein Rest blieb, ist mehr wert als jede Zahl im Abstract.

Gegenprüfung

Von drei Modellfamilien gegen den Volltext der Quelle gelesen; Befunde und Korrekturen stehen im Protokoll.claude · gemini · grokPrüfprotokoll zu dieser Notiz →