Frontier AI-Modelle überbeanspruchen Muster, die Texte für Leser anstrengend machen
Eine Studie der New York University und der University of Texas at Austin zeigt, dass große Sprachmodelle bestimmte sprachliche Muster übermäßig verwenden, die Menschen nur schwer verarbeiten können. Die Forscher führen dies auf das Training mit Code und Mathematik zurück, wo Korrektheit belohnt wird, Klarheit jedoch nicht.
Große Sprachmodelle der neuesten Generation verwenden bestimmte sprachliche Muster systematisch häufiger, als es für Leser angenehm ist. Eine Studie der New York University und der University of Texas at Austin kommt zu dem Ergebnis, dass solche Formulierungen für Menschen schwer zu verarbeiten sind und Texte dadurch ermüdend wirken können.
Die Forscher sehen die Ursache im Training der Modelle. Diese werden unter anderem mit Code und mathematischen Aufgaben trainiert, Bereiche, in denen vor allem die formale Richtigkeit einer Antwort belohnt wird. Verständlichkeit und Lesbarkeit für menschliche Leser spielen dabei nach Einschätzung der Wissenschaftler eine untergeordnete Rolle. Die Modelle lernen so Ausdrucksweisen, die zwar korrekt, aber schwer zugänglich sind.
Ein auffälliger Unterschied zeigt sich bei kleineren Modellen. Diese schreiben nach den Ergebnissen der Untersuchung deutlich näher an menschlichen Texten. Die Autoren der Studie verweisen damit auf einen Zusammenhang zwischen Modellgröße, Trainingsdaten und Stil, der die Lesbarkeit maschinell erzeugter Texte beeinflusst.
Für Redaktionen, Unternehmen und Bildungseinrichtungen, die KI-Texte einsetzen, ist der Befund relevant. Er zeigt, dass ein flüssiger Ton allein nicht ausreicht, wenn die Formulierungen den Leser ermüden. Die Studie macht zugleich deutlich, dass sich die Qualität solcher Texte nicht nur an sachlicher Richtigkeit, sondern auch an ihrer Verständlichkeit messen lassen sollte.
7
