Hierarchische Reasoning-Modelle (HRM): Maschinen beibringen, in Schleifen zu denken

Vom „Immer größer“ zum „Anders denken“

Lange Zeit drehte sich das Wettrennen in der Künstlichen Intelligenz vor allem um Größe: mehr Daten, größere Modelle, immer stärkere Rechenpower. Doch ein neuer Ansatz – die Hierarchical Reasoning Models (HRM) – zeigt, dass die Zukunft vielleicht gar nicht in der Größe liegt, sondern in der Struktur.

Der menschliche Denk-Trick

Statt gigantische „One-size-fits-all“-Systeme zu bauen, orientieren sich HRMs daran, wie Menschen Probleme lösen.
Stell dir vor, du knobelst an einem schwierigen Puzzle: Ein Teil deines Gehirns denkt über die grobe Strategie nach („erst die Ecken füllen“), während ein anderer Teil schnell Details ausprobiert und anpasst („diese Zahl passt nicht, also eine andere“).
Genau dieses Zusammenspiel bildet HRM nach – mit zwei Modulen:

• Der Stratege (H-Modul): langsam, überlegt, auf den großen Plan fokussiert.
• Der Arbeiter (L-Modul): schnell, wiederholend, detailorientiert.

Beide wechseln sich ab: ausprobieren, korrigieren, verbessern – bis die Lösung stabil ist.

Die folgende Grafik veranschaulicht diesen architektonischen Ansatz.
Quelle: https://www.youtube.com/watch?v=RK7lysjz_G0&list=LL&index=2

Warum das wichtig ist

Diese Architektur ermöglicht es HRMs, komplexe Denkaufgaben – etwa Sudoku, Labyrinthe oder abstrakte Intelligenztests – mit nur einem Bruchteil der Daten und Rechenleistung heutiger Riesenmodelle zu lösen.
Während klassische Modelle Milliarden von Beispielen benötigen, erreichen HRMs bereits mit 1.000 Trainingsaufgaben beeindruckende Ergebnisse.

Die folgende Grafik zeigt den Vergleich der Genauigkeit bei schwierigen Sudoku-Problemen in Abhängigkeit von der Modelldepth – HRM vs. Transformer.
Quelle: Vergleiche https://www.youtube.com/watch?v=RK7lysjz_G0&list=LL&index=2

Jenseits von „Größer ist besser“

Die Lehre daraus? Die großen Durchbrüche in der KI entstehen vielleicht nicht dadurch, dass wir Modellen das gesamte Internet „füttern“ – sondern indem wir ihnen beibringen, mehr wie wir zu denken: hierarchisch, strategisch, iterativ.

Vielleicht blicken wir schon bald auf 2025 zurück und sagen: Das war das Jahr, in dem KI aufhörte, nur „größer“ zu werden – und begann, wirklich „klüger“ zu denken.

Mehr erfahren?

Wer tiefer in HRM eintauchen möchte, dem empfehle ich folgende Videos auf YouTube:

Video #1: https://www.youtube.com/watch?v=RK7lysjz_G0&list=LL&index=2

Video #2: https://www.youtube.com/watch?v=QWD55guu0So&list=LL