Skalierungshypothese
Die Annahme, dass KI vor allem durch mehr Daten, mehr Rechenleistung und größere Modelle besser wird.
Einfach erklärt
In den letzten Jahren wurden KI-Modelle vor allem dadurch stärker, dass man sie größer gemacht hat: mehr Trainingsdaten, mehr Rechenchips, mehr interne Parameter. Aus dieser Erfahrung stammt die Hypothese, dass sich dieser Weg fortsetzt und irgendwann bei sehr allgemeiner Fähigkeit landet, vielleicht sogar bei AGI. Sie ist eine Erwartung, kein Naturgesetz.
Es gibt Gegenargumente: Daten und Energie sind begrenzt, zusätzlicher Aufwand führt nicht bei jeder Aufgabe zu gleich großen Verbesserungen, und es ist offen, welche Fähigkeiten sich durch Skalierung allein erreichen lassen. Die Hypothese ist wichtig, weil viele Investitionen und Prognosen der Branche auf ihr beruhen. Trifft sie nur teilweise zu, verschieben sich Zeitpläne und Kostenrechnungen deutlich.
Beispiel aus dem Alltag
Eine neue Modellgeneration ist zehnmal so groß wie die vorige und in vielen Tests besser, erfindet aber weiterhin Quellen, weil Größe dieses Problem nicht behebt.
Häufige Fragen
Ist das belegt?
Es ist eine Erwartung aus der Erfahrung der letzten Jahre, kein Naturgesetz. Daten und Energie sind begrenzt, und die Zugewinne pro Verdopplung werden kleiner.
Löst mehr Größe die bekannten Schwächen?
Nicht von selbst. Erfundene Quellen und unzuverlässiges Schlussfolgern bleiben auch bei größeren Modellen ein Problem.