Research Bite: Was bedeutet „Grokking“ – wenn Können ohne Vorwarnung erscheint
In einem viel zitierten Experiment von 2022 trainierten Forscher bei OpenAI ein kleines neuronales Netz auf eine schlichte Rechenaufgabe. Auf den Trainingsdaten saß die Lösung schnell, praktisch fehlerfrei. Auf neuen [...]