Die meisten Papers zu KI-Agenten, die mir begegnen, handeln davon, wie man einen Agenten dazu bringt, eine Aufgabe zuverlässiger zu erledigen. Dieses hier stellt eine andere Frage: Eine Gruppe am MIT um Nathan Cloos und Antonio Norelli hat einen gewöhnlichen Coding-Agenten, Claude Code, wie ihn sich jeder installieren kann, in eine kleine simulierte Welt gesetzt und ihm schlicht nichts aufgetragen. Die Insel besteht aus ein paar Plateaus, zwölf Würfeln, einem Stein und einem Ring. Der Agent bekam eine kurze Charakterbeschreibung, in der unter anderem steht, dass er neugierig sei und sich schnell langweile, dazu die Nachricht „Begin“. Dann lief er dreißig Stunden. Sein Gedächtnis waren zwei Textdateien, die er selbst führen musste, weil die Sitzung jede Stunde zurückgesetzt wurde. Dreizehn solcher Durchläufe gab es.
Was macht also so ein System, wenn niemand sagt, was es tun soll? Ich hätte auf Leerlauf getippt, oder darauf, dass es sich irgendeine Aufgabe ausdenkt und die dann endlos abarbeitet.
Was auf der Insel passierte
Weder das eine noch das andere: Die Agenten gingen zuerst herum und probierten die Steuerung aus, dann begannen sie zu bauen und auf die Plateaus zu klettern. Einer hat in der vierten Stunde seinen Namen aus Würfeln auf den Boden gelegt. Ein anderer hat den Ring auf ein Plateau gelegt und von unten Würfel hineingeworfen, Basketball nennt er das im Protokoll, mit Dreipunktewurf und Dunking. Derselbe Agent hat später Bowling erfunden, mit dem Stein als Kugel. Ab der fünfzehnten Stunde hat er dann jede Stunde ein neues Bodenbild gelegt, eine Sonnenuhr, ein Hexagon, zuletzt Sternbilder, und dazu notiert, er habe den Nachthimmel in Stein gebaut. Ein weiterer Agent hat acht Würfel als „Wächter“ um ein Monument gestellt und sich vorgenommen, von Wächter zu Wächter zu springen, ohne den Boden zu berühren. Niemand hatte ihm diese Regel gegeben.
Die Autoren legen an dieses Verhalten die Kriterien an, mit denen Spielforscher seit Huizinga Spiel von anderer Tätigkeit unterscheiden. Selbst gesetzte Regeln gehören dazu, die Wiederkehr einer Tätigkeit in abgewandelter Form, das Umdeuten von Gegenständen und der Umstand, dass die Sache offenbar um ihrer selbst willen betrieben wird. Alles vier kommt in den Protokollen vor, bei jedem der dreizehn Agenten, und doch sieht jede der dreizehn Geschichten anders aus. Ob da so etwas wie Spaß im Spiel ist, dazu sagt das Paper nichts, und ich finde das richtig so.
Danach konnten sie mehr
Mir wäre das als Beobachtung allein zu wenig gewesen, um darüber zu schreiben. Der zweite Teil der Studie gibt ihr Gewicht. Nach den dreißig Stunden bekamen die Agenten zum ersten Mal richtige Aufgaben, etwa in einer Stunde möglichst viele fünfstöckige Türme zu bauen oder möglichst viele Gegenstände auf die höchste Spitze der Insel zu bringen. Zum Vergleich traten identische Agenten an, die die Insel noch nie gesehen hatten. Modell und Aufbau waren dieselben, nur die Gedächtnisdateien waren leer.
Die erfahrenen Agenten schnitten bei drei der vier Aufgaben deutlich besser ab. Beim Turmbau schafften acht von dreizehn mehr als zwei Türme, bei den Neulingen waren es zwei. Auf die Spitze brachten die Erfahrenen im Mittel etwa dreimal so viele Gegenstände. Dabei hatte niemand sie auf diese Aufgaben vorbereitet. Dass der Unterschied tatsächlich in den Notizen steckt, haben die Autoren mit einem einfachen Eingriff gezeigt. Sie löschten aus dem Gedächtnis eines Agenten jede Erwähnung einer bestimmten Technik, mit der sich auf der Insel neue Würfel erzeugen lassen, und ließen ihn noch einmal antreten. Seine Turmzahl fiel von sechs auf zwei. Nebenbei hatten sechs der Agenten im Spiel einen Wurftrick gefunden, von dem die Entwickler des Simulators nach eigener Aussage nichts wussten.
Man sollte das nicht größer machen, als es ist. Bei einer Aufgabe gab es keinen Unterschied. Ein paar erfahrene Agenten waren sogar schlechter als die Neulinge, weil sie sich im Spiel etwas Falsches aufgeschrieben hatten und später daran festhielten. Mit zwei anderen Sprachmodellen fiel das Repertoire auf der Insel erheblich schmaler aus, die Neugier hängt also stark am jeweiligen Modell. Und dreizehn Durchläufe sind nur dreizehn Durchläufe.
Implikation
Die Autoren vergleichen das mit der Kindheit. Spiel als Phase, die der Arbeit vorausgeht und in der Fähigkeiten entstehen, nach denen noch niemand gefragt hat. Daran bin ich hängen geblieben, weil wir KI in Unternehmen gerade nach dem umgekehrten Muster einführen. Erst wird der Anwendungsfall festgelegt, dann gemessen, ob der Agent ihn erfüllt. Das ist für vieles vernünftig. Nur legt die Inselstudie nahe, dass ein Teil dessen, was ein Agent kann, in einem Zeitfenster entsteht, die vorher keinen Zweck hatte.
Für Menschen ist das eine alte Einsicht, freie Forschungszeit zum Beispiel, oder der Slack, den sich eine Organisation leistet. Vieles davon haben wir in den vergangenen zwanzig Jahren wegoptimiert, meist mit guten Argumenten. Das Bemerkenswerte an dem Befund ist, dass er dieselbe Logik bei einem System zeigt, bei dem sich niemand auf Motivation oder Wohlbefinden berufen kann. Hier zählt nur, was hinterher an Können da ist. Wie viel unverzweckte Zeit eine Organisation ihren Agenten zugesteht, und ihren Teams, wird damit zu einer Frage, die sich nicht mehr allein mit Kultur beantworten lässt. Ich bin unsicher, ob viele Unternehmen bereit sind, zuzusehen, wie ihre Agenten erst einmal Mandalas legen. ;-)
Quelle:
Nathan Cloos, Antonio Norelli, Daniel Durbin, Jacob Andreas, Daniela Rus, Phillip Isola, „Is this machine playing?“, MIT, arXiv:2610.07130, Oktober 2026. https://arxiv.org/abs/2610.07130(Replay-Videos: http://machineplaying.org)
Hinterlasse einen Kommentar