Optimizing language models for chess : the impact of custom notation and Elo-based fine-tuning
Creators: name: Schmid, Lars
name: Maag, Jerome
Publisher: name: ZHAW Zürcher Hochschule für Angewandte Wissenschaften
Year: 2024
Subjects: AI
Chess
GPT-2
LLM
Mamba
NLP
KI
Schach
006: Spezielle Computerverfahren

description: This research investigates the potential for large language models to learn to generate valid chess moves solely through pre-training on chess game data. The primary objective of this study is to investigate the impact of custom notation systems and tokenisation methods specifically designed for use with chess games. The study aims to improve the models’ understanding of game states and move sequences by developing and implementing a custom notation system, xLAN+. This notation system incorporates additional information about captures, checks and checkmates in order to increase the performance of the models. Furthermore, the strategic gameplay capabilities of the models are to be enhanced by fine-tuning them on datasets filtered by Elo rating. This approach postulates that filtering games by skill level can help models develop a deeper understanding of strategic gameplay, thereby improving their ability to generate high-quality moves. The research uses two different architectures, Transformer, based on OpenAI’s GPT-2 configuration, and Mamba, a State Space Model (SSM) optimised for long sequence processing. Initial findings indicate that the custom notation xLAN+ significantly improves the models’ ability to generate valid moves and maintain game state accuracy over extended sequences. The comparison between GPT-2 and Mamba reveals that while both architectures can learn chess rules and generate plausible moves, the SSM offers slight advantages in handling long-range dependencies and maintaining game context. This project demonstrates the potential of language models to learn complex tasks like chess through data-driven approaches, paving the way for their application in other strategic and decision-making domains.
description: 
Diese Forschungsarbeit untersucht das Potenzial von Large Language Models, die allein durch Vortraining mit Schachspieldaten lernen, gültige Schachzüge zu erzeugen. Das Hauptziel dieser Studie ist es, die Auswirkungen von benutzerdefinierten Notationssystemen und Tokenisierungsmethoden zu untersuchen, die speziell für die Verwendung mit Schachspielen entwickelt wurden. Die Studie zielt darauf ab, das Verständnis der Modelle für Spielzustände und Zugfolgen zu verbessern, indem ein eigenes Notationssystem, xLAN+, entwickelt und implementiert wird. Dieses Notationssystem enthält zusätzliche Informationen über Schläge, Schach und Schachmatt, um die Leistung der Modelle zu erhöhen. Darüber hinaus sollen die strategischen Spielfähigkeiten der Modelle durch Fine-Tuning anhand von nach Elo-Wertung gefilterten Datensätzen verbessert werden. Dieser Ansatz geht davon aus, dass die Filterung von Partien nach Spielstärke den Modellen dabei helfen kann, ein tieferes Verständnis für das strategische Spiel zu entwickeln und dadurch ihre Fähigkeit zu verbessern, qualitativ hochwertige Züge zu generieren. Die Forschung verwendet zwei verschiedene Architekturen, Transformer, basierend auf der GPT-2-Konfiguration von OpenAI, und Mamba, ein State Space Model (SSM), das für die Verarbeitung langer Sequenzen optimiert ist. Erste Ergebnisse deuten darauf hin, dass die benutzerdefinierte Notation xLAN+ die Fähigkeit der Modelle, gültige Züge zu generieren und die Genauigkeit des Spielzustands über längere Sequenzen aufrechtzuerhalten, deutlich verbessert. Der Vergleich zwischen GPT-2 und Mamba zeigt, dass beide Architekturen Schachregeln erlernen und plausible Züge generieren können, SSM jedoch leichte Vorteile bei der Handhabung von weitreichenden Abhängigkeiten und der Aufrechterhaltung des Spielkontexts bietet. Dieses Projekt demonstriert das Potenzial von Sprachmodellen zum Erlernen komplexer Aufgaben wie Schach durch datengesteuerte Ansätze und ebnet den Weg für ihre Anwendung in anderen strategischen Bereichen und Entscheidungsprozessen.