title: Esports trainer
Creators: name: Cömert, David
Publisher: name: :none
Year: 2024

description: Ziel dieser Masterarbeit ist es, eine Möglichkeit zu finden, wie ein Spieler oder eine Spielerin durch künstliche Intelligenz (KI) in einem Computerspiel sich verbessern kann. In einem ersten Schritt muss diese KI die Fähigkeiten des Menschen deutlich übertreffen, um eine wertvolle Unterstützung bieten zu können. Reinforcement Learning ist das Herzstück jeder Spiel-KI. Das Prinzip ähnelt dem menschlichen Lernen und basiert auf einem Versuch-und-Irrtum-Konzept. Es wird durch neuronale Netze weiter verbessert. Eine der derzeit besten KI im Bereich der Computerspiele ist MuZero, ein direkter Nachfolger des bekannten AlphaZero-Algorithmus. Durch Spiele gegen sich selbst ist es möglich, dass sich die KI so weit zu verbessert, dass es die Fähigkeiten des Menschen bei weitem übertrifft. MuZero ist die grundlegende AI in dieser Arbeit, um die Spiele von Menschen zu analysieren. Der erste Schritt war die Erstellung der KI. Diese KI unterscheidet sich etwas vom Stand der Forschung, da die Bedingungen nicht die gleichen sind. Die KI-Modelle sind aufgrund von Hardwarebeschränkungen deutlich kleiner. Dadurch erreicht die KI nur gute und keine perfekten Ergebnisse. Es wurden verschiedene Methoden verwendet, um Informationen aus der KI zu extrahieren. Die erste Methode Perfect Game vergleicht die Aktionen des Menschen und der KI, je größer die Abweichung, desto schlechter wird die Aktion des Menschen bewertet. Diese Methode eignet sich besonders, um die Spielzüge der KI nachzuahmen. Sie ist jedoch nur für Spielerinnen und Spieler zu empfehlen, die bereits ein hohes Fähigkeitsniveau erreicht haben. Da diese Methode oft intransparent und schwer umsetzbar ist, wurde nach Methoden gesucht, die auch ähnlich gute Aktionen vorschlagen und positiv bewerten. Value only Game beschreibt die Methode, einzelne Positionen im Spiel zu bewerten, ohne auf erlernte Handlungsmuster zurückzugreifen. Mit dieser Bewertungsmethode können Aktionen granular unterschieden werden und somit werden auch gute und nicht nur die besten Aktionen verwendet. Für sehr gute Spielerinnen und Spieler ist diese Methode eher weniger geeignet, da die KI ohne die gelernten Handlungsmuster schwächer ist. Die letzte Methode Easy Game konzentriert sich darauf, möglichst einfache Spielzüge zu finden, die trotzdem zu einem guten Ergebnis führen. Diese Methoden wurden anhand von Praxisbeispielen untersucht und verglichen. Jede dieser Methoden hat bestimmte Anwendungsmöglichkeiten und verschiedene Parameter, um die Ergebnisse zu optimieren. Die Ergebnisse zeigen, dass diese Methoden anwendbar sind und dass Spielerinnen und Spieler ihre Spiele auf hohem Niveau analysieren und dadurch ihre Fähigkeiten verbessern können. Wichtig ist, dass die KI deutlich besser spielt als der Mensch und dass die KI vorher trainiert werden muss. Dieses Training setzt auch das Vorhandensein einer Trainingsumgebung und entsprechender Hardware voraus.
description: The aim of this master's thesis is to find a way in which artificial intelligence (AI) can help to improve human game performance. The AI itself has to understand the context of the game. This is done by learning in the specific game with various methods from machine learning. This AI must significantly exceed the capabilities of the human player in order to provide valuable support and feedback. Reinforcement learning is at the heart of all game AIs and a sub category of machine learning. The principle is similar to human learning and is based on a trial-and-error concept. This is further enhanced by neural networks. One of the best AIs currently available in the field of computer games is MuZero, a direct successor to the well-known AlphaZero algorithm. By playing against itself, it is possible to improve to such an extent that it far surpasses the abilities of humans. MuZero was used as a foundation for analyzing the human games in this thesis. The first step was to create the AI by providing a working AI. Compromises have to be made compared to the state-of-the-art. The biggest difference from other related work is the hardware limitation. This results in much smaller models. This AI performs well in the given use cases, but not perfect. Different methods were used to extract information from AI. The first method, Perfect Game, compares the actions of the player and the AI. The greater the deviation, the worse the player's action is rated. This method is particularly suitable for imitating the AI's moves. However, it is only recommended for players who have already reached a high skill level. This method is often characterized by opaque reasons and is difficult to implement for humans, because there are some times counterintuitive, which is why other methods should also be used. Another way is to use similar good actions and evaluate them positively. Value only Game, describes the method of evaluating individual positions in the game by only taking the value of the current and future observations. With this evaluation method, actions can be differentiated granularly, and therefore good actions are also used and not just the best ones. This method is less suitable for very good players, as the AI is weaker without the learned action patterns. The last method, Easy Game, focuses on finding the simplest possible moves that still lead to a good result. These methods were examined and compared using theoretical and practical examples. Each of them has other use cases and different parameters to fine tune the results. The results show that these methods are applicable and that the players can analyze their games at a high level and thus work on their skills, at least with a few caveats. One of them is, that the AI has to outperform the human consistently. Another one is, that it is necessary to train the AI beforehand, which also includes the need of an environment and the hardware.