title: Active Learning a Neural-Network Force Field to predict Phase Diagrams
Creators: name: Ketter, Michael
Publisher: name: TU Wien
Year: 2024
Subjects: subject: Machine Learning
subject: Phase diagram
subject: Silicon
subject: Active learning

description: Seit einiger Zeit werden neuronale Netzwerke zur Modellierung der Kraftfelder von chemischen Systemen in den Materialwissenschaften immer beliebter. Dies ist insbesondere durch ihre Kombination aus hoher Genauigkeit, vergleichbar mit ab inito Methoden und dem geringen Aufwand bei der Berechnung der Energie und den Kräften erklärbar. Durch die dabei erzielte Verringerung der Rechenzeit, wird eine automatisierte Erkundung des gesamten chemischen Raumes eines gegebenen System möglich. Zusätzlich können dadurch bisher nicht überprüfbare physikalische Eigenschaften getestet werden. Beispielhaft sei die Arbeit von Unglert N., et al angeführt, in welcher das Phasendiagramm von Silizium mithilfe des neuronalen Netzwerks NeuralIL und einer effizienten Implementierung des so genannten "Nested Sampling" Algorithmus simuliert wird. Die globale Erkundung des chemischen Raums durch den "Nested Sampling" Algorithmus, macht ein entsprechendes Training des neuronalen Netzwerks auf eine Vielzahl an verschiedensten unterschiedlichen Strukturen notwendig. Da für ein allgemeines System, die relevanten Strukturtypen im Vorhinein nicht bekannt sind, ist die Zusammenstellung einer Sammlung geeigneter Trainingsstrukturen a priori nicht möglich. Aus diesem Grund, entwickelt die vorliegende Arbeit eine Methode zur Sammlung der Trainingsstrukturen im Zuge der Simulation eines unären Phasendiagramms. Ausgehend von einer Datenbank allgemeiner Strukturen, wurden iterativ mehrere neue Trainingsdatensätze erstellt und im Anschluss mit der Trainingsdatenbank, welche von Unglert N., et al verwendet wurde, verglichen. Außerdem werden die einzelnen neuronalen Modelle und die erhaltenen Phasendiagramme gründlich analysiert, wobei gezeigt wird, dass nach vier Iterationen alle primären Merkmale des Phasendiagramms von Silizium reproduziert werden können. Zusätzlich ist zu sehen, dass die korrekte Beschreibung der festen Phasen eines Systems, für die Simulation eines fehlerfreien Phasendiagramms alleine nicht ausreicht. Abschließend werden zwei unterschiedliche Methoden zur Verkleinerung einer bestehenden Struktursammlung, ohne erhebliche Qualitätseinbußen befürchten zu müssen, vorgeschlagen und getestet. Insbesondere eine der beiden Methoden zeigt dabei Vorteile gegenüber zufälliger Auswahl der gleichen Anzahl an Strukturen.
description: In recent years, neural network force fields have become exceedingly popular in material science for combining the accuracy of ab initio methods with fast evaluation capabilities. Consequently, the high performance enables the application of automatized exploration strategies to investigate the full configuration space and simulate previously unreachable physical properties. One example for such an application, is the study of Ungert N., et al, where the silicon phase diagram was simulated accurately by combining the neural network force field NeuralIL with an efficient implementation of the nested sampling algorithm. Thereby, the global exploration property of nested sampling requires an equally good prediction for a vast number of different locally stable structures. However, the structures encountered in a simulation run are in general not known beforehand and make the a priori construction of an appropriate training database unfeasible for unknown systems. In order to overcome this challenge, the presented thesis develops an active learning scheme to generate a suitable training database for the prediction of unary phase diagrams. Starting from a generic database, several active learning iterations were conducted. For each iteration, the resulting training database is compared to the one used by Unglert N., et al. Differences in the included configuration space regions, the resulting neural network force field and the predicted phase diagram are analyzed thoroughly. After four iterations of active learning, the main features of the silicon phase diagram are reproduced. Additionally, it is shown that solely having a good description of stable solid phases is not sufficient for an accurate prediction of the phase diagram. Furthermore, two different strategies to reduce the size of a training set without loosing predictive capabilities are proposed. Each strategy was used to select a subset of the resulting active learned training set. By analyzing the corresponding neural network force fields and the obtained simulated phase diagrams, the applicability of the strategies are tested. In conclusion, one of the two approaches shows improved behavior compared to random sampling.