Machine Learning Interatomic Potentials for Atomistic Simulations
Creators: name: Κυριακόπουλος, Νικόλαος Δημητρίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2023
Subjects: Μηχανική Μάθηση
Μοριακή Δυναμική
Φαρμακευτική
Machine Learning
Molecular Dynamics
Pharmaceutical

description: This current project deals with the possibility of producing accurate and computationally efficient potentials from machine learning algorithms. Two novel machine learning algorithms, NequIP, and its derivative, Allegro, are now cutting edge in this field. For this work, Allegro is used, running on GPU to train the desired potentials effectively. The various training parameters, which are vital for the quality of the potential, are close to the ones recommended by the developers. For such an algorithm to work, a training dataset is necessary. The “Solvated Protein Fragments” dataset is used, which contains almost 2.7 million DFT calculations for many-body intermolecular interactions between "protein fragments" and water molecules, which are important for the description of many biologically relevant condensed phase systems. The elements involved are H, C, N, O and S. Of course, a smaller dataset translates to improved computational efficiency, thus, the initial one is reduced in size based on the intended use. The test bed for this project is the Sildenafil molecule, which contains all five of the elements mentioned above. The final training produced outstanding results, benefiting from a combination of adequate training dataset as well as correct parameters. Computational efficiency was significantly improved in comparison with DFT method and given that the training was performed on a GPU. Evaluation of the produced interatomic potentials was performed both with Allegro’s own mechanism, achieving exceptional accuracy, and LAMMPS molecular dynamics simulations. For each of the produced potentials, minimization and NPT simulations were performed, to evaluate the relaxation process and adequate energy reduction. More structures were also tested, namely urea, ammonia, uracil, oxalic and acetic acid, and the produced potential performed impeccably, showcasing the possibility of using it in numerous other structures containing these elements. Visualizing the results, each structure’s relaxation is confirmed to be scientifically accurate. The results of this work exhibit strong scaling and the possibility to be used in pharmaceutical research purposes, explaining larger molecular structures with no previous equivalent computational research approach. This is achieved through innovative model architecture, and models and implementations optimized for efficient GPU utilization. Additionally, successful machine learning results showcase that more efficient and targeted potential production tend to lead the way in computational solid-state physics. The computations are executed in the in-house HPC “Aristotelis” owned by AUTh, using the latest Nvidia A100 GPU.
description: Η παρούσα ερευνητική εργασία ασχολείται με τη δυνατότητα παραγωγής ακριβών και υπολογιστικά αποδοτικών δυναμικών (interatomic potentials) από αλγορίθμους machine learning. Δύο νέοι αλγόριθμοι machine learning, το NequIP και το παράγωγό του, το Allegro, αποτελούν σήμερα αιχμή του δόρατος στον τομέα αυτό. Για την εργασία αυτή χρησιμοποιείται το Allegro, το οποίος λειτουργεί σε GPU για την αποτελεσματική εκπαίδευση (training) των επιθυμητών δυναμικών. Οι διάφορες παράμετροι εκπαίδευσης, οι οποίες είναι ζωτικής σημασίας για την ποιότητα του δυναμικού, είναι κοντά σε αυτές που συνιστώνται από τους developers του λογισμικού. Για να λειτουργήσει ένας τέτοιος αλγόριθμος, είναι απαραίτητο ένα dataset εκπαίδευσης. Χρησιμοποιείται το σύνολο δεδομένων "Solvated Protein Fragments", το οποίο περιέχει σχεδόν 2,7 εκατομμύρια υπολογισμούς DFT για διαμοριακές αλληλεπιδράσεις μεταξύ "πρωτεϊνικών θραυσμάτων" και μορίων νερού, οι οποίες είναι σημαντικές για την περιγραφή πολλών βιολογικών συστημάτων στερεάς κατάστασης. Τα στοιχεία που εμπλέκονται είναι τα H, C, N, O και S. Φυσικά, ένα μικρότερο σύνολο δεδομένων εξασφαλίζει βελτιωμένη υπολογιστική απόδοση, επομένως, το αρχικό dataset μειώνεται σε μέγεθος με βάση την προβλεπόμενη χρήση. Η δοκιμή για το πρότζεκτ αυτό είναι το μόριο της Σιλδεναφίλης, το οποίο περιέχει και τα πέντε προαναφερθέντα στοιχεία. Η τελική εκπαίδευση παρήγαγε εξαιρετικά αποτελέσματα, χάρη σε ένα συνδυασμό κατάλληλου συνόλου δεδομένων καθώς και σωστών παραμέτρων. Η υπολογιστική απόδοση βελτιώθηκε σημαντικά σε σύγκριση με τη μέθοδο DFT, και δεδομένου ότι η εκπαίδευση πραγματοποιήθηκε σε GPU αυτό ήταν αναμενόμενο. Η αξιολόγηση των παραγόμενων δυναμικών πραγματοποιήθηκε τόσο με τον ίδιο τον μηχανισμό του Allegro, επιτυγχάνοντας εξαιρετική ακρίβεια, όσο και με προσομοιώσεις μοριακής δυναμικής LAMMPS. Για κάθε ένα από τα παραγόμενα δυναμικά, πραγματοποιήθηκαν προσομοιώσεις Αφηρέμησης και NPT, για την αξιολόγηση της διαδικασίας χαλάρωσης και της επαρκούς μείωσης της ενέργειας. Δοκιμάστηκαν επίσης περισσότερες δομές, και συγκεκριμένα η ουρία, η αμμωνία, η ουρακίλη, το οξαλικό και το οξικό οξύ, και το παραγόμενο δυναμικό απέδωσε άψογα, αναδεικνύοντας τη δυνατότητα χρήσης του σε πολλές άλλες δομές που περιέχουν αυτά τα στοιχεία. Οπτικοποιώντας τα αποτελέσματα, επικυρώθηκε ότι η αφηρέμηση και η γενικότερη συμπεριφορά κάθε δομής είναι επιστημονικά ακριβής. Τα αποτελέσματα αυτής της εργασίας παρουσιάζουν ισχυρό scaling και τη δυνατότητα να χρησιμοποιηθούν σε εφαρμογές φαρμακευτικής έρευνας, ερμηνεύοντας μεγαλύτερες μοριακές δομές χωρίς προηγούμενη αντίστοιχη υπολογιστική ερευνητική προσέγγιση. Αυτό επιτυγχάνεται μέσω της καινοτόμου αρχιτεκτονικής του μοντέλου και της βελτιστοποίησης των υλοποιήσεων για αποδοτική χρήση σε GPU. Επιπλέον, τα επιτυχημένα αποτελέσματα machine learning καταδεικνύουν ότι η αποδοτικότερη και πιο στοχευμένη παραγωγή δυναμικών τείνει να δείξει τον δρόμο στην υπολογιστική φυσική στερεάς κατάστασης. Οι υπολογισμοί εκτελούνται στον HPC "Aristotelis" που ανήκει στο ΑΠΘ, χρησιμοποιώντας την τελευταία GPU Nvidia A100.