Πολέμησε στη Μάχη του Μαραθώνα (490 π.Χ.) ως στρατηγός της φυλής του και τον επόμενο χρόνο εκλέχτηκε «άρχων» της Αθήνας. Η εκλογή αυτή, πιθανότατα, ήταν αποτέλεσμα της φήμης που είχε αποκτήσει κατά την θητεία του ως ταμίας του ναού της Αθηνάς, όπου διακρίθηκε για την τιμιότητα και την δικαιοσύνη που επέδειξε. Εξαιτίας της φήμης του, ο στρατηγός Μιλτιάδης τον επέλεξε ανάμεσα στους δέκα στρατηγούς των αττικών φυλών για τη φύλαξη των λαφύρων και των αιχμαλώτων μετά την μάχη του Μαραθώνα. Ως «άρχων» της Αθήνας ήρθε σε αντιπαράθεση με τον Θεμιστοκλή, που υποστήριζε τη δημιουργία ισχυρού στόλου. Αυτή η στάση του οδήγησε τελικά στον εξοστρακισμό (εξορισμό) του, όταν μετά το 484/483 π.Χ. επικράτησε η παράταξη του Θεμιστοκλή. Ο Αριστείδης εμφανίστηκε ως υπέρμαχος της συντηρητικής αγροτικής πολιτικής, από φόβο ίσως ότι η δημιουργία ισχυρού στόλου και ιδιαίτερα η δυσβάσταχτη επιβάρυνση των οικονομικών της πόλης θα οδηγούσε σε αρνητικές οικονομικές και κοινωνικές συνέπειες.