テミストクレスの予想は的中し、ペルシア王クセルクセス1世率いる大軍が来寇した（第二次ペルシア戦争）。その際、アテナイにおいて将軍（ストラテゴス）の選挙が行われたが、民衆煽動家のエピキュデスが選出されそうになったため、テミストクレスは金銭で彼を買収し、辞退させた。ペルシアとの戦いでは将軍として主導的役割を果たし、紀元前480年のアルテミシオンの海戦では一進一退の攻防を行い、サラミスの海戦においてはペルシア海軍を撃破した。サラミスの海戦直後に彼はクセルクセスに密かに使者を送り、ペルシア艦隊への手加減とペルシア王への好意をほのめかし、恩を売った。また、ペルシア軍の再来に備えて、ペイライエウスを建設し、これとアテナイまでの間に防壁を築き、トゥキュディデスの記述によれば、籠城の際には、ペイライエウスに避難するよう説いた。アテナイの増長を警戒したスパルタはこれに抗議したが、スパルタに使節として赴いたテミストクレスは会議への出頭を延期し続けて長城完成のための時間を稼いだ。