Nel 492 a.C. Dario I gli affidò il compito di condurre la prima spedizione contro la Grecia. Al suo comando c'erano un esercito di terra ed uno di mare. In Cilicia, Mardonio si pose direttamente al comando della flotta, raggiungendo la Ionia dall'Asia, mentre delegò ad altri comandanti il compito di guidare l'esercito di terra nell'attraversamento dell'Ellesponto. Ufficialmente lo scopo della spedizione era quello di riassoggettare la Tracia e punire Atene ed Eretria per l'appoggio che avevano dato agli Ioni durante la loro rivolta, ma in realtà l'obiettivo dei persiani era quello di conquistare quante più città greche possibili. Arrivato in Ionia, Mardonio cacciò i tiranni locali e li rimpiazzò con regimi democratici. In seguito sottomise senza trovare opposizione l'isola di Taso, mentre l'esercito di terra conquistò la Tracia e parte della Macedonia.