Vermaelen begynte karrieren hos den belgiske klubben Germinal Ekeren, som senere slo seg sammen med klubben Beerschot VAC og ble til Germinal Beerschot. Denne klubben fikk senere et tett samarbeid med Ajax Amsterdam, og i 2004 dro Vermaelen til Ajax. Han debuterte 15. februar 2004 mot FC Volendam fra start i en kamp Ajax til slutt vant 2–0. Sesongen etter ble han utlånt til RKC Waalwijk.