Nacido en el distrito de Stepney en Londres, Cole comenzó su carrera juvenil en el Arsenal FC e hizo su debut para el club en noviembre de 1999, llegando a acumular un total de 228 apariciones, en las cuales marcó 9 goles.