Sự nghiệp của Pennant sau khi chuyển đến Arsenal vô cùng hứa hẹn. Anh có trận ra mắt đội bóng năm 16 tuổi 319 ngày trước Middlesbrough tại Cúp Liên đoàn vào ngày 30 tháng 11 năm 1999, trở thành cầu thủ trẻ nhất của Arsenal thi đấu ở đội một, vượt qua kỷ lục kéo dài nhiều năm của Gerry Ward sớm 2 ngày. Sau này kỷ lục của anh đã lần lượt bị Cesc Fàbregas và Jack Wilshere xô đổ. Anh tiếp tục ra sân tại Cúp Liên đoàn trong vài mùa giải kế tiếp, nhưng phải đợi tới 2 năm rưỡi mới có trận ra mắt tại Ngoại hạng Anh, khi vào sân từ ghế dự bị đối đầu West Ham United vào ngày 24 tháng 8 năm 2002.