Sau World Cup 2002, Poulsen chuyển tới Schalke 04 với mức giá kỉ lục 7 triệu euro cho một cầu thủ Đan Mạch nhằm thay thế vị tri của lão tướng người Séc Jiří Němec. Sự khởi đầu của anh ở Schalke khá thuận lợi khi được chơi bên cạnh người đồng hương Ebbe Sand. Trong quãng thời gian ở Schalke, Poulsen có chơi một số trận ở vị trí hậu vệ phải, xong anh chỉ chơi thật sự thành công khi thi đấu ở vị trí tiền vệ. Màn trình diễn của anh trong màu áo Schalke và đội tuyển bóng đá quốc gia Đan Mạch đã giúp anh giành danh hiệu Cầu thủ Đan Mạch xuất sắc nhất năm 2005.