Cùng với Werder Bremen, Mertesacker đã vô địch DFB-Pokal và kết thúc ở vị trí á quân tại UEFA Cup 2008-09. Là một cầu thủ trầm tĩnh nhưng hiệu quả, anh đã trở thành sự lựa chọn hàng đầu ở vị trí trung vệ của đội tuyển Đức. Anh đã có hơn 75 lần xuất hiện trong màu áo đội tuyển quốc gia dù tuổi đời còn trẻ. Trước khi được chơi cho đội tuyển quốc gia, anh đã được thi đấu ở tuyển trẻ U20 và U21 của Đức. Vào tháng 9 năm 2004, Jürgen Klinsmann, huấn luyện viên của đội tuyển Đức, đã triệu tập Mertesacker cho trận đấu vào ngày 9 tháng 10 năm 2004 gặp Iran. Anh có màn ra mắt ở đội tuyển quốc gia chưa đầy hai tuần sau sinh nhật lần thứ 20 khi anh vào sân trong hiệp hai để thay thế cho Christian Wörns. Trong hai mùa giải cuối cùng của anh ở Werder Bremen, hậu vệ này chỉ phải nhận đúng một thẻ vàng trong 63 trận ở giải vô địch. Anh đã cùng đội tuyển Đức góp mặt ở World Cup 2006, 2010 và 2014 cùng với các kỳ Euro vào các năm 2008 và 2012. Năm 2006, hậu vệ này đã thành lập 'Per-Mertesacker-Stiftung', một quỹ từ thiện nhằm giúp hỗ trợ cho những vận động viên nghiệp dư và những người nghèo khổ.