Anh là sự lựa chọn hàng đầu trong suốt chiến dịch vòng loại Euro 2008 và đá chính trong tất cả các trận đấu của tuyển Đức ở vòng chung kết. Do những vấn đề chấn thương ở đầu mùa giải 2009-10, anh đã bỏ lỡ một vài trận ở chiến dịch vòng loại World Cup 2010 nhưng anh vẫn giữ được vị trí số một ở hàng phòng ngự sau khi bình phục chấn thương. Mertesacker ghi bàn thắng thứ hai của anh cho đội tuyển Đức vào ngày 17 tháng 10 năm 2012 trong trận đấu với Thụy Điển. Mertesacker thường xuyên mặc áo số 17 ở đội tuyển. Tính đến tháng 6 năm 2013, anh đã có 101 lần khoác áo đội tuyển Đức.