Tras disputar 8 partidos con la selección sub-19 y 24 partidos con la sub-21, João Pereira fue llamado a la selección de fútbol de Portugal por el nuevo seleccionador Paulo Bento al estar destacando en su club, el Sporting CP. Debutó el 8 de octubre de 2010 frente a en do Dragao con victoria 3-1 en la fase de clasificación para la Eurocopa 2012. Empezó a ser un habitual en las convocatorias y fue el lateral derecho titular en la Eurocopa 2012, en la que Portugal fue semifinalista. Siguió siendo convocado y participó también en el Mundial 2014, en la que hubo menos fortuna al caer en la . Al dejar de tener minutos en Valencia dejó de ser convocado, y en Hannover siguió el mismo camino. En total ha disputado la cifra de 40 partidos como internacional absoluto.