Johannes Schefferus ble født i Strasbourg som sønn til kjøpmannen Johan Scheffer og hans hustru Elisabeth Kraschel. Han gjorde seg bemerket ved universitetet. Filologen Johan Henrik Boeclerus la merke til ham allerede før han ble skrevet inn ved universitetet. Etter kortere studier bega han seg på en reise til Nederland og Leiden, samt Sveits. Da han var tilbake i Strasbourg i 1643 ga han ut sin første skrift, , hadde han gjort seg et navn innom filologien.