Schefferus giftet seg i 1648 med Regina Loccenia, Johannes Loccenius' datter, og ble med henne far til landshøvding, baron Peter Scheffer, og farfar til Carl Fredrik Scheffer og Ulrik Scheffer. En annen sønn, heredshøvdingen Johan von Scheffer, ble adlet i 1698. Et samtidsportrett av Johannes Schefferus av E. Jetsche finnes på Gripsholms slott.