Den sudettyske Gustav Piffl var yngstemann av syv barn til bokhandleren Rudolf Piffl og hans hustru Maria Magdalena født Piro. Han begynte i 1874 med gymnasstudier i Landskron, avbrøt det for en bokbinderlære, og avsluttet gymnasstudiene i Wien. Han tjenestegjorde som ettårig frivillig i militæret.