Pärmi syntyi Alahärmän Vakkurin kylässä. Hänen vanhempansa olivat itsellinen talonpoika Jaakko Juhonpoika Pärmini (ent. Kukkola) ja Kaisa Kaapontytär Lahti (o.s. Stråka). Vuosisadan alussa Pärminien sukunimi lyhennettiin muotoon Pärmi. Nikke Pärmi vihittiin avioliittoon vuonna 1921 Anni Petronella Lönngrenin kanssa ja heille syntyi tytär vuonna 1923. Myös Pärmin veli, sisällissodassa 1918 kaatunut Johannes Pärmi oli jääkäri.