János Pálffy nació en el Castillo de Červený Kameň en 1664 y fue educado inicialmente en Hungría y más tarde se trasladaría a Viena (1677-1679) y Parma (1679-1681). Desde finales de 1681 sirvió como voluntario en el regimiento de infantería de Neuberg. Ese mismo año pasó al regimiento de coraceros de su primo János Károly Pálffy (1645–1694) con el rango de corneta. Con este regimiento participó en la batalla de Kahlenberg en 1683 y luego luchó en Parkány. En 1684 se convirtió en "rittmeister", participó en el asalto de Pest y el fallido asedio de Buda y en 1685 bajo las órdenes del conde Eneas de Caprara en el asalto de Nove Zamky. En la batalla del monte Harsány el 12 de agosto de 1687, se distinguió en particular, tras lo cual el comandante en jefe Carlos V de Lorena lo nombró su ayudante general.