Jean-Jacques Willmar was de zoon van Jean-Georges Willmar (1763-1831), die van 1815 tot 1830 provinciaal gouverneur van Luxemburg was. Zijn broers waren: Jean-Pierre Willmar (nam deel aan de Belgische Revolutie; later minister van Oorlog van België), Étienne Willmar en Leonard Willmar (namen eveneens deel aan de Belgische Revolutie). Jean-Jacques Willmar studeerde rechten in Parijs en promoveerde in 1814. Nadien vestigde hij zich als advocaat in Luxemburg-Stad. In 1824 werd hij tot rechter benoemd. Tijdens de Belgische Revolutie van 1830 bleef hij koning Willem I der Nederlanden trouw en keerde zich tegen het grote deel van de Luxemburgse elite die de kant van de Belgische revolutionairen had gekozen. In 1831 werd hij in de regeringscommissie van Luxemburg gekozen. De macht van de regeringscommissie reikte echter niet verder dan Luxemburg-Stad en nabije omgeving.