Han var sønn av kunstvever Nils Svensson fra Värmland, som tok navnet Landmark og innvandret til Norge i ung alder, og dennes norske hustru Karen Andersdatter Killerud. Faren døde i 1782, og moren hadde ikke råd til å forsørge deres seks barn. Nils ble satt bort til en velstående slektning eller svoger av moren, bakermester Schiøberg. I 16-årsalderen flyttet han inn hos sorenskriver Johan Daniel Stub i Nordfjord, som hans eldre bror Andreas Landmark var fullmektig for. Stub skal ha betalt for Nils Landmarks opphold ved Københavns Universitet, hvor han tok juridisk eksamen i 1797. Deretter ble han fullmektig hos Stub, som var gammel og syk, og i 1799 ble Landmark bemyndiget til å styre embedsforretningene. Han bestyrte også i et par år Sunnfjord sorenskriverembede.