Han var sønn av Súsanna Katrina (født Kjærbo) og Hans Nicolaj Nielsen. Faren var skipper, og døde da sønnen var syv år gammel. Arnold Nielsen var selv til sjøs før han gikk lærerseminaret i Jonstrup utenfor København. Han underviste i folkeskolen på Tvøroyri 1937–1938, ved middel- og realskolen i Tórshavn 1938–1939, i folkeskolen i Sumba 1940–1961 samt ved den tekniske skolen i Tórshavn 1962–1980. Han giftet seg i 1952 med Maria Vang fra Froðba, som han fikk barn med.