Nielsen var tilbake i Haugesund våren 1883, og fra denne tid har han skildret fødebyen slik den var den gang med tallrike tegninger. Senere samme år hadde han sin første selvstendige utstilling, der de fleste motivene var hentet fra hjembyen. En ny utstilling fulgte året etter. Samtidig ble han av Peter Christen Asbjørnsen engasjert for å overta en del av Erik Werenskiolds tegninger for (1884). Likevel kom ikke en eneste av hans tegninger med i utgaven. I 1885 dro han til Christiania for å bli elev ved Den kongelige Tegneskole, som den gang var navnet på Statens håndverks- og kunstindustriskole. Her fikk han han studere under veiledning av Christen Brun og Mathias Skeibrok. Tre år varte oppholdet ved skolen. Han ble boende resten av livet i Christiania.