Han var sønn av højesteretsdommer Jonas Nicolai Johannes Poulsen og hustru Rebekka Magdalene født Brandt. Han ble i 1894 gift med Frederikke Marie Rasmussen, som døde i 1921, og i 1923 med Asta Stoltz Nielsen. Med sin første hustru fikk han sønnen, geologen Christian Henrik Otto Poulsen. Poulsen viste stor interesse for fysikk, kjemi og tegning i skolen. Allerede i skolen gjorde han forsøk med elektrostatiske apparater og induksjonsapparater.