Arnulf stammet fra gerulfingernes slekt. Han var sønn av grev Dirk II av Holland og hans hustru . Første gang Arnulf nevnes er det sammen med sine foreldre, i det dokument fra 26. oktober 970. Som sin far Dirk ser vi navnet hans i mange flamske sertifikater. I begynnelsen nevnes de sammen, senere sees kun Arnulf tilbake.