Arnulf ble født i en betydningsfull frankisk familie en gang rundt 582. Familien eide store eiendommer mellom elvene Mosel og Maas (fransk: Meuse). Som voksen ble han tilkalt merovingenes hoff hos kong Teodebert II (595–612) av Austrasia og ble sendt for tjenestegjøre dom (latin for «leder», senere opphavet til tittelen hertug) ved elven Schelde.