Arneberg hadde planer om teologisk utdannelse som sin far, Ulrik Fredrik Christian Arneberg den eldre, som var prost til Vanse. Etter å ha tatt artium i 1846 og senere anneneksamen, begge med meget gode karakterer, besluttet han imidlertid å bytte til det juridiske studium og fikk i 1852 en meget god juridisk embedseksamen. Han hadde hele tiden slitt seg frem med privatundervisning og lån, da hans mor satt uten formue med åtte sønner etter sin manns tidlige død.