Nicholas Briggs, 28, försvann från HMP Leyhill i södra Gloucestershire förra torsdagen.
Han avtjänar 18 månaders straff för misshandel och greps av Gwent-polisen på söndag kväll.
En andra intern, Anthony McCormick, 52, som avvek samtidigt, och som avkunnades ett livstidsstraff 1998 efter att ha dömts för våldtäkt, överlämnade sig själv till polisen på fredag.
En annan intern som avvek från ett öppet fängelse har gripits.