Lukasz Robert Pawlowski av Pembroke Dock, dömdes till straff vid domstolen i Pembrokeshire på onsdag efter att ha gjort sig skyldig till sexuella övergrepp.
Han flögs till Svanseas Morriston-sjukhus och sägs ha återhämtat sig.
Polisen bekräftade att de gripit en 33-årig man misstänkt för innehav av en artikel med kniv eller punkt.
Man förstår att han förlorade medvetandet och förblödde kraftigt efter att ha skurit sig själv.
Rätten stängdes efter händelsen men öppnades på torsdag.
En sexöverträdare som skar halsen av sig i hamnen vid Haverfordwest Magistrates' Court har gripits.