Den 11. februar 1873 ble hans kunstnerkarriere avbrutt da han ble arrestert sammen med en annen mann på et offentlig toalett i London og stilt for retten, anklaget for uanstendig eksponering og forsøk på å begå sodomi. Han ble dømt til straff bestående av 18 måneder hardt straffearbeid i fengsel, men etter å ha tilbrakt to uker i fengsel ble han løslatt mot kausjon. En måned senere var straffen redusert til politiovervåking og en bot. Solomon flyktet øyeblikkelig til Frankrike og Den tredje franske republikk. Han ble derimot arrestert på nytt i 1874 og da dømt til tre måneder i fengsel.