Jeruzsálem ostromakor Rajmund a Sion-hegyen foglalt állást. Felismervén, hogy a város ostromszerkezet nélkül nem vehető be, Rajmund és Gottfried nekiláttak egy-egy guruló ostromtornyot építtetni. Július 15-én sikerült a kereszteseknek behatolniuk a városba. A város védője, Iftikhar ad-Daula a déli városrészen tartotta magát Rajmunddal szemben, majd hatalmas összeggel megvásárolta saját és emberei életét Rajmundtól és megadta magát. Rajmund elfoglalta a Dávid-tornyot. A városban nagy mészárlás vette kezdetét és a keresztes vezetők újabb problémába ütköztek: ki legyen Jeruzsálem ura? A koronát első körben Rajmundnak ajánlották fel, aki visszautasította azt, így végül Jeruzsálem Gottfriedé lett, aki azonban csak a Szent Sír Őrzője címet volt hajlandó felvenni. Rajmund azonban a Dávid-tornyot nem akarta átengedni neki, és Albara püspök gondjára bízta, aki azonmód elárulta Rajmundot és a tornyot átengedte Gottfriednak. Rajmund Jeruzsálemet hátrahagyva a Jordán-folyó völgyébe ment le, majd Jerikónál vert tábort. A továbbiakban nem kívánt visszatérni Jeruzsálembe.