Durante el primer mandato de Ravalomanana, Rabemananjara ocupó el cargo de Director del gabinete militar de la presidencia en 2004 y también fue Ministro de Interior y de Reformas Administrativas en 2005.