Уперше Руселаре письмово згадується 882 року. До Х століття Руселаре перетворився на великий регіональний торговий центр. У 1250 отримав міський статус. У 1488 Руселаре був повністю зруйнований військами імператора Священної Римської імперії Максиміліана I. У 1676-у, згідно з Німвегенським мирним договором, частина Фландрії разом з Руселаре, відійшла до Франції. Надалі місто, що лежить безпосередньо на кордоні, перетворилось на центр контрабандної торгівлі. У 1815-у, після поразки Франції в Наполеонівських війнах, Руселаре входить до складу Нідерландського королівства. Після Бельгійської революції — у складі Бельгії. 28 липня 1875 в місті відбулися студентські заворушення, спрямовані проти засилля французької мови в місцевому університеті і місцевих навчальних закладах. На чолі заворушень став письменник Альбрехт Роденбах. Під час Першої світової війни Руселаре, окуповано німцями, служив їм опорною базою під час проведення операції під Іпром.