县北部属临潢府庆州，南部属饶州。金朝，林西县的嘎斯汰河以北部分属庆州庆民县，以南属临潢府卢川县。元属中书省应昌路。明初属全宁卫，永乐元年（1403年）后，属兀良哈三卫之一的泰宁卫。16世纪中叶后为北元察哈尔部地。后金天聪八年（1634年），林西县地划属巴林部，清顺治元年（1644年）后一直为巴林旗牧地。
清末设县.光绪三十四年（1908年）3月17日（旧历二月十五日），依热河都统廷杰奏请，设林西、开鲁、绥东三县，赤峰县升为赤峰直隶州。以县在巴林旗之西，原拟为“巴西县”，后定为林西县