属兀良哈三卫之一的泰宁卫。16世纪中叶后为北元察哈尔部地。后金天聪八年（1634年），林西县地划属巴林部，清顺治元年（1644年）后一直为巴林旗牧地。
清末设县.光绪三十四年（1908年）3月17日（旧历二月十五日），依热河都统廷杰奏请，设林西、开鲁、绥东三县，赤峰县升为赤峰直隶州。以县在巴林旗之西，原拟为“巴西县”，后定为林西县。县治在乌梁苏汰川口（今林西镇），首任知县为张文灏。
民国及满洲国.民国后，属热河省。1913年外蒙古独立军的奈丹扎布进攻林西，