前的新石器时期，这里就已有人类活动。在夏商时期，这里属中原九州之一的扬州西南境域。春秋战国时期先后属吴、越、楚。秦始皇二十六年（前211年），始置庐陵县，属九江郡，汉代改属豫章郡。东汉兴平元年（194年），孙策分豫章郡置庐陵郡，治西昌县（今泰和县）。西晋元康元年（291年），郡治迁石阳县（今吉水县城东北8公里处）。东晋咸康八年（342年），始迁至今吉安市区。隋开皇十年（590年），改庐陵郡为吉州；大业三年（607年），复为庐陵郡。唐武德五年（622年），又改为吉州；天宝元年（742年），再次改为庐陵