Lịch sử hành chính Kon Tum có thể xem mốc khởi đầu từ năm 1904 với sự kiện thành lập tỉnh Plei Ku Der. Đến này 16 tháng 7 năm 2019, tỉnh Kon Tum có 10 đơn vị hành chính cấp huyện, bao gồm 1 thành phố và 9 huyện với 102 đơn vị hành chính cấp xã, bao gồm 10 phường, 7 thị trấn và 85 xã. Vùng đất Kon Tum ngày xưa là vùng đất hoang vắng, đất rộng, người thưa với sự sinh sống của các dân tộc bản địa gồm Xơ Đăng, Bana, Gia Rai,Giẻ Triêng, Brâu, Rơ Măm. Đất rộng người thưa, cách biệt với bên ngoài bởi rừng rậm và núi non hiểm trở, các làng bản địa là những xã hội thu nhỏ, chưa có một chính quyền liên minh trong khi chính quyền các quốc gia hùng mạnh xung quanh như Đại Việt, Chân Lạp, Chiêm Thành, Vạn Tượng chưa vươn tầm kiểm soát đến đây. Năm 1471, sau khi vua Lê Thánh Tông chinh phạt Chiêm Thành, đẩy lùi chính quyền Chiêm Thành về phía Nam (tương ứng vùng từ Khánh Hòa đến Bình Thuận ngày nay), đã cử các sứ thần thu phục các bộ tộc ở Tây Nguyên và sáp nhập vùng đất này vào lãnh thổ của Đại Việt. Thời Tây Sơn, ba anh em Nguyễn Nhạc, Nguyễn Huệ và Nguyễn Lữ cử nhiều sứ giả đến tăng cường quan hệ hợp tác đồng minh với các bộ tộc vùng này nhằm tạo một hậu cứ vững chắc làm bàn đạp tiến xuống duyên hải, đồng thời mộ quân và tài lực phục vụ cho chiến tranh. Thời Thiệu Trị, năm 1840, triều đình Huế cho lập Bok Seam, một người Bana làm quan cai trị các bộ tộc Tây Nguyên, đồng thời cho phép người Kinh và bộ tộc được phép tự do quan hệ mua bán, trao đổi. Trong thời gian này, các giáo sĩ Thiên chúa giáo cũng tìm cách mở đường lên cao nguyên để truyền đạo, trong đó có cả Kon Tum. Lịch sử Giáo hội Công giáo tại Việt Nam ghi nhận, sau chuyến mở đường năm 1848, 2 linh mục Pháp và 7 thầy giảng người Việt đã đến Kon Tum và đặt cơ sở tôn giáo tại đây vào năm 1850. Hai trong 4 trung tâm truyền giáo đầu tiên được đặt ở vùng Kon Tum ngày nay: Kon Kơ Xâm (do linh mục Combes phụ trách, truyền giáo bộ tộc Bahnar-Jơlơng) và Kon Trang (do linh mục Dourisboure phụ trách, truyền giáo bộ tộc Xơ Đăng). Sau khi nắm được toàn quyền thực dân ở Đại Nam, người Pháp bắt đầu mở rộng quyền kiểm soát và tiến lên khai thác vùng Tây Nguyên. Năm 1888, một nhà phiêu lưu người Pháp là Mayréna xin phép chính quyền Pháp đi thám hiểm khu vực Tây Nguyên để thỏa thuận với các dân tộc thiểu số ở đây và được Toàn quyền Đông Dương lúc đó là Ernest Constans chấp thuận. Bằng các tiểu xảo, Mayréna đã thu phục được một số bộ tộc thiểu số (cụ thể là hai dân tộc Ba Na và Xơ Đăng) và thành lập ra Vương quốc Sedang với Mayréna làm vua, lấy hiệu là "Vua Marie đệ nhất, vua Sedang". Thủ đô của Vương quốc Sedang tại làng Long Răng, hiện nay là làng "Kon Gu", xã Ngok Wang, huyện Đăk Hà tỉnh Kon Tum, lấy tên là "Pelei Agna" hay "thành phố vĩ đại", một số nguồn nói rằng tên thủ đô của vương quốc Sedang là Maria Pelei. Sau đó, Mayréna quay về Quy Nhơn và thuyết phục chính quyền thực dân Pháp mua lại vương quốc Sedang. Sau khi Pháp từ chối đề nghị này, Mayréna sang Hồng Kông với ý định bán lại vương quốc Sedang cho người Anh. Nhân dịp này, công sứ Quy Nhơn Guiomar đã tìm cách ngăn chặn Mayréna trở về, đồng thời đặt quyền kiểm soát Tây Nguyên, dưới quyền công sứ Quy Nhơn. Năm 1892, chính quyền thực dân Pháp cho đặt tòa đại lý hành chính Kon Tum, do một giáo sĩ người Pháp là Vialleton (tên Việt: "Truyền") phụ trách, trực thuộc tòa công sứ Bình Định. Ngày 4 tháng 7 năm 1904, chính quyền thực dân Pháp thành lập tỉnh Plei Ku Der, do một công sứ Pháp là Leon Plantié nắm quyền cai trị, gồm hai tòa đại lý hành chính mơi thành lập là Kon Tum (trước đây thuộc Bình Định) và Cheo Reo (trước đây thuộc Phú Yên). Ngày 25 tháng 4 năm 1907, chính quyền thực dân Pháp lại bãi bỏ tỉnh Plei Ku Der. Toàn bộ đất đai của tỉnh Plei Ku Der gồm hai tòa đại lý hành chính Kon Tum và Cheo Reo được sáp nhập trở lại hai tỉnh Bình Định và Phú Yên như trước đó. Ở tòa đại lý Kon Tum, viên đại lý đầu tiên là Guenot. Ngày 9 tháng 2 năm 1913, chính quyền thực dân Pháp chính thức thành lập tỉnh Kon Tum, bao gồm đại lý hành chính Kon Tum tách ra từ Bình Định, đại lý hành chính Cheo Reo tách ra từ Phú Yên, và đại lý hành chính Buôn Ma Thuột. Hiện nay, chính quyền tỉnh Kon Tum đã chính thức lấy ngày 9 tháng 2 năm 1913 là ngày thành lập tỉnh, năm 2013, UBND tỉnh Kon Tum đã long trọng tổ chức lễ kỷ niệm 100 năm ngày thành lập. Năm 1917, Pháp thành lập tòa đại lý hành chính An Khê, gồm huyện Tân An và khu vực người dân tộc thiểu số đặt dưới quyền cai trị của công sứ Kon Tum. Ngày 2 tháng 7 năm 1923, thành lập tỉnh Đắk Lắk trên cơ sở tách đại lý Buôn Ma Thuột khỏi tỉnh Kon Tum. Ngày 3 tháng 12 năm 1929, thị xã Kon Tum được thành lập, trên thực tế chỉ là thị trấn, gồm tổng Tân Hương và một số làng dân tộc thiểu số phụ cận. Ngày 25 tháng 5 năm 1932, tách đại lý Pleiku ra khỏi tỉnh Kon Tum để thành lập tỉnh Pleiku. Đến ngày 9 tháng 8 năm 1943, đại lý hành chính An Khê được tách khỏi tỉnh Kon Tum, sáp nhập vào tỉnh Pleiku. Lúc này tỉnh Kon Tum chỉ còn lại tổng Tân Hương và toàn bộ đất đai vùng đồng bào dân tộc thiểu số. Ngày 3 tháng 2 năm 1929, theo nghị định của Khâm sứ Trung Kỳ, tổng Tân Hương được lập thành thị trấn Kon Tum, từ đó thị trấn Kon Tum trở thành tỉnh lị của tỉnh Kon Tum. Sau Cách mạng tháng 8, chính quyền Việt Nam Dân chủ Cộng hòa đã tổ chức lại tỉnh Kon Tum thành 4 đơn vị hành chính gồm các huyện Đăk Glei, Đăk Tô, Konplong và thị xã Kon Tum. Ngày 26 tháng 6 năm 1946, người Pháp tái chiếm lại Kon Tum và sau đó trao lại quyền kiểm soát về danh nghĩa cho Quốc gia Việt Nam (thành lập năm 1949) để thành lập Hoàng triều cương thổ. Trên thực tế, bộ máy cai trị tại đây vẫn trên cơ sở hành chính cũ của người Pháp. Về phía chính quyền Việt Nam Dân chủ Cộng hòa, tỉnh Kon Tum chịu sự quản lý chỉ đạo về hành chính của Xứ ủy Trung Kỳ và Phân ban vận động quốc dân thiểu số Nam Trung Bộ. Tháng 1 năm 1947, Phân khu 15 thành lập, trong đó nòng cốt là tỉnh Kon Tum và các huyện miền Tây của hai tỉnh Quảng Nam và Quảng Ngãi. Trên thực tế, tổ chức hành chính của tỉnh Kon Tum vẫn giữ nguyên, nhưng chịu sự quản lý và chi phối của Phân khu 15 về hoạt động quân sự. Tháng 8 năm 1947, Khu 15 Tây Nguyên được thành lập, tỉnh Kon Tum là một trong những đơn vị hành chính trực thuộc Khu 15. Tháng 3 năm 1950, theo chủ trương của Liên Khu ủy V, tỉnh Kon Tum và Gia Lai được sáp nhập thành tỉnh Gia - Kon. Tháng 10 năm 1951, theo quyết định của Liên Khu ủy V, tỉnh Kon Tum và các huyện phía tây Quảng Ngãi hợp nhất thành Mặt trận miền Tây. Tháng 2 năm 1954, Kon Tum là tỉnh đầu tiên và duy nhất ở Tây Nguyên hoàn toàn đặt dưới quyền kiểm soát của Việt Minh. Một thời gian sau, Mặt trận miền Tây cũng được giải thể. Sau khi Hiệp định Giơnevơ được ký kết, phía Quốc gia Việt Nam tiếp quản Kon Tum. Năm 1958 dưới thời Việt Nam Cộng hòa, bộ máy hành chính tỉnh Kon Tum được chia thành tòa hành chính Kon Tum - bộ máy hành chính cấp tỉnh, bên dưới gồm các quận Kon Tum, Đăk Tô, Konplong và Đăk Sút. Năm 1958, Việt Nam Cộng hòa thành lập quận Toumơrông. Năm 1959, tiếp tục lập thêm quận Chương Nghĩa. Năm 1960, quận Konplong bị xóa bỏ. Năm 1961, tỉnh Kon Tum còn lại 4 đơn vị hành chính cấp quận là Kon Tum, Đăk Tô, Đăk Sút, Toumơrông. Năm 1972, Việt Nam Cộng hòa đổi tên chi khu Đăk Pét thành quận Đăk Sút để mở rộng chức năng về hành chính. Sau chiến dịch xuân - hè năm 1972, quân Giải phóng miền Nam Việt Nam giải phóng Đăk Tô - Tân Cảnh và đại bộ phận các vùng nông thôn, vùng kiểm soát của Việt Nam Cộng hòa bị thu hẹp đáng kể. Quận lỵ Đăk Tô phải chuyển về đèo Sao Mai; các chi khu Đăk Pét, Măng Đen, Măng Buk bị cô lập giữa vùng kiểm soát của quân Giải phóng. Lực lượng Việt Nam Cộng hòa chỉ còn tập trung phần lớn tại khu vực thành phố Kon Tum. Năm 1974, quân Giải phóng tấn công tiêu diệt hoàn toàn các chi khu Đăk Pét, Măng Đen, Măng Buk. Tận dụng thời cơ thắng lớn ở Buôn Ma Thuột, ngày 16 tháng 3 năm 1975, quân giải phóng và dân chúng trong tỉnh đã nổi dậy tấn công vào đầu não của Việt Nam Cộng hòa ở nội thị, chiếm được thị xã và toàn tỉnh Kon Tum.