Anton Károly Than nació en Óbecse, que por aquella época formaba parte del Imperio austríaco. A los catorce años abandonó su formación académica para unirse al ejército húngaro durante la Revolución húngara de 1848. A su regreso, Károly se encontró con que su madre había fallecido y su padre se había arruinado. Para poder costearse sus estudios, Than trabajó en varias farmacias. Tras finalizar la escuela en Szeged, Than comenzó los estudios de medicina en la Universidad de Viena, decantándose después por la química. Se doctoró en esta universidad bajo la dirección de Josef Redtenbacher en el año 1858. Después de trabajar durante algún tiempo como asistente de Redtenbacher, decidió completar su formación en el grupo de Robert Wilhelm Bunsen en la Universidad de Heidelberg y después en el grupo de Charles-Adolphe Wurtz en la Universidad de París. En 1859 volvió a trabajar con su antiguo supervisor doctoral, Redtenbacher, ejerciendo como profesor en la Universidad de Viena.