Антон Карой Тан родился в городе Обече (совр. Бечей, Сербия), который на тот момент находился в составе Австрийской империи. Во время Венгерской революции 1848 года он прервал своё обучение и пошёл добровольцем на фронт в возрасте 14 лет. По возвращении домой после окончания войны он подрабатывал в аптеках для того, чтобы прокормить себя и достать денег для того, чтобы закончить своё образование. Окончив школу в Сегеде, он поступил в Венский университет, чтобы изучать химию и медицину. Учёную степень доктора наук он получил за свою работу совместно с Йозефом Редтенбахером в 1858 году. Проработав некоторое время ассистентом Редтенбахера, он перешёл в Гейдельбергский университет, где работал совместно с Робертом Бунсеном, а также с Шарлем-Адольфом Вюрцем в Парижском университете. Вернувшись к Редтенбахеру в 1859 году, Карой Тан некоторое время проработал преподавателем в Венском университете.