Был самоучка, изучал польскую историю и литературу. Во время революций 1848—1849 годов попытался проникнуть в Венгрию, но в Рацибуже его арестовали немцы. Выйдя из тюрьмы в феврале 1850 года, Агатон стал работать домашним учителем детей состоятельных землевладельцев. В 1852-м переехал в Краков и на правах свободного студента изучал историю в Ягеллонском университете. Австрийские полицейские узнали, что Гиллер революционер и нелегально находится в Австро-Венгрии. 10 апреля 1853 года его, как подданного России, передали в руки русской жандармерии. Был заключен в Александровской цитадели по обвинению в антироссийской деятельности. Согласно решению суда, Гиллер должен был отбывать каторжные работы в в Восточной Сибири. Освободившись из каторги в 1858 году, поселился в Иркутске. Там Гиллер основал польскую школу, в которой сам преподавал.