Najprawdopodobniej brał udział w powstaniu antyhabsburskim Franciszka Rakoczego, które wybuchło w 1703 na ziemiach węgierskich. W 1708 wrócił do rodzinnej wsi, aby zająć się gospodarstwem, ale wkrótce potem wstąpił do armii austriackiej. Podczas służby został przydzielony do oddziału stacjonującego w zamku w Bytčy, gdzie więziono groźnych przestępców. Tam poznał niejakiego Tomáša Uhorčíka, który był harnasiem zbójników karpackich. W październiku 1710 r. Jánošík pomógł mu uciec z więzienia, a w następnym miesiącu sam zdezerterował lub został wykupiony przez ojca z wojska i przystał do jego zbójeckiej bandy. Od tego momentu rozpoczęła się zbójecka działalność Jánošíka, która trwała do wiosny 1713.