S-a născut în Shabinkarahisar, parte a Armeniei sub ocupație otomană (în prezent, provincia Giresun din Turcia). După ce și-a pierdut soția și fiul la o vârstă fragedă, s-a înrolat în mișcarea armenească pentru libertate din Imperiul Otoman și a fost membru în numeroase partide politice. Andranik a participat în Războiul Balcanic între 1912-1913. După ce a fost arestat și încarcerat, a petrecut o perioadă de vreme în Istanbul.