João era de origem turca (referido anacronicamente como "persa" por João Cinamo). Em 1097, quando ainda era criança, foi capturado pelos cruzados em Niceia e entregue ao imperador , que incorporou-o no séquito imperial. Ali, tornar-se-ia um companheiro íntimo de , o herdeiro de Aleixo, o que lhe rendeu a nomeação para o título de sebasto e o posto de grande doméstico ou doméstico do Oriente e Ocidente em 1118, ano da ascensão de João. Axuco foi o único amigo pessoal e confidente do imperador, e todos os membros da família imperial foram obrigados a fazer reverência a ele. Depois de frustrar uma conspiração contra seu trono e vida orquestrado por sua irmã Ana e seu marido Nicéforo Briênio (que traiu a conspiração), João II tentou dar a propriedade confiscada de Ana para Axuco. Axuco não a aceitou por temer que isso pioraria suas relações com a família imperial e faria-o impopular com a alta aristocracia, ao mesmo tempo que pediu clemência para Ana.