仲麻吕出生于日本大和国（今奈良县），是家中的长子。他自幼聪明好学，才华洋溢。
留学中国.717年（唐开元五年），20岁的阿倍仲麻吕因汉文修养良好而获选拔为遣唐留学生，同行的留学生还有后来成了日本右大臣的吉备真备。由多治比县守从日本难波港（今大坂）率日本遣唐使一行人远赴唐都长安（今西安），四船并联，一行557人浩浩荡荡，西渡东海，在扬州（一说明州）登陆。仲麻吕经过数年寒窗苦读，参加唐制科举考试，以优异成绩考中进士。
留唐仕途.725年（唐开元十三年），任洛