自将鉴真一行藏匿在自己所乘的第二船。途中遭遇风暴，正使的第一船失散漂往南方，古麻吕的第二船经过阿儿奈波岛（今沖绳岛），成功回到九州，向朝廷覆命。因功，与同为副使的吉备真备一起叙正四位下，任左大弁。757年，受到圣武上皇遗诏被立为皇太子的道祖王，遭到孝谦天皇的废黜。孝谦天皇召集群臣商讨新的皇太子人选，右大臣藤原丰成推荐盐烧王，大伴古麻吕与文室珍努共同推荐池田王，受天皇宠倖的大纳言藤原仲麻吕推荐大炊王（后来的淳仁天皇）。最后大炊王被立为太子。藤原仲麻吕仗着孝谦天皇的信任十分专横，对此大伴古麻吕十分不满，