父李广的遗风，派他带领八百骑兵越过居延海深入敌境二千余里察看地形。尽管没有遇到匈奴，李陵的初次出征却使他受到信任，武帝随后将他升为骑都尉，带领从丹阳郡招募来的楚兵五千人屯驻在酒泉、张掖并训练弓箭射术。酒泉郡和张掖郡都是当时新设立的郡，原本是匈奴昆邪王、休屠王的领地。元狩二年（前121年），二王归降汉朝之后成为了无人的荒地，直到元鼎六年（前111年）汉武帝才决定将其纳入汉朝的领土范围，并从内地征发大量军队和移民前往河西一带。在这里，李陵度过了数年为国家戍边的生涯。太初二年（前104年），汉武帝派遣贰师将军