父亲罗式就去世了，于是跟叔父罗宪生活。罗尚会写文章，王戎任荆州刺史时就以他和刘乔为参军。后于咸宁五年（279年），西晋发动灭吴战争，时为豫州刺史的王戎派罗尚与刘乔领前锋进攻武昌（今湖北鄂州市）。太康末年，罗尚任梁州刺史。永康元年（300年），益州刺史赵廞被征入朝，遂于益州叛乱，杀死新任益州刺史耿滕。时罗尚就上表道：「赵廞并非雄才，肯定不会成功，就待他自败吧。」朝廷于是让罗尚为假节平西将军、益州刺史、西戎校尉，接手益州。罗尚入蜀时，赵廞麾下流人李特等人已经叛变，知道罗尚率众入蜀就十分恐惧，李特因而派了弟弟