慧好学，博通经史。苻坚曾经与他谈将略，嘉许了他并命邓羌教他兵法。苻丕的文武才干不及叔父苻融，不过他当将领时善于笼络士卒之心。永兴元年（357年）苻坚称天王时受封为长乐公。
委以重任.建元四年（368年），苻坚在攻灭叛乱的雍州刺史苻武后，以苻丕为雍州刺史。建元六年（370年）因取消雍州而离任，但次年苻丕就因雍州复置而任使持节、征东大将军、雍州刺史。后迁征南大将军，都督征讨诸军事，守尚书令。建元十四年（378年）二月，奉命与苟苌等进攻东晋襄阳。当时前秦军很快就攻下了襄阳外城，守将朱序只